百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程文章 > 正文

命令行软件下载神器wget,你会用吗

qiyuwang 2024-11-03 16:31 24 浏览 0 评论

1、功能说明

Linux wget是一个linux命令行下的文件下载工具。对于Linux运维人员来说,是必备的工具,wget工具体积小,但功能完善,它支持断点下载功能,同时支持FTP和HTTP、HTTPS下载方式,支持代理服务器,使用起来也很方便简单。其格式如下:

wget [要下载软件的网址]

2.wget实战举例

(1)使用wget下载单个文件

以下的例子是从网络下载一个linux-4.0.2版本内核,可以使用以下命令

wget https://mirrors.edge.kernel.org/pub/linux/kernel/v4.x/linux-4.14.100.tar.gz 

在下载的过程中会显示进度条,包含(下载完成百分比,已经下载的字节,当前下载速度,剩余下载时间)。

(2)使用wget下载文件并以不同的文件名保存

这要通过wget -O参数实现,wget默认会以url最后一个符号”/”的后面的字符来命名,这对于动态链接的下载文件名通常会不正确。 例如下面的URL:

http://cn2.php.net/get/php-7.3.2.tar.bz2/from/this/mirror

通过wget下载后,会下载一个名为mirror的文件,为了解决这个问题,我们可以使用参数-O来指定一个文件名:

wget -O php-7.3.2.tar.bz2 http://cn2.php.net/get/php-7.3.2.tar.bz2/from/this/mirror

(3)使用wget 的“-limit -rate”参数进行限速下载

当我们执行wget的时候,它默认会占用全部可能的宽带下载。但是当我们准备在线上服务器下载一个大文件时,为了不让wget耗尽带宽影响业务,就必须对wget进行限速了。

wget --limit-rate=1M http://mirrors.163.com/centos/7.6.1810/isos/x86_64/CentOS-7-x86_64-DVD-1810.iso

这是限速1MB/s进行传输。

(4)使用wget -c断点续传

当我们要下载的文件特别大,而我们所在的网络速度又特别慢的时候,可能会出现一个文件还没有下载完,而网络就已经中断了的情况,此时如果没有断点续传功能,又要重新下载,这简直是噩梦,但wget就考虑到这点了,它支持断点续传,并且wget的断点续传是自动的,只需要使用-c参数即可,看下图操作:

断点续传对于我们下载大文件时突然由于网络等原因中断非常有帮助,我们可以继续接着下载而不是重新下载一个文件。

需要注意的是:使用断点续传要求服务器端支持断点续传。怎么测试呢,看下面这这个部分。

(5)测试服务器是否支持断点续传

通常情况下,Web服务器(如Apache、nginx)会默认开启对断点续传的支持。因此,如果直接通过Web服务器来提供文件的下载,可以不必做特别的配置,即可享受到断点续传的好处。断点续传是在发起HTTP请求的时候加入RANGE头来告诉服务器客户端已经下载了多少字节。等所有这些请求都返回之后,再把得到的内容一块一块的拼接起来得到完整的资源。

wget -S http://mirrors.163.com 2>&1 |grep "Accept-Ranges"
wget -S https://mirrors.aliyun.com/centos/timestamp.txt 2>&1|grep Ranges

输出结果中如果有“Accept-Ranges: bytes”,说明服务器支持按字节断点续传下载。

(6)让wget在后台自动下载

对于下载非常大的文件的时候,我们可以使用参数“-b”,让wget进行后台下载。看下图所示:

我们可以使用“tail -f wget-log”命令来察看下载进度。

(7)给wget下载增加重试次数和超时时间

如果网络有问题或下载一个大文件有可能会失败。此时,wget默认重试20次连接下载文件。如果需要,我们可以使用“-t/--tries”增加重试次数。 同理,还可以使用“-T/ --timeout”设置连接超时时间。

其中“-t”参数表示重试次数,例如需要重试10次,那么就写“-t 10”,如果设成“-t 0”,那么表示无穷次重试,直到连接成功。“-T”参数表示超时等待时间,例如“-T 120”,表示等待120秒连接不上就算超时。 来看下图:

(8)使用wget 批量下载多个文件

有时候要下载的文件很多,怎么实现批量下载呢,很简单,首先,保存一份下载文件链接的列表, 例如:

cat > filelist.txt 
url1 
url2 
url3 
url4 

接着使用这个文件和参数“i”即可实现批量下载 ,看下图操作:

(9)使用wget递归镜像网站

看到一个网站很漂亮,想下载下来学习一下,无奈页面太多,怎么办,wget一个命令就能轻松搞定,wget加上参数之后,即可成为相当强大的下载工具,并可以将下载的页面中的链接转换为本地链接,让你瞬间拥有一个想要的网站。

下面的例子是下载整个网站到本地的当前目录下:

wget -r -p -np -k  http://www.xxx.com

其中,用到了几个参数,含义如下:

-r, --recursive:表示递归下载页面,会下载所有的链接,不过要注意的是,不要单独使用这个参数,因为如果你要下载的网站也有别的网站的链接,那么wget也会把别的网站的东西下载下来,所以还要加上“-np”这个参数,表示不下载别的站点的链接。
-np,表示不下载第三方站点的链接。
-k, --convert-links:表示将下载的网页里的链接修改为本地链接。
-p, --page-requisites: 表示下载所有的图片、js、css等页面显示所需的内容元素。

(10)通过wget下载文件到指定目录

在进行编写运维自动化脚本的时候,会有自动下载文件到指定目录的需求,此时就需要用到wget的“-P”参数,通过指定“-P”参数可以下载文件到指定目录,例如:

[root@iZ23sl33esbZ ~]# wget http://mirrors.163.com/centos/timestamp.txt  -P  /tmp/

这样下载的文件timestamp.txt会自动保存到系统的/tmp目录下。

相关推荐

屏幕属性详解:DCI-P3、对比度、色域、Nit

屏幕属性详解:DCI-P3、对比度、色域、Nit---一、DCI-P3(色域标准)1.定义DCI-P3是由美国电影工业制定的广色域标准,覆盖CIE1931色彩空间的约96%,尤其强化红色和绿...

千元级小钢炮,畅爽游戏兼顾生产力,华硕VG249Q1A

#头条创作挑战赛#hello小伙伴们大家好,这里是你们热衷于桌搭的小伙伴晋升奶爸的垃圾佬。...

服务器磁盘在线扩容案例分享

服务器出现磁盘空间不足,可通过lvm实现在线扩容lsblk分析服务器磁盘基本情况使用lsblk命令查看到我们的分区情况,从下面可以看出服务器的根分区是一个lvm卷,满足在线扩容的要求,同时可发现这台...

LVM系列篇:缩容逻辑卷

LVM系列篇:缩容逻辑卷上一篇LVM篇:扩容逻辑卷我们动手实际操作如何扩容逻辑卷。下面我们演示一下如何缩容逻辑卷。提示:相较于扩容逻辑卷,对逻辑卷进行缩容时,丢失数据的风险较大。所以在生产环境中进行操...

CentOS7下动态调整LVM分区大小的操作步骤

1、问题现象1、df–Th查看发现/根分区可用空间不足,且/home分区可用空间较多2、配合lsblk命令查看发现/根分区与/home分区均为LVM类型2、解决思路压缩/home分区的大小,腾出空间...

Linux根目录扩容——学习记录

公司服务器有的服务器需要扩容,自己在网上查找资料学习,顺便整理记录一下你觉得还不错的话,别忘记点赞哦。以下就是Linux根目录扩容的步骤,跟着操作你也一定能成功。...

CentOs7虚拟机扩容磁盘,非增加硬盘,简单实用,步骤详细

本次扩容需要重新启动虚拟机,所以在跑业务的时候,需要谨慎操作。另外扩容有风险,最好把虚拟机做全盘备份,或者快照。一、查看现在磁盘容量情况命令:df–h,总共是200G二、在虚拟机编辑窗口把硬盘扩容...

centos7 对非LVM Linux 扩充磁盘从20G到30G

对于没有LVM的分区,而且要扩展的分区在最后面,并不是中间分区。我们可以采用下面的方法。1.关机,并做好快照,保证万无一失。检查文件系统#fdisk-l/dev/sda20G#df-h...

Linux 中的逻辑卷 LVM 管理完整初学者指南

这是Linux中LVM(逻辑卷管理)的完整初学者指南。在本教程中,您将了解LVM的概念、它的组件以及为什么要使用它。...

Linux系统扩容

1.确定linux磁盘空间是否不足,使用命令:df-h2.打开虚拟机,修改配置(修改时需要先关闭客户机),如下:lsblk命令:列出所有可用设备块信息...

「学员笔记」LINUX随堂笔记(二)

昨天的笔记大家觉得可还满意?是不是感觉相见恨晚。今天宝藏小编继续给你带来我们学员的优质笔记供大家食用。第2章用户和磁盘管理一.用户帐号管理1.1添加用户账号(useradd)...

「干货」Linux入门篇|Linux 逻辑卷管理LVM

基本磁盘分区以后,如果分区空间用完了,能扩展吗?动态磁盘管理:...

记一次Linux机器centos7系统扩充root磁盘空间经历

CentOS虚拟机根分区磁盘扩容操作,我是用VMware虚拟机做的实验。一、选择你需要扩容的虚拟机器,右击——编辑设置根据需求扩容虚拟机的空间,我扩容是"60G"(根据个人需要填写空间...

详细讲解VMware CentOS7磁盘扩容

VMwareCentOS7磁盘扩容IceScream环境准备虚拟机软件:VMware16Pro系统版本:Linuxlocalhost.localdomain虚拟机:CentOS7,8都可...

(建议收藏)CentOS7挂载未分配的磁盘空间以及LVM详细介绍

简述本文主要介绍CentOS7下如何挂载未分配磁盘空间的详细操作步骤。LVMLVM,逻辑卷管理,英文全称LogicalVolumeManager,是Linux环境下对磁盘分区进行管理的一种机制。是...

取消回复欢迎 发表评论: