Linux下wget命令详解
Linux wget是⼀个下载⽂件的⼯具,它⽤在命令⾏下。对于Linux⽤户是必不可少的⼯具,尤其对于⽹络管理员,经常要下载⼀些软件或从远程服务器恢复备份到本地服务器。如果我们使⽤虚拟主机,处理这样的事务我们只能先从远程服务器下载到我们电脑磁盘,然后再⽤ftp ⼯具上传到服务器。这样既浪费时间⼜浪费精⼒,那不没办法的事。⽽到了Linux VPS,它则可以直接下载到服务器⽽不⽤经过上传这⼀步。wget⼯具体积⼩但功能完善,它⽀持断点下载功能,同时⽀持FTP和HTTP下载⽅式,⽀持代理服务器和设置起来⽅便简单。下⾯我们以实例的形式说明怎么使⽤wget。
1、使⽤wget下载单个⽂件
以下的例⼦是从⽹络下载⼀个⽂件并保存在当前⽬录
在下载的过程中会显⽰进度条,包含(下载完成百分⽐,已经下载的字节,当前下载速度,剩余下载时间)。
2、使⽤wget -O下载并以不同的⽂件名保存
wget默认会以最后⼀个符合”/”的后⾯的字符来命令,对于动态链接的下载通常⽂件名会不正确。
错误:下⾯的例⼦会下载⼀个⽂件并以名称download.php?id=1080保存
3、使⽤wget –limit -rate限速下载
当你执⾏wget的时候,它默认会占⽤全部可能的宽带下载。但是当你准备下载⼀个⼤⽂件,⽽你还需要下载其它⽂件时就有必要限速了。
4、使⽤wget -c断点续传
使⽤wget -c重新启动下载中断的⽂件:
5、使⽤wget -b后台下载
对于下载⾮常⼤的⽂件的时候,我们可以使⽤参数-b进⾏后台下载。
tail -f wget-log
6、伪装代理名称下载
有些⽹站能通过根据判断代理名称不是浏览器⽽拒绝你的下载请求。不过你可以通过–user-agent参数伪装。
wget –user-agent=”Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.16 (KHTML,
like Gecko)
Chrome/10.0.648.204 Safari/534.16″ 下载链接
7、使⽤wget –spider测试下载链接
当你打算进⾏定时下载,你应该在预定时间测试下载链接是否有效。我们可以增加–spider参数进⾏检查。
wget –spider URL
如果下载链接正确,将会显⽰
wget –spider URL
Spider mode enabled. Check if remote file exists.
HTTP request sent, awaiting response… 200 OK
Length: unspecified [text/html]
Remote file exists and could contain further links,
but recursion is disabled — not retrieving.
这保证了下载能在预定的时间进⾏,但当你给错了⼀个链接,将会显⽰如下错误
wget –spider url
Spider mode enabled. Check if remote file exists.
HTTP request sent, awaiting response… 404 Not Found
Remote file does not exist — broken link
你可以在以下⼏种情况下使⽤spider参数:
定时下载之前进⾏检查
间隔检测⽹站是否可⽤
检查⽹站页⾯的死链接
8、使⽤wget –tries增加重试次数
如果⽹络有问题或下载⼀个⼤⽂件也有可能失败。wget默认重试20次连接下载⽂件。如果需要,你可以使⽤–tries增加重试次数。wget –tries=40 URL
9、使⽤wget -i下载多个⽂件
⾸先,保存⼀份下载链接⽂件
cat >
url1
url2
url3
url4
接着使⽤这个⽂件和参数-i下载
wget -
10、使⽤wget –mirror镜像⽹站
下⾯的例⼦是下载整个⽹站到本地。
wget –mirror -p –convert-links -P ./LOCAL URL
–miror:开户镜像下载
-p:下载所有为了html页⾯显⽰正常的⽂件
–convert-links:下载后,转换成本地的链接
-P ./LOCAL:保存所有⽂件和⽬录到本地指定⽬录
11、使⽤wget –reject过滤指定格式下载
你想下载⼀个⽹站,但你不希望下载图⽚,你可以使⽤以下命令。
wget –reject=gif url
12、使⽤wget -o把下载信息存⼊⽇志⽂件
你不希望下载信息直接显⽰在终端⽽是在⼀个⽇志⽂件,可以使⽤以下命令:
wget -o download.log URL
13、使⽤wget -Q限制总下载⽂件⼤⼩
当你想要下载的⽂件超过5M⽽退出下载,你可以使⽤以下命令:
wget -Q5m -
注意:这个参数对单个⽂件下载不起作⽤,只能递归下载时才有效。
14、使⽤wget -r -A下载指定格式⽂件
可以在以下情况使⽤该功能
下载⼀个⽹站的所有图⽚
下载⼀个⽹站的所有视频
下载⼀个⽹站的所有PDF⽂件
wget -r -A.pdf url
15、使⽤wget FTP下载
你可以使⽤wget来完成ftp链接的下载。
使⽤wget匿名ftp下载
wget ftp-url
curl是什么命令使⽤wget⽤户名和密码认证的ftp下载
wget –ftp-user=USERNAME –ftp-password=PASSWORD url
wget是在Linux下开发的开放源代码的软件,作者是Hrvoje Niksic,后来被移植到包括Windows在内的各个平台上。它有以下功能和特点:
(1)⽀持断点下传功能;这⼀点,也是⽹络蚂蚁和FlashGet当年最⼤的卖点,现在,Wget也可以使⽤此功能,那些⽹络不是太好的⽤户可以放⼼了;
(2)同时⽀持FTP和HTTP下载⽅式;尽管现在⼤部分软件可以使⽤HTTP⽅式下载,但是,有些时候,仍然需要使⽤FTP⽅式下载软件;(3)⽀持代理服务器;对安全强度很⾼的系统⽽⾔,⼀般不会将⾃⼰的系统直接暴露在互联⽹上,所以,⽀持代理是下载软件必须有的功能;
(4)设置⽅便简单;可能,习惯图形界⾯的⽤户已经不是太习惯命令⾏了,但是,命令⾏在设置上其实有更多的优点,最少,⿏标可以少点很多次,也不要担⼼是否错点⿏标;
(5)程序⼩,完全免费;程序⼩可以考虑不计,因为现在的硬盘实在太⼤了;完全免费就不得不考虑了,即使⽹络上有很多所谓的免费软件,但是,这些软件的⼴告却不是我们喜欢的;
wget虽然功能强⼤,但是使⽤起来还是⽐较简单的,基本的语法是:wget [参数列表] URL。下⾯就结合具体的例⼦来说明⼀下wget的⽤法。
3、批量下载。
如果有多个⽂件需要下载,那么可以⽣成⼀个⽂件,把每个⽂件的URL写⼀⾏,例如⽣成⽂件,然后⽤命令:wget -
这样就会把⾥⾯列出的每个URL都下载下来。(如果列的是⽂件就下载⽂件,如果列的是⽹站,那么下载⾸页)
5、密码和认证。
wget只能处理利⽤⽤户名/密码⽅式限制访问的⽹站,可以利⽤两个参数:
–http-user=USER设置HTTP⽤户
–http-passwd=PASS设置HTTP密码
对于需要证书做认证的⽹站,就只能利⽤其他下载⼯具了,例如curl。
6、利⽤代理服务器进⾏下载。
如果⽤户的⽹络需要经过代理服务器,那么可以让wget通过代理服务器进⾏⽂件的下载。此时需要在当前⽤户的⽬录下创建⼀个.wgetrc⽂件。⽂件中可以设置代理服务器:
http-proxy = 111.111.111.111:8080
ftp-proxy = 111.111.111.111:8080
分别表⽰http的代理服务器和ftp的代理服务器。如果代理服务器需要密码则使⽤:
–proxy-user=USER设置代理⽤户
–proxy-passwd=PASS设置代理密码
这两个参数。
使⽤参数–proxy=on/off 使⽤或者关闭代理。
wget还有很多有⽤的功能,需要⽤户去挖掘。
附录:
命令格式:
wget [参数列表] [⽬标软件、⽹页的⽹址]
-V,–version 显⽰软件版本号然后退出;
-h,–help显⽰软件帮助信息;
-e,–execute=COMMAND 执⾏⼀个 “.wgetrc”命令
-o,–output-file=FILE 将软件输出信息保存到⽂件;
-a,–append-output=FILE将软件输出信息追加到⽂件;
-d,–debug显⽰输出信息;
-
q,–quiet 不显⽰输出信息;
-i,–input-file=FILE 从⽂件中取得URL;
-t,–tries=NUMBER 是否下载次数(0表⽰⽆穷次)
-O –output-document=FILE下载⽂件保存为别的⽂件名
-nc, –no-clobber 不要覆盖已经存在的⽂件
-N,–timestamping只下载⽐本地新的⽂件
-T,–timeout=SECONDS 设置超时时间
-Y,–proxy=on/off 关闭代理
-nd,–no-directories 不建⽴⽬录
-x,–force-directories 强制建⽴⽬录
–http-user=USER设置HTTP⽤户
–http-passwd=PASS设置HTTP密码
–proxy-user=USER设置代理⽤户
–proxy-passwd=PASS设置代理密码
-r,–recursive 下载整个⽹站、⽬录(⼩⼼使⽤)
-l,–level=NUMBER 下载层次
-A,–accept=LIST 可以接受的⽂件类型
-R,–reject=LIST拒绝接受的⽂件类型
-D,–domains=LIST可以接受的域名
–exclude-domains=LIST拒绝的域名
-L,–relative 下载关联链接
–follow-ftp 只下载FTP链接
-
H,–span-hosts 可以下载外⾯的主机
-I,–include-directories=LIST允许的⽬录
-X,–exclude-directories=LIST 拒绝的⽬录
中⽂⽂档名在平常的情况下会被编码, 但是在 –cut-dirs 时⼜是正常的,
wget -r -np -nH –cut-dirs=3 ftp://host/test/
测试.txt
wget -r -np -nH -nd ftp://host/test/
%B4%FA%
wget “ftp://host/test/*”
%B4%FA%
由 於不知名的原因,可能是为了避开特殊档名, wget 会⾃动将抓取档名的部分⽤ encode_string 处
理过, 所以该 patch 就把被encode_string 处理成 “%3A” 这种东西, ⽤ decode_string 还原成 “:”,并套⽤在⽬录与档案名称的部分,decode_string 是wget 内建的函式。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论