wget——优秀的下载工具

作者: csbde 分类: Linux 发布时间: 2006-11-23 06:27

wget -r ftp://10.8.8.8/movie/

呵呵,等吧!下完了,发觉有些不对劲,怎么出来个10.8.8.8的目录,进去看看,又是一个movie,哦,wget将目录结构和网站标题都给记录下来了,不要??没有问题!比如说还是这个例子

wget -r -nd ftp://10.8.8.8/movie/

结果什么目录都没有了,faint!怎么会这样?呵呵,你如果想要这样就让它这样吧,否则使用

wget -r -nH ftp://10.8.8.8/movie/

恩?movie也不要?OK,那就这样

wget -r -nH --cut-dirs=1 ftp://10.8.8.8/movie/

这有什么用啊?cuteftp比他好用多了,而且,你这断了线能连吗?呵呵,不好意思,可以连

wget -c -r -nH --cut-dirs=1 ftp://10.8.8.8/movie/

但 是cuteftp能做下面的事情吗?比如,现在很多网站使用Apache建站,并不提供ftp服务,但是Apache有一个indexing功能,可以 提供一个类似于ftp的界面,好多文件我想下啊,怎么办?由于是HTTP协议,CuteFTP无能为力了,倒是flash get等有什么get all这种功能,不知道他们对于目录处理怎么样。但是wget一点问题都没有,不信?我们拿CTAN为例(例子并不恰当,CTAN有FTP服务),我们下 载这里面所有的宏包,呵呵

wget -r -k http://www.ctan.org/tex-archive/macros/latex/

-k表示将连接转换为本地连接。但是现在同样有上面的问题啊,那就把你需要的加上吧,另外也许你根本不需要向下走那么多层,比如,我们就要到第二层,那么

wget -r -l2 -k http://www.ctan.org/tex-archive/macros/latex/

现在新的问题是,由于网页有一个排序功能,很讨厌,因为下载的时候把网页重复了好多次,那么我们可使用-A和-R开关控制下载类型,并且可以使用通配符,呵呵,现在随心所欲了吧

wget -r -R "*.htm*?*" -k http://www.ctan.org/tex-archive/macros/latex/

这次没有那种网页了吧?-R的意义在于拒绝下载匹配类型的文件,-A表示仅仅接受的文件类型,如-A "*.gif"将仅下载gif图片,如果有多个允许或者不允许,可以使用,分开。 那 么,我们现在在使用代理服务器,怎么办呢?呵呵,很高兴你选择了wget,你可以使用它的配置文件,环境变量来利用代理。这里推荐使用环境变量,如在 bash里面我们可以把天天用的proxy加到.bash_profile里面,这是Linux标准写法(很多软件都用的,什么apt-get,yum等 等)

export http_proxy=http://10.20.30.40:8080

然后,proxy就默认打开了,如果需要暂时关闭,可以使用

wget --proxy=off -r -k http://www.ctan.org/tex-archive/macros/latex/

当然,写一个.wgetrc文件也可以,该文件可以从/usr/local/etc里面找到,里面有很详细的注释,我就不多说了。 下载网页的时候比较麻烦的事情是,有的网页被同时指向了很多遍,那么为了避免多次下载,我们使用

wget -nc -r -k http://www.ctan.org/tex-archive/macros/latex/

可以避免这件事情。为了不被有的连接指向非http://www.ctan.org/tex-archive/macros/latex/内层目录,我们还应该加上

wget -nc -np -r -k http://www.ctan.org/tex-archive/macros/latex/

避免下载非该目录里面的文件,这也避免了到不同的host上面去。当然,如果你希望有这个功能,在多个host之间跳来跳去的下载,可以使用

wget -nc -np -H -r -k http://www.ctan.org/tex-archive/macros/latex/

使得可以在多个host之间span,同时-I和-X可以使得我们仅仅跟踪某些目录或者不跟踪某些目录。如果某些HTML里面你需要的东西不是由这种东西作出来的,你就得使用--follow-tags--ignore-tags了。嘿,我有个文件里面都是连接,怎么办?要是不是html你只需要

wget -i your.file 如果是,那也不繁 wget -F -i your.fileWget 的完全用法 -V 版本信息 -h 帮助信息 -b 后台执行Wget -o filename 把记录放在文件filename -a filename 把记录附加在文件filename -d 显示调试信息 -q 无输出下载方式 -v 详细的屏幕输出(默认) -nv 简单的屏幕输出 -i inputfiles 从文本文件内读取地址列表 -F forcehtml 从html文件内读取地址列表 -t number number次重试下载(0时为无限次) -O output document file 写文件到文件 -nc 不覆盖已有的文件 -c 断点下传 -N 时间时间戳。该参数指定wget只下载更新的文件,也就是说,与本地目录中的对应文件的长度和最后修改日期一样的文件将不被下载。 -S 显示服务器响应 -T timeout 超时时间设置(单位秒) -w time 重试延时(单位秒) -Y proxy=on/off 是否打开代理 -Q quota=number 重试次数 目录: -nd --no-directories 不建立目录. -x, --force-directories 强制进行目录建立的工作. -nH, --no-host-directories 不建立主机的目录. -P, --directory-prefix=PREFIX 把档案存到 PREFIX/... --cut-dirs=NUMBER 忽略 NUMBER 个远端的目录元件. HTTP 选项: --http-user=USER 设 http 使用者为 USER. --http0passwd=PASS 设 http 使用者的密码为 PASS. -C, --cache=on/off 提供/关闭快取伺服器资料 (正常情况为提供). --ignore-length 忽略 `Content-Length' 标头栏位. --proxy-user=USER 设 USER 为 Proxy 使用者名称. --proxy-passwd=PASS 设 PASS 为 Proxy 密码. -s, --save-headers 储存 HTTP 标头成为档案. -U, --user-agent=AGENT 使用 AGENT 取代 Wget/VERSION 作为识别代号. FTP 选项: --retr-symlinks 取回 FTP 的象徵连结. -g, --glob=on/off turn file name globbing on ot off. --passive-ftp 使用 "passive" 传输模式. 使用递回方式的取回: -r, --recursive 像是吸入 web 的取回 -- 请小心使用!. -l, --level=NUMBER 递回层次的最大值 (0 不限制). --delete-after 删除下载完毕的档案. -k, --convert-links 改变没有关连的连结成为有关连. -m, --mirror 开启适合用来映射的选项. -nr, --dont-remove-listing 不要移除 `.listing' 档. 递回式作业的允许与拒绝选项: -A, --accept=LIST 允许的扩充项目的列表 . -R, --reject=LIST 拒绝的扩充项目的列表. -D, --domains=LIST 允许的网域列表. --exclude-domains=LIST 拒绝的网域列表 (使用逗号来分隔). -L, --relative 只跟随关联连结前进. --follow-ftp 跟随 HTML 文件里面的 FTP 连结. -H, --span-hosts 当开始递回时便到外面的主机. -I, --include-directories=LIST 允许的目录列表. -X, --exclude-directories=LIST 排除的目录列表. -nh, --no-host-lookup 不透过 DNS 查寻主机. -np, --no-parent 不追朔到起源目录. wget -t0 -c -nH -np -b -m -P /localdir http://freesoft.online.sh.cn/mirrors/ftp.redhat.com -o wget经常用于成批量地下载Internet网站上的文件,或制作远程网站的镜像。 语法: wget [options] [URL-list] URL地址格式说明:可以使用如下格式的URL: http://host[:port]/path 例如: http://fly.cc.fer.hr/ ftp://ftp.xemacs.org/pub/xemacs/xemacs-19.14.tar.gz ftp://username:[email protected]/dir/file 在最后一种形式中,以URL编码形式为FTP主机提供了用户名和密码(当然,也可以使 用参数提供该信息,见后)。 参数说明: wget的参数较多,但大部分应用只需要如下几个常用的参数: -r 递归;对于HTTP主机,wget首先下载URL指定的文件,然后(如果该文件是 一个HTML文档的话)递归下载该文件所引用(超级连接)的所有文件(递归深度 由参数-l指定)。对FTP主机,该参数意味着要下载URL指定的目录中的所有文件, 递归方法与HTTP主机类似。 -N 时间戳:该参数指定wget只下载更新的文件,也就是说,与本地目录中的对 应文件的长度和最后修改日期一样的文件将不被下载。 -m 镜像:相当于同时使用-r和-N参数。 -l 设置递归级数;默认为5。-l1相当于不递归;-l0为无穷递归;注意,当递 归深度增加时,文件数量将呈指数级增长。 -t 设置重试次数。当连接中断(或超时)时,wget将试图重新连接。如果指 定-t0,则重试次数设为无穷多。 -c 指定断点续传功能。实际上,wget默认具有断点续传功能,只有当你使用别 的ftp工具下载了某一文件的一部分,并希望wget接着完成此工作的时候,才需要 指定此参数。 使用举例: wget -m -l4 -t0 http://oneweb.com.cn/ 将在本地硬盘建立http://oneweb.com.cn/的镜像,镜像文件存入当前目录下一个名为 oneweb.com.cn的子目录中(你也可以使用-nH参数指定不建立该子目录,而直接在当前 目录下建立镜像的目录结构),递归深度为4,重试次数为无穷(若连接出现问题, wget将坚韧不拔地永远重试下去,知道任务完成!) 另外一些使用频率稍低的参数如下: -A acclist / -R rejlist: 这两个参数用于指定wget接受或排除的文件扩展名,多个名称之间用逗号隔开。例如, 假设我们不想下载MPEG视频影像文件和.AU声音文件,可使用如下参数: -R mpg,mpeg,au 其它参数还有: -L 只扩展相对连接,该参数对于抓取指定站点很有用,可以避免向宿主主机 的其他目录扩散。例如,某个人网站地址为:http://www.xys.org/~ppfl/,使用 如下命令行: wget -L http://www.xys.org/~ppfl/ 则只提取该个人网站,而不涉及主机www.xys.org上的其他目录。 -k 转换连接:HTML文件存盘时,将其中的非相对连接转换成为相对连接。 -X 在下载FTP主机上的文件时,排除若干指定的目录 另外,下面参数用于设置wget的工作界面: -v 设置wget输出详细的工作信息。 -q 设置wget不输出任何信息。 如果我们已经在一个HTML文档(或普通文本文档)中存储了所要提取的文件的连接, 可以让wget直接从该文件中提取信息,而不用在命令行中提供URL地址,参数格式为: -i filename 地址文件也可以不是HTML文档,例如,一个普通的文本文件,其中有需要下载的URL列 表即可。 我们可以用以下技巧提高下载速度:由于Linux是一个多任务系统,我们可以同时运行 多个wget进程以提高下载速度,例如,先下载某主页文件(index.html),然后将该 文件所列出的所有地址分别用一个独立的wget进程进行下载。 至于其他的参数,可参考wget的man手册页,命令为: man wget]]>

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!

发表评论

电子邮件地址不会被公开。 必填项已用*标注