`
MyEyeOfJava
  • 浏览: 1156562 次
  • 性别: Icon_minigender_1
  • 来自: 北京
博客专栏
7af2d6ca-4fe1-3e9a-be85-3f65f7120bd0
测试开发
浏览量:71336
533896eb-dd7b-3cde-b4d3-cc1ce02c1c14
晨记
浏览量:0
社区版块
存档分类
最新评论

使用wget镜像网站

阅读更多

利用wget命令行镜像指定网站到指定目录,下述命令是windows的(linux的自己类比):

wget -r -p -k -np --convert-links http://网站 -P d:\目录

windows wget下载地址:http://downloads.sourceforge.net/gnuwin32/wget-1.11.4-1-setup.exe

 

wget各种选项分类列表
启动
-V, --version 显示wget的版本后退出
-h, --help 打印语法帮助
-b, --background 启动后转入后台执行
-e, --execute=COMMAND 执行`.wgetrc'格式的命令,wgetrc格式参见/etc/wgetrc或~/.wgetrc

记录和输入文件
-o, --output-file=FILE 把记录写到FILE文件中
-a, --append-output=FILE 把记录追加到FILE文件中
-d, --debug 打印调试输出
-q, --quiet 安静模式(没有输出)
-v, --verbose 冗长模式(这是缺省设置)
-nv, --non-verbose 关掉冗长模式,但不是安静模式
-i, --input-file=FILE 下载在FILE文件中出现的URLs
-F, --force-html 把输入文件当作HTML格式文件对待
-B, --base=URL 将URL作为在-F -i参数指定的文件中出现的相对链接的前缀
--sslcertfile=FILE 可选客户端证书
--sslcertkey=KEYFILE 可选客户端证书的KEYFILE
--egd-file=FILE 指定EGD socket的文件名

下载
--bind-address=ADDRESS 指定本地使用地址(主机名或IP,当本地有多个IP或名字时使用)
-t, --tries=NUMBER 设定最大尝试链接次数(0 表示无限制).
-O --output-document=FILE 把文档写到FILE文件中
-nc, --no-clobber 不要覆盖存在的文件或使用.#前缀
-c, --continue 接着下载没下载完的文件
--progress=TYPE 设定进程条标记
-N, --timestamping 不要重新下载文件除非比本地文件新
-S, --server-response 打印服务器的回应
--spider 不下载任何东西
-T, --timeout=SECONDS 设定响应超时的秒数
-w, --wait=SECONDS 两次尝试之间间隔SECONDS秒
--waitretry=SECONDS 在重新链接之间等待1...SECONDS秒
--random-wait 在下载之间等待0...2*WAIT秒
-Y, --proxy=on/off 打开或关闭代理
-Q, --quota=NUMBER 设置下载的容量限制
--limit-rate=RATE 限定下载输率

目录
-nd --no-directories 不创建目录
-x, --force-directories 强制创建目录
-nH, --no-host-directories 不创建主机目录
-P, --directory-prefix=PREFIX 将文件保存到目录 PREFIX/...
--cut-dirs=NUMBER 忽略 NUMBER层远程目录

HTTP 选项
--http-user=USER 设定HTTP用户名为 USER.
--http-passwd=PASS 设定http密码为 PASS.
-C, --cache=on/off 允许/不允许服务器端的数据缓存 (一般情况下允许).
-E, --html-extension 将所有text/html文档以.html扩展名保存
--ignore-length 忽略 `Content-Length'头域
--header=STRING 在headers中插入字符串 STRING
--proxy-user=USER 设定代理的用户名为 USER
--proxy-passwd=PASS 设定代理的密码为 PASS
--referer=URL 在HTTP请求中包含 `Referer: URL'头
-s, --save-headers 保存HTTP头到文件
-U, --user-agent=AGENT 设定代理的名称为 AGENT而不是 Wget/VERSION.
--no-http-keep-alive 关闭 HTTP活动链接 (永远链接).
--cookies=off 不使用 cookies.
--load-cookies=FILE 在开始会话前从文件 FILE中加载cookie
--save-cookies=FILE 在会话结束后将 cookies保存到 FILE文件中

FTP 选项
-nr, --dont-remove-listing 不移走 `.listing'文件
-g, --glob=on/off 打开或关闭文件名的 globbing机制
--passive-ftp 使用被动传输模式 (缺省值).
--active-ftp 使用主动传输模式
--retr-symlinks 在递归的时候,将链接指向文件(而不是目录)

递归下载
-r, --recursive 递归下载--慎用!
-l, --level=NUMBER 最大递归深度 (inf 或 0 代表无穷).
--delete-after 在现在完毕后局部删除文件
-k, --convert-links 转换非相对链接为相对链接
-K, --backup-converted 在转换文件X之前,将之备份为 X.orig
-m, --mirror 等价于 -r -N -l inf -nr.
-p, --page-requisites 下载显示HTML文件的所有图片

递归下载中的包含和不包含 (accept/reject)
-A, --accept=LIST 分号分隔的被接受扩展名的列表
-R, --reject=LIST 分号分隔的不被接受的扩展名的列表
-D, --domains=LIST 分号分隔的被接受域的列表
--exclude-domains=LIST 分号分隔的不被接受的域的列表
--follow-ftp 跟踪HTML文档中的FTP链接
--follow-tags=LIST 分号分隔的被跟踪的HTML标签的列表
-G, --ignore-tags=LIST 分号分隔的被忽略的HTML标签的列表
-H, --span-hosts 当递归时转到外部主机
-L, --relative 仅仅跟踪相对链接
-I, --include-directories=LIST 允许目录的列表
-X, --exclude-directories=LIST 不被包含目录的列表
-np, --no-parent 不要追溯到父目录

问题
在递归下载的时候,遇到目录中有中文的时候,wget创建的本地目录名会用URL编码规则处理。如"天网防火墙"会被存为"%CC%EC%CD%F8%B7%C0%BB%F0%C7%BD",这造成阅读上的极大不方便。

 

 

分享到:
评论

相关推荐

    使用wget制作精简镜像示例Dockerfile

    通过wget获取docker镜像制作的文件,从而可以有效控制镜像文件的大小

    使用wget递归镜像网站

    分享一个我常用网站扒皮命令wget 这个命令可以以递归的方式下载整站,并可以将下载的页面中的链接转换为本地链接。 wget加上参数之后,即可成为相当强大的下载工具。 wget命令详解 wget -r -p -np -k ...

    Android 终端上可以使用的完全版本wget

    此外,wget还可以通过使用`--mirror`选项进行网站镜像,`--user`和`--password`进行基本认证,以及`--no-check-certificate`跳过SSL证书验证等。 在Android开发或系统管理中,这样的完整版wget可以极大地提高效率,...

    Wget创建一个网站的镜像1

    使用 Wget 的镜像功能时,还需要考虑到带宽问题,即下载整个网站可能会对远程服务器造成压力。要解决这个问题,可以使用 `-w` 选项来设置下载速度,例如: ``` $ wget -mk -w 20 http://www.example.com/ ``` 这将在...

    使用wget下载整个网页

    3. **配置递归下载**:要下载整个网站,需要使用`--mirror`选项,这会告诉wget进行镜像下载,包括递归获取链接页面。同时,可以使用`--level`或`-l`参数设置递归深度。 4. **指定保存路径**:使用`-P`或`--...

    解决wget无法使用的方法

    ### 解决wget无法使用的方法 在Linux环境中,`wget`是一个非常重要的工具,它用于从网络上下载文件。然而,在某些情况下,用户可能会遇到`wget`无法使用的问题。本文将详细探讨这一问题,并提供一系列解决方案。 #...

    wget wget wget wget

    `wget`是一个强大的命令行下载工具,主要用于在Unix-like...总的来说,`wget`是一个功能丰富的下载工具,适用于各种场景,从简单的文件下载到复杂的网站镜像。其灵活性和可靠性使其成为系统管理员和开发者的必备工具。

    windows 使用wget 下载命令

    4. **镜像网站**:`wget64 --mirror --convert-links --adjust-extension --page-requisites --no-parent http://example.com/site`可以镜像整个网站。 5. **下载网页中的链接**:使用`--recursive`和`--level`参数...

    解决wget无法使用

    ### 解决wget无法使用 在Linux环境中,wget是一款非常实用的工具,主要用于通过HTTP、HTTPS以及FTP协议下载文件。然而,在某些情况下,用户可能会遇到无法使用wget的问题。本文将详细介绍如何解决这一问题,并提供...

    【超级好用】wget win10 解压直接用

    3. **镜像下载**:wget可以用于完整镜像网站,`wget --mirror --convert-links --adjust-extension --page-requisites --no-parent http://example.com/`将下载整个网站到本地。 4. **HTTP和FTP协议**:wget支持...

    centos下wget安装包

    对于网络管理员和开发者来说,`wget`的一个强大特性是它可以递归下载整个网站或目录,只需使用`--mirror`选项: ```bash wget --mirror --convert-links --adjust-extension --page-requisites --no-parent ...

    使用wget命令从清华源下载anaconda的安装脚本,结果返回403错误,无法下载。_-wget-403.zip

    使用wget命令从清华源下载anaconda的安装脚本,结果返回403错误,无法下载。_-wget-403

    wget网络多协议下载

    使用`--recursive`(或 `-r`)选项,wget可以递归地下载整个网站,`--level`选项可以设置下载深度。注意,这种操作可能会对目标服务器造成负担,因此需谨慎使用。 ### 6. 镜像网站 `--mirror`选项结合递归下载,...

    wget网站下载工具

    - `-r` 或 `--recursive`:递归下载,常用于整个网站的镜像。 - `-l` 或 `--level`:限制递归深度。 - `-A` 或 `--accept`:指定接受的文件类型,只下载指定类型的文件。 - `-R` 或 `--reject`:指定拒绝的文件类型...

    使用wget实现数据的回传备份

    6. **镜像下载**:`-m`或`--mirror`,用于镜像整个网站,包括递归下载和保留原始目录结构。 **二、wget实现数据回传备份** 1. **创建备份脚本**:在提供的文件列表中,有一个名为`bak.bat`的批处理文件,这可能是...

    wget详细使用说明

    wget的最基础用法是直接跟URL地址一起使用,例如: ```bash wget http://example.com/file.txt ``` 这将会下载指定URL的文件到当前目录。 ### 选项说明 **-c 或 --continue** 这个选项使得wget可以恢复中断的...

    wget_windows_wget_Vc_

    例如,使用`wget --mirror -p -np -k http://example.com`可以镜像整个网站到本地。 7. **注意问题**:由于是使用VC6编译,可能存在与较新Windows系统不兼容的问题,如缺少库文件、不支持新的API等。在使用时,需要...

    wget1.21.4.zip安装包

    3. **递归下载**:可以按照网站结构下载整个网站或者指定的目录,非常适合备份或者镜像网站。 4. **断点续传**:如果下载过程中因任何原因中断,wget可以从上次中断的位置继续下载,节省时间。 5. **重试机制**:在...

    Wget使用方法.txt

    ### Wget 使用方法详解 #### 一、Wget 简介 `wget` 是一个强大的命令行工具,用于从互联网上下载文件。它支持多种协议,包括 HTTP、HTTPS 和 FTP,同时也支持通过代理服务器进行下载。`wget` 的强大之处在于其高度...

Global site tag (gtag.js) - Google Analytics