本文链接:http://codingstandards.iteye.com/blog/807844 (转载请注明出处)
用途说明
curl命令是一个功能强大的网络工具,它能够通过http、ftp等方式下载文件,也能够上传文件。其实curl远不止前面所说的那些功能,大家可以通过man curl阅读手册页获取更多的信息。类似的工具还有wget。
curl命令使用了libcurl库来实现,libcurl库常用在C程序中用来处理HTTP请求,curlpp是libcurl的一个C++封装,这几个东西可以用在抓取网页、网络监控等方面的开发,而curl命令可以帮助来解决开发过程中遇到的问题。
常用参数
curl命令参数很多,这里只列出我曾经用过、特别是在shell脚本中用到过的那些。
-v/--verbose 小写的v参数,用于打印更多信息,包括发送的请求信息,这在调试脚本是特别有用。
-m/--max-time <seconds> 指定处理的最大时长
-H/--header <header> 指定请求头参数
-s/--slient 减少输出的信息,比如进度
--connect-timeout <seconds> 指定尝试连接的最大时长
-x/--proxy <proxyhost[:port]> 指定代理服务器地址和端口,端口默认为1080
-T/--upload-file <file> 指定上传文件路径
-o/--output <file> 指定输出文件名称
-d/--data/--data-ascii <data> 指定POST的内容
--retry <num> 指定重试次数
-e/--referer <URL> 指定引用地址
-I/--head 仅返回头部信息,使用HEAD请求
使用示例
示例一 获取指定网页
[root@jfht ~]# curl http://www.sunrisecorp.net/
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=gbk" />
<meta name="title" content="欢迎您 - 上海腾一" />
<meta name="keyword" content="上海腾一,融合通信,电子商务,语音通信,数据通信,基站工程外包托管,物联网,网站建设,电子商务解决方案,移动互联网,短信,彩信,呼叫中心,多方会议,PBX,IVR,电子商务策划方案,设备代维,网络优化,通信工程,电信增值,3G" />
<meta name="description" content="上海腾一信息技术有限公司专注于电信增值、通信工程、电子商务等领域,拥有近十年的经验。" />
<title>
欢迎您 - 上海腾一
</title>
插播一下广告:上海腾一信息技术有限公司是一家致力于通信工程、电子商务和电信增值业务的公司,请访问官方网址: http://www.sunrisecorp.net/ 。
此处省略掉网页内容 。
</body>
</html>[root@jfht ~]#
示例二 查看响应头信息
[root@jfht ~]# curl -I http://www.sunrisecorp.net/
HTTP/1.1 200 OK
Server: Apache-Coyote/1.1
Accept-Ranges: bytes
ETag: W/"17801-1285643951000"
Last-Modified: Tue, 28 Sep 2010 03:19:11 GMT
Content-Type: text/html
Content-Length: 17801
Date: Tue, 12 Oct 2010 12:49:20 GMT
[root@jfht ~]#
示例三 检查网页是否可正常访问
以下是一个tomcat监控脚本的部分内容。
- # usage: check_once <port> <path>
- # 使用curl检查网页是否可以正常访问,如果不能访问就重启tomcat。
- check_once()
- {
- echo
- echo "$(date) Tomcat check once"
- # 2008.08.21 -I/--head -s/--silent
- #if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/; then
- # 2010.02.16 add 200 OK test
- if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/$2 | grep -q '200 OK';
- then
- echo "$(date) Tomcat maybe OK"
- else
- echo "$(date) Tomcat maybe FAULT"
- restart
- fi
- }
- # usage: check_loop <port> <path>
- # 每隔一分钟检查一次网页是否正常
- check_loop()
- {
- while true;
- do
- sleep 60
- check_once $1 $2 >> $CATALINA_HOME/logs/check.$(date +%Y-%m-%d).log
- done
- }
- # usage: monitor <path>
- # 对path指定的本机网页进行监控
- # 2008.06.26
- # 2010.09.20 add path parameter
- monitor()
- {
- PORT=80
- if grep 'Connector port="80"' $CATALINA_HOME/conf/server.xml; then
- PORT=80
- elif grep 'Connector port="8080"' $CATALINA_HOME/conf/server.xml; then
- PORT=8080
- else
- echo "Cannot detect server port for Tomcat"
- return 12
- fi
- echo "Tomcat server port is $PORT"
- if status; then
- check_loop $PORT "$1" &
- #check_loop $PORT "$1"
- fi
- }
# usage: check_once <port> <path> # 使用curl检查网页是否可以正常访问,如果不能访问就重启tomcat。 check_once() { echo echo "$(date) Tomcat check once" # 2008.08.21 -I/--head -s/--silent #if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/; then # 2010.02.16 add 200 OK test if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/$2 | grep -q '200 OK'; then echo "$(date) Tomcat maybe OK" else echo "$(date) Tomcat maybe FAULT" restart fi } # usage: check_loop <port> <path> # 每隔一分钟检查一次网页是否正常 check_loop() { while true; do sleep 60 check_once $1 $2 >> $CATALINA_HOME/logs/check.$(date +%Y-%m-%d).log done } # usage: monitor <path> # 对path指定的本机网页进行监控 # 2008.06.26 # 2010.09.20 add path parameter monitor() { PORT=80 if grep 'Connector port="80"' $CATALINA_HOME/conf/server.xml; then PORT=80 elif grep 'Connector port="8080"' $CATALINA_HOME/conf/server.xml; then PORT=8080 else echo "Cannot detect server port for Tomcat" return 12 fi echo "Tomcat server port is $PORT" if status; then check_loop $PORT "$1" & #check_loop $PORT "$1" fi }
这个脚本的执行方式是 monitor <path>,比如monitor main/index.html。下面是执行时输出的日志信息片段。
2010年 10月 09日 星期六 15:20:38 CST Tomcat check once
2010年 10月 09日 星期六 15:20:46 CST Tomcat maybe OK
2010年 10月 09日 星期六 15:21:46 CST Tomcat check once
2010年 10月 09日 星期六 15:21:57 CST Tomcat maybe FAULT
Tomcat is now running, not stopped: 0
Tomcat is now running, not stopped: 1
Tomcat is now running, not stopped: 2
Tomcat is now running, not stopped: 3
Tomcat is now running, not stopped: 4
Tomcat is now running, not stopped: 5
Tomcat is now running, not stopped: 6
Tomcat is now running, not stopped: 7
Tomcat is now running, not stopped: 8
Tomcat is now running, not stopped: 9
Tomcat killed use SIGKILL
Tomcat stopped
Starting tomcat
2010年 10月 09日 星期六 15:23:09 CST Tomcat check once
2010年 10月 09日 星期六 15:23:09 CST Tomcat maybe OK
2010年 10月 09日 星期六 15:24:09 CST Tomcat check once
2010年 10月 09日 星期六 15:24:09 CST Tomcat maybe OK
示例四 另一个检查网页是否正常的脚本
- # 要检查的网页地址
- URL="http://www.sunrisecorp.net/"
- # usage:
- curlit()
- {
- curl --connect-timeout 15 --max-time 30 --head --silent "$URL" | grep 'HTTP/1.1 200 OK'
- }
- # 只有MIN_ALARM次访问失败时才告警
- MIN_ALARM=10
- #
- doit()
- {
- echo "===== $(now) ====="
- if ! curlit; then
- echo "$(now) bbdx nss access failed"
- N=1
- if [ -e curlit_error ]; then
- N="$(cat curlit_error)"
- N=$[N+1]
- fi
- echo "$(now) N=$N"
- echo $N >curlit_error
- if [ "$N" == "$MIN_ALARM" ]; then
- echo "$(now) do notify"
- touch curlit_error
- notify_curlit_error
- fi
- else
- if [ -e curlit_error ]; then
- echo "$(now) recovered"
- N=$(cat curlit_error)
- echo "$(now) N=$N"
- rm -f curlit_error
- if [ "$N" -ge "$MIN_ALARM" ]; then
- notify_curlit_recovered
- fi
- fi
- fi
- }
- doit >>log/curlit.log 2>&1
# 要检查的网页地址 URL="http://www.sunrisecorp.net/" # usage: curlit() { curl --connect-timeout 15 --max-time 30 --head --silent "$URL" | grep 'HTTP/1.1 200 OK' } # 只有MIN_ALARM次访问失败时才告警 MIN_ALARM=10 # doit() { echo "===== $(now) =====" if ! curlit; then echo "$(now) bbdx nss access failed" N=1 if [ -e curlit_error ]; then N="$(cat curlit_error)" N=$[N+1] fi echo "$(now) N=$N" echo $N >curlit_error if [ "$N" == "$MIN_ALARM" ]; then echo "$(now) do notify" touch curlit_error notify_curlit_error fi else if [ -e curlit_error ]; then echo "$(now) recovered" N=$(cat curlit_error) echo "$(now) N=$N" rm -f curlit_error if [ "$N" -ge "$MIN_ALARM" ]; then notify_curlit_recovered fi fi fi } doit >>log/curlit.log 2>&1
示例五 使用HttpPost上传数据
一个用于http post的脚本。
- #!/bin/sh
- MS=1350514xxxx
- TM=$(date +"%Y%m%d%H%M%S")
- DT=$(date +"%Y%m%d")
- cat <<EOF >reqtmp.xml
- <?xml version="1.0" encoding="GBK" ?>
- <OwnPlatForm>
- <OrigDomain>QZT</OrigDomain>
- <HomeDomain>BOSS</HomeDomain>
- <ActivityCode>T5100001</ActivityCode>
- <ActionCode>0</ActionCode>
- <TransIDO>$TM</TransIDO>
- <TransIDH></TransIDH>
- <ProcessTime>$TM</ProcessTime>
- <CutOffDay>$DT</CutOffDay>
- <TestFlag>0</TestFlag>
- <Content>
- <![CDATA[
- <BizProcReq>
- <IDType>01</IDType>
- <IDValue>$MS</IDValue>
- <UserCity>14</UserCity>
- <UserCounty>1419</UserCounty>
- <OprCode>01</OprCode>
- <BizType>51</BizType>
- <OprTime>$TM</OprTime>
- <OprSrc>27</OprSrc>
- <ProductInfo>
- <PrdCode>510001</PrdCode>
- </ProductInfo>
- </BizProcReq>
- ]]>
- </Content>
- </OwnPlatForm>
- EOF
- cat reqtmp.xml
- URL="http://10.32.140.230:7092/fcgi-bin/UIG_NEWINT"
- curl --verbose --upload-file reqtmp.xml --header "Content-Type: text/xml" "$URL" --output rsptmp.xml
- cat rsptmp.xml
#!/bin/sh MS=1350514xxxx TM=$(date +"%Y%m%d%H%M%S") DT=$(date +"%Y%m%d") cat <<EOF >reqtmp.xml <?xml version="1.0" encoding="GBK" ?> <OwnPlatForm> <OrigDomain>QZT</OrigDomain> <HomeDomain>BOSS</HomeDomain> <ActivityCode>T5100001</ActivityCode> <ActionCode>0</ActionCode> <TransIDO>$TM</TransIDO> <TransIDH></TransIDH> <ProcessTime>$TM</ProcessTime> <CutOffDay>$DT</CutOffDay> <TestFlag>0</TestFlag> <Content> <![CDATA[ <BizProcReq> <IDType>01</IDType> <IDValue>$MS</IDValue> <UserCity>14</UserCity> <UserCounty>1419</UserCounty> <OprCode>01</OprCode> <BizType>51</BizType> <OprTime>$TM</OprTime> <OprSrc>27</OprSrc> <ProductInfo> <PrdCode>510001</PrdCode> </ProductInfo> </BizProcReq> ]]> </Content> </OwnPlatForm> EOF cat reqtmp.xml URL="http://10.32.140.230:7092/fcgi-bin/UIG_NEWINT" curl --verbose --upload-file reqtmp.xml --header "Content-Type: text/xml" "$URL" --output rsptmp.xml cat rsptmp.xml
示例六 使用proxy的脚本
- # usage: do_sync_once <mobile> <codes> <area_id> <opening>
- do_sync_once()
- {
- mobile=$1
- codes=$2
- area_id=$3
- opening=$4
- curl --silent --max-time 60 --proxy http://10.32.187.170:8080 "http://host/boss/sync.jsp?seq=1251747862492&mobile=$mobile&serviceCodes=$codes&areaId=$area_id&opening=$opening"
- }
# usage: do_sync_once <mobile> <codes> <area_id> <opening> do_sync_once() { mobile=$1 codes=$2 area_id=$3 opening=$4 curl --silent --max-time 60 --proxy http://10.32.187.170:8080 "http://host/boss/sync.jsp?seq=1251747862492&mobile=$mobile&serviceCodes=$codes&areaId=$area_id&opening=$opening" }
示例七 使用Google AJAX Search API进行搜索
- # usage: google_search <STR>
- # Google搜索
- google_search()
- {
- REF="http://codingstandards.iteye.com/"
- KEY="ABQIAAAAHg_ENG5Yq9pOZd19v64gyxTMcdcN4KfyGCBxustvF1FXdNe4WBQOej_ZiBgIK6-a4M3hTxcVfSkt2g"
- STR="$1"
- # 采用网页搜索
- curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null
- # 采用博客搜索
- #curl -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null
- #curl --retry 5 -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null
- #curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null
- }
# usage: google_search <STR> # Google搜索 google_search() { REF="http://codingstandards.iteye.com/" KEY="ABQIAAAAHg_ENG5Yq9pOZd19v64gyxTMcdcN4KfyGCBxustvF1FXdNe4WBQOej_ZiBgIK6-a4M3hTxcVfSkt2g" STR="$1" # 采用网页搜索 curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null # 采用博客搜索 #curl -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null #curl --retry 5 -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null #curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null }
相关推荐
`curl`是一个强大的命令行工具,用于在命令行下传输数据到或从互联网。它支持多种协议,包括HTTP、HTTPS、FTP、FTPS等,使得用户可以在终端中方便地下载、上传文件,执行POST请求,甚至发送邮件。`curl-7.83.1.tar....
curl是一个强大的命令行工具,用于传输数据,支持多种网络协议如HTTP、HTTPS、FTP、FTPS等。这个安装包以`.tar.gz`格式提供,这是一种常见的在Linux中打包和压缩文件的方法。 **关于curl:** 1. **功能**:curl可以...
curl是一个强大的命令行工具,用于传输数据,支持多种网络协议,如HTTP、HTTPS、FTP、FTPS等。在PHP扩展安装过程中,curl库通常被用作与远程服务器进行交互的接口,例如发送HTTP请求获取网页内容或执行文件上传下载...
curl是一个功能强大的命令行工具,用于传输数据,支持多种网络协议,如HTTP、FTP、SMTP等。其名称curl代表“Client URL”,表明它主要用于处理URL相关的任务。在本文中,我们将围绕curl-7.43.0.tar这一版本进行详细...
Linux中的curl是一个强大的命令行工具,用于传输数据,支持多种协议如HTTP、HTTPS、FTP、FTPS等。在最新的版本7.71.1中,curl提供了更多的功能和改进,以提升用户在处理网络数据传输时的效率和安全性。本文将深入...
《curl-7.19.7.tar.gz:深入解析网络数据传输工具curl的早期版本》 curl是一个开源的命令行工具,用于传输数据到或从URL。它的全名是curl,意为“客户端URL”,其功能强大,支持多种协议,包括HTTP、HTTPS、FTP、...
CURL,全称Client URL Library,是一款强大的命令行工具,用于传输数据到或从服务器,支持多种协议,包括HTTP、HTTPS、FTP、FTPS等。CURL广泛应用于Linux环境中,而“curl-7.61.0-win64-mingw.rar”这个压缩包则是...
curl是一个开源的命令行工具,用于传输数据到或从URL,支持多种网络协议如HTTP、HTTPS、FTP、FTPS等。这个版本(7.64.1)是为64位的Windows系统编译的,并且基于mingw编译环境,mingw是GCC(GNU Compiler Collection...
总的来说,`curl-7.64.0-win64-mingw.zip`为Windows用户提供了一个强大的命令行工具,使他们在处理网络数据传输时拥有更多灵活性和控制权。无论是进行日常的文件下载还是开发中的数据交互,curl都是一个不可或缺的...
`curl`是一个强大的命令行工具,用于传输数据,支持多种网络协议,包括HTTP、HTTPS、FTP、FTPS等。这个版本是7.65.0,意味着它包含了该软件到2019年中期(因为7.65.0是2019年的发布版本)的所有功能和修复。 ### `...
总结来说,curl-7.54.0作为一款强大的网络工具,其功能丰富,应用广泛。无论是简单的文件传输还是复杂的网络数据交互,curl都能提供高效、灵活的解决方案。深入理解和掌握curl的使用,对于网络编程和系统管理都...
由于curl的跨平台性,无论是Linux、macOS还是Windows环境,都能找到相应的版本,使得它成为了IT领域的必备工具之一。 总的来说,`curl-7.72.0_4-win64-mingw.zip`提供了一个便捷的途径,让Windows用户能够在命令行...
`curl-7.50.0.tar.gz` 是一个经典的开源工具 `curl` 的源代码包,用于在命令行环境中传输数据,支持多种网络协议,包括 HTTP、HTTPS、FTP、FTPS 等。这个版本号表明它是 `curl` 在2016年发布的一个稳定版本,7.50.0...
总的来说,`curl-7.33.0.tar.gz` 提供了 PHP 应用程序进行网络通信的强大工具,通过源码编译可以确保与系统环境最佳兼容,并且能够利用最新的特性和修正。开发人员可以利用这些功能实现复杂的数据抓取、API 调用、...
总结,`curl-7.21.0-win64-ssl-sspi` 是一个功能强大的网络传输工具,尤其适合Windows环境下的开发和运维工作,其SSL和SSPI的支持使得在安全网络环境中执行命令变得更加便捷和安全。通过熟练掌握curl的使用,可以...
《curl-7.28.1.tar.gz:Linux版curl工具深度解析》 在IT行业中,curl是一款不可或缺的命令行工具,它广泛用于在各种操作系统上传输数据,特别是通过HTTP、HTTPS、FTP等网络协议。本文将深入探讨“curl-7.28.1.tar....
curl是一个强大的命令行工具,用于传输数据,支持多种网络协议,如HTTP、HTTPS、FTP、FTPS等。在Linux和macOS系统中,curl通常被广泛使用,而在Windows环境中,虽然没有内置的curl命令,但可以通过下载预编译的版本...
- **curl**:一个命令行工具及库,用于处理URL传输请求,依赖于openssl和zlib。 #### 二、准备工作 确保Ubuntu系统已经安装完毕,并具备必要的网络访问权限。接下来按照以下步骤准备交叉编译环境: 1. **下载arm-...
curl,全名Client URL Library,是一个强大的命令行工具,用于传输数据,如文件、图像、视频等,通过HTTP、HTTPS等多种协议。curl广泛应用于Linux、macOS以及Windows系统中,是开发者进行网络请求调试、数据抓取等...
`curl`是一个强大的命令行工具,用于在操作系统中传输数据,尤其在Linux和Unix-like系统中广泛使用。它支持多种协议,包括HTTP、HTTPS、FTP、FTPS等,使得用户可以方便地从命令行界面执行文件下载、上传和其他数据...