`

Linux命令之curl - 强大的网络传输工具

 
阅读更多

本文链接：http://codingstandards.iteye.com/blog/807844   （转载请注明出处）

用途说明

curl命令是一个功能强大的网络工具，它能够通过http、ftp等方式下载文件，也能够上传文件。其实curl远不止前面所说的那些功能，大家可以通过man curl阅读手册页获取更多的信息。类似的工具还有wget。

curl命令使用了libcurl库来实现，libcurl库常用在C程序中用来处理HTTP请求，curlpp是libcurl的一个C++封装，这几个东西可以用在抓取网页、网络监控等方面的开发，而curl命令可以帮助来解决开发过程中遇到的问题。

常用参数

curl命令参数很多，这里只列出我曾经用过、特别是在shell脚本中用到过的那些。

-v/--verbose 小写的v参数，用于打印更多信息，包括发送的请求信息，这在调试脚本是特别有用。

-m/--max-time <seconds> 指定处理的最大时长

-H/--header <header> 指定请求头参数

-s/--slient 减少输出的信息，比如进度

--connect-timeout <seconds> 指定尝试连接的最大时长

-x/--proxy <proxyhost[:port]> 指定代理服务器地址和端口，端口默认为1080

-T/--upload-file <file> 指定上传文件路径

-o/--output <file> 指定输出文件名称

-d/--data/--data-ascii <data> 指定POST的内容

--retry <num> 指定重试次数

-e/--referer <URL> 指定引用地址

-I/--head 仅返回头部信息，使用HEAD请求

使用示例

示例一 获取指定网页

[root@jfht ~]# curl http://www.sunrisecorp.net/
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=gbk" />
<meta name="title" content="欢迎您 - 上海腾一" />
<meta name="keyword" content="上海腾一，融合通信，电子商务，语音通信，数据通信，基站工程外包托管，物联网，网站建设，电子商务解决方案，移动互联网，短信，彩信，呼叫中心，多方会议，PBX，IVR，电子商务策划方案，设备代维，网络优化，通信工程，电信增值，3G" />
<meta name="description" content="上海腾一信息技术有限公司专注于电信增值、通信工程、电子商务等领域，拥有近十年的经验。" />
<title>
欢迎您 - 上海腾一
</title>

 

插播一下广告：上海腾一信息技术有限公司是一家致力于通信工程、电子商务和电信增值业务的公司，请访问官方网址： http://www.sunrisecorp.net/ 。

 

 

此处省略掉网页内容 。


</body>
</html>[root@jfht ~]#

示例二 查看响应头信息

[root@jfht ~]# curl -I http://www.sunrisecorp.net/
HTTP/1.1 200 OK
Server: Apache-Coyote/1.1
Accept-Ranges: bytes
ETag: W/"17801-1285643951000"
Last-Modified: Tue, 28 Sep 2010 03:19:11 GMT
Content-Type: text/html
Content-Length: 17801
Date: Tue, 12 Oct 2010 12:49:20 GMT

[root@jfht ~]#

 

示例三 检查网页是否可正常访问

以下是一个tomcat监控脚本的部分内容。

Bash代码 复制代码 收藏代码
  1. # usage: check_once <port> <path>   
  2. # 使用curl检查网页是否可以正常访问，如果不能访问就重启tomcat。   
  3. check_once()   
  4. {   
  5.         echo   
  6.         echo "$(date)  Tomcat check once"  
  7.         # 2008.08.21 -I/--head -s/--silent   
  8.         #if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/; then   
  9.         # 2010.02.16 add 200 OK test   
  10.         if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/$2 | grep -q '200 OK';   
  11.   
  12.   
  13.  then   
  14.                 echo "$(date)  Tomcat maybe OK"  
  15.         else   
  16.                 echo "$(date)  Tomcat maybe FAULT"  
  17.                 restart   
  18.         fi   
  19. }   
  20.   
  21. # usage: check_loop <port> <path>   
  22. # 每隔一分钟检查一次网页是否正常   
  23. check_loop()   
  24. {   
  25.         while true;   
  26.         do   
  27.                 sleep 60  
  28.                 check_once $1 $2 >> $CATALINA_HOME/logs/check.$(date +%Y-%m-%d).log   
  29.         done   
  30. }   
  31.   
  32. # usage: monitor <path>   
  33. # 对path指定的本机网页进行监控   
  34. # 2008.06.26  
  35. # 2010.09.20 add path parameter   
  36. monitor()   
  37. {   
  38.         PORT=80  
  39.         if grep 'Connector port="80"' $CATALINA_HOME/conf/server.xml; then   
  40.                 PORT=80  
  41.         elif grep 'Connector port="8080"' $CATALINA_HOME/conf/server.xml; then   
  42.                 PORT=8080  
  43.         else   
  44.                 echo "Cannot detect server port for Tomcat"  
  45.                 return 12  
  46.         fi   
  47.         echo "Tomcat server port is $PORT"  
  48.   
  49.         if status; then   
  50.                 check_loop $PORT "$1" &   
  51.                 #check_loop $PORT "$1"  
  52.         fi   
  53. }   
  54.    
# usage: check_once <port> <path>
# 使用curl检查网页是否可以正常访问，如果不能访问就重启tomcat。
check_once()
{
        echo
        echo "$(date)  Tomcat check once"
        # 2008.08.21 -I/--head -s/--silent
        #if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/; then
        # 2010.02.16 add 200 OK test
        if curl -s -I --connect-timeout 5 --max-time 10 http://localhost:$1/$2 | grep -q '200 OK';


 then
                echo "$(date)  Tomcat maybe OK"
        else
                echo "$(date)  Tomcat maybe FAULT"
                restart
        fi
}

# usage: check_loop <port> <path>
# 每隔一分钟检查一次网页是否正常
check_loop()
{
        while true;
        do
                sleep 60
                check_once $1 $2 >> $CATALINA_HOME/logs/check.$(date +%Y-%m-%d).log
        done
}

# usage: monitor <path>
# 对path指定的本机网页进行监控
# 2008.06.26
# 2010.09.20 add path parameter
monitor()
{
        PORT=80
        if grep 'Connector port="80"' $CATALINA_HOME/conf/server.xml; then
                PORT=80
        elif grep 'Connector port="8080"' $CATALINA_HOME/conf/server.xml; then
                PORT=8080
        else
                echo "Cannot detect server port for Tomcat"
                return 12
        fi
        echo "Tomcat server port is $PORT"

        if status; then
                check_loop $PORT "$1" &
                #check_loop $PORT "$1"
        fi
}
 

 

这个脚本的执行方式是 monitor <path>，比如monitor main/index.html。下面是执行时输出的日志信息片段。

 

2010年 10月 09日 星期六 15:20:38 CST  Tomcat check once
2010年 10月 09日 星期六 15:20:46 CST  Tomcat maybe OK

2010年 10月 09日 星期六 15:21:46 CST  Tomcat check once
2010年 10月 09日 星期六 15:21:57 CST  Tomcat maybe FAULT
Tomcat is now running, not stopped: 0
Tomcat is now running, not stopped: 1
Tomcat is now running, not stopped: 2
Tomcat is now running, not stopped: 3
Tomcat is now running, not stopped: 4
Tomcat is now running, not stopped: 5
Tomcat is now running, not stopped: 6
Tomcat is now running, not stopped: 7
Tomcat is now running, not stopped: 8
Tomcat is now running, not stopped: 9
Tomcat killed use SIGKILL
Tomcat stopped
      Starting tomcat

2010年 10月 09日 星期六 15:23:09 CST  Tomcat check once
2010年 10月 09日 星期六 15:23:09 CST  Tomcat maybe OK

2010年 10月 09日 星期六 15:24:09 CST  Tomcat check once
2010年 10月 09日 星期六 15:24:09 CST  Tomcat maybe OK

 

示例四 另一个检查网页是否正常的脚本

 

Bash代码 复制代码 收藏代码
  1. # 要检查的网页地址   
  2. URL="http://www.sunrisecorp.net/"  
  3.   
  4. # usage:    
  5. curlit()   
  6. {   
  7.         curl --connect-timeout 15 --max-time 30 --head --silent "$URL" | grep 'HTTP/1.1 200 OK'  
  8. }   
  9.   
  10. # 只有MIN_ALARM次访问失败时才告警   
  11. MIN_ALARM=10  
  12.   
  13. #    
  14. doit()   
  15. {   
  16.     echo "===== $(now) ====="  
  17.     if ! curlit; then   
  18.             echo "$(now)  bbdx nss access failed"  
  19.             N=1  
  20.             if [ -e curlit_error ]; then   
  21.                     N="$(cat curlit_error)"  
  22.                     N=$[N+1]   
  23.             fi   
  24.             echo "$(now)  N=$N"  
  25.             echo $N >curlit_error   
  26.             if [ "$N" == "$MIN_ALARM" ]; then   
  27.                     echo "$(now)  do notify"  
  28.                     touch curlit_error   
  29.                     notify_curlit_error   
  30.             fi   
  31.     else   
  32.             if [ -e curlit_error ]; then   
  33.                     echo "$(now)  recovered"  
  34.                     N=$(cat curlit_error)   
  35.                     echo "$(now)  N=$N"  
  36.                     rm -f curlit_error   
  37.                     if [ "$N" -ge "$MIN_ALARM" ]; then   
  38.                             notify_curlit_recovered   
  39.                     fi   
  40.             fi   
  41.     fi   
  42. }   
  43.   
  44. doit >>log/curlit.log 2>&1  
  45.    
# 要检查的网页地址
URL="http://www.sunrisecorp.net/"

# usage: 
curlit()
{
        curl --connect-timeout 15 --max-time 30 --head --silent "$URL" | grep 'HTTP/1.1 200 OK'
}

# 只有MIN_ALARM次访问失败时才告警
MIN_ALARM=10

# 
doit()
{
	echo "===== $(now) ====="
	if ! curlit; then
			echo "$(now)  bbdx nss access failed"
			N=1
			if [ -e curlit_error ]; then
					N="$(cat curlit_error)"
					N=$[N+1]
			fi
			echo "$(now)  N=$N"
			echo $N >curlit_error
			if [ "$N" == "$MIN_ALARM" ]; then
					echo "$(now)  do notify"
					touch curlit_error
					notify_curlit_error
			fi
	else
			if [ -e curlit_error ]; then
					echo "$(now)  recovered"
					N=$(cat curlit_error)
					echo "$(now)  N=$N"
					rm -f curlit_error
					if [ "$N" -ge "$MIN_ALARM" ]; then
							notify_curlit_recovered
					fi
			fi
	fi
}

doit >>log/curlit.log 2>&1
 

 

示例五 使用HttpPost上传数据

一个用于http post的脚本。

Bash代码 复制代码 收藏代码
  1. #!/bin/sh   
  2.   
  3. MS=1350514xxxx   
  4.   
  5. TM=$(date +"%Y%m%d%H%M%S")   
  6. DT=$(date +"%Y%m%d")   
  7.   
  8. cat <<EOF >reqtmp.xml   
  9. <?xml version="1.0" encoding="GBK" ?>   
  10. <OwnPlatForm>   
  11.         <OrigDomain>QZT</OrigDomain>   
  12.         <HomeDomain>BOSS</HomeDomain>   
  13.         <ActivityCode>T5100001</ActivityCode>   
  14.         <ActionCode>0</ActionCode>   
  15.         <TransIDO>$TM</TransIDO>   
  16.         <TransIDH></TransIDH>   
  17.         <ProcessTime>$TM</ProcessTime>   
  18.         <CutOffDay>$DT</CutOffDay>   
  19.         <TestFlag>0</TestFlag>   
  20.         <Content>   
  21.                 <![CDATA[   
  22.                         <BizProcReq>   
  23.                                 <IDType>01</IDType>   
  24.                                 <IDValue>$MS</IDValue>   
  25.                                 <UserCity>14</UserCity>   
  26.                                 <UserCounty>1419</UserCounty>   
  27.                                 <OprCode>01</OprCode>   
  28.                                 <BizType>51</BizType>   
  29.                                 <OprTime>$TM</OprTime>   
  30.                                 <OprSrc>27</OprSrc>   
  31.                                 <ProductInfo>   
  32.                                         <PrdCode>510001</PrdCode>   
  33.                                 </ProductInfo>   
  34.                         </BizProcReq>   
  35.                 ]]>   
  36.         </Content>   
  37. </OwnPlatForm>   
  38. EOF   
  39.   
  40. cat reqtmp.xml   
  41.   
  42.   
  43. URL="http://10.32.140.230:7092/fcgi-bin/UIG_NEWINT"  
  44.   
  45. curl --verbose --upload-file reqtmp.xml  --header "Content-Type: text/xml" "$URL" --output rsptmp.xml   
  46.   
  47. cat rsptmp.xml  
#!/bin/sh

MS=1350514xxxx

TM=$(date +"%Y%m%d%H%M%S")
DT=$(date +"%Y%m%d")

cat <<EOF >reqtmp.xml
<?xml version="1.0" encoding="GBK" ?>
<OwnPlatForm>
        <OrigDomain>QZT</OrigDomain>
        <HomeDomain>BOSS</HomeDomain>
        <ActivityCode>T5100001</ActivityCode>
        <ActionCode>0</ActionCode>
        <TransIDO>$TM</TransIDO>
        <TransIDH></TransIDH>
        <ProcessTime>$TM</ProcessTime>
        <CutOffDay>$DT</CutOffDay>
        <TestFlag>0</TestFlag>
        <Content>
                <![CDATA[
                        <BizProcReq>
                                <IDType>01</IDType>
                                <IDValue>$MS</IDValue>
                                <UserCity>14</UserCity>
                                <UserCounty>1419</UserCounty>
                                <OprCode>01</OprCode>
                                <BizType>51</BizType>
                                <OprTime>$TM</OprTime>
                                <OprSrc>27</OprSrc>
                                <ProductInfo>
                                        <PrdCode>510001</PrdCode>
                                </ProductInfo>
                        </BizProcReq>
                ]]>
        </Content>
</OwnPlatForm>
EOF

cat reqtmp.xml


URL="http://10.32.140.230:7092/fcgi-bin/UIG_NEWINT"

curl --verbose --upload-file reqtmp.xml  --header "Content-Type: text/xml" "$URL" --output rsptmp.xml

cat rsptmp.xml

 

示例六 使用proxy的脚本

Bash代码 复制代码 收藏代码
  1. # usage: do_sync_once <mobile> <codes> <area_id> <opening>   
  2. do_sync_once()   
  3. {   
  4.         mobile=$1  
  5.         codes=$2  
  6.         area_id=$3  
  7.         opening=$4     
  8.            
  9.   
  10.   
  11. curl --silent --max-time 60 --proxy http://10.32.187.170:8080 "http://host/boss/sync.jsp?seq=1251747862492&mobile=$mobile&serviceCodes=$codes&areaId=$area_id&opening=$opening"  
  12.   
  13. }  
# usage: do_sync_once <mobile> <codes> <area_id> <opening>
do_sync_once()
{
        mobile=$1
        codes=$2
        area_id=$3
        opening=$4  
        


curl --silent --max-time 60 --proxy http://10.32.187.170:8080 "http://host/boss/sync.jsp?seq=1251747862492&mobile=$mobile&serviceCodes=$codes&areaId=$area_id&opening=$opening"

}

 

示例七 使用Google AJAX Search API进行搜索

Bash代码 复制代码 收藏代码
  1. # usage: google_search <STR>   
  2. # Google搜索   
  3. google_search()   
  4. {   
  5.         REF="http://codingstandards.iteye.com/"  
  6.         KEY="ABQIAAAAHg_ENG5Yq9pOZd19v64gyxTMcdcN4KfyGCBxustvF1FXdNe4WBQOej_ZiBgIK6-a4M3hTxcVfSkt2g"  
  7.         STR="$1"  
  8.         # 采用网页搜索   
  9.         curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null   
  10.         # 采用博客搜索   
  11.         #curl -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null   
  12.         #curl --retry 5 -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null   
  13.         #curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null   
  14. }  
# usage: google_search <STR>
# Google搜索
google_search()
{
        REF="http://codingstandards.iteye.com/"
        KEY="ABQIAAAAHg_ENG5Yq9pOZd19v64gyxTMcdcN4KfyGCBxustvF1FXdNe4WBQOej_ZiBgIK6-a4M3hTxcVfSkt2g"
        STR="$1"
        # 采用网页搜索
        curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null
        # 采用博客搜索
        #curl -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null
        #curl --retry 5 -e $REF "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN" 2>/dev/null
        #curl --retry 5 -e "$REF" "http://ajax.googleapis.com/ajax/services/search/blogs?v=1.0&q=$STR&hl=zh-CN&key=$KEY" 2>/dev/null
}

 

分享到：
| 将通过find命令找到的文件拷贝到一个新的目 ...
评论
发表评论

您还没有登录,请您登录后再发表评论

相关推荐

    curl-7.83.1.tar.gz版本更新 资源上传

    `curl`是一个强大的命令行工具，用于在命令行下传输数据到或从互联网。它支持多种协议，包括HTTP、HTTPS、FTP、FTPS等，使得用户可以在终端中方便地下载、上传文件，执行POST请求，甚至发送邮件。`curl-7.83.1.tar....

    curl-7.59.0.tar.gz

    curl是一个强大的命令行工具，用于传输数据，支持多种网络协议如HTTP、HTTPS、FTP、FTPS等。这个安装包以`.tar.gz`格式提供，这是一种常见的在Linux中打包和压缩文件的方法。 **关于curl：** 1. **功能**：curl可以...

    curl-7.68.0.tar.gz

    curl是一个强大的命令行工具，用于传输数据，支持多种网络协议，如HTTP、HTTPS、FTP、FTPS等。在PHP扩展安装过程中，curl库通常被用作与远程服务器进行交互的接口，例如发送HTTP请求获取网页内容或执行文件上传下载...

    curl-7.43.0.tar

    curl是一个功能强大的命令行工具，用于传输数据，支持多种网络协议，如HTTP、FTP、SMTP等。其名称curl代表“Client URL”，表明它主要用于处理URL相关的任务。在本文中，我们将围绕curl-7.43.0.tar这一版本进行详细...

    最新版linux curl-7.71.1.tar.gz

    Linux中的curl是一个强大的命令行工具，用于传输数据，支持多种协议如HTTP、HTTPS、FTP、FTPS等。在最新的版本7.71.1中，curl提供了更多的功能和改进，以提升用户在处理网络数据传输时的效率和安全性。本文将深入...

    curl-7.19.7.tar.gz

    《curl-7.19.7.tar.gz：深入解析网络数据传输工具curl的早期版本》 curl是一个开源的命令行工具，用于传输数据到或从URL。它的全名是curl，意为“客户端URL”，其功能强大，支持多种协议，包括HTTP、HTTPS、FTP、...

    curl-7.61.0-win64-mingw.rar

    CURL，全称Client URL Library，是一款强大的命令行工具，用于传输数据到或从服务器，支持多种协议，包括HTTP、HTTPS、FTP、FTPS等。CURL广泛应用于Linux环境中，而“curl-7.61.0-win64-mingw.rar”这个压缩包则是...

    curl-7.64.1-win64-mingw文件

    curl是一个开源的命令行工具，用于传输数据到或从URL，支持多种网络协议如HTTP、HTTPS、FTP、FTPS等。这个版本（7.64.1）是为64位的Windows系统编译的，并且基于mingw编译环境，mingw是GCC（GNU Compiler Collection...

    curl-7.64.0-win64-mingw.zip

    总的来说，`curl-7.64.0-win64-mingw.zip`为Windows用户提供了一个强大的命令行工具，使他们在处理网络数据传输时拥有更多灵活性和控制权。无论是进行日常的文件下载还是开发中的数据交互，curl都是一个不可或缺的...

    curl-7.65.0.tar.gz

    `curl`是一个强大的命令行工具，用于传输数据，支持多种网络协议，包括HTTP、HTTPS、FTP、FTPS等。这个版本是7.65.0，意味着它包含了该软件到2019年中期（因为7.65.0是2019年的发布版本）的所有功能和修复。 ### `...

    curl-7.54.0.tar.gz

    总结来说，curl-7.54.0作为一款强大的网络工具，其功能丰富，应用广泛。无论是简单的文件传输还是复杂的网络数据交互，curl都能提供高效、灵活的解决方案。深入理解和掌握curl的使用，对于网络编程和系统管理都...

    curl-7.72.0_4-win64-mingw.zip

    由于curl的跨平台性，无论是Linux、macOS还是Windows环境，都能找到相应的版本，使得它成为了IT领域的必备工具之一。 总的来说，`curl-7.72.0_4-win64-mingw.zip`提供了一个便捷的途径，让Windows用户能够在命令行...

    curl-7.50.0.tar.gz

    `curl-7.50.0.tar.gz` 是一个经典的开源工具 `curl` 的源代码包，用于在命令行环境中传输数据，支持多种网络协议，包括 HTTP、HTTPS、FTP、FTPS 等。这个版本号表明它是 `curl` 在2016年发布的一个稳定版本，7.50.0...

    curl-7.33.0.tar.gz

    总的来说，`curl-7.33.0.tar.gz` 提供了 PHP 应用程序进行网络通信的强大工具，通过源码编译可以确保与系统环境最佳兼容，并且能够利用最新的特性和修正。开发人员可以利用这些功能实现复杂的数据抓取、API 调用、...

    curl-7.21.0-win64-ssl-sspi

    总结，`curl-7.21.0-win64-ssl-sspi` 是一个功能强大的网络传输工具，尤其适合Windows环境下的开发和运维工作，其SSL和SSPI的支持使得在安全网络环境中执行命令变得更加便捷和安全。通过熟练掌握curl的使用，可以...

    curl-7.28.1.tar.gz

    《curl-7.28.1.tar.gz：Linux版curl工具深度解析》 在IT行业中，curl是一款不可或缺的命令行工具，它广泛用于在各种操作系统上传输数据，特别是通过HTTP、HTTPS、FTP等网络协议。本文将深入探讨“curl-7.28.1.tar....

    windows版curl-7.59.0.zip

    curl是一个强大的命令行工具，用于传输数据，支持多种网络协议，如HTTP、HTTPS、FTP、FTPS等。在Linux和macOS系统中，curl通常被广泛使用，而在Windows环境中，虽然没有内置的curl命令，但可以通过下载预编译的版本...

    用arm-linux-gcc交叉编译 openssl zlib curl

    - **curl**：一个命令行工具及库，用于处理URL传输请求，依赖于openssl和zlib。 #### 二、准备工作 确保Ubuntu系统已经安装完毕，并具备必要的网络访问权限。接下来按照以下步骤准备交叉编译环境： 1. **下载arm-...

    curl-7.64.1_1-win64-mingw.zip

    curl，全名Client URL Library，是一个强大的命令行工具，用于传输数据，如文件、图像、视频等，通过HTTP、HTTPS等多种协议。curl广泛应用于Linux、macOS以及Windows系统中，是开发者进行网络请求调试、数据抓取等...

    curl-7.59.0.zip

    `curl`是一个强大的命令行工具，用于在操作系统中传输数据，尤其在Linux和Unix-like系统中广泛使用。它支持多种协议，包括HTTP、HTTPS、FTP、FTPS等，使得用户可以方便地从命令行界面执行文件下载、上传和其他数据...

Magicbox
Global site tag (gtag.js) - Google Analytics