`
zfj_20130917
  • 浏览: 19210 次
  • 性别: Icon_minigender_2
  • 来自: 上海
社区版块
存档分类
最新评论

php CERL 多线程

阅读更多
curl一般用来抓取网页,第二种就是get或者post数据,第三种应用就是实现PHP的多线程任务。下面来实现多线程的:
01 <?php
02 /*
03 curl 多线程抓取
04 */
05
06 /**
07      * curl 多线程
08      *
09      * @param array $array 并行网址
10      * @param int $timeout 超时时间
11      * @return array
12      */
13 function Curl_http($array,$timeout){
14     $res = array();
15     $mh = curl_multi_init();//创建多个curl语柄
16     $startime = getmicrotime();
17     foreach($array as $k=>$url){
18         $conn[$k]=curl_init($url);
19         
20         curl_setopt($conn[$k], CURLOPT_TIMEOUT, $timeout);//设置超时时间
21         curl_setopt($conn[$k], CURLOPT_USERAGENT, 'Mozilla/5.0 (compatible; MSIE 5.01; Windows NT 5.0)');
22         curl_setopt($conn[$k], CURLOPT_MAXREDIRS, 7);//HTTp定向级别
23         curl_setopt($conn[$k], CURLOPT_HEADER, 0);//这里不要header,加块效率
24         curl_setopt($conn[$k], CURLOPT_FOLLOWLOCATION, 1); // 302 redirect
25         curl_setopt($conn[$k],CURLOPT_RETURNTRANSFER,1);
26         curl_multi_add_handle ($mh,$conn[$k]);
27     }
28      //防止死循环耗死cpu 这段是根据网上的写法
29         do {
30             $mrc = curl_multi_exec($mh,$active);//当无数据,active=true
31         } while ($mrc == CURLM_CALL_MULTI_PERFORM);//当正在接受数据时
32         while ($active and $mrc == CURLM_OK) {//当无数据时或请求暂停时,active=true
33             if (curl_multi_select($mh) != -1) {
34                 do {
35                     $mrc = curl_multi_exec($mh, $active);
36                 } while ($mrc == CURLM_CALL_MULTI_PERFORM);
37             }
38         }
39     
40     foreach ($array as $k => $url) {
41           curl_error($conn[$k]);
42           $res[$k]=curl_multi_getcontent($conn[$k]);//获得返回信息
43           $header[$k]=curl_getinfo($conn[$k]);//返回头信息
44           curl_close($conn[$k]);//关闭语柄
45           curl_multi_remove_handle($mh  , $conn[$k]);   //释放资源
46         }
47         
48         curl_multi_close($mh);
49         $endtime = getmicrotime();
50         $diff_time = $endtime - $startime;
51         
52         return array('diff_time'=>$diff_time,
53                      'return'=>$res,
54                     'header'=>$header      
55                     );
56     
57 }
58 //计算当前时间
59 function getmicrotime() {
60         list($usec, $sec) = explode(" ",microtime());
61         return ((float)$usec + (float)$sec);
62     }
63     
64     //测试一下,curl 三个网址
65     $array = array(
66                 "http://www.weibo.com/",
67                 "http://www.renren.com/",
68                 "http://www.qq.com/"
69                 );
70
71     $data = Curl_http($array,'10');//调用
72     var_dump($data);//输出
73      
74 ?>

因为$active要等全部url数据接受完毕才变成false,所以这里用到了curl_multi_exec的返回值判断是否还有数据,当有数据的时候就不停调用curl_multi_exec,暂时没有数据就进入select阶段,新数据一来就可以被唤醒继续执行。这里的好处就是CPU的无谓消耗没有了。

这个多线程的写法步骤:

   1. 调用curl_multi_init
   2. 循环调用curl_multi_add_handle,这一步需要注意的是,curl_multi_add_handle的第二个参数是由curl_init而来的子handle。
   3. 持续调用curl_multi_exec
   4. 根据需要循环调用curl_multi_getcontent获取结果
   5. 调用curl_multi_remove_handle,并为每个字handle调用curl_close
   6. 调用curl_multi_close
分享到:
评论

相关推荐

    cerl, 面向 C 的CERL2.0 Erlang模型.zip

    连续出现多次的“venus”可能强调了其在CERL2.0中的核心地位,可能是一个关键的通信库或者框架的一部分,用于实现高效、可靠的RPC服务。 开源标签意味着CERL2.0是遵循开放源代码协议发布的,用户可以自由地查看、...

    lotus domino 的历史

    Lotus Domino 是一款历史悠久的企业级协同办公和应用开发平台,起源于1973年的伊利诺伊州立大学Computer-based Education Research Laboratory(CERL)的PLATO Notes系统。随着时间的推移,PLATO Notes发展成为...

    maps_eqc:地图的EQC测试

    针对地图的Erlang QuickCheck测试 在我们的代码库中,地图正变得越来越根深蒂固。 该存储库包含用于针对地图操作运行QuickCheck的完整套件,希望它可以发现或提供稳定的...## Replace with ${ERL_TOP}/bin/cerl -debug

    Loris:C ++类库,用于声音分析,合成和变形-开源

    Loris是CERL声音小组的Kelly Fitz和Lippold Haken开发的用于声音分析,合成和变体的库。 Loris包括C ++类库,Python模块,C可链接接口,命令行实用程序和文档。

    Loris:用于声音分析、合成和变形的 C++ 类库-开源

    Loris 是一个用于声音分析、合成和变形的库,由 CERL Sound Group 的 Kelly Fitz 和 Lippold Haken 开发。 Loris 包括一个 C++ 类库、Python 模块、C-linkable 接口、命令行实用程序和文档。

Global site tag (gtag.js) - Google Analytics