`

curl_init()和curl_multi_init()多线程的速度比较

    博客分类:
  • PHP
阅读更多

php中curl_init()的作用很大,尤其是在抓取网页内容或文件信息的时候,例如之前文章curl获得header检测GZip压缩的源代码就介绍到curl_init()的强大。

curl_init()处理事物是单线程模式,如果需要对事务处理走多线程模式,那么php里提供了一个函数curl_multi_init()给我们,这就是多线程模式处理事务的函数。

curl_init()与curl_multi_init()的速度比较

curl_multi_init()多线程能提高网页的处理速度吗?今天我通过实验来验证一下这个问题。

今天我的测试很简单,那就是要抓取www.webkaka.com网页的内容,要连续抓5次,分别用curl_init()和curl_multi_init()函数来完成,记录两者的耗时,比较得出结论。

首先,用curl_init()单线程连续抓5次www.webkaka.com网页的内容。

程序代码如下:

<?php
$mtime = explode(" ", microtime());
$mtime = $mtime[1].($mtime[0] * 1000);
$mtime2 = explode(".", $mtime);
$mtime = $mtime2[0]; 
echo $mtime;
echo "<br>";
for($i=1; $i<=5; $i++){
$szUrl = 'http://www.webkaka.com/';
$curl = curl_init();
curl_setopt($curl, CURLOPT_URL, $szUrl);
curl_setopt($curl, CURLOPT_HEADER, 0);
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($curl, CURLOPT_ENCODING, '');
$data=curl_exec($curl); 
echo $data;
echo "<br>";
$mtime_ = explode(" ", microtime());
$mtime_ = $mtime_[1].($mtime_[0] * 1000);
$mtime2_ = explode(".", $mtime_);
$mtime_ = $mtime2_[0]; 
echo $mtime_;
echo "<br>";
echo $mtime_ - $mtime;
}
?>

 

然后,用curl_multi_init()多线程连续抓5次www.webkaka.com网页的内容。

代码如下:

<?php
echo date("Y-m-d H:m:s",time());
echo " ";
echo floor(microtime()*1000);
echo "<br>";
$mtime = explode(" ", microtime());
$mtime = $mtime[1].($mtime[0] * 1000);
$mtime2 = explode(".", $mtime);
$mtime = $mtime2[0]; 
echo $mtime;
echo "<br>";
$urls = array(
'http://www.webkaka.com', 
'http://www.webkaka.com', 
'http://www.webkaka.com', 
'http://www.webkaka.com', 
'http://www.webkaka.com');
print_r(async_get_url($urls)); // [0] => example1, [1] => example2
echo "<br>";
echo date("Y-m-d H:m:s",time());
echo " ";
echo floor(microtime()*1000);
echo "<br>";
$mtime_ = explode(" ", microtime());
$mtime_ = $mtime_[1].($mtime_[0] * 1000);
$mtime2_ = explode(".", $mtime_);
$mtime_ = $mtime2_[0]; 
echo $mtime_;
echo "<br>";
echo $mtime_ - $mtime;

function async_get_url($url_array, $wait_usec = 0)
{
    if (!is_array($url_array))
        return false;
    $wait_usec = intval($wait_usec);
    $data    = array();
    $handle  = array();
    $running = 0;
    $mh = curl_multi_init(); // multi curl handler
    $i = 0;
    foreach($url_array as $url) {
        $ch = curl_init();
        curl_setopt($ch, CURLOPT_URL, $url);
        curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); // return don't print
        curl_setopt($ch, CURLOPT_TIMEOUT, 30);
        curl_setopt($ch, CURLOPT_USERAGENT, 'Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0)');
        curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1); // 302 redirect
        curl_setopt($ch, CURLOPT_MAXREDIRS, 7);
        curl_multi_add_handle($mh, $ch); // 把 curl resource 放进 multi curl handler 里
        $handle[$i++] = $ch;
    }
    /* 执行 */
    do {
        curl_multi_exec($mh, $running);
        if ($wait_usec > 0) /* 每个 connect 要间隔多久 */
            usleep($wait_usec); // 250000 = 0.25 sec
    } while ($running > 0);
    /* 读取资料 */
    foreach($handle as $i => $ch) {
        $content  = curl_multi_getcontent($ch);
        $data[$i] = (curl_errno($ch) == 0) ? $content : false;
    }
    /* 移除 handle*/
    foreach($handle as $ch) {
        curl_multi_remove_handle($mh, $ch);
    }
    curl_multi_close($mh);
    return $data;
}
?>

 

为了避免随机性,我分别测了5次(用CTRL+F5强行刷新的方式),数据如下:

curl_init():

  第一次 第二次 第三次 第四次 第五次 平均
耗时(ms) 3724 3615 2540 1957 2794 2926

curl_multi_init():

  第一次 第二次 第三次 第四次 第五次 平均
耗时(ms) 4275 2912 3691 4198 3891 3793

从测试结果来看,我们发现两种方法的耗时差不了太多,只有700多毫秒。很多人原本以为多线程比单线程耗时会短很多,实际上并不是这样的,从数据来看,多线程反而比单线程耗时更多了一点。不过,对于某些事务来说,用多线程来处理不一定是为了追求速度,这个是需要注意的。

  • 关于curl_multi_init()

    一般来说,想到要用curl_multi_init()时,目的是要同时请求多个url,而不是一个一个依次请求,否则就要curl_init()了。

    不过,在使用curl_multi的时候,你可能遇到cpu消耗过高、网页假死等现象,可以看看如何解决curl_multi导致网页假死的问题

    使用curl_multi的步骤总结如下:

    第一步:调用curl_multi_init
    第二步:循环调用curl_multi_add_handle
    这一步需要注意的是,curl_multi_add_handle的第二个参数是由curl_init而来的子handle。
    第三步:持续调用curl_multi_exec
    第四步:根据需要循环调用curl_multi_getcontent获取结果
    第五步:调用curl_multi_remove_handle,并为每个字handle调用curl_close
    第六步:调用curl_multi_close

    各函数作用解释:

    curl_multi_init()
    初始化一个curl批处理句柄资源。

    curl_multi_add_handle()
    向curl批处理会话中添加单独的curl句柄资源。curl_multi_add_handle()函数有两个参数,第一个参数表示一个curl批处理句柄资源,第二个参数表示一个单独的curl句柄资源。

    curl_multi_exec()
    解析一个curl批处理句柄,curl_multi_exec()函数有两个参数,第一个参数表示一个批处理句柄资源,第二个参数是一个引用值的参数,表示剩余需要处理的单个的curl句柄资源数量。

    curl_multi_remove_handle()
    移除curl批处理句柄资源中的某个句柄资源,curl_multi_remove_handle()函数有两个参数,第一个参数表示一个curl批处理句柄资源,第二个参数表示一个单独的curl句柄资源。

    curl_multi_close()
    关闭一个批处理句柄资源。

    curl_multi_getcontent()
    在设置了CURLOPT_RETURNTRANSFER的情况下,返回获取的输出的文本流。

    curl_multi_info_read()
    获取当前解析的curl的相关传输信息。

    实例
    请看本文里async_get_url()的写法。

 

转自网上http://www.webkaka.com/tutorial/php/2013/102843/,以后用得到时再做评价,只是为了笔记而记。

 

分享到:
评论

相关推荐

    php使用curl_init()和curl_multi_init()多线程的速度比较详解

    然而,需要注意的是,`curl_multi_init()` 并不总是比`curl_init()` 快,因为多线程并不总是能够充分利用所有硬件资源,特别是当网络延迟成为主要瓶颈时。此外,多线程处理会增加程序复杂性,并可能导致资源消耗增加...

    curl线程池多线程调用

    在`curl`的多线程和线程池应用中,通过合理分配线程数量和任务,可以显著提高系统处理并发请求的能力,使得服务端接口能更快地响应和处理请求。 4. **资源分配与冲突管理**:在使用多线程和线程池时,必须考虑到...

    CurlMulti 一个php多线程类库

    提供的"CurlMulti-master"可能是该多线程库的一个版本或者示例代码仓库,包含类库的源码和其他相关文件,供开发者下载学习和应用到自己的项目中。下载后,可以通过阅读源码了解其实现细节,并根据实际需求进行定制...

    Curl.zip_C++ curl_DEMO_c++ curl_curl_curl c++

    - CURL库支持多线程,可以同时处理多个请求,使用`curl_multi_init()`和`curl_multi_add_handle()`等函数进行管理。 通过Curl.zip中的DEMO,我们可以看到这些概念如何在实际代码中体现,学习如何将CURL库有效地...

    PHP用法CURL_MULTI实现多线程采集的例子_.docx

    `cURL`库提供了一种解决方案,通过`CURL_MULTI`接口支持多线程请求,大大提高了处理速度。本文将详细介绍如何使用PHP的`CURL_MULTI`实现多线程数据采集,并分析其在性能优化上的优势。 首先,我们来看一个简单的`...

    PHP使用CURL_MULTI实现多线程采集的例子

    这个例子中,通过比较使用`curl_multi`和`file_get_contents`获取相同数量的网页所需的时间,可以明显看出使用CURL_MULTI的性能优势。对于需要处理大量HTTP请求的场景,使用多线程采集可以显著提升程序的运行速度。 ...

    php curl_init函数用法

    在执行多线程或批量操作时,可以使用 `curl_multi_init()` 和相关多线程 cURL 函数。 `curl_exec()` 用于执行初始化的 cURL 会话,返回执行结果。如果发生错误,可以通过 `curl_errno()` 获取错误号,`curl_error()...

    利用curl 多线程 模拟 并发的详解

    总结起来,使用`curl`的多线程功能可以有效地并发处理多个网络请求,通过`curl_multi_init`、`curl_multi_add_handle`、`curl_multi_exec`等函数组合,可以构建出高效的数据抓取或请求系统。同时,通过合理地使用`...

    curl-7.37.0简单下载多线程下载断点续载范例_非常简洁

    这个示例展示了如何使用 libcurl 创建多线程下载任务,每个 `easy_handle` 表示一个线程,通过 `curl_multi_perform` 进行同步执行。 总结,`curl` 是一个强大且灵活的工具,提供了丰富的功能来处理网络数据传输。...

    WWW-Curl-3_per_www_curl_源码.rar

    7. **多线程支持**:Curl库支持多线程操作,允许同时进行多个网络请求,通过`curl_multi_init()`和`curl_multi_add_handle()`等函数实现。 8. **安全特性**:Curl支持SSL/TLS加密,可以处理HTTPS请求,同时可以进行...

    PHP使用curl_multi实现并发请求的方法示例

    首先,使用`curl_multi_init`创建一个`CURLM`多会话对象`$downloader`。然后,将所有待请求的CURL句柄(`$chList`)添加到`$downloader`中。`CURLM_CALL_MULTI_PERFORM`是初始化过程的一部分,确保所有资源准备就绪...

    php利用curl实现多线程类.zip

    在这种情况下,单线程的请求方式效率低下,而利用curl实现多线程可以显著提高处理速度。本文将深入探讨如何在PHP中利用curl创建多线程类,以提升程序的性能。 首先,我们要理解curl在PHP中的作用。cURL是客户端URL...

    curl_multi_thread_long.rar

    接着,引入pthreadpool,这是一个轻量级的多线程库,用于创建线程池,它可以有效地管理和调度线程,减少线程创建和销毁的开销,提高系统的并发性能。在libcurl中结合使用pthreadpool,可以实现多线程处理HTTP请求,...

    php的curl多线程采集

    3. **非阻塞模式**:在多线程环境中,可以将`curl_multi_exec()`放入一个循环,使用`curl_multi_select()`或`stream_select()`函数来判断是否有可读写事件发生,这样可以避免程序在等待I/O时浪费CPU资源。...

    php多线程请求url数据(get)共2页.pdf.zip

    下面是一个简单的使用curl_multi_init实现多线程GET请求的例子: ```php $urls = array('http://example1.com', 'http://example2.com', ...); // URL列表 $mh = curl_multi_init(); foreach ($urls as $url) { $...

    PHP技巧PHPCURL函数库.doc

    7. `curl_multi_`系列函数:这些函数用于处理多线程(或多进程)的cURL请求,如`curl_multi_init()`创建批处理句柄,`curl_multi_add_handle()`添加处理任务,`curl_multi_exec()`执行批处理,`curl_multi_remove_...

    php中的curl_multi系列函数使用例子

    在PHP编程中,使用cURL库发送HTTP请求是常见的需求,而cURL的多线程请求能力则通过curl_multi系列函数实现。这些函数允许程序员同时处理多个URL的请求,比起顺序执行,使用curl_multi可以大大提高应用的响应速度和...

    CUrl_windows

    使用`curl_multi_init`和`curl_multi_add_handle`等函数来创建并管理多线程请求。 总的来说,CURL在Windows平台上为C++开发者提供了强大的网络通信功能,通过其丰富的API和易于集成的特性,可以轻松地在应用程序中...

    vs使用curl模板(包含静态动态库)

    - 如果你的应用是多线程的,可能需要使用`curl_multi_init()`和`curl_multi_add_handle()`来管理多个并发请求。注意线程安全和资源同步。 7. **HTTPS支持**: - 要处理HTTPS请求,需要安装并配置SSL/TLS库,如...

Global site tag (gtag.js) - Google Analytics