`

php获取网页内容方法总结

    博客分类:
  • php
 
阅读更多

原文:php获取网页内容方法总结

 

用php抓取页面的内容在实际的开发当中是非常有用的,如作一个简单的内容采集器,提取网页中的部分内容等等

 

 

抓取到的内容在通过正则表达式做一下过滤就得到了你想要的内容,至于如何用正则表达式过滤,在这里就不做介绍了,有兴趣的,以下就是几种常用的用php抓取网页中的内容的方法。
1.file_get_contents
PHP代码

复制代码 代码如下:

<?php
$url = "http://www.jb51.net";
$contents = file_get_contents($url);
//如果出现中文乱码使用下面代码
//$getcontent = iconv("gb2312", "utf-8",$contents);
echo $contents;
?>


2.curl
PHP代码

复制代码 代码如下:

<?php
$url = "http://www.jb51.net";
$ch = curl_init();
$timeout = 5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
//在需要用户检测的网页里需要增加下面两行
//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);
//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);
$contents = curl_exec($ch);
curl_close($ch);
echo $contents;
?>


3.fopen->fread->fclose
PHP代码

复制代码 代码如下:

<?php
$handle = fopen ("http://www.jb51.net", "rb");
$contents = "";
do {
$data = fread($handle, 1024);
if (strlen($data) == 0) {
break;
}
$contents .= $data;
} while(true);
fclose ($handle);
echo $contents;
?>


注:
1. 使用file_get_contents和fopen必须空间开启allow_url_fopen。方法:编辑php.ini,设置 allow_url_fopen = On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
2.使用curl必须空间开启curl。方法:windows下修改php.ini,将extension=php_curl.dll前面的分 号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安装curl扩 展。

分享到:
评论

相关推荐

    PHP 获取网页内容的三种方法

    本文将详细探讨标题“PHP获取网页内容的三种方法”,帮助开发者了解如何利用PHP抓取和处理网页数据。 1. cURL库 cURL是PHP中最常用的方法之一,用于获取网页内容。cURL库提供了一组强大的函数,可以模拟HTTP请求,...

    PHP 获取页面内容和保存页面内容

    本文将深入探讨如何使用PHP获取页面内容以及保存页面内容,这在数据抓取、网页备份、内容分析等多个场景中都有实际应用。 首先,我们要了解如何使用PHP获取页面内容。在PHP中,可以使用内置的`file_get_contents()`...

    php应用curl扩展抓取网页类

    本篇文章将深入探讨如何使用PHP的cURL扩展来抓取网页内容,以及如何创建一个类来封装这个功能。我们将讨论以下几个方面: 1. **cURL介绍** cURL是一个命令行工具,同时也提供了PHP的扩展,使得开发者可以在PHP脚本...

    php生成html文件方法总结

    这种方法可以将网页的内容捕获到一个变量中,然后将该变量的内容写入文件。具体步骤如下: 1. **开启输出缓冲**:在需要捕获的输出开始之前调用`ob_start()`。 2. **获取缓冲内容**:在页面输出完毕后,使用`ob_get...

    网页源码获取类(php)

    网页源码获取类在PHP中通常用于从远程服务器抓取网页内容,这在进行数据分析、爬虫开发或者网站镜像创建等场景下非常有用。PHP提供了多种方式来实现这一功能,其中最常用的可能是使用`file_get_contents()`函数、...

    获取网站PHP文件方法

    ### 获取网站PHP文件的方法 #### 一、涉及的危险函数:`include()`、`require()`、`include_once()`、`require_once()` 在探讨如何获取网站中的PHP文件之前,我们首先需要了解几个基本且重要的PHP函数:`include()...

    PHP抓取网页、解析HTML常用的方法总结

    本文将重点总结PHP在网页抓取和HTML解析方面常用的方法。 首先,我们来探讨PHP实现网页抓取的方法。网页抓取主要是指从其他网站获取数据的过程,这些数据可能包括HTML、文本、图片等多种格式。以下是PHP中常见的几...

    JS从PHP获取数据显示在网页

    总结起来,JS从PHP获取数据显示在网页的过程中,需要利用AJAX技术实现异步通信,PHP作为服务器端负责处理数据,通过JSON格式进行数据交换。在处理大量数据时,需要考虑分页、延迟加载、数据压缩和异步处理等策略,以...

    php抓取图片的函数类.zip

    在PHP编程中,抓取网页上的图片并保存到本地是一个常见的需求,这通常涉及到网络请求、数据解析以及文件操作等多个方面。"php抓取图片的函数类.zip" 提供了一个专门用于图片抓取的PHP类库,可以帮助开发者更加便捷地...

    PHP抓取网页数据插入数据库

    总结起来,"PHP抓取网页数据插入数据库"是一个涵盖HTTP请求、HTML解析、数据处理、数据库操作等多个环节的过程。在实际应用中,如监控银行网站上的实时汇率,这一技术可以帮助我们自动化地收集并存储信息,为业务...

    phpQuery支持抓取网站,进行爬虫,非常强大

    抓取网页内容** 在互联网世界中,数据无处不在,但并非总以易于访问的形式存在。PHPQuery提供了一种方法,可以通过HTTP请求获取网页源代码,并利用其强大的DOM操作功能,定位并提取所需的数据。你可以通过CSS选择...

    php文件缓存方法总结

    在PHP开发中,文件缓存是一种常见的优化策略,它能够减少服务器对数据库的访问,提高网站性能。本文将深入探讨PHP文件缓存方法,并通过一个简单的缓存类`cache`来展示其实现。 首先,文件缓存的基本原理是将动态...

    新手学习PHP问题总结.

    有时候我们需要从远程服务器上抓取网页内容,例如RSS源或者其他网页的信息。这通常可以通过打开一个URL连接并读取其内容实现。 **示例代码:** ```php function getRssContent($url) { $handle = fopen($url, "rb...

    php写的网页小偷 自动抓取网页并在本地重新生成HTML文件

    当网页小偷程序抓取网页时,它也会下载相关的CSS文件。为了确保本地生成的HTML文件正常显示,程序需要将CSS内容内联到HTML中,或者将它们保存为独立文件并更新HTML文件中的引用路径。同样,图片和其他外部资源的URL...

    开源php搜索引擎-蜘蛛程序

    【开源php搜索引擎-蜘蛛程序】是一种基于PHP和MySQL的轻量级搜索引擎实现,它被设计为一个蜘蛛程序,能够自动地爬行指定的网站,抓取网页内容,并对其进行处理,生成关键词和索引。这样的系统对于提升网站的用户体验...

    php中页面之间传递变量方法总结

    ### PHP中页面之间传递变量方法总结 在进行网站开发时,常常需要实现在不同页面间共享数据的功能。例如,登录认证后的用户信息需要在多个页面中保持一致等场景。为了实现这一需求,PHP提供了多种机制来帮助开发者在...

    基于PHP的九站影视php视频电影网站系统API免费版源码.zip

    总结,这个“九站影视”视频电影网站系统利用PHP的强大功能,实现了丰富的视频内容展示、用户交互和API接口服务。对于想要学习PHP Web开发或构建类似项目的人来说,这是一个很好的学习资源。通过深入理解和修改这套...

Global site tag (gtag.js) - Google Analytics