`
jinheking
  • 浏览: 77687 次
  • 性别: Icon_minigender_1
社区版块
存档分类
最新评论

Python通过HTTP协议定期抓取文件(ZT)

阅读更多
#!usr/bin/python

import urllib2,time;
class ErrorHandler(urllib2.HTTPDefaultErrorHandler):
    def http_error_default(self, req, fp, code, msg, headers):
        result = urllib2.HTTPError(req.get_full_url(), code, msg, headers, fp)
        result.status = code
        return result

URL='http://www.ibm.com/developerworks/js/ajax1.js'
req=urllib2.Request(URL)
mgr=urllib2.build_opener(ErrorHandler())

while True:
    ns=mgr.open(req)
    if(ns.headers.has_key('last-modified')):
        modified=ns.headers.get('last-modified')
    if(ns.code==304):
        print '''
          ==============================
              NOT MODIFIED
          ==============================
        '''
    elif(ns.code==200):
        print ns.read()
    else:
        print 'there is an error';
        
    if(not locals().has_key('modified')):
        modified=time.time();
    req.add_header('If-Modified-Since',modified)
    time.sleep(10)
分享到:
评论

相关推荐

    Python-游戏协议数据抓取解析工具

    本文将深入探讨一个基于Python的游戏协议数据抓取解析工具,该工具利用了wxWidgets、pywin32和WinPcap库来实现其功能。让我们逐一了解这些关键组件。 首先,`wxWidgets` 是一个跨平台的GUI工具包,用于帮助开发者...

    Python 语言实现的抓取网页内容与列文件目录

    在Python编程领域,数据抓取(Web Scraping)和文件管理是两个重要的实践技能。Python以其简洁易读的语法和丰富的库支持,成为了这两个领域的首选工具。本篇将重点讲解如何利用Python抓取网页内容以及如何列文件目录...

    python爬虫,如何抓取网页数据

    python爬虫,如何抓取网页数据; python爬虫,如何抓取网页数据; python爬虫,如何抓取网页数据; python爬虫,如何抓取网页数据; python爬虫,如何抓取网页数据; python爬虫,如何抓取网页数据; python爬虫,...

    Python实现抓取HTML网页并以PDF文件形式保存的方法

    【Python实现抓取HTML网页并以PDF文件形式保存的方法】 在Python编程中,有时我们需要将网页内容抓取下来并保存为PDF格式,以便于离线阅读或者方便打印。本篇将详细介绍如何使用Python来实现这一功能,主要涉及的库...

    使用Python实现windows下的抓包与解析

    通过本文介绍的方法,开发者或网络安全研究人员能够在Windows环境下使用Python便捷地抓取和分析网络数据包,这对于网络故障排查、安全监控和协议分析等工作具有重要的实践价值。同时,对于学习网络协议和提高网络...

    python通过paramiko复制远程文件及文件目录到本地

    利用该模块,可以方便的进行ssh连接和sftp协议进行sftp文件传输以及远程命令执行。 安装paramiko也很简单,我用的是python3,装好了pip,可以直接用pip来安装。 不过由于 paramiko 模块内部依赖pycrypto,所以先...

    python编写的淘宝数据抓取工具

    - 通过Item Pipeline,我们可以对抓取到的数据进行清洗、去重、格式化,并最终保存到数据库或文件中。例如,可以使用JSON、CSV或MongoDB作为数据存储方式。 5. **异常处理和错误恢复**: - 爬虫在运行过程中可能...

    python小程序:数据抓取入库

    综上所述,这个"python小程序:数据抓取入库"项目涉及到Python的Web抓取、数据库操作、配置文件解析等多个方面,是学习Python实战技能的好例子。通过这个项目,你可以深入了解如何利用Python进行数据抓取和入库,...

    基于Python的斗鱼直播数据抓取爬虫设计源码

    该项目为基于Python语言的斗鱼直播数据抓取爬虫设计源码,包含282个Python文件、24个Python扩展文件、11个可执行文件、6个动态链接库文件、5个文本文件、4个XML文件、2个Python缓存文件、2个配置文件、2个批处理文件...

    python爬虫项目——自动批量抓取m3u8网页视频

    Python可以通过subprocess模块调用ffmpeg命令行工具,进行文件格式转换和合并操作。例如,可以使用以下命令将所有ts文件合并为一个MP4文件: ```bash ffmpeg -f concat -i <(for f in *.ts; do echo "file '$PWD/$f...

    地图瓦片抓取之python

    1. **HTTP请求**:地图瓦片通常是通过HTTP或HTTPS协议提供的,因此我们需要了解如何使用Python的`requests`库来发送GET请求,获取指定URL的瓦片图片。例如: ```python import requests response = requests.get...

    python实现串口传文件(调用PCOMM.dll Zmodem协议传输)

    python实现调用PCOMM.dll Zmodem协议传文件, 顺带PcommLite 内含C++,DELPHI,VB 例子,以及 PCOMM.dll PCOMM.LIB, 还有linux系统rz/sz命令安装包 ( 我用来从windows传文件到Linux系统的,网上有几个python实现...

    python 抓取百度云分享数据,百度云最新接口抓取分享链接

    在Python中,我们可以使用requests库来发送HTTP请求,它支持GET和POST等HTTP方法,非常适合进行网络数据抓取。在请求时,我们需要提供URL(即百度云的API地址)以及可能需要的参数,比如分享链接的ID、访问密钥等。 ...

    Python网页数据抓取以及表格的制作

    本主题将深入探讨如何使用Python进行网页数据抓取,并介绍如何利用这些数据创建表格,同时涉及CSS文件的生成和字体的修改。 首先,网页数据抓取是通过Python中的库如BeautifulSoup或Scrapy来实现的。BeautifulSoup...

    Python实现爬虫抓取与读写、追加到excel文件操作示例

    总结,本示例主要展示了Python如何通过爬虫抓取网页数据,以及如何将这些数据存储到Excel文件中。通过学习这一示例,你可以掌握基本的网络爬虫技术和Excel文件操作技巧,为后续的数据分析和处理奠定基础。

    Python27 豆瓣影评抓取 源码 及插件下载

    在本资源中,我们主要关注的是使用Python27版本进行豆瓣影评的抓取。Python是一种广泛使用的高级编程语言,特别适合于网络爬虫开发,因为它有丰富的库支持,如BeautifulSoup、Scrapy等,可以方便地解析和提取网页...

    Python数据抓取技术与实战.pdf

    由于提供的文件信息中并没有具体的Python数据抓取技术与实战内容,我无法生成具体的技术知识点。但是,我可以根据标题“Python数据抓取技术与实战.pdf”来构建一些关于Python数据抓取的基础知识点和实战技巧。 知识...

    通过python爬虫批量下载PDF文件

    在Python编程领域,爬虫是一种常见的技术,用于自动化地从互联网上抓取数据。本案例中,我们将讨论如何使用Python爬虫批量下载PDF文件,特别是针对教育类资源,如人教版学生教材。这个过程涉及到了几个关键的技术点...

    基于Python的FastestDet低配视觉抓取改版设计源码

    该项目是针对FastestDet视觉抓取技术进行低配版本改版的Python源码,总计包含103个文件,涵盖Python脚本、Shell脚本、C++代码以及配置文件、图片和文档等。其中,包含33个.pth文件用于环境配置,17个.jpg和9个.png...

Global site tag (gtag.js) - Google Analytics