`

windows安装scrapy框架步骤

 
阅读更多
Scrapy简介
Scrapy是一个快速,高效的网页抓取Python框架。主要用于Web抓取&提取信息&格式化数据。经常用此做数据挖掘、检测、测试等。
安装所需软件
python
python
python
安装步骤
1、安装Python
官网下载python(http://www.python.org/ftp/python/2.7.5/python-2.7.5.msi)& 傻瓜安装 将python路径(D:\Python27;D:\Python27\Scripts;)加入环境变量
验证是否安装ok
C:\Users\admin>python
Python 2.7.3 (default, Apr 10 2012, 23:31:26) [MSC v.1500 32 bit (Intel)] on win
32
Type "help", "copyright", "credits" or "license" for more information.
>>>
2、安装setuptools
官网下载setuptools(http://pypi.python.org/pypi/setuptools)& 傻瓜安装
3、安装Zope.Interface
官网下载Zope.Interface(http://pypi.python.org/pypi/zope.interface/)& 傻瓜安装 验证是否安装ok
C:\Users\admin>python
Python 2.7.3 (default, Apr 10 2012, 23:31:26) [MSC v.1500 32 bit (Intel)] on win
32
Type "help", "copyright", "credits" or "license" for more information.
>>> import zope.interface
>>>
4、安装Twisted
安装前需要安装:VCForPython27.msi
下载 VCForPython27.msi 。
地址: http://www.microsoft.com/en-us/download/confirmation.aspx?id=44266

VCForPython27.msi安装成功后再安装Twisted
官网下载Twisted(http://twistedmatrix.com/trac/wiki/Downloads)&   安装python setup.py install


5、安装w3lib
官网下载w3lib(http://pypi.python.org/pypi/w3lib) 安装
#进入插件目录并执行命令安装
>D:\python-plugin\w3lib-1.3>python setup.py install
验证
D:\python-plugin\w3lib-1.3>python
Python 2.7.3 (default, Apr 10 2012, 23:31:26) [MSC v.1500 32 bit (Intel)] on win
32
Type "help", "copyright", "credits" or "license" for more information.
>>> import w3lib
>>>
6、安装libxml2
官网下载libxml2(http://users.skynet.be/sbi/libxml-python/)& 傻瓜安装
7、安装pyOpenSSL
官网下载pyOpenSSL(https://pypi.python.org/pypi/pyOpenSSL)& 傻瓜安装
8、安装scrapy
官网下载scrapy(https://pypi.python.org/pypi/Scrapy) 安装
#进入scrapy目录并执行安装
>D:\python-plugin\Scrapy-0.16.5>python setup.py install
验证
D:\python-plugin\Scrapy-0.16.5>scrapy
Scrapy 0.16.5 - no active project

Usage:
  scrapy <command> [options] [args]

Available commands:
  fetch         Fetch a URL using the Scrapy downloader
  runspider     Run a self-contained spider (without creating a project)
  settings      Get settings values
  shell         Interactive scraping console
  startproject  Create new project
  version       Print Scrapy version
  view          Open URL in browser, as seen by Scrapy

  [ more ]      More commands available when run from project directory

Use "scrapy <command> -h" to see more info about a command

D:\python-plugin\Scrapy-0.16.5>
安装完毕 OK




如果出现:error: ('The read operation timed out',) 错误
进入:
cd D:\anzhuang\Python27\Scripts
D:\anzhuang\Python27\Scripts>pip --default-timeout=100 install -U scrapy
等待安装成功

分享到:
评论

相关推荐

    windows下完整版安装Python Scrapy安装步骤教程

    在Windows环境下安装Scrapy需要遵循一系列步骤,下面将详细介绍整个过程。 首先,确保你的计算机已经安装了Python。Scrapy依赖于Python运行环境,因此在安装Scrapy之前,你需要在官方网站...

    python安装scrapy框架适用windows64位系统

    通过以上步骤,你将在Windows 64位系统上成功安装和配置Scrapy框架,开始你的Web抓取之旅。记得在实际操作中,遵循网站的robots.txt规则,并尊重数据抓取的道德准则。同时,持续关注Python和Scrapy的更新,以获取...

    Scrapy框架安装.pdf

    本文将介绍Scrapy框架的安装步骤,包括在Windows、Linux和Mac OS三个操作系统上的安装方法。 一、Windows下的安装 在Windows下安装Scrapy需要使用pip工具,pip是Python的软件包管理器。首先,需要安装Python,如果...

    Python2.7下安装Scrapy框架步骤教程

    在Python2.7环境下安装Scrapy可能涉及到多个步骤,因为Scrapy并不支持Python3.0以上的版本。以下是对整个安装过程的详细说明: 1. **安装Python2.7**: - 首先,确保你的系统中没有不兼容的Python版本,如Python...

    Python2.7-64bit-win-爬虫框架Scrapy安装配置相关资源

    在 Windows 7 64 位操作系统上安装 Python 2.7.10 和 Scrapy 爬虫框架,需要遵循以下步骤: 首先,确保你的计算机满足基本的硬件和软件需求。Windows 7 64 位系统应该可以支持 Python 2.7 和 Scrapy。下载适合你的...

    Scrapy框架搭建.7z

    在文件列表中的"Scrapy框架搭建步骤.txt"可能包含了更详细的步骤或注意事项,根据文件内容,你可能需要进一步阅读和执行其中的指南。例如,配置Scrapy项目、创建爬虫、定义爬取规则、设置中间件和管道等。 总的来说...

    python2.7安装Scrapy.docx

    通过上述步骤,我们可以在Python 2.7环境下成功安装Scrapy框架,并进行基本的验证操作。在整个安装过程中需要注意各组件之间的兼容性问题,确保所有必需的库和工具都已正确安装。此外,在安装过程中遇到任何问题时,...

    scrapy安装文档1

    Scrapy安装文档1 Scrapy是Python下的一个爬虫框架,它提供了一个灵活的方式来爬取网站的数据。本文档将指导您如何安装Scrapy的依赖项和...按照本文档的步骤,您可以轻松地安装Scrapy框架,并开始爬取网站的数据。

    Scrapy完整环境安装所需文件

    Scrapy是一个强大的Python爬虫框架,用于高效地构建和运行网络爬虫项目。要搭建一个完整的Scrapy环境,首先需要确保你有一台装有Python的计算机。...熟悉并掌握Scrapy框架,能让你在数据抓取和网络爬虫领域游刃有余。

    Scrapy框架安装依赖插件.rar

    至此,你已经在Windows 10的Python 3.8环境中成功安装了Scrapy框架及其依赖插件,可以开始编写和运行你的爬虫程序了。 在实际开发中,你可能还需要了解Scrapy的基本架构,如Spiders、Items、Pipelines、Middlewares...

    安装python的Scrapy爬虫框架所需的所有安装包

    5. **安装Scrapy**: 在完成上述依赖安装后,可以安装Scrapy框架。打开命令行并运行: ``` pip install scrapy ``` 6. **验证安装**: 安装完成后,可以通过创建一个新的Scrapy项目来测试是否成功。在命令行中输入...

    scrapy安装所需vc++

    总的来说,安装VC++环境对于在Windows上使用Python的Scrapy框架至关重要。确保正确安装了VC++ Redistributable或完整版的Visual Studio,可以解决Python安装过程中因缺少编译器而产生的问题,使你能够顺利地进行...

    scrapy安装所需的安装包

    在Windows 7系统下安装Scrapy,首先需要确保已经安装了Python环境,因为Scrapy是基于Python的。在这个场景中,特别提到了"py2.6",意味着我们将讨论在Python 2.6环境下安装Scrapy。 **1. 安装Python 2.6** 首先,你...

    Scrapy 全部文件 和 安装步骤

    本教程将详细介绍Scrapy的组成部分及其安装步骤。 首先,让我们来理解Scrapy的各个组件: 1. **爬虫(Spiders)**:爬虫是Scrapy的核心,负责定义如何从网站中提取数据。你可以根据需求编写多个爬虫,每个爬虫可以...

    Python入门教程-网络爬虫Scrapy框架

    总的来说,通过这个Python网络爬虫Scrapy框架的入门教程,初学者将能够构建自己的爬虫项目,实现对目标网站的内容抓取和数据提取。掌握Scrapy不仅可以提升你的数据获取能力,也为数据分析、信息监控等工作提供了强大...

    python-scrapy安装问题详解

    Scrapy是一个快速高级的网页爬虫框架,专门用于抓取网站数据并从页面中提取结构化数据。...安装Scrapy时,除了遵循官方文档的步骤,也需要注意相关依赖库的兼容性和系统环境的配置,确保Scrapy框架能够顺利运行。

Global site tag (gtag.js) - Google Analytics