`

Scrapy安装步骤及错误汇总:scrapy OpenSSL error: command ‘gcc’ failed with exit status 1

 
阅读更多
原文地址:http://blog.csdn.net/iloveyin/article/details/13623647


Scrapy安装步骤及错误汇总:scrapy OpenSSL error: command ‘gcc’ failed with exit status 1
分类: Python 2013-10-30 11:10 609人阅读 评论(0) 收藏 举报
安装easy_install:wget -q http://peak.telecommunity.com/dist/ez_setup.py; python ez_setup.py
安装libxml和openssl(scrapy依赖需要用到):yum -y install gcc  python27-devel  libxml2 libxml2-devel libxslt libxslt-devel openssl libffi-devel
安装pyopenssl(el5和centos5需要打补丁,6可以忽略该步骤):wget https://pypi.python.org/packages/source/p/pyOpenSSL/pyOpenSSL-0.13.1.tar.gz#md5=e27a3b76734c39ea03952ca94cc56715 https://bugs.launchpad.net/pyopenssl/+bug/845445/+attachment/2666639/+files/pyOpenSSL-0.13.centos5.patch --no-check-certificate; tar xzvf pyOpenSSL-0.13.1.tar.gz; mv pyOpenSSL-0.13.centos5.patch pyOpenSSL-0.13.1; cd pyOpenSSL-0.13.1; patch -p1 < pyOpenSSL-0.13.centos5.patch; python setup.py install; cd ..; rm -fr pyOpenSSL-0.13.1*
安装PIL:wget http://effbot.org/media/downloads/Imaging-1.1.7.tar.gz; tar xzvf Imaging-1.1.7.tar.gz; python Imaging-1.1.7/setup.py install; rm -fr Imaging-1.1.7*
easy_install-2.7 scrapy pyquery scrapy-redis pymongo
cp /usr/local/bin/scrapy /usr/bin/scrapy(要不crontab默认的sh是/usr/bin,找不到scrapy)

cat sohu.log | egrep 'Scrapy 0.18.4 started|INFO: Dumping Scrapy stats:' | tail -4

在安装scrapy出现了这个错误

OpenSSL/ssl/connection.c: In function ‘ssl_Connection_set_context’:
OpenSSL/ssl/connection.c:289: warning: implicit declaration of function ‘SSL_set_SSL_CTX’
OpenSSL/ssl/connection.c: In function ‘ssl_Connection_get_servername’:
OpenSSL/ssl/connection.c:313: error: ‘TLSEXT_NAMETYPE_host_name’ undeclared (first use in this function)
OpenSSL/ssl/connection.c:313: error: (Each undeclared identifier is reported only once
OpenSSL/ssl/connection.c:313: error: for each function it appears in.)
OpenSSL/ssl/connection.c:320: warning: implicit declaration of function ‘SSL_get_servername’
OpenSSL/ssl/connection.c:320: warning: assignment makes pointer from integer without a cast
OpenSSL/ssl/connection.c: In function ‘ssl_Connection_set_tlsext_host_name’:
OpenSSL/ssl/connection.c:346: warning: implicit declaration of function ‘SSL_set_tlsext_host_name’
error: command ‘gcc’ failed with exit status 1

原来是centos5下pyopenssl 0.13的版本和openssl不兼容
下载补丁
wget https://bugs.launchpad.net/pyopenssl/+bug/845445/+attachment/2666639/+files/pyOpenSSL-0.13.centos5.patch
移动补丁到对应的目录下
mv *.patch pyOpenSSL-0.13
进入目录
cd pyOpenSSL-0.13
patch -p1 < pyOpenSSL-0.13.centos5.patch
安装带补丁的pyOpenSSL完成后,再安装scrapy就成功了
分享到:
评论

相关推荐

    初学者scrapy框架爬取数据不成功,出现ERROR: Spider error processing错误问题的解决方法

    ### Scrapy框架爬虫错误处理及解决方案 #### 一、问题背景 对于初学者而言,在使用Scrapy框架进行网络爬虫开发的过程中,经常会遇到各种各样的错误,其中一种较为常见的错误便是“Spider error processing”(蜘蛛...

    windows下完整版安装Python Scrapy安装步骤教程

    总结,安装Python Scrapy的步骤包括:安装Python并添加到PATH,安装和升级pip,使用pip安装Scrapy,验证安装,创建并运行Scrapy项目。在整个过程中,可能需要解决依赖库的编译问题,并熟悉Scrapy的基本命令和项目...

    scrapy安装教程及工具包

    本文将详细讲解Scrapy的安装过程,并介绍一些必备的工具,以帮助您在Python 3.5.3 64位环境下顺利进行开发。 **一、Scrapy的安装** 首先,确保您已经安装了Python 3.5.3 64位版本。如果没有,可以访问Python官方...

    scrapy安装所依赖的所有包python,openssl,twisted,w3lib等以及安装过程

    Scrapy是一个强大的Python爬虫框架,它用于构建网络爬虫并高效地抓取网页数据。在安装Scrapy之前,确保你的系统已经安装了Python。在这个压缩包中,提供了安装Scrapy所需的一些关键依赖,包括Python本身,openssl,...

    python scrapy 爬虫框架安装包及安装步骤

    此命令将自动下载Scrapy及相关依赖,并安装到你的Python环境中。安装过程可能需要一些时间,取决于你的网络速度。 安装完成后,你可以通过运行以下命令来验证Scrapy是否安装成功: ```bash python -c "import ...

    第八章:scrapy框架_第八章:scrapy框架.zip_

    Scrapy是一个强大的Python爬虫框架,专为网页抓取、数据提取和网络爬虫项目设计。本章将深入探讨Scrapy的基本概念、架构以及如何利用它来构建高效的爬虫项目。 首先,Scrapy的核心概念包括Spiders(蜘蛛)、Item...

    Scrapy 全部文件 和 安装步骤

    本教程将详细介绍Scrapy的组成部分及其安装步骤。 首先,让我们来理解Scrapy的各个组件: 1. **爬虫(Spiders)**:爬虫是Scrapy的核心,负责定义如何从网站中提取数据。你可以根据需求编写多个爬虫,每个爬虫可以...

    python3 scrapy安装教程(详细)

    Python3 Scrapy 安装教程详解 Python 是一个功能强大的编程语言,Scrapy 是其下的一个功能强大的第三方模块,用于爬虫开发。安装 Scrapy 模块非常重要,但对于刚刚开始学习 Python 的朋友来说,安装 Scrapy 可能会...

    傻瓜式Scrapy安装教程

    本文将详细介绍Scrapy的安装步骤,帮助初学者顺利进行安装。 首先,确保你已经安装了Python。Scrapy需要Python 3.6或更高版本才能正常工作。你可以通过在命令行输入`python --version`来检查Python是否已安装以及其...

    python-scrapy安装问题详解

    Scrapy是一个快速高级的网页爬虫框架,专门用于抓取网站数据并从页面中提取结构化数据。...安装Scrapy时,除了遵循官方文档的步骤,也需要注意相关依赖库的兼容性和系统环境的配置,确保Scrapy框架能够顺利运行。

    scrapy安装文档1

    Scrapy安装文档1 Scrapy是Python下的一个爬虫框架,它提供了一个灵活的方式来爬取网站的数据。本文档将指导您如何安装Scrapy的依赖项和Scrapy框架本身。 一、 Wheel的安装 Wheel是Python包管理工具pip的依赖项之...

    Scrapy安装文件及其依赖项

    在Windows 7 64位系统上安装Scrapy时,需要确保安装一系列依赖项,这些依赖项对于Scrapy的正常运行至关重要。在这个压缩包文件中,包含了Scrapy及其必要的依赖库,下面将逐一详细讲解这些组件。 1. **lxml**: lxml...

    Python2.7-64bit-win-爬虫框架Scrapy安装配置相关资源

    在 Windows 7 64 位操作系统上安装 Python 2.7.10 和 Scrapy 爬虫框架,需要遵循以下步骤: 首先,确保你的计算机满足基本的硬件和软件需求。Windows 7 64 位系统应该可以支持 Python 2.7 和 Scrapy。下载适合你的...

    scrapy的安装依赖(py27环境下)

    安装Scrapy的步骤通常如下: 1. **安装Python 2.7**:首先,确保你的系统已经安装了Python 2.7。如果没有,可以从Python官网下载并安装。 2. **安装依赖**:使用pip(Python的包管理器)来安装这些依赖库。打开...

    window10系统 64位 Python3.7安装Scrapy教程.docx

    Scrapy安装教程 Scrapy是一款强大的爬虫框架,广泛应用于数据爬取、信息采集等领域。但是,Scrapy的安装过程中经常出现各种问题,本文将详细介绍在Window 10系统64位Python 3.7环境下安装Scrapy的完整教程。 一、...

    scrapy安装必备软件

    1. **Python环境**:Scrapy基于Python编程语言,因此首先你需要在你的电脑上安装Python。推荐安装最新稳定版的Python(目前是3.8或3.9),因为Scrapy不支持Python 2.x版本。下载Python安装包时,记得勾选“将Python...

    scrapy安装所需的安装包

    源码安装步骤如下: - 下载Scrapy源码包(确保与Python 2.6兼容的版本) - 解压并进入源码目录 - 运行`python setup.py install` **5. 配置环境** 在Windows 7下,确保你的环境变量已经包含了Python和pip的路径。...

    python2.7安装Scrapy.docx

    ### Python 2.7 下安装 Scrapy 的详细步骤与注意事项 #### 一、前置环境准备 **1. 安装Python 2.7** - **官方文档推荐版本**:Python 2.7.x(此处作者已安装2.7.11版本)。 - **注意事项**:确保安装过程中勾选...

    Scrapy框架安装.pdf

    本文将介绍Scrapy框架的安装步骤,包括在Windows、Linux和Mac OS三个操作系统上的安装方法。 一、Windows下的安装 在Windows下安装Scrapy需要使用pip工具,pip是Python的软件包管理器。首先,需要安装Python,如果...

Global site tag (gtag.js) - Google Analytics