博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
《转载》Python3安装Scrapy
阅读量:6078 次
发布时间:2019-06-20

本文共 1133 字,大约阅读时间需要 3 分钟。

运行平台:Windows

Python版本:Python3.x
IDE:Sublime text3

转载自

一、Scrapy简介

    Scrapy是一个为了爬取网站数据提取结构性数据而编写的应用框架,可以应用于数据挖掘,信息处理或存储历史数据等一些列的程序中。Scrapy最初就是为了网络爬取而设计的。现在,Scrapy已经推出了曾承诺过的Python3.x版本。

    为什么学习Scrapy呢?它能我们更好的完成爬虫任务,自己写Python爬虫程序好比孤军奋战,而使用了Scrapy就好比手底下有了千军万马。Scrapy可以起到事半功倍(甚至好几倍*.*)的效果。所以,学习Scrapy也就显得很有必要了。

二、Scrapy安装

    1.直接使用指令pip3 install scrapy,发现有诸多错误。

  • Failed building wheel for lxml
  • Microsoft Visual C++ 10.0 is required
  • Failed building twisted
  • Unable to find vcvarsall.bat

    遇到的错误,如下图所示:

1

2

3

2.解决办法

    在有很多用于windows的编译好的Python第三方库,我们下载好对应自己Python版本的库即可。

    (1)在cmd中输入指令python,查看python的版本,如下:

4

    从上图可以看出可以看出我的Python版本为Python3.5.2-64bit。

    (2)登陆,Ctrl+F搜索Lxml、Twisted、Scrapy,下载对应的版本,例如:lxml-3.7.3-cp35-cp35m-win_adm64.whl,表示lxml的版本为3.7.3,对应的python版本为3.5-64bit。我下载的版本如下图所示:

5

6

7

    (3)在cmd中输入DOS指令,进入下载好的whl文件夹下,例如我的三个whl文件放在了Scrapy文件夹下:

8

    (4)依次执行如下命令:

a.pip3 install wheel

9

b.pip3 install lxml-3.7.3-cp35-cp35m-win_amd64.whl

10

c.pip3 install Twisted-17.1.0-cp35-cp35m-win_amd64.whl

11

d.pip3 install Scrapy-1.3.2-py2.py3-none-any.whl

12

    这样Scrapy的安装就完成了,请忽略最后两行让我升级pip的信息。*.*

    (5)Srapy已经安装成功,还要下载pywin32,找到对应版本下载,一路下一步安装即可。安装完成后,就可以正常使用Scrapy了。

    URL:

13

    至此,大功告成,我们可以愉快的使用Scrapy了。

14

你可能感兴趣的文章
为什么要使用ZooKeeper
查看>>
BtrFS:下一代GNU/Linux文件系统
查看>>
Redis从库不能同步报Can’t save in background: fork: Cannot allocate memory错误
查看>>
rsync详解
查看>>
android 面向对象数据库 db40使用demo
查看>>
Struts2防止表单重复提交
查看>>
Java线程之锁研究
查看>>
【转】推荐一些经典书籍
查看>>
VirtualBox 无法启动
查看>>
nrw
查看>>
nginx开启日志
查看>>
Lync 2013 Unauthorized: Access is denied due to a RBAC authorization Failure
查看>>
软考中高项学员:2016年3月30日作业
查看>>
rsyslog server和loganalyzer
查看>>
内部类
查看>>
linux下网络文件系统NFS服务的搭建
查看>>
VMware虚机联网问题实战
查看>>
python2备份交换机配置脚本
查看>>
Wijmo 更优美的jQuery UI部件集:C1 Wijmo Grids 更多惊喜
查看>>
Oracle字符集
查看>>