mac机器上是自带python2的,但是我自己下载使用了python3,最近才开始接触python和爬虫,尝试安装一下scrapy,遇到了一些问题,就记录一下安装成功的步骤吧。
安装wheel
安装lxml
安装Twisted
安装scrapy
LFD: http://www.lfd.uci.edu/~gohlke/pythonlibs/ 我们需要的一些包,可以在这个网址上下载
1、去上面的网址下载wheel的包 进到网页,command+F 输入wheel,就可以找到啦。 然后在命令行输入
pip3 install /Users/blue/Downloads/wheel-0.29.0-py2.py3-none-any.whl路径根据实际自己写啦 2、检查wheel是否安装成功,只要在命令行输入wheel即可
wheel输出结果是这样的就代表安装成功啦:
法一: lxml 是一个用来处理 XML 的第三方 Python 库。这个只能通过下载后安装的方法。(我用pip3 install lxml 的方法没有成功)
如果是Windows系统,可以直接在前面的LFD网站下载。cp后的数字是python的版本号。win32表示32位系统,win_amd64表示64位系统
如果不是: https://pypi.python.org/pypi/lxml/3.8.0 在这个网址找到lxml安装包,cp后面的数字是你的python版本,请根据python版本和系统选择下载。 安装方法和wheel相同 法二: 在pycharm里安装,参照下面安装Twisted的方法。 打开pycharm PyCharm -> Preferences -> project 项目名 -> project interpreter 点击最下面的+号 找到lxml 然后install即可
如果是Windows系统,到上面的lfd网站找到下载就可以了。 mac系统的话,地址:https://pypi.python.org/pypi/Twisted/ 到这个网址下载tar.gz文件 然后在命令行进入到压缩包所在的目录,进行解压
tar -jvxf /Users/blue/Downloads/Twisted-17.5.0.tar.bz2进入解压后的文件夹
cd /Users/blue/Downloads/Twisted-17.5.0进行安装
python3 setup.py install但是我这里安装完成后,import还是有问题,命令行输入python3
>>>import twisted会提示 No module named ‘incremental’ 就进入pycharm,一个很好用的 IDE,进入随便一个项目 PyCharm -> Preferences -> project 项目名 -> project interpreter 双击Twisted 就装好了 回到命令行,import twisted 就不会报错了。
到了这一步就非常简单了,保持网络连接:
pip3 install scrapy这里可能遇到超时的情况,提示Read time out 这时我们就需要修改它的超时时间
pip3 --default-timeout=100 install -U scrapy这样安装就可以啦 安装完成后,在命令行输入scrapy,弹出下面的内容就代表安装成功了