python2的urllib2读取网页乱码

xiaoxiao2021-02-27  320

Python利用urllib2抓取网页返回乱码的问题

http://wthrcdn.etouch.cn/weather_mini?citykey=101010100 这个天气预报接口,并没有meta指定编码。

又被服务器gzip压缩过。

因此直接读取出来的时候,乱码。

而且这里连英文都乱码,说明不是正常的编码。(我应该早点想到的)

解压缩后就好了。

ps:直接用requests不会出现这个问题。

参考:http://www.cnblogs.com/linn/p/4184254.html

很多乱码问题是编码造成的,一般对于中文网站基本是UTF-8,GB2312,可以GB18030通吃。

另一个造成乱码的原因是压缩格式,很多规模较大的网站都是以gzip的压缩格式输出页面的,所以在用BS解析之前需要先判断该网页是否经过压缩,如果经过压缩则先进行解压操作。

import urllib2 import gzip import StringIO url = 'http://wthrcdn.etouch.cn/weather_mini?citykey=101010100' data = urllib2.urlopen(url).read() data = StringIO.StringIO(data) gzipper = gzip.GzipFile(fileobj=data) html = gzipper.read() print html
转载请注明原文地址: https://www.6miu.com/read-6014.html

最新回复(0)