python 爬虫-1:下载网页源代码

xiaoxiao2021-02-28  86

下载静态网页源代码的 python 爬虫函数源代码:

import urllib2 def download(url, num_retries = 5): ''' function: 下载网页源代码,如果遇到 5xx 错误状态,则继续尝试下载,直到下载 num_retries 次为止。 ''' print "downloading " , url try: html = urllib2.urlopen(url).read() except urllib2.URLError as e: print "download error: " , e.reason html = None if num_retries > 0: if hasattr(e,'code') and 500 <= e.code < 600: return download(url, num_retries-1) return html

其中 url 即为你想现在的网页地址。 num_reties 为遇到 5xx 错误的时候,重试下载的次数。

具体详见我的博客:

www.wangs0622.com

转载请注明原文地址: https://www.6miu.com/read-74533.html

最新回复(0)