Python编写百度贴吧的简单爬虫
发布时间:2020-12-16 20:13:33 所属栏目:Python 来源:网络整理
导读:操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数 功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名 代码: # -*- coding: utf-8 -*- #----------------------------# 程序:百度贴吧的小爬虫# 日期:2015/03/28# 语言
操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数 功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名 代码: # -*- coding: utf-8 -*- #---------------------------- # 程序:百度贴吧的小爬虫 # 日期:2015/03/28 # 语言:Python 2.7 # 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数 # 功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名 #---------------------------- import urllib2 import time def baidu_tieba(url,start,end): for i in range(start,end): sName = time.strftime('%Y%m%d%H%M%S') + str(i) + '.html' print '正在下载第' + str(i) + '个网页,并将其储存为' + sName + '...' f = open(sName,'w+') m = urllib2.urlopen(url+str(i)) n = m.read() f.write(n) f.close() print '成功下载' baiduurl = str(raw_input('请输入贴子的地址,去掉pn后面的数字>>n')) begin_page = int(raw_input('请输入帖子的起始页码>>n')) end_page = int(raw_input('请输入帖子的终止页码>>n')) baidu_tieba(baiduurl,begin_page,end_page) 以上所述就是本文的全部内容了,希望能够对大家学习Python制作爬虫有所帮助。 (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |