神剑山庄资源网 Design By www.hcban.com
分享给大家供大家参考,具体如下:Python3实现爬取指定百度贴吧页面并保存页面数据生成本地文档的方法。分享给大家供大家参考,具体如下:
首先我们创建一个python文件, tieba.py,我们要完成的是,输入指定百度贴吧名字与指定页面范围之后爬取页面html代码,我们首先观察贴吧url的规律,比如:
百度贴吧LOL吧第一页:http://tieba.baidu.com/f"color: #0000ff">http://tieba.baidu.com/f"color: #0000ff">http://tieba.baidu.com/f"htmlcode">
# -*- coding:utf-8 -*- from urllib import request as urllib2 from urllib import parse import random def loadPage(url, page): ''' 根据url获取服务器响应文件 url:需要爬取的url ''' print('---------正在下载页面%d-------' % page) ua_list = [ "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv2.0.1) Gecko/20100101 Firefox/4.0.1", "Mozilla/5.0 (Windows NT 6.1; rv2.0.1) Gecko/20100101 Firefox/4.0.1", "Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11", "Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11", "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11" ] header = random.choice(ua_list) request = urllib2.Request(url) request.add_header('User-Agent', header) response = urllib2.urlopen(request) html = response.read() return html def write(html, page): ''' 将html文件写入本地 :param html: 服务器响应文件内容 :return: ''' data = html file_name = 'tieba{}.txt'.format(page) print('---------正在保存文件%s-------'%file_name) # 运用with open as语句使代码更加简洁 避免写异常处理和文件关闭语句 with open(file_name,'w',encoding='utf-8') as file: file.write(data.decode()) print('---------success!---------') def tiebaSpider(url, kw, begin, end): ''' 爬取贴吧信息 ''' words = { 'kw':kw } kw = parse.urlencode(words) url = url % (kw) for page in range(begin, end + 1): pn = ((page-1)*50) ful_url = url + str(pn) html = loadPage(url, page) write(html, page) if __name__ == '__main__': kw = input('请输入爬取贴吧名:') beginPage = int(input('请输入起始页:')) endPage = int(input('请输入结束页:')) url = r'http://tieba.baidu.com/f"_blank" href="https://www.jb51.net/Special/648.htm">Python Socket编程技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》希望本文所述对大家Python程序设计有所帮助。
神剑山庄资源网 Design By www.hcban.com
神剑山庄资源网
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件!
如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
神剑山庄资源网 Design By www.hcban.com
暂无Python3实现爬取指定百度贴吧页面并保存页面数据生成本地文档的方法的评论...
更新日志
2024年10月02日
2024年10月02日
- 孙悦.1996-伙伴【正大国际】【WAV+CUE】
- 纪钧瀚《钢琴阅读时光 雨中书店聆听轻音乐》[FLAC/分轨][399.62MB]
- 证声音乐图书馆《走向自然 疗心爵士乐》[320K/MP3][87.4MB]
- 证声音乐图书馆《走向自然 疗心爵士乐》[FLAC/分轨][184.94MB]
- 陈慧娴.2018-Priscilla-Ism演唱会3CD(2024环球红馆40复刻系列)【环球】【WAV+CUE】
- 郑秀文.1999-我应该得到(国)【华纳】【WAV+CUE】
- 陈家慧.2011-钢琴酒吧2CD【龙吟唱片】【WAV+CUE】
- 证声音乐图书馆《雨季 蓝调吉他 Rainy Blues》[320K/MP3][45.01MB]
- 证声音乐图书馆《雨季 蓝调吉他 Rainy Blues》[FLAC/分轨][109.13MB]
- 赞多《序章》[320K/MP3][45.54MB]
- 许巍.2004-每一刻都是崭新的【步升大风】【WAV+CUE】
- 群星.2024-四方馆影视原声带【韶愔音乐】【FLAC分轨】
- 陈雷.1997-安锁咧【金圆唱片】【WAV+CUE】
- 关淑怡.2013-MY.FAVORITE.SK.3CD【环球】【WAV+CUE】
- Sweety.2006-花言乔语【丰华】【WAV+CUE】