python爬虫教程 python爬取百度贴吧并下载实例

发布时间:2020-01-06编辑:脚本学堂
本文介绍了python爬取百度贴吧整个html文件下载到本地代码,python网页爬虫的小例子,有需要的朋友参考下。

例子,python实现的网页爬虫,学习下python爬虫的原理与实现方法。

测试url:http://tieba.baidu.com/p/27141123322?pn=
begin  1
end   4

python爬虫代码:
 

复制代码 代码示例:

import string ,urllib2
def baidu_tieba(url,begin_page,end_page):
    for i in range(begin_page, end_page+1):
        sName = string.zfill(i,5)+ '.html'
        print '正在下载第' + str(i) + '个网页,并将其存储为' + sName + '..........'
        f = open (sName,'w+')
        m = urllib2.urlopen(url + str(i)).read()
        f.write(m)
        f.close()

bdurl = str(raw_input('url:  n'))
begin_page = int(raw_input('begin :n'))
end_page = int(raw_input('end : n'))
baidu_tieba(bdurl,begin_page,end_page)
 

相关链接:
python网页爬虫程序示例代码
Python web爬虫的小例子
python 网络爬虫(经典实用型)
python网络爬虫的代码
python编写分布式爬虫的思路