例子,python实现的网页爬虫,学习下python爬虫的原理与实现方法。
测试url:http://tieba.baidu.com/p/27141123322?pn=
begin 1
end 4
python爬虫代码:
import string ,urllib2
def baidu_tieba(url,begin_page,end_page):
for i in range(begin_page, end_page+1):
sName = string.zfill(i,5)+ '.html'
print '正在下载第' + str(i) + '个网页,并将其存储为' + sName + '..........'
f = open (sName,'w+')
m = urllib2.urlopen(url + str(i)).read()
f.write(m)
f.close()
bdurl = str(raw_input('url: n'))
begin_page = int(raw_input('begin :n'))
end_page = int(raw_input('end : n'))
baidu_tieba(bdurl,begin_page,end_page)
相关链接:
python网页爬虫程序示例代码
Python web爬虫的小例子
python 网络爬虫(经典实用型)
python网络爬虫的代码
python编写分布式爬虫的思路