python抓取抖⾳热门视频_只要30⾏代码!7步教会你Python
爬取⽹页抖⾳热门视频
前⾔
抖⾳短视频相信⼤家都听过,也不陌⽣对吧!可以看到海量的短视频,涵盖了各⼤⾏业。个⼈觉得抖⾳有毒,刷着刷着根本停不下来,⼀看时间就是凌晨3、4点。今天带⼤家爬取抖⾳⽹页版的视频数据!⼀睹为快吧
本篇⽂章内容:
1、系统分析⽹页性质
2、正则提取数据(难点)抖音python入门教程
3、海量⾳频数据保存
环境介绍:
python 3.6
pycharm
requests
re
爬⾍的⼀般思路
1、分析⽬标⽹页,确定爬取的url路径,headers参数
2、发送请求 -- requests 模拟浏览器发送请求,获取响应数据
前端抓包工具3、解析数据 -- 正则表达式
4、保存数据 -- 保存在⽬标⽂件夹中
步骤:
1、导⼊⼯具
base_url = 'douyin.bm8/d_1.html'headers={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'}
2、分析⽬标⽹页,确定爬取的url路径,headers参数
base_url = 'douyin.bm8/d_1.html'headers={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36'}
3、发送请求 -- requests 模拟浏览器发送请求,获取响应数据
response = (url=base_url, headers=headers)
html_data=
4、解析数据 -- 正则表达式rapture翻译
pattern = repile('οnclick="open1\(\'(.*?)\',\'(.*?)\',\'\'\)')
result=pattern.findall(html_data)print(result)
python编程用什么软件最好
5、构建⼀个for循环
for page in range(8, 10):print('===================正在取第{}页数据================='.format(page))#1、分析⽬标⽹页,确定爬取的url路径,headers参数
base_url = 'douyin.bm8/d_{}.html'.format(page)
headers={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko)
Chrome/83.0.4103.116 Safari/537.36'}
6、处理⽂件名⾮法字符
defchange_title(title):offset js
pattern= repile(r"[\/\\\:\*\?\"\\|]") #'/ \ : * ? " < > |'
new_title = re.sub(pattern, "_", title) #替换为下划线
return new_title
7、保存数据 -- 保存在⽬标⽂件夹中
for title, url inresult:#请求抖⾳视频数据
data = (url=url, headers=headers).content
new_title=change_title(title)
with open('videos\\' + new_title + '.mp4', mode='wb') as f:
f.write(data)print('保存完成:', title)
>下载免费网络

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。