|
|
51CTO旗下网站
|
|
移动端

Python3爬取B站视频弹幕

本文通过8个步骤教你如何使用Python3爬取B站的视频弹幕,快往下看看吧。

作者:佚名来源:程序员共读|2018-01-04 09:20

 Python3爬取B站视频弹幕

需要准备的环境:

  1. 一个B站账号,需要先登录,否则不能查看历史弹幕记录
  2. 联网的电脑和顺手的浏览器,我用的Chrome
  3. Python3环境以及request模块,安装使用命令,换源比较快:
  1. pip3 install  request -i http://pypi.douban.com/simple 

爬取步骤:

1.登录后打开需要爬取的视频页面,打开开发者工具台,Chrome可以使用F12快捷键,选择network监听请求 

2.点击查看历史弹幕,获取请求 

 

其中rolldate后面的数字表示该视频对应的弹幕号,返回的数据中timestamp表示弹幕日期,new表示数目

4.在查看历史弹幕中任选一天,查看,会发出新的请求

dmroll ,时间戳,弹幕号,表示获取该日期的弹幕,1507564800 表示2017/10/10 0:0:0

该请求返回xml数据

5.使用正则表达式获取所有弹幕消息,匹配模式

  1. '<d p=".*?">(.*?)</d>'  

6.拼接字符串,将所有弹幕保存到本地文件即可

  1. with open('content.txt', mode='w+', encoding='utf8'as f:    f.write(content)  

7.参考代码如下,将弹幕按照日期保存为单个文件...因为太多了...

  1. import requests 
  2.  
  3. import re 
  4.  
  5. import time  
  6.  
  7. """    爬取哔哩哔哩视频弹幕信息"""  
  8.  
  9. # 2043618 是视频的弹幕标号,这个地址会返回时间列表 
  10.  
  11. # https://www.bilibili.com/video/av1349282 
  12.  
  13. url = 'https://comment.bilibili.com/rolldate,2043618' 
  14.  
  15. # 获取弹幕的id 2043618 
  16.  
  17. video_id = url.split(',')[-1]print(video_id) 
  18.  
  19. # 获取json文件 
  20.  
  21. html = requests.get(url) 
  22.  
  23. # print(html.json()) 
  24.  
  25.   
  26.  
  27. # 生成时间戳列表 
  28.  
  29. time_list = [i['timestamp'for i in html.json()] 
  30.  
  31. # print(time_list) 
  32.  
  33.   
  34.  
  35. # 获取弹幕网址格式 'https://comment.bilibili.com/dmroll,时间戳,弹幕号' 
  36.  
  37.   
  38.  
  39. # 弹幕内容,由于总弹幕量太大,将每个弹幕文件分别保存 
  40.  
  41. for i in time_list:    content = ''    j = 'https://comment.bilibili.com/dmroll,{0},{1}'.format(i, video_id)    print(j)    text = requests.get(j).text 
  42.  
  43.     # 匹配弹幕内容    res = re.findall('<d p=".*?">(.*?)</d>', text)     
  44.  
  45.     # 将时间戳转化为日期形式,需要把字符串转为整数    timeArray = time.localtime(int(i))    date_time = time.strftime("%Y-%m-%d %H:%M:%S", timeArray)    print(date_time)    content += date_time + ' 
  46.  
  47. '    for k in res:        content += k + ' 
  48.  
  49. '    content += ' 
  50.  
  51. '    file_path = 'txt/{}.txt'.format(time.strftime("%Y_%m_%d", timeArray))    print(file_path)     
  52.  
  53.     with open(file_path, mode='w+', encoding='utf8'as f:        f.write(content)  

8.最终效果

【编辑推荐】

  1. 用Python自动刷新抢12306火车票(附源码)
  2. Python微博移动端爬虫实例(附代码)
  3. 教你用 Python 来玩微信跳一跳
  4. 我用Python玩小游戏“跳一跳”,瞬间称霸了朋友圈!
  5. 2018年Python值得关注的开源库、工具和开发者
【责任编辑:庞桂玉 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

超级网管员——网络安全

本书全面深入地介绍网络安全的配置与实现技术,包括系统管理、用户账户、病毒防御、灾难恢复、文件备份、安全策略、注册表等服务器安全,用...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊