用Python爬取王冰冰vlog弹幕并制作词云

Aidan075 等级 611 0 0

用Python爬取王冰冰vlog弹幕并制作词云

大家好,我是张同学,最近的“瓜”,多到我们措手不及,可谓是“热点不断”。作为程序员,我们还可能随时为此而加班。

各种评论视频“爆炸”网络,打开首页全是热点话题的内容,某知名UP主发布视频都要错下峰。

我就在思考:这么火爆的话题和内容,有没有一种通用的分析方法?答案是:抓取弹幕或者评论。

下面就让我们以冰冰vlog的视频弹幕为例,来进行分析。

一、获取方法

1.网页解析:网页结构可能随时会发生变化。

2.python第三方api:可能会有维护跟不上的问题。

经过简单对比,我选择第一种方法。

二、网页分析

爬取弹幕的关键是获取视频的cid,有些地方也叫oid。通过浏览器的开发者模式我们不难找到该视频的cid。我们通过https://comment.bilibili.com/+视频的cid+.xml就可以爬取该视频所有弹幕了。

用Python爬取王冰冰vlog弹幕并制作词云

用Python爬取王冰冰vlog弹幕并制作词云

三、弹幕文件下载和解析

由于弹幕内容集中在xml文件里,我们需要对文件进行下载,使用xpath解析文件。

from lxml import etree  
import  requests  
import time  
import jieba  
import numpy as np  
from PIL import Image  
from wordcloud import WordCloud as wc  
class Bilibili():  
    """docstring for Bilibili"""  
    def __init__(self,oid):  
        self.headers={  
        'Host': 'api.bilibili.com',  
        'Connection': 'keep-alive',  
        'Cache-Control': 'max-age=0',  
        'Upgrade-Insecure-Requests': '1',  
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.92 Safari/537.36',  
        'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8',  
        'Accept-Encoding': 'gzip, deflate, br',  
        'Accept-Language': 'zh-CN,zh;q=0.9',  
        'Cookie': 'finger=edc6ecda; LIVE_BUVID=AUTO1415378023816310; stardustvideo=1; CURRENT_FNVAL=8; buvid3=0D8F3D74-987D-442D-99CF-42BC9A967709149017infoc; rpdid=olwimklsiidoskmqwipww; fts=1537803390'  

        }  
        self.url='https://api.bilibili.com/x/v1/dm/list.so?oid='+str(oid)  
        self.barrage_reault=self.get_page()  

    # 获取信息  
    def get_page(self):  
        try:  
            # 延时操作,防止太快爬取  
            time.sleep(0.5)  
            response=requests.get(self.url,headers=self.headers)  
        except Exception as e:  
            print('获取xml内容失败,%s' % e)  
            return False  
        else:  
            if response.status_code == 200:  
                # 下载xml文件  
                with open('bilibili.xml','wb') as f:  
                    f.write(response.content)  
                return True  
            else:  
                return False  

    # 解析网页  
    def param_page(self):  
        time.sleep(1)  
        if  self.barrage_reault:  
            # 文件路径,html解析器  
            html=etree.parse('bilibili.xml',etree.HTMLParser())  
            # xpath解析,获取当前所有的d标签下的所有文本内容  
            results=html.xpath('//d//text()')  
            return results  

四、弹幕去重

重复的弹幕进行归类,未出现过的弹幕创建新的分类。为词频统计和词云做好准备。

# 弹幕去重  
def remove_double_barrage(self):  
    '''  
    double_arrage:所有重复弹幕的集合  
    results:去重后的弹幕  
    barrage:每种弹幕内容都存储一遍  
    '''  
    double_barrage=[]  
    results=[]  
    barrage=set()  
    for result in self.param_page():  
        if result not in results:  
            results.append(result)  
        else:  
            double_barrage.append(result)  
            barrage.add(result)  
    return double_barrage,results,barrage  

五、弹幕重复次数统计和制作词云

我们在网上照一张“王冰冰”的照片,进行简单的处理,作为词云的轮廓图。用Python爬取王冰冰vlog弹幕并制作词云

用Python爬取王冰冰vlog弹幕并制作词云

# 弹幕重复次数和词云制作  
def make_wordCould(self):  
    double_barrages,results,barrages=self.remove_double_barrage()  
    # 重词计数  
    with open('barrages.txt','w') as f:  
        for barrage in barrages:  
            amount=double_barrages.count(barrage)  
            f.write(barrage+':'+str(amount+1)+'\n')  

    # 设置停用词  
    stop_words=['【','】',',','.','?','!','。']  
    words=[]  
    if results:  
        for result in results:  
            for stop in stop_words:  
                result=''.join(result.split(stop))  
            words.append(result)  
        # 列表拼接成字符串  
        words=''.join(words)  
        words=jieba.cut(words)  
        words=''.join(words)  
        bingbing=np.array(Image.open('冰冰.jpg'))  
        w=wc(font_path='‪C:/Windows/Fonts/SIMYOU.TTF',  
             background_color='white',  
             width=900,  
             height=600,  
             max_font_size=15,  
             min_font_size =1,  
             max_words=3000,  
             mask=bingbing)  
        w.generate(words)  
        w.to_file('bingbing.jpg')  

b=Bilibili(283851334)#视频的cid  
b.make_wordCould()#绘制词云  

统计结果:

用Python爬取王冰冰vlog弹幕并制作词云

词云图效果:

用Python爬取王冰冰vlog弹幕并制作词云

六、总结

我对于B站的网页结构还有很多不熟悉的地方,或许还有其他更好的分析方法和技巧,最后的人形词云要设置合适的参数才能让人物的形象惟妙惟肖。

该教程我参考了一些网友的方法,对提供技术分享的博主表示感谢[1]。希望我们都能保持一颗学习的心,一直不断地探索吧。

参考资料

[1]

参考文章: https://blog.csdn.net/weixin\_36605200/article/details/82848020

用Python爬取王冰冰vlog弹幕并制作词云

本文转转自微信公众号凹凸数据原创https://mp.weixin.qq.com/s/KlyzFRmTf8no9DpzqJZ6Pg,可扫描二维码进行关注: 用Python爬取王冰冰vlog弹幕并制作词云 如有侵权,请联系删除。

收藏
评论区

相关推荐

被“词云”包围的冰冰会更好看吗?安排
(https://imghelloworld.osscnbeijing.aliyuncs.com/b299933deefc692934e8cc6141ab3894.png) 大家好,我是小五🐶 昨天「凹凸数据」发了一篇张同学投稿的文章《用Python爬取王冰冰vlog弹幕并制作词云(https://mp.weixin.qq.com/
用Python爬取王冰冰vlog弹幕并制作词云
(https://imghelloworld.osscnbeijing.aliyuncs.com/ee5c5cff038a2528350dc352e599b4c4.png) 大家好,我是张同学,最近的“瓜”,多到我们措手不及,可谓是“热点不断”。作为程序员,我们还可能随时为此而加班。 各种评论视频“爆炸”网络,打开首页全是热点话题的内容,某
多人说Python简单,但是如何入门Python并精通?
一般而言,Python几个月就可以开始使用了。假如你几个月没入门,那肯定是方法不对,或者是偷懒.我在公众号里有一篇文章详细写了“初学者别上爬虫”,爬虫虽然很有趣,但不适合于小白用户。以下是2点:多人说Python简单,但是如何入门Python并精通?Python再简单再通俗,它也是一门语言,掌握一门语言绝非一朝一夕,我个人不推荐初学者上岸学习爬虫,我举一个很
手把手教你用Pycharm连接远程Python环境
前言本次咱们来操作一下如何在Pycharm上,使用远程服务器上的Python环境。 为什么这样做?这个要从我的一次经历说起,有一次我帮朋友爬取一些东西,由于类别不同,分了几次爬取,这一次我写好规则之后,依然正常爬取,由于我本人比较善良,加上数据量目测并不是太多,并没有使用代理ip,并且将scpay的速度控制的比较慢,一般爬取时,一般也就几分钟而已,泡一杯咖
Python Scrapy 实战
Python Scrapy ============= 什么是爬虫? ------ 网络爬虫(英语:web crawler),也叫网络蜘蛛(spider),是一种用来自动浏览万维网的网络机器人。其目的一般为编纂网络索引。 Python 爬虫 --------- 在爬虫领域,Python几乎是霸主地位,将网络一切数据作为资源,通过自动化程序进行有针对性
Python 使用selenium抓取网页文本和下载音频
Python 使用selenium抓取网页文本和下载音频 #!\usr\bin\env python # -*- coding: utf-8 -*- '一个自动从https://podcast.duolingo.com/spanish中下载音频并且爬取文本的程序' '需要配置下载以下所需库,并且配置好webdriv
Python 爬虫:把廖雪峰的教程转换成 PDF 电子书
写爬虫似乎没有比用 Python 更合适了,Python 社区提供的爬虫工具多得让你眼花缭乱,各种拿来就可以直接用的 library 分分钟就可以写出一个爬虫出来,今天就琢磨着写一个爬虫,将廖雪峰的 Python 教程 爬下来做成 PDF 电子书方便大家离线阅读。 开始写爬虫前,我们先来分析一下该网站[1](https://www.oschina.net/
Python3 网络爬虫:下载小说的正确姿势
点击上方“ **Python爬虫与数据挖掘** ”,进行关注 回复“**书籍**”即可获赠Python从入门到进阶共10本电子书 今 日 鸡 汤 少年心事当拂云。 ![](https://oscimg.oschina.net/oscnet/09902b71501b9e8c3cb656b5dfbbb0552e0.jpg) 1 **
Python实现王者荣耀小助手(一)
简单来说网络爬虫,是指抓取万维网信息的程序或者脚本,Python在网络爬虫有很大优势,今天我们用Python实现获取王者荣耀相关数据,做一个小助手: 前期准备,环境搭建: Python2.7 sys模块提供了许多函数和变量来处理 Python 运行时环境的不同部分; urllib模块提供了一系列用于操作URL的功能,爬虫所需要的功能,基本上在urll
Python爬取暴走漫画动态图
最近再之乎上看到比较好的Python爬虫教程,看过之后对爬虫有了大概的了解,随后自己写了个爬取[暴走漫画](https://www.oschina.net/action/GoToLink?url=http%3A%2F%2Fbaozoumanhua.com%2Fcatalogs%2Fgif)动图的爬虫练练手,另外附上[Python爬虫教程](https://w
Python爬取网易云歌单
#### 基本配置: * Python版本:3.7 #### 相关模块: from urllib import parsefrom lxml import etreefrom urllib3 import disable_warningsimport requests #### 案例关键点: 使用单线程爬取,未登录,爬取网易云
Python爬虫
Python爬虫-xpath ============== * Python爬虫-xpath * 说明 * 再说明 * 插件推荐 * 语法讲述 * 举栗子 * 代码里使用 * 实战句子迷 * 需要的总结: 说明 -- 关于Python爬虫请求数据方面的知
Python自带爬虫库urllib使用大全
击上方“ **Python爬虫与数据挖掘** ”,进行关注 回复“**书籍**”即可获赠Python从入门到进阶共10本电子书 今 日 鸡 汤 门前冷落鞍马稀,老大嫁作商人妇。 这篇文章主要来讲解下Python自带的爬虫库urllib常见用法,主要围绕urllib定义、urllib的常用模块和urllib+lxml爬虫案例三个部分进行展开。
Scrapyd发布爬虫的工具
### Scrapyd Scrapyd是部署和运行Scrapy.spider的应用程序。它使您能够使用JSON API部署(上传)您的项目并控制其spider。 ### Scrapyd-client Scrapyd-client是一个专门用来发布scrapy爬虫的工具,安装该程序之后会自动在python目录\\scripts安装一个名为scrapyd-
Scrapy框架
\[TOC\] 1\. Scrapy介绍 ============ 1.1. Scrapy框架 ------------- Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架,用途非常广泛。 ![](http://ccszt.com.cn/python/%E7%88%AC%E8%99%AB/file/images/