数说:这只程序员组建的乐队为何能进HOT5?

Aidan075 等级 599 0 0
标签: httpspng

数说:这只程序员组建的乐队为何能进HOT5?

上周六晚,爱奇艺的独家综艺《乐队的夏天》总决赛终于落下了帷幕,虽然决赛过程有些“曲折”,但是我最喜欢的刺猬乐队,仍然凭借自己的硬实力,最终排在第二名!

值得一提的是,这只乐队的吉他手兼主唱也是一位程序员。

数说:这只程序员组建的乐队为何能进HOT5?

刺猬乐队其实成立10多年了,很有实力。

但是在老牌乐队云集的这次比赛中,第一次31进16时仅仅排在第12名,那么他又是如何逆风翻盘的?

让我来复盘一下。

获取数据

获取爱奇艺视频《乐队的夏天》各期节目的下面的评论。

数说:这只程序员组建的乐队为何能进HOT5?

F12,Network查看异步请求XHR,找到评论接口。

数说:这只程序员组建的乐队为何能进HOT5?

不要以为这里结束了,我们来看一下Request URL

https://sns-comment.iqiyi.com/v3/comment/get_comments.action?  
content_id=2537368600&types=time&last_id=213811925021  
&business_type=17&agent_type=119&agent_version=9.9.0&authcookie=

经过测试,大部分参数都是不变的,只有“content_id”和“last_id”,content_id对于每一期节目是固定的,我们可以自己手动获分析获得。那么last_id是怎么来的?

给大家放一下连续几页的 last_id 看一下吧。

213811925021  

213372828221  

212600215021  

211973666621

它们之间并没有什么累加的规律。

放弃的同学可以直接翻到上一张图,标黄的部分“213811925021”,正是我们看到的第一个 last_id 参数。

也就是说每个json里的最后一个 CommentId ,作为下一个url的 last_id 使用。

那么我们需要注意的就是在解析json的过程中需要返回最后一个 CommentId 。

def get_comments(url):  
    data = []  
    doc = get_json(url)  
    jobs=doc['data']['comments']  
    for job in jobs:  
        dic = {}  
        global CommentId  
        CommentId=jsonpath.jsonpath(job,'$..id')[0] #id  
        dic['id'] = CommentId  
        dic['content']=jsonpath.jsonpath(job,'$..content')[0] #评论  
        add_Time=jsonpath.jsonpath(job,'$..addTime')[0]  #时间  
        dic['addTime'] = stampToTime(add_Time)  #转化时间格式  
        dic['uid']=jsonpath.jsonpath(job['userInfo'],'$..uid')[0] #用户id  
        dic['uname']=jsonpath.jsonpath(job['userInfo'],'$..uname')[0] #用户名称  
        dic['gender']=jsonpath.jsonpath(job['userInfo'],'$..gender')[0] #性别  
        data.append(dic)  
    return data,CommentId #获得每个json里的最后一个CommentId 

剩下的循环爬取就好。

汇总后就获得了2.6万条评论数据。

数说:这只程序员组建的乐队为何能进HOT5?

数据分析

一个乐队名称在每期评论中的提及次数,可以侧面反映这只乐队在这期节目后受到观众喜欢的程度。

#乐队在评论中的提及数  
a = {'痛仰':'痛仰', '新裤子':'裤子','猴子军团':'猴子军团','鹿先森':'鹿先森','旺福':'旺福','九连真人':'九连','盘尼西林':'盘尼西林|青霉素',  
    '反光镜':'反光镜','click15':'click15|#15','海龟先生':'海龟先生','皇后皮箱':'皇后皮箱','面孔':'面孔','和平和浪':'和平和浪','MR.MISS':'MR.MISS|MISS',  
    'VOGUE5':'VOGUE5|VOGUE','薄荷绿':'薄荷绿','熊猫眼':'熊猫眼','果味VC':'果味VC','BONGBONG':'BONGBONG','醒山':'醒山','刺猬':'刺猬','旅行团':'旅行团',  
    '麋鹿王国':'麋鹿王国','宇宙人':'宇宙人','黑撒':'黑撒','南无':'南无','斯斯与帆':'斯斯与帆','葡萄不愤怒':'葡萄不愤怒','茶凉粉':'茶凉粉',  
    '青年小伙子':'青年小伙子','Mr.WooHoo':'Mr.WooHoo|WooHoo',}  
for key, value in a.items():  
    data1[key] = data1['content'].str.contains(value)  
staff_count = pd.Series({key: data1.loc[data1[key], 'content'].count() for key in a.keys()}).sort_values()  
print(staff_count)  

以第一期为例,结果如下。

数说:这只程序员组建的乐队为何能进HOT5?

每期节目的乐队排名都依次降序盘点汇总一下。

数说:这只程序员组建的乐队为何能进HOT5?

结果还蛮惊讶的。

除去第二期他们没有参加,也就是说从第三期开始,刺猬乐队便开始展现实力,几乎每一期都能让观众如此喜欢。

数说:这只程序员组建的乐队为何能进HOT5?

数据可视化

筛选出评论中提到刺猬乐队的评论数据。

data_ciwei= data[data['content'].str.contains('刺猬')]  

爬取得到的数据字段其实没几个。

简单看一下喜欢他们的观众的性别分布。

from pyecharts import Pie  
# 生成饼图  

gender_data = data_ciwei.groupby(['gender'])  
gender_cw = gender_data['gender'].agg(['count'])  
gender_cw.reset_index(inplace=True)  

attr = ['女', '男', '无']  
v1 = gender_cw['count']  
pie = Pie("评论提及刺猬乐队的用户性别分布", title_pos='center', title_top=0)  
pie.add("", attr, v1, radius=[40, 70], label_text_color=None, is_label_show=True, legend_orient="vertical", legend_pos="left", legend_top="%10")  
pie

使用pyecharts作图。

数说:这只程序员组建的乐队为何能进HOT5?

至于评论的长度之类的就不做分析了。

最后看一下词云,不用jieba分词试试。

from pyecharts import WordCloud  
# 生成词云  

bj_tag = []  
for st in data_ciwei.dropna(subset=['content'])['content']:  
    bj_tag.extend(st.split(' '))  

name, value = WordCloud.cast(Counter(bj_tag))  
wordcloud = WordCloud(width=1000, height=500)  
wordcloud.add("", name, value, word_size_range=[18, 250])  
wordcloud  

还是使用pyecharts作图。

数说:这只程序员组建的乐队为何能进HOT5?

可以看出观众对于刺猬乐队的要么是直接夸,要么是和其他强队做对比,总体都是希望它能越来越好。

刺猬总是强调摇滚乐是属于年轻人的,35岁之后可能就不那么摇滚了。

不过35岁之后,他们又将去向哪里呢?

也许等到中年的子健,面对着年轻的乐手们会说:

我不是针对谁,我是说在坐的各位,都没我代码写的好!

本文相关爬虫和数据分析代码:

#下载链接  
https://t.zsxq.com/yBAUNb2

数说:这只程序员组建的乐队为何能进HOT5?

原创不易,点个好看吧

本文转转自微信公众号凹凸数据原创https://mp.weixin.qq.com/s/SlBrGBJkDKMESCOI1C1zZA,可扫描二维码进行关注: 数说:这只程序员组建的乐队为何能进HOT5? 如有侵权,请联系删除。

收藏
评论区

相关推荐

数说:这只程序员组建的乐队为何能进HOT5?
上周六晚,爱奇艺的独家综艺《乐队的夏天》总决赛终于落下了帷幕,虽然决赛过程有些“曲折”,但是我最喜欢的刺猬乐队,仍然凭借自己的硬实力,最终排在第二名!
数说:这只程序员组建的乐队为何能进HOT5?
上周六晚,爱奇艺的独家综艺《乐队的夏天》总决赛终于落下了帷幕,虽然决赛过程有些“曲折”,但是我最喜欢的刺猬乐队,仍然凭借自己的硬实力,最终排在第二名! 值得一提的是,这只乐队的吉他手兼主唱也是一位程序员。 刺猬乐队其实成立10多年了,很有实力。 但是在老牌乐队云集的这次比赛中,第一次31进16时仅仅排在第12名,那么他又是如何逆风翻盘的?让我来复盘
JPG、PNG和GIF图片的基本原理及优…
JPG、PNG和GIF图片的基本原理及优化方法 ======================= 一提到图片,我们就不得不从位图开始说起,位图图像(bitmap),也称为点阵图像或绘制图像,是由称作像素(图片元素)的单个点组成的。这些点可以进行不同的排列和染色以构成一副图片。当放大位图时,可以看见赖以构成整个图像的无数单个方块。 我们常见的图
Png图片的透明部分穿透测试
原文: [Png图片的透明部分穿透测试](https://www.oschina.net/action/GoToLink?url=https%3A%2F%2Fwww.cnblogs.com%2Fleeice%2Fp%2F3606260.html)        private void Window_MouseMove(obj
HTTPS
### 最近网站更新为https,于是做个笔记 ### 将域名 [www.domain.com](https://www.oschina.net/action/GoToLink?url=http%3A%2F%2Fwww.domain.com) 的证书文件1\_www.domain.com\_bundle.crt 、 ### 私钥文件2\_www.doma
HTTPS
楔子 谣言粉碎机前些日子发布的《[用公共WiFi上网会危害银行账户安全吗?](https://www.oschina.net/action/GoToLink?url=http%3A%2F%2Fwww.guokr.com%2Farticle%2F100110%2F)》,文中介绍了在使用HTTPS进行网络加密传输的一些情况,从回复来看,争议还是有的。随着网络越
HTTPS和HTTP的区别
HTTPS(Secure Hypertext Transfer Protocol)安全超文本传输协议 它是一个安全通信通道,它基于HTTP开发,用于在客户计算机和服务器之间交换信息。它使用安全套接字层(SSL)进行信息交换,简单来说它是HTTP的安全版。  它是由Netscape开发并内置于其浏览器中,用于对数据进行压缩和解压操作,并返回网络上传送回的
HTTPS的工作原理
**目的** http就是我们平时浏览网页时候使用的一种协议(网站是以http://开头)。http协议传输的数据都是未加密的(明文),一次http协议传输隐私信息非常不安全。为了保证这些隐私数据能加密传输,出现了https,下面讨论一下https的工作原理: **概述** HTTPS在传输数据之前需要客户端(浏览器)与服务端(网站)之间进行一
HTTPS请求
##HTTPS请求## > **HttpsUtils代码** package com.ices.utils.httpsHelp; import java.io.BufferedReader; import java.io.InputStream; import java.io.InputStreamReader;
GIF,JPG还是PNG选择合适的图片格式
转自:[IT屌丝,码农之家](https://www.oschina.net/action/GoToLink?url=http%3A%2F%2Fwww.it-fans.com%2Fthread-16-1-1.html) 从某种程度上说,判断一个网页设计师是否优秀,可以从其在WEB开发(或网页设计)中是否合理的采用各种图片格式得出结论。事实上,或许所
ImageMagick 环境安装 支持jpeg png
安装的ImageMagick发现ImageMagick 竟然不支持jpeg和png 需要安装额外的库 安装了额外的库,但是依旧有如下情况 <IMG alt=http://img.my.csdn.net/uploads/201209/09/1347151126\_9213.png src="http://static.oschina.net/upload
Nginx配置https
一、开启nginx的ssl模块 1.未安装过nginx,编译安装配置参数如下: ./configure \--prefix=/usr/local/nginx \--with-pcre \--with-http\_ssl\_module #ssl模块 \--with-http\_stub\_status\_module \--wit
svg转png
svg转png网络上常用的方式有两种: 1.直接转base64放到图片src进行显示,测试效果不佳,始终报方法问题。 2.先转canvas,再转为png图,测试效果可以但svg透明背景到了canvas转换会变黑。 推荐使用方法三: 复制链接下载svg转png的js http://p8sv0x8g6.bkt.clouddn.com/saveSvgAs