一图看尽编程语言十年热度变化!
前言
获取数据
# -*- coding: UTF-8 -*-
"""
@Author :叶庭云
@公众号 :修炼Python
@CSDN :https://yetingyun.blog.csdn.net/
"""
import requests
import re
import openpyxl
import logging
logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s: %(message)s')
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.89 Safari/537.1"
}
wb = openpyxl.Workbook() # 创建工作簿对象
sheet = wb.active # 获取活动的工作表
# 编程语言 时间 热度
sheet.append(['Programing', 'Date', 'data_per'])
url = 'https://www.tiobe.com/tiobe-index/'
rep = requests.get(url, headers=headers).text
# 正则匹配提取数据
data = re.findall('{name : (.*?),data : (.*?)}', rep)
programing = [eval(k[0]) for k in data] # 编程语言
dates = [i[1] for i in data]
# 正则表达式处理 提取出想要的数据
for x in range(len(dates)):
name = programing[x]
datas = re.findall(r'\[Date.UTC(.*?)]', dates[x], re.DOTALL)
for m in datas:
date1 = re.findall(r'\d+', m) # 正则提取出数字
date2 = '-'.join(date1[:3]) # 拼接得到时间
data_per = '.'.join(date1[-2:]) # 得到热度数据
sheet.append([name, date2, data_per])
logging.info([name, date2, data_per])
wb.save('language_data.xlsx')
import pandas as pd
df = pd.read_excel('language_data.xlsx')
df.sample(10)
df['Programing'].unique()
df.info()
数据可视化
# -*- coding: UTF-8 -*-
"""
@Author :叶庭云
@公众号 :修炼Python
@CSDN :https://yetingyun.blog.csdn.net/
"""
import pandas as pd
import xlrd
import pyecharts.options as opts
from pyecharts.charts import Timeline, Bar
from pyecharts.globals import CurrentConfig, ThemeType
CurrentConfig.ONLINE_HOST = 'D:/python/pyecharts-assets-master/assets/'
# 提取现在的Top10编程语言
name = list(pd.read_excel('language_data.xlsx')['Programing'].unique())
data = xlrd.open_workbook('language_data.xlsx')
table = data.sheets()[0]
dic1 = {k: [] for k in name}
# 各编程语言对应每年里不同时间的热度
for i in range(1, table.nrows):
x = table.row_values(i)
dic1[x[0]].append((x[1], x[2]))
# 与编程语言顺序对应 每年编程语言对应的不同时间的热度
data_per = {k: [[] for x in range(10)] for k in range(2001, 2022)}
print(data_per)
count = 0
for k, v in dic1.items():
print(k, v)
for j in v: # v (时间,热度) 热度数据添加进各年对应的列表里
data_per[int(j[0][:4])][count].append(eval(j[1])) # 一年里各编程语言不同时间时的热度 对应
count += 1
# print(data_per)
data_per1 = {k: [] for k in list(data_per.keys())}
for k, v in list(data_per.items()):
for x in v:
if len(x) == 0: # 这一年里该语言没有热度数据
data_per1[k].append(0)
else:
avg = sum(x) / len(x)
data_per1[k].append(round(avg, 2)) # 这一年里的平均热度
# 得到TOBIE现在排Top10的编程语言从2001年开始每年的平均热度
print(data_per1)
def get_year_overlap_chart(year) -> Bar:
sum_info = [(m, n) for m, n in zip(name, data_per1[year])]
# 编程语言按每年平均热度排序
sum_info.sort(key=lambda z: z[1])
name_ = [m[0] for m in sum_info]
datas = [m[1] for m in sum_info]
# 每根柱子的颜色列表
colors = ['#00BFFF', '#0000CD', '#000000', '#008000', '#FF1493', '#FFD700', '#FF4500', '#00FA9A', '#191970',
'#9932CC']
data_1 = []
for item in range(10):
data_1.append(
opts.BarItem(
name=name_[item],
value=datas[item],
itemstyle_opts=opts.ItemStyleOpts(color=colors[item]) # 设置每根柱子的颜色
)
)
# 绘制柱形图
bar = Bar()
bar.add_xaxis(name_)
bar.add_yaxis(series_name='热度', yaxis_data=data_1, is_selected=True,
label_opts=opts.LabelOpts(is_show=False))
bar.reversal_axis()
bar.set_global_opts(title_opts=opts.TitleOpts(
title="2011-2020年编程语言热度变化"),
tooltip_opts=opts.TooltipOpts(
is_show=True, trigger="axis", axis_pointer_type="shadow"),
xaxis_opts=opts.AxisOpts(name='平均热度'), yaxis_opts=opts.AxisOpts(name='编程语言'),
)
return bar
# 生成时间轴的图
timeline = Timeline(init_opts=opts.InitOpts(theme=ThemeType.MACARONS, width="1200px", height="600px"))
for y in range(2011, 2021):
timeline.add(get_year_overlap_chart(y), time_point=str(y))
timeline.add_schema(is_auto_play=True, play_interval=1000)
timeline.render("language_2011_2020.html")
根据网站资源引用说明:pyecharts 使用的所有静态资源文件存放于 pyecharts-assets 项目中 这个文件默认挂载在 https://assets.pyecharts.org/assets/,因为默认优先从远程引用资源,这就导致有的时候无法加载 js 文件,图表显示不出来。
from pyecharts.globals import CurrentConfig
CurrentConfig.ONLINE_HOST = 'D:/python/pyecharts-assets-master/assets/' # 本地保存 js 资源的路径
☞小米回应造车传闻;饿了么就春节“套路”骑手活动致歉;Go 1.16 正式发布 | 极客头条
☞破圈!不止于浏览器,WebAssembly 2020 大事记
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
关注网络尖刀微信公众号
随时掌握互联网精彩
随时掌握互联网精彩
赞助链接
排名
热点
搜索指数
- 1 中美双方应该彼此成就 4953361
- 2 社保缴十五年可坐等退休?解释来了 4929163
- 3 微信发文件3小时内可撤回 4850409
- 4 中国外贸开局有力起势良好 4708705
- 5 47岁男子兜里每天放6张医保卡 4616381
- 6 舞蹈老师踩断学生腿只愿赔5万 4570261
- 7 有学生喝完体考神器像万根毛针在刺 4459372
- 8 浙江江山发现新物种须女景天 4399502
- 9 网约车被路政追赶致2死1伤不实 4270052
- 10 余华建议女学生结婚要找江浙男 4186255