Python实现疫情数据爬取、入库与可视化分析
本文详细介绍如何利用Python进行网络数据爬取,将获取的疫情JSON数据存入MySQL数据库,并通过Matplotlib库绘制国内与国外的确诊、治愈及现有确诊人数趋势图。涵盖从API请求、数据清洗、数据库交互到图表生成的完整流程,为数据可视化提供实用参考。
在举国上下万众一心、众志成城做好新冠肺炎疫情防控工作的特殊时刻,我们不能亲临主战场,但我们能坚持在大战中坚定信心、不负韶华。
数据爬取与入库流程
首先,通过程序抓取新闻数据并保存为JSON文件,同时将绘图所需的关键数据提取并存储至数据库中。
数据库表结构设计如下:

具体代码实现部分如下:
import pymysql
import re
import sys,urllib,json
from urllib import request
from datetime import datetime
import pandas as pd
Today=datetime.now().strftime(r"%Y-%m-%d")
#Today='2020-02-14'
def pachong():
url='http://api.tianapi.com/txapi/ncov/index?key=xxx&date={}'.format(Today)
req = request.Request(url)
resp = request.urlopen(req)
content = resp.read().decode()
data=json.loads(content)
with open('/Users/zhangyuchen/Desktop/latestTrends.json','w') as fp:#将所得的数据存储为json文件
json.dump(data,fp = fp,ensure_ascii = False,indent = 4,sort_keys=True)
#dump函数有很多参数,第一个是目标object,第二个是要写入的文件对象
print("成功保存为json文件!")
return(re.findall(r'"confirmedCount":(.+?),"',content),re.findall(r'"currentConfirmedCount":(.+?),"',content),re.findall(r'"curedCount":(.+?),"',content))
def connectMysql(cc):
#/usr/local/mysql/bin/mysql -u root -p
db = pymysql.connect("localhost", "root", "密码", "dbname",charset='utf8' )
cursor = db.cursor()
sql="""insert into {0} (DATE,SICK,SICK_NOW,RECOVER)values('{1}','{2}','{3}','{4}')"""
cursor.execute(sql.format('db1',Today,int(cc[0][0]),int(cc[1][0]),int(cc[2][0])))
cursor.execute(sql.format('db2',Today,int(cc[0][1]),int(cc[1][1]),int(cc[2][1])))
db.commit()
print(("成功将{}数据存入数据库!").format(Today))
db.close()
cc=pachong()
connectMysql(cc)
生成的JSON文件示例如下:

Matplotlib图表绘制实现
接下来,利用Matplotlib库函数绘制相应的统计图表。
import numpy as np
import matplotlib.pyplot as plt
import matplotlib
import pymysql
import re
import sys, urllib,json
from urllib import request
#/usr/local/mysql/bin/mysql -u root -p
date=[]
cSick=[]
aSick=[]
cNowSick=[]
aNowSick=[]
cRecover=[]
aRecover=[]
db = pymysql.connect("localhost", "root", "密码", "trends")
sql="select * from db1 ORDER BY DATE"
cursor = db.cursor()
cursor.execute(sql)
results = cursor.fetchall()
while results:
for row in results:
date.append(row[0].strftime("%d"))
cSick.append(row[1])
cNowSick.append(row[2])
cRecover.append(row[3])
results=cursor.fetchone()
#查询Abroad Table
sql="select * from db2"
cursor.execute(sql)
results = cursor.fetchall()
while results:
for row in results:
aSick.append(row[1])
aNowSick.append(row[2])
aRecover.append(row[3])
results=cursor.fetchone()
cursor.close()
db.close()
def DrawLineChart(ySick,yNowSick):
plt.plot(x,ySick,color='y',label="Cumulative number of cases",linewidth=3,linestyle="--")
plt.plot(x,yNowSick,color='r',label="Current number of cases",linewidth=3,linestyle="-")
def DrawBarChart(yRecover):
width=0.45#柱子宽度
p2 = plt.bar(x,yRecover,width,label="Cured Count",color="#87CEFA")
Days=len(aSick)
plt.figure(figsize=(16,12), dpi=80)#设置分辨率为80像素/每英寸
x=np.arange(Days)
#创建两个子图
plt.subplot(322)
plt.title("Trends of March")
DrawLineChart(cSick,cNowSick)
DrawBarChart(cRecover)
plt.figlegend()
plt.xticks(x,date)
plt.ylabel('Number')
plt.subplot(324)
#plt.title("Trends of March")
DrawLineChart(aSick,aNowSick)
DrawBarChart(aRecover)
plt.xticks(x,date,rotation=0)
plt.xlabel('Date')
plt.ylabel('Number')
plt.show()
至此,关于利用Python绘制数据曲线图的实现介绍完毕,更多相关Python数据曲线图内容请搜索本站以前的文章或继续浏览下面的相关文章,希望大家以后多多支持本站!
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









