|
|
51CTO旗下网站
|
|
移动端

Python+SQL无敌组合,值得你Pick

这里我们重点介绍一下关系型数据库,常用的有Oracle、MySQL、Microsoft SQL Server和PostgreSQL等,下面会用PostgreSQL作为实例,讲解如何用Python连接数据库并用SQL进行后续操作。

作者:佚名来源:挖地兔|2019-06-04 09:30

Python+SQL无敌组合,值得你Pick

SQL是结构化查询语言Structured Query Language的简称,是一种数据库查询和程序设计语言,用于存取数据以及查询、更新和管理关系数据库系统。

在正式讲解代码之前,先来科普一下数据库相关的知识。

数据库是以一定方式储存在一起、能与多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。数据库系统具有如下特点:

① 数据结构化

实现整体数据的结构化,这里所说的“整体”结构化,是指在数据库中的数据不再仅针对某个应用,而是面向全组织;不仅数据内部是结构化,而且整体式结构化,数据之间有联系。

② 数据共享性高

多个用户可以同时存取数据库中的数据,甚至可以同时存取数据库中的同一个数据。

③ 数据冗余度低

减少重复数据的存储,节约存储空间。

④ 数据独立性高

用户的应用程序与数据库的物理存储结构和逻辑结构是相互独立的。

数据库可以分为两类,关系型数据库非关系型数据库NoSQL(Not Only SQL)

关系型数据库是由多张能互相联接二维行列表格组成的数据库。

非关系型数据库NoSQL主要是指非关系型、分布式、不提供ACID的数据库设计模式。其中,ACID是指数据库事务处理的四个基本要素,分别代表原子性Atomicity、一致性Consistency、隔离性Isolation、持久性Durability。

这里我们重点介绍一下关系型数据库,常用的有Oracle、MySQL、Microsoft SQL Server和PostgreSQL等,下面会用PostgreSQL作为实例,讲解如何用Python连接数据库并用SQL进行后续操作。

【工具】

Python 3

PostgreSQL 10

Tushare

【注】

本文假设你已安装好PostgreSQL数据库,可直接到官网进行下载安装。文中代码部分注重的是方法讲解,希望大家能够根据自身需求灵活运用。

01、用Python连接数据库PostgreSQL

PostgreSQL是最先进并且应用最广泛的关系型数据库管理系统之一。它非常受欢迎的原因有很多,其中包括它是开源的、它的可扩展性以及它处理许多不同类型的应用程序和不同负载的能力。

用Python可以轻松地建立到PostgreSQL数据库的连接。PostgreSQL有很多Python驱动程序,其中“psycopg”是最流行的一个,它的当前版本是psycopg2

我们可以用psycopg2模块将Postgres与Python连在一起。psycopg2是一个用于Python的Postgres数据库适配器。首先,需要用pip命令进行安装。

  1. $ pip3 install psycopg2 

【注】这里用的版本是Python 3.5,因此用的是pip3而不是pip进行安装。

安装好之后,我们就可以用它进行数据库连接操作。首先,应该创建一个表示数据库的连接对象con。接着,创建一个游标对象cur来执行SQL语句。

  1. import psycopg2 
  2. con = psycopg2.connect(database="postgres"user="postgres"password="Kaliakakya", host="127.0.0.1", port="5432")  
  3. print("Database opened successfully"
  4. cur = con.cursor()  

database:要连接的数据库名称。

user:用于身份验证的用户名,默认为"postgres"。

password:用户的数据库密码,自己设置的。

host:数据库服务器的地址,如域名、“localhost”或IP地址。

port:端口,默认值为5432。

我们也可以用sqlalchemy库连接,代码如下:

  1. from sqlalchemy import create_engine 
  2. engine = create_engine('postgresql://postgres:password@localhost:5432/postgres'

02、SQL数据库操作

建表

我们用SQL语句CREATE TABLE在Python中创建Postgres表,先用上面提到的方法建立数据库连接,再调用属于连接对象的cursor()方法来创建游标对象,该游标对象用于实际执行命令。

然后调用cursor对象的execute()方法来帮助创建表。最后,我们需要提交con.commit()并关闭连接con.close()。“提交”连接告诉驱动程序将命令发送到数据库,这一步很重要。

这里我们创建两个表,“沪深300指数日线行情”和“沪深股票qfq日线行情”。

  1. import psycopg2 
  2. con = psycopg2.connect(database="postgres"user="postgres"password="", host="127.0.0.1", port="5432"
  3. print("Database opened successfully"
  4. cur = con.cursor() 
  5. cur.execute("""CREATE TABLE 沪深300指数日线行情 
  6.  (ts_code VARCHAR(10) NOT NULL
  7.  trade_date DATE NOT NULL
  8.  open_p NUMERIC DEFAULT 0, 
  9.  high_p NUMERIC DEFAULT 0, 
  10.  low_p NUMERIC DEFAULT 0, 
  11.  close_p NUMERIC DEFAULT 0, 
  12.  pre_close NUMERIC DEFAULT 0, 
  13.  pct_chg NUMERIC DEFAULT 0, 
  14.  PRIMARY KEY (ts_code, trade_date) 
  15.  ) ; """) 
  16. print("Table created successfully"
  17. con.commit() 
  18. con.close() 

简单说明一下,VARCHAR(10)、DATE、NUMERIC代表的是数据类型,NOT NULL代表非空约束,DEFAULT 0表示将默认值设置为0,PRIMARY KEY代表主键,用于唯一标识数据库表中的一行数据。

看到如下输出,就表示表已创建成功。同理,可创建另一个表“沪深股票qfq日线行情”。

  1. Database opened successfully  
  2. Table created successfully  

插入数据

既然表已经创建成功,我们就可以开始插入数据了,先从tushare.pro上面获取沪深300指数日线行情数据,用INSERT INTO这个SQL语句插入。

  1. import psycopg2 
  2. import pandas as pd 
  3. import tushare as ts 
  4. con = psycopg2.connect(database="postgres"user="postgres"password="", host="127.0.0.1", port="5432"
  5. print("Database opened successfully"
  6. cur = con.cursor() 
  7. pro = ts.pro_api() 
  8. df = pro.index_daily(ts_code='399300.SZ', start_date='20190501', end_date='20190531') # 单位:涨跌幅(%), 成交量(手)、成交额(千元) 
  9. ts_code = df['ts_code'].tolist() 
  10. trade_date = df['trade_date'].tolist() 
  11. open_p = df['open'].tolist() 
  12. high_p = df['high'].tolist() 
  13. low_p = df['low'].tolist() 
  14. close_p = df['close'].tolist() 
  15. pre_close = df['pre_close'].tolist() 
  16. pct_chg = df['pct_chg'].tolist() 
  17. count = 0 
  18. for i in range(len(ts_code)): 
  19.  cur.execute(""
  20.  INSERT INTO 沪深300指数日线行情 (ts_code, trade_date, open_p, high_p, low_p, close_p, pre_close, pct_chg) 
  21.  VALUES( %s, %s, %s, %s, %s, %s, %s, %s);""", 
  22.  (ts_code[i], 
  23.  trade_date[i], 
  24.  open_p[i], 
  25.  high_p[i], 
  26.  low_p[i], 
  27.  close_p[i], 
  28.  pre_close[i], 
  29.  pct_chg[i])) 
  30.  con.commit() 
  31.  print("已插入{0}行,共有{1}行".format(count, len(ts_code))) 
  32.  count += 1  

同理,将tushare.pro里面的沪深股票前复权通用行情数据插入表“沪深股票qfq日线行情”,示例中只插入两只股票,平安银行'000001.SZ' 和万科A'000002.SZ'。

这里我们介绍另一种存储数据的方法,直接用Pandas自带的df.to_sql(),将获取的DataFrame一次性插入到数据库中,比上面介绍的先建表,再一行行插入的方法要简洁很多。

  1. from sqlalchemy import create_engine 
  2. import pandas as pd 
  3. import tushare as ts 
  4. ts.set_token('your token'
  5. engine = create_engine('postgresql://postgres:password@localhost:5432/postgres'
  6. print('Database opened successfully'
  7. pro = ts.pro_api() 
  8. code_list = ['000001.SZ''000002.SZ'
  9. for i in code_list: 
  10.  print(i) 
  11.  df = ts.pro_bar(ts_code=i, adj='qfq', start_date='20190501', end_date='20190531'
  12.  df.to_sql(name='沪深股票qfq日线行情', con=engine, index=False, if_exists='append'

值得注意的一点是,这种方法在数据量小的时候一般不会出问题,但当数据量很大时,可能会因服务器无法响应而报错。这时,需要设置参数值chunksize,限制每次插入的行数。更多有关参数的说明,可到官方文档查看【1】。

有了数据,我们就可以用SQL对数据库进行一系列的操作了。

获取数据

我们可以用Pandas自带的.read_sql()方法获取数据,直接返回的是DataFrame格式,非常方便,详细的参数解析请查看官方文档【2】。SQL的查询功能是很强大的,下面介绍常用的一些筛选条件。

选取某张表的特定几列:

  1. from sqlalchemy import create_engine 
  2. import pandas as pd 
  3. engine = create_engine('postgresql://postgres:password@localhost:5432/postgres'
  4. df_index = pd.read_sql("SELECT ts_code, trade_date, close_p FROM 沪深300指数日线行情;", con=engine) 
  5. print(df_index.head()) 
  6.  ts_code trade_date close_p 
  7. 0 399300.SZ 2019-05-31 3629.7893 
  8. 1 399300.SZ 2019-05-30 3641.1833 
  9. 2 399300.SZ 2019-05-29 3663.9090 
  10. 3 399300.SZ 2019-05-28 3672.2605 
  11. 4 399300.SZ 2019-05-27 3637.1971 

DISTINCT选取唯一值:

  1. df = pd.read_sql("SELECT DISTINCT ts_code FROM 沪深股票qfq日线行情;", con=engine) 
  2. print(df) 
  3.  ts_code 
  4. 0 000001.SZ 
  5. 1 000002.SZ 

COUNT计数:

  1. # 查看某列有多少唯一值 
  2. df = pd.read_sql("SELECT COUNT(DISTINCT ts_code) FROM 沪深股票qfq日线行情;", con=engine) 
  3. print(df) 
  4.  count 
  5. 0 2 

WHERE语句筛选数值:

  1. df = pd.read_sql("SELECT * FROM 沪深股票qfq日线行情 WHERE trade_date = '20190528';", con=engine) 
  2. print(df) 
  3.  ts_code trade_date open_p ... close_p pre_close pct_chg 
  4. 0 000001.SZ 2019-05-28 12.31 ... 12.49 12.37 0.97 
  5. 1 000002.SZ 2019-05-28 27.00 ... 27.62 27.00 2.30 

WHERE语句搭配ANDOR一起使用:

  1. df = pd.read_sql("SELECT ts_code, trade_date FROM 沪深股票qfq日线行情 WHERE (trade_date < '20190510' OR trade_date > '20190520') AND pct_chg > 1;", con=engine) 
  2. print(df) 
  3.  ts_code trade_date 
  4. 0 000001.SZ 2019-05-21 
  5. 1 000002.SZ 2019-05-28 
  6. 2 000002.SZ 2019-05-07 

和WHERE语句类似,BETWEEN也可以搭配AND和OR一起使用:

  1. df = pd.read_sql("SELECT ts_code, trade_date FROM 沪深股票qfq日线行情 WHERE trade_date BETWEEN '20190510' AND '20190520' AND pct_chg > 1;", con=engine) 
  2. print(df) 
  3.  ts_code trade_date 
  4. 0 000001.SZ 2019-05-15 
  5. 1 000001.SZ 2019-05-14 
  6. 2 000001.SZ 2019-05-10 
  7. 3 000002.SZ 2019-05-15 
  8. 4 000002.SZ 2019-05-10 

WHEREIN的组合,可以简化WHERE结合多个OR进行筛选的代码:

  1. df = pd.read_sql("SELECT ts_code, trade_date FROM 沪深股票qfq日线行情 WHERE trade_date IN ('20190510', '20190520', '20190527');", con=engine) 
  2. print(df) 
  3.  ts_code trade_date 
  4. 0 000001.SZ 2019-05-27 
  5. 1 000001.SZ 2019-05-20 
  6. 2 000001.SZ 2019-05-10 
  7. 3 000002.SZ 2019-05-27 
  8. 4 000002.SZ 2019-05-20 
  9. 5 000002.SZ 2019-05-10 

NULL的意思是空值,IS NULL代表是空值,IS NOT NULL代表不是空值:

  1. df = pd.read_sql("SELECT COUNT(*) FROM 沪深股票qfq日线行情 WHERE close_p IS NULL ;", con=engine) 
  2. print(df) 
  3.  count 
  4. 0 0 

可以用聚合函数对数据做一些计算,如平均值AVG(),最大值MAX(),求和SUM()

  1. df = pd.read_sql("SELECT AVG(close_p) FROM 沪深300指数日线行情;", con=engine) 
  2. print(df) 
  3.  avg 
  4. 0 3659.63762 

聚合函数也可以和WHERE语句结合进行筛选:

  1. df = pd.read_sql("SELECT AVG(close_p) FROM 沪深300指数日线行情 WHERE trade_date > '20190515';", con=engine) 
  2. print(df) 
  3.  avg 
  4. 0 3645.740858 

AS为新列命名:

  1. df = pd.read_sql("""SELECT MAX(close_p) AS max_close_p, 
  2.  MAX(open_p) AS max_open_p FROM 沪深300指数日线行情;""", con=engine) 
  3. print(df) 
  4.  max_close_p max_open_p 
  5. 0 3743.9635 3775.0765 

ORDER BY排序,默认为升序,降序需要在末尾加上DESC

  1. # 升序: 
  2. df = pd.read_sql("""SELECT ts_code, trade_date FROM 沪深300指数日线行情 ORDER BY trade_date;""", con=engine) 
  3. print(df) 
  4. # 降序: 
  5. df = pd.read_sql("""SELECT ts_code, trade_date FROM 沪深300指数日线行情 ORDER BY trade_date DESC;""", con=engine) 
  6. print(df) 

ORDER BY也可以根据多个列进行排序:

  1. df = pd.read_sql("""SELECT trade_date, ts_code FROM 沪深股票qfq日线行情 ORDER BY trade_date, ts_code;""", con=engine) 
  2. print(df) 
  3.  trade_date ts_code 
  4. 0 2019-05-06 000001.SZ 
  5. 1 2019-05-06 000002.SZ 
  6. 2 2019-05-07 000001.SZ 
  7. 3 2019-05-07 000002.SZ 
  8. 4 2019-05-08 000001.SZ 

GROUP BY进行分组,并结合聚合函数分组计算数据:

  1. df = pd.read_sql("""SELECT ts_code, COUNT(*) FROM 沪深股票qfq日线行情 GROUP BY ts_code;""", con=engine) 
  2. print(df) 
  3.  ts_code count 
  4. 0 000001.SZ 20 
  5. 1 000002.SZ 20 

如果要在分组GROUP BY的基础上再增加聚合函数筛选条件,可用HAVING

  1. df = pd.read_sql("""SELECT ts_code FROM 沪深股票qfq日线行情 GROUP BY ts_code HAVING COUNT(*) > 15 ;""", con=engine) 
  2. print(df) 
  3.  ts_code 
  4. 0 000001.SZ 
  5. 1 000002.SZ 

LIMIT限制取出的行数:

  1. df = pd.read_sql("""SELECT * FROM 沪深股票qfq日线行情 LIMIT 3;""", con=engine) 
  2. print(df) 
  3.  ts_code trade_date open_p ... close_p pre_close pct_chg 
  4. 0 000001.SZ 2019-05-31 12.16 ... 12.18 12.22 -0.33 
  5. 1 000001.SZ 2019-05-30 12.32 ... 12.22 12.40 -1.45 
  6. 2 000001.SZ 2019-05-29 12.36 ... 12.40 12.49 -0.72 

03、总结

本文介绍了数据库系统的优势,如何用Python连接数据库并用SQL进行后续的查询操作。

SQL是非常强大的查询语言,在使用Python对数据进行分析之前,可以通过筛选精准地获取想要的数据。

Python和SQL的组合能够大大提升数据分析的效率和质量,希望大家可以好好学习和利用起来!

【责任编辑:庞桂玉 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

WOT2019全球人工智能技术峰会

WOT2019全球人工智能技术峰会

通用技术、应用领域、企业赋能三大章节,13大技术专场,60+国内外一线人工智能精英大咖站台,分享人工智能的平台工具、算法模型、语音视觉等技术主题,助力人工智能落地。
共50章 | WOT峰会

0人订阅学习

Spring Boot 爬虫搜索轻松游

Spring Boot 爬虫搜索轻松游

全栈式开发之旅
共4章 | 美码师

77人订阅学习

Linux性能调优攻略

Linux性能调优攻略

性能调优规范
共15章 | 南非蚂蚁

223人订阅学习

读 书 +更多

超级网管员——网络应用

本书全面、深入地介绍了网络应用技术,主要内容包括:RMS权限管理服务、Exchange邮件服务、LCS即时消息服务、WSUS系统更新服务、Symantec网...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO播客