Python 之 Sqlite3数据库
SQLite数据库是一款非常小巧的嵌入式开源数据库软件,它使用一个文件存储整个数据库,优点是使用方便,但是功能相比于其它大型数据库来说,确实有点差距。由于此次数据库实践所需要求不多,所以就使用SQLite来完成。值得一提的是,Python内置SQLite3,所以在Python中使用SQLite,不需要安装任何东西,直接使用。
一、数据库(database)简介
表是数据库中存放关系数据的集合,一个数据库里面通常都包含多个表,表和表之间通过外键关联。
因为Python的数据库模块有统一的接口标准,所以数据库操作都有统一的模式。要操作关系数据库,大致是以下几步(假设数据库模块名称为db):
- 用db.connect连接数据库,假设得到的对象为conn
- 如果该数据库操作不需要返回结果,就直接用conn.execute查询,根据数据库事务隔离级别的不同,可能修改数据库需要conn.commit
- 如果需要返回查询结果则用conn.cursor创建游标对象cur, 通过cur.execute查询数据库,用cur.fetchall/cur.fetchone/cur.fetchmany返回查询结果。根据数据库事务隔离级别的不同,可能修改数据库需要conn.commit
- 关闭cur,conn
二、SQLite使用
(1)SQlite数据库的导入
1 import sqlite3
(2)创建数据库/打开数据库
1 conn = sqlite3.connect("test.db")在调用connect函数的时候,指定数据库名称,如果指定的数据库存在就直接打开这个数据库,如果不存在就新创建一个再打开。
(3)数据库连接对象
打开数据库时返回的对象conn就是一个数据库连接对象,有以下几种基本操作:
#创建一个Cursor游标 cur = conn.cursor() #执行一条SQL语句,创建user表 cur.execute(‘create table user (id varchar(20) primary key, name varchar(20))‘) #执行一条SQL语句,插入一条记录 cur.execute(‘insert into user (id, name) values (\‘1\‘, \‘Michael\‘)‘) #获得插入的行数 cur.rowcount #执行查询语句 cursor.execute(‘select * from user where id=?‘, (‘1‘,)) #获得查询结果 values = cur.fetchall() #如果使用cur.fetchone()则首先返回列表中的第一项,再次使用,则返回第二项,依次下去 #关闭cur cur.close() #提交事务 conn.commit() #关闭connection连接 conn.close()
使用Cursor游标对象执行insert,update,delete语句时,执行结果由rowcount返回影响的行数,就可以拿到执行结果。
使用Cursor游标对象执行select语句时,通过fetchall()可以拿到结果集。结果集是一个list,每个元素都是一个tuple,对应一行记录。
如果SQL语句带有参数,那么需要把参数按照位置传递给execute()方法,有几个?占位符就必须对应几个参数。另外一种方法是使用字符串格式化format()方法。
以上为SQLite数据库的常用的基本操作,具体用法请参阅SQLite的官方网站。(SQLite数据库菜鸟教程)
三、SQLite数据库实践
(1)将上次爬取得到的2017中国最好大学排名.csv文件以db格式文件写入数据库
#!D:/Python/Python.exe
# -*- coding: utf-8 -*-
import sqlite3 as sql
#获取csv文件的数据
def GetData(Csv_Path):
with open(Csv_Path, "r", encoding="utf-8") as f:
lines = f.readlines()
Data = lines[1:]
Headers = lines[0].replace(‘\n‘, ‘‘)
Headers = Headers.split(‘,‘)
return Data, tuple(Headers)
#创建数据库
def CreateDB(DB_Path, Headers, Tab_name):
try:
conn = sql.connect(DB_Path)
cur = conn.cursor()
cur.execute(‘‘‘CREATE TABLE {0} {1}‘‘‘.format(Tab_name, Headers))
print("Table created successfully")
return conn, cur
except:
print("Created failed")
#将数据导入数据库
def Import(Csv_Path, DB_Path, Tab_name):
Data, Headers = GetData(Csv_Path)
Conn, Cur = CreateDB(DB_Path, Headers, Tab_name)
#为了之后的排序工作, 以下进行了数据处理
for row in Data:
row = row.replace(‘无‘, ‘0‘)
row = row.replace(‘\n‘, ‘‘)
row = tuple(row.split(‘,‘))
Cur.execute("INSERT INTO {0} VALUES {1}".format(Tab_name, row))
print("Data import successful")
Conn.commit() #提交事务
Cur.close() #关闭游标
Conn.close() #关闭数据库连接
if __name__ == "__main__":
Csv_Path = input("请输入需要导入的csv文件的路径或名称:")
DB_Name = input("请输入数据库的名称:")
Tab_name = input("请输入数据库的表名称:")
Import(Csv_Path, DB_Name, Tab_name)
46将结果用SQLite Studio呈现:


SQLite Studio是一款 Sqlite数据库可视化工具,使用非常简单,想要了解的话这里给一个我参考的教程。(SQLite Studio使用教程)
(2)查询学校的数据
import sqlite3 as sql
Conn = sql.connect("db2019310143115.db")
Cur = Conn.execute("SELECT * from Rank where 学校名称 = ?", (‘广东技术师范学院‘,)) #这句代码是产生一个指定位置的cursor游标
row = Cur.fetchone()
print(row)
Cur.close()
Conn.close()这里只是单纯执行一句sql语句实现查询,并未整合在上面的代码。值得一提的是connection.execute()与cursor.execute()不相同,前者是产生一个游标,后者是直接操作游标。
结果为:

(3)按照要求查询并显示广东省的学校的排名和成果转化
import sqlite3 as sql
Conn = sql.connect("db2019310143115.db")
Cur = Conn.execute("SELECT 学校名称, 成果转化(技术转让收入·千元) FROM Rank order by 成果转化(技术转让收入·千元) desc") #执行sql的order by语句进行排序, desc为倒序, 默认为顺序
for i in Cur.fetchall():
print(i)
Cur.close()
Conn.close()一部分结果为(左边是学校名称,右边是成果转化的数据):

(4)将广东省(或全国)的学校的排名和数据存为一个新表,并且使用一个算法,综合每个因素进行总排名
由于这一要求并未完成,我仅把上面的功能整合在一起,给出代码:
#!D:/Python/Python.exe
# -*- coding: utf-8 -*-
import sqlite3 as sql
#获取csv文件的数据
def GetData():
Csv_Path = input("请输入csv文件的路径或名称:")
with open(Csv_Path, "r", encoding="utf-8") as f:
lines = f.readlines()
Data = lines[1:]
Headers = lines[0].replace(‘\n‘, ‘‘)
Headers = Headers.split(‘,‘)
return Data, tuple(Headers)
#创建新表
def CreateDB(Headers, Cur):
Tab_name = input("请输入表名称:")
try:
Cur.execute(‘‘‘CREATE TABLE {0} {1}‘‘‘.format(Tab_name, Headers))
print("Table created successfully.")
except:
print("Creation failed.")
#将数据导入数据库
def Import(Data, Cur):
Tab_name = input("请输入表的名称: ")
#为了之后的排序工作, 以下进行了数据处理
for row in Data:
row = row.replace(‘无‘, ‘0‘)
row = row.replace(‘\n‘, ‘‘)
row = row.split(‘,‘)
for i in range(len(row)):
try:
row[i] = eval(row[i])
except:
continue
Cur.execute("INSERT INTO {} VALUES {}".format(Tab_name, tuple(row))) #执行sql语句, 写入数据
print("Data imported successfully.")
#查询数据
def Search(Headers, Cur):
Tab_name = input("请输入表的名称: ")
School = input("请输入想要查找的学校: ")
Cur.execute("SELECT * FROM {} WHERE 学校名称 = ?".format(Tab_name), (School,))
Info = Cur.fetchone()
for i in range(len(Headers)):
print("{}: {}".format(Headers[i], Info[i]))
#排序
def Sort(Cur):
Tab_name = input("请输入表的名称: ")
Col = input("请输入想要按照哪列进行排序(默认倒序): ")
Cur.execute("SELECT 学校名称, 成果转化(技术转让收入·千元) FROM {} order by {} desc".format(Tab_name, Col))
for i in Cur.fetchall():
print(i)
#数据库功能
def Function(Data, Headers):
DB_Path = input("请输入数据库的路径或名称:")
try:
Conn = sql.connect(DB_Path)
Cur = Conn.cursor()
print("Connect completed.")
except:
print("Connection fail.")
else:
while True:
Choi = input("请选择你想要使用的功能(1、创建新表 2、插入数据 3、查询 4、排序 0、退出):")
if Choi == "0":
Cur.close()
Conn.close()
print("Database closed successfully.")
break
elif Choi == "1":
CreateDB(Headers, Cur)
elif Choi == "2":
Import(Data, Cur)
Conn.commit()
elif Choi == "3":
Search(Headers, Cur)
elif Choi == "4":
Sort(Cur)
else:
print("Input Error!")
if __name__ == "__main__":
Data, Headers = GetData()
Function(Data, Headers)未完待续...