Python基础第三方模块requests openpyxl

Python
334
0
0
2023-06-11
Python基础globlal nonlocal和闭包函数装饰器语法糖
上一篇
Python中八种数据导入方法总结
下一篇
标签   Python基础 Python库
目录
  • 一、第三方模块的下载与使用
  • 1、什么是第三方模块
  • 2、如何安装第三方模块
  • 方式一：pip工具
  • 方式二：pycharm中下载
  • 3、注意事项
  • 1、报错并有警告信息
  • 2、报错，提示关键字
  • 3、报错，无关键字
  • 4、下载速度慢
  • 二、网络爬虫之requests模块
  • 1、简介
  • 2、使用方法
  • 1.关键词：get( )
  • 2.关键词：encoding
  • 3.关键词：content
  • 4.关键词：text
  • 5.关键词：url
  • 6.关键词：status_code
  • 三、网络爬虫实战
  • 1、爬取链家网站房屋信息
  • 四、openpyxl模块
  • 1、简介
  • 2、创建文件相关
  • 2、1.创建excel文件
  • 2、2.创建工作簿
  • 2、3.修改工作簿名称
  • 2、4.修改工作簿颜色
  • 2、5.查看文件所有工作簿
  • 3、写入内容相关
  • 3、1.写入/修改内容
  • 3、2.一次写入多个数据
  • 4、读取内容相关
  • 4、1.访问多个单元格
  • 4、2.获取单元格值
  • 5、保存文件
  • 6、打开文件
  • 6、1.读取工作簿数据

一、第三方模块的下载与使用

1、什么是第三方模块

  • 第三方模块是指别人编写的模块
  • 第三方模块一般功能都比较强大

2、如何安装第三方模块

方式一：pip工具

安装方式：

1、打开python解释器的安装目录，找到Scipts目录，该目录下会有pip.exe的程序，这个程序就是用来安装第三方模块的

2、将python版本对应的Scipts文件目录添加至系统环境变量

3、打开cmd命令提示符窗口，在cmd命令窗口中运行下载第三方模块的句式

下载第三方模块的句式
	pip install 模块名
下载第三方模块临时切换仓库
	pip install 模块名 -i 仓库地址
下载第三方模块指定版本(不指定默认是最新版)
	pip install 模块名==版本号 -i 仓库地址

注意事项:

我们的电脑中可能安装了多个版本的python解释器，每个版本中都有pip工具，在我们使用pip安装模块时，需要下载在我们使用的版本中的pip工具中，否则下载的模块将无法运行

方式二：pycharm中下载

安装方式:

1、在pycharm中点击左上角File

2、在下方目录中找到Settings

3、找到Project，打开python Interpreter

4、点击'+'号，在上方窗口内输入想要下载的模块

5、点击Install Package，等待即可下载完成

注意事项：

1、在安装窗口右侧找到Specify versin 可选择需要下载模块版本号

2、Manage Repositories可配置仓库地址

3、注意事项

1、报错并有警告信息

WARNING: You are using pip version 20.2.1;

  • 原因在于pip版本过低 只需要拷贝后面的命令执行更 新操作即可

d:\python38\python.exe -m pip install --upgrade pip

  • 更新完成后再次执行下载第三方模块的命令即可

2、报错，提示关键字

Timeout

  • 提示该关键字说明当前计算机网络不稳定，只需更换网络或等待网络稳定后下载即可

3、报错，无关键字

面向百度搜索

  • 只需拷贝报错信息到百度搜索即可
  • 通常都是需要用户提前准备好一些下载环境才可以顺利下载

4、下载速度慢

pip的默认下载地址都是国外的，我们只需要切换下载地址即可

  • 关于切换下载地址的方式在上面已经说明
  • 常用下载地址
清华大学 ：
   https://pypi.tuna.tsinghua.edu.cn/simple/
阿里云：
   http://mirrors.aliyun.com/pypi/simple/
中国科学技术大学 ：
   http://pypi.mirrors.ustc.edu.cn/simple/
华中科技大学：
   http://pypi.hustunique.com/
豆瓣源：
   http://pypi.douban.com/simple/
腾讯源：
   http://mirrors.cloud.tencent.com/pypi/simple
华为镜像源：
   https://repo.huaweicloud.com/repository/pypi/simple/

二、网络爬虫之requests模块

1、简介

  • requests模块是一个第三方模块，需要在额外进行安装
  • 它是一个用于网络请求的模块，主要用来向浏览器发送请求

2、使用方法

导入模块:

import requests

1.关键词：get( )

作用：用于向浏览器发送请求

代码用法:

url = "https://www.baidu.com"
res = requests.get(url)

2.关键词：encoding

作用：指定编码格式，针对一些古老的网站，在获取网页信息的时候，不指定编码格式的话可能会出现乱码。不指定的情况下默认使用系统自带的编码环境

代码用法:

res = encoding = 'utf'

3.关键词：content

作用：返回的是一个原生字符串，是bytes类型

代码用法:

print(res.content)
# 返回的是一个原生字符串，是bytes类型

4.关键词：text

作用：获取字符串类型的网页数据(默认按照utf8)

代码用法:

print(res.text)
# 获取字符串类型的网页数据(默认按照utf)

5.关键词：url

作用：打印请求

代码用法:

print(res.url)

6.关键词：status_code

作用：打印状态码

代码用法:

print(res.staus_code)

三、网络爬虫实战

1、爬取链家网站房屋信息

import re
import requests
from openpyxl import Workbook
url = 'https://sh.lianjia.com/ershoufang/pg/'
for i in range(, 101):
    url = f"https://sh.lianjia.com/ershoufang/pg{i}/"
    print(url)
    res = requests.get(url)
    url_data = res.text
    home_biaoqian = re.findall(
        """data-is_focus="" data-sl="">(.*?)</a>""",
        url_data)
    home_xiaoqu_name = re.findall(
        """<a href="https:.*?" rel="external nofollow"  target="_blank" data-log_index=".*?" data-el=".*?">(.*?)</a>""",
        url_data)
    home_xiaoqu_dir = re.findall("""<a href="https://sh.lianjia.com/ershoufang/.*?/" rel="external nofollow"  target="_blank">(.*?)</a>""",
                                 url_data)
    home_jutixinxi = re.findall("""<div class="houseInfo"><span class="houseIcon"></span>(.*?)</div>""", url_data)
    home_guanzhudu = re.findall("""<div class="followInfo"><span class="starIcon"></span>(.*?)</div>""", url_data)
    home_zongjia = re.findall("""<span class="">(.*?)</span>""", url_data)
    home_danjia = re.findall("""<span>(.*?)</span>""", url_data)
    home_data = zip(home_xiaoqu_name, home_xiaoqu_dir, home_biaoqian, home_jutixinxi, home_guanzhudu, home_zongjia,
                    home_danjia)
    with open(r'sh_.txt', 'w', encoding='utf') as f:
        for i in home_data:
            f.write('''
                小区名称：%s
                小区地址：%s
                小区标签：%s
                详情：%s
                关注度：%s
                总价：%s
                单价：%s\r
                '''%i)

四、openpyxl模块

1、简介

  • openpyxl模块属于第三方模块，是一个在 python 中能够处理 excel 文件的模块，还有比较出名的是xlrd、xlwt 分别控制excel文件的读写，这俩个能够兼容所有版本的文件。openpyxl 针对 excel 2003版本之前的兼容性可能不好 但是功能更加强大。

注意事项:

excel文件的版本及后缀

2003版本之前 excel的文件后缀是xls
2003版本之后 excel的文件后缀是xlsx、csv

2、创建文件相关

2、1.创建excel文件

关键词：workbook

作用：

  • 使用 openpyxl 创建文件。只需导入Workbook类

代码用法:

导入模块：
	form openpyxl import workbook
代码用法：
	from openpyxl import Workbook
    wb = Workbook
	 # 一个 excel 文件创建成功

2、2.创建工作簿

关键词：cerate_sheet( )

作用：

  • 使用 openpyxl 创可以创建自定义名称的工作簿。括号里的参数是工作簿名称，还有一个参数是工作簿的位置，也可以不写建文件。只需导入Workbook类
  • 可以创建多个工作簿，并且可按照顺序排列

代码用法:

导入模块：
	form openpyxl import workbook
代码用法：
	from openpyxl import Workbook
	wb = Workbook()
	ws = wb.cerate_sheet('工作簿名称'， 0)

sheet 是自动生成的

2、3.修改工作簿名称

关键词：title

作用：

  • 可以更改工作簿名称
  • 通过待修改名称工作簿‘点’的方式在后方赋予新的名称

代码用法:

导入模块：
	form openpyxl import workbook
代码用法：
	from openpyxl import Workbook
	wb = Workbook()
	ws = wb.cerate_sheet('用户信息表'， 0)
	ws.title = 'user_infor'

2、4.修改工作簿颜色

关键词：sheet_properties.tabColor

作用：

  • 用来给工作簿背景修改颜色，需要用到RGB色域

代码用法:

导入模块：
	from openpyxl import Workbook
    wb = Workbook()
    ws = wb.create_sheet('用户信息表', 0)
    ws.sheet_properties.tabColor = 'FF6666' 
    # 将标题背景改为指定RRGGBB颜色代码

2、5.查看文件所有工作簿

关键词：sheetname

作用：

  • 查看exexl文件下所有的工作簿，返回的是一个列表

代码用法:

导入模块：
	from openpyxl import Workbook
代码用法：
	wb = Workbook()
	ws = wb.create_sheet('uese_zhangzhang')
	ws = wb.create_sheet('user_kangkang')
	print(wb.sheetname)
	# ['user_zhangzhang', 'user_zhangzhang']

3、写入内容相关

3、1.写入/修改内容

关键词：ws[]

作用：

  • 可以通过工作簿'点'的方式，在后方中括号内填写内容的位置，来修改内容

代码用法:

导入模块：
	from openpyxl import Workbook
代码用法：
	wb = Workbook()
	ws = wb.create_sheet('uese_zhangzhang')
	ws['A1'] = 'kangkang'
	# ws['A1'] 代表的是该表中的 A1 位置，我们可以将数据直接赋值给它

关键词：cell( )

作用：

  • 可以通过工作簿'点'的方式，在后方参数内填写内容的位置，来修改内容
  • row：行
  • colum：列
  • value：值（对应位置的数据）

代码用法:

导入模块：
	from openpyxl import Workbook
代码用法：
	wb = Workbook()
	ws = wb.create_sheet('uese_zhangzhang')
	ws.cell(row = 1, column= 1, value = 'kangkang')
	# 在第一行，第一列，填入数值'kangkang'

3、2.一次写入多个数据

关键词：append()

作用：

  • 可以一次性写入多个数据值，通过行的方式写入，在关键词后方参数内将数据值以列表的形式写入

代码用法:

导入模块：
	from openpyxl import Workbook
代码用法：
	wb = Workbook()
	ws = wb.cerate_sheet('user_name'，)
	ws.append(['序号'， '姓名'， '性别'， '年龄'])
	ws.append([''， 'kangkang'， '男'， '18'])

4、读取内容相关

4、1.访问多个单元格

用法：直接使用切片操作的方式

代码用法：

x = ws['A':'C2']
x = ws['C']
x = ws['C:D']
x = ws[10]
x = ws[5:10]

4、2.获取单元格值

关键词：values

作用：

  • 使用for循环的方式，可以一次获取整行文本数据值

代码用法:

导入模块：
	from openpyxl import Workbook
代码用法：
	wb = Wordbook()
	ws = wb.create_sheet('nser_name', 0)
	ws.append(['name', 'age', 'hobby'])
	ws.append(['kangkang', 18, 'read'])
	for i in ws.vallue:
        print(i)

5、保存文件

  • 当我们编辑完文件后，就需要保存文件，同时赋予文件的名称

关键词：save( )

作用：

  • 在关键词后方参数内填入文件保存的地址，同时赋予文件名

代码用法:

wb = Workbook()
wb.save('user_infor.xlsx') 
# balances.xlsx 是保存的路径，也就是文件名。
# 编辑完要保存才行。

6、打开文件

前面说的是我们如何创建文件，编辑创建后的文件，对创建的文件进行编辑。

下面所说的是我们如何打开现有的文件，并进行编辑

load_workbook

模块导入：

from openpyxl import load_workbook

6、1.读取工作簿数据

方式一：

from openpyxl import load_workbook
wb = load_workbook('ex_a.xlsx', read_only=True, data_only=True)
ws = wb['用户信息表']  # 拿到工作薄对象
print(ws['A'].value)  # 取出工作薄对象中 A1 位置的值

方式一：

from openpyxl import load_workbook
wb = load_workbook('ex_a.xlsx', read_only=True, data_only=True)
ws = wb['用户信息表']
print(ws.cell(row=, column=1).value)  # 通过行与列的形式来取值

方式三:（逐行读取）

方式三（逐行读取）
from openpyxl import load_workbook
wb = load_workbook('ex_a.xlsx', read_only=True, data_only=True)
ws = wb['用户信息表']
for row in ws.rows:  # 获取每一行的数据
	for data in row:  # 获取每一行中单元格的数据
		print(data.value)  # 打印单元格的值
Python基础globlal nonlocal和闭包函数装饰器语法糖
上一篇
Python中八种数据导入方法总结
下一篇