Python之Faker:更巧妙的批量数据生成
off999 2024-12-04 14:40 15 浏览 0 评论
引言
在上一篇文章中,我们通过Python的内置模块random,初步实现了测试数据的批量生成,解决了“巧妇难为无米之炊”的窘境。
但是,直接通过random模块进行测试数据的生成,在字段类型的灵活性、便捷性上,还是不太够用。如果要追求生成更加灵活、丰富的测试数据,更加便捷地生成测试数据。可以尝试本文介绍的已经被广泛使用的三方模块Faker。
准备工作
由于Faker是一个三方模块,所以我们在正式使用之前,需要先通过pip进行安装。关于pip最常用的几个命令,在该系列前面序号为1的文章中已经有所提到,不熟悉的,可以翻看一下。
安装Faker
pip3 install faker
注意:根据环境不同,可能是pip。
文档、源码及基本使用
关于Faker模块的源码及基本使用,可以参考:
https://github.com/joke2k/faker
Faker模块的使用
基本用法
Faker模块的基础使用可以按照这几步进行:
- 模块导入
- 创建并初始化Faker的生成器,可以指定语言环境
- 根据业务需要,调用生成器对应的方法,获取测试数据
示例代码如下:
from faker import Faker
# 指定语言环境为中文环境,创建Faker生成器
fk = Faker('zh_CN')
# 调用生成器的方法获取测试数据
print(fk.name())
print(fk.user_name())
Faker的构造方法__init__定义如下:
在进行面向对象编程中,自定义类时,都可以参考进行__init__()函数的定义。第一个参数一定是self,如果学习过其他编程语言,可以类比为this指针。没学过,就简单记一下就行,后续逐步加深理解。
除了self之外的形参,都可以理解为对应属性的初始值,这些形参都是带默认值的形参,所以我们构造Faker构造器时,一个参数不传也是可以的。
多语言环境
构造Faker生成器时,可以传入一个语言环境的列表:
from faker import Faker
# 指定语言环境为中文环境,创建Faker生成器
fk = Faker(['zh_CN', 'en_US', 'ja_JP'])
# 调用生成器的方法获取测试数据
for _ in range(10):
print(fk.name())
输出结果:
山下 直子
Donna Odom
Matthew Harris
Denise Smith
李红霞
鈴木 美加子
Angela Young
张玉英
Manuel Silva
藤井 さゆり
代码中出现了 _ 占位符,因为我们在循环内部,没有使用循环变量的场景,可以通过占位符 _来表示。这是Python提供的一种特殊语法,不习惯的,继续用for i in range(10)也是可以的。
生成唯一值
在实际调用Faker生成器的相关方法生成测试数据时,有时,发现生成的数据是重复的。如果需要生成唯一值,Faker提供了unique属性,来尽量保证生成不重复、唯一的测试数据。
from faker import Faker
# 指定语言环境为中文环境,创建Faker生成器
fk = Faker(['zh_CN', 'en_US', 'ja_JP'])
# 通过unique属性,调用生成器的方法获取测试数据,避免数据重复
for _ in range(10):
print(fk.unique.name())
需要注意的是,Faker模块会记录当前已经生成的数据,从而尽量保证生成不重复的数据。如果生成器的方法本身的原因,无法避免保证数据唯一,Faker在重试一定次数后,会抛出UniquenessException异常,从而避免无限重试,以期望获得一个不可能的结果。比如:生成100条人员信息时,生成100个性别数据时,就不可能做到数据的唯一性。
通过unique属性进行测试数据生成时,由于要保存比较当前已经生成过的数据,同时进行多次重试,所以生成大量数据的时候,性能也会受到影响。所以,具体看是业务场景需要吧。
自定义数据Provider
虽然Faker模块提供了很多用于生成测试数据的方法,但是,有时候我们还是有一些自定义的测试数据生成规则的需要。这时候,我们可以用random模块来实现自定义的特定需求。当然,Faker模块也提供了我们进行自定义测试数据Provider类的方法,从而扩展Faker模块的测试数据生成的功能。
如果暂时不熟悉面向对象的相关语法,以下代码实例,可以跳过,通常使用random模块依然能够满足需求。
方法1:通过继承BaseProvider来实现自定义测试数据的生成:
import random
from faker import Faker
from faker.providers import BaseProvider
# 自定义Provider,用于随机生成性别,男、女、未知,三个取值出现的概率比是100:100:1
class GenderProvider(BaseProvider):
def gender(self):
return random.sample(['男', '女', '未知'], counts=[100, 100, 1], k=1)[0]
# 指定语言环境为中文环境,创建Faker生成器
fk = Faker('zh_CN')
fk.add_provider(GenderProvider)
print(fk.name())
print(fk.gender())
代码中,本质上还是通过上一篇文章中提到的random.sample()取样方法来实现我们需要的测试数据生成的逻辑。
方法2:通过定义DynamicProvider对象
import random
from faker import Faker
from faker.providers import BaseProvider, DynamicProvider
# 方法1:自定义Provider,用于随机生成性别,男、女、未知,三个取值出现的概率比是100:100:1
class GenderProvider(BaseProvider):
def gender(self):
return random.sample(['男', '女', '未知'], counts=[100, 100, 1], k=1)[0]
# 方法2:通过DynamicProvider对象,实现自定义生成器扩展功能,但是,没有方法1更加灵活,比如不能控制不同取值的概率
gender_provider = DynamicProvider(provider_name='gender2', elements=['男', '女', '未知'])
# 指定语言环境为中文环境,创建Faker生成器
fk = Faker('zh_CN')
fk.add_provider(GenderProvider)
fk.add_provider(gender_provider)
print(fk.name())
print(fk.gender())
# 多试几次,很容易出现'未知'的取值
print(fk.gender2())
综合实例:基于业务规则批量生成数据
生成一批有几条简单规则的测试数据:
import random
from datetime import date
from faker import Faker
from faker.providers import BaseProvider
# 测试数据生成需求:
# 生成1000条会员信息,包含id、姓名、性别、生日、注册日期,需要满足如下规则:
# 1、姓名尽量不要重名;
# 2、性别有三种取值:男、女、未知,出现的概率比为:100:100:1;
# 3、生日要在1980-2024之间;
# 4、注册日期必须要在生日之后
class GenderProvider(BaseProvider):
def gender(self):
return random.sample(['男', '女', '未知'], counts=[100, 100, 1], k=1)[0]
fk = Faker('zh_CN')
fk.add_provider(GenderProvider)
for i in range(1000):
user_id = i + 1
name = fk.unique.name()
gender = fk.gender()
birthday = fk.date_between(date(1980, 1, 1), date(2024, 6, 25))
reg_date = fk.date_between(birthday, date(2024, 6, 25))
print(f"{user_id},{name},{gender},{birthday},{reg_date}")
输出结果:
1,陈军,女,2014-06-26,2019-12-08
2,牟志强,女,2011-11-03,2019-08-19
3,许彬,男,2007-03-02,2008-06-15
4,罗金凤,男,2021-01-27,2024-03-04
5,王淑兰,女,2009-11-24,2021-11-09
6,游云,女,2011-02-17,2012-08-29
7,李云,男,1997-11-24,2023-01-31
8,张琳,男,1989-05-06,2015-05-07
9,李涛,女,2020-09-21,2024-03-23
注意,此时我们只是把测试数据打印输出了,通常情况下,我们应该把数据保存到文件中,或者写入到数据库中,以便于后续的使用。由于我们暂时没有介绍到文件IO或者数据库的操作,可以有个偷懒的写法,通过open()打开一个文件,具体的参数,后续会提到,然后对print语句补充传参:
import random
from datetime import date
from faker import Faker
from faker.providers import BaseProvider
# 测试数据生成需求:
# 生成1000条会员信息,包含id、姓名、性别、生日、注册日期,需要满足如下规则:
# 1、姓名尽量不要重名;
# 2、性别有三种取值:男、女、未知,出现的概率比为:100:100:1;
# 3、生日要在1980-2024之间;
# 4、注册日期必须要在生日之后
class GenderProvider(BaseProvider):
def gender(self):
return random.sample(['男', '女', '未知'], counts=[100, 100, 1], k=1)[0]
fk = Faker('zh_CN')
fk.add_provider(GenderProvider)
data_file = open('test_data.csv', 'w')
for i in range(1000):
user_id = i + 1
name = fk.unique.name()
gender = fk.gender()
birthday = fk.date_between(date(1980, 1, 1), date(2024, 6, 25))
reg_date = fk.date_between(birthday, date(2024, 6, 25))
print(f"{user_id},{name},{gender},{birthday},{reg_date}", file=data_file, flush=True)
这里,只需要注意两行代码的变化:
1、以写的方式打开一个名为test_data.csv的文件,如果文件不存在会自动创建,文件打开时有内容会被清空
# 第一个参数为文件名,文件不存在会自动创建
# 第二个参数w,表示打开这个文件,接下来是要进行写入,文件在打开时如果有内容,则会被清空,如果需要追加内容到文件,可以使用'a'
data_file = open('test_data.csv', 'w')
2、print()函数的扩展用法:
print()函数除了把内容输出到屏幕上之外,还可以通过file命名形参指定别的输出目的地输出流,参数说明如下:
- file:表示内容输出的目的地,默认值为sys.out表示标准输出,就是输出到显示器显示出来
- flush:表示是否立即将内容刷出到指定目的地,默认值为False,会缓存,不立即刷出
# file指定内容输出的目的地,flush表示是否写一行就刷新到磁盘上,默认为False,True的话,每一行写入,都能立马在文件中看到
print(f"{user_id},{name},{gender},{birthday},{reg_date}", file=data_file, flush=True)
更多参数,可以查看print()函数的定义:
关于print中的sep参数、end参数的作用,可以阅读print()定义,并自己试着编写代码验证,这里就不展开了。
相关推荐
- 让 Python 代码飙升330倍:从入门到精通的四种性能优化实践
-
花下猫语:性能优化是每个程序员的必修课,但你是否想过,除了更换算法,还有哪些“大招”?这篇文章堪称典范,它将一个普通的函数,通过四套组合拳,硬生生把性能提升了330倍!作者不仅展示了“术”,更传授...
- 7 段不到 50 行的 Python 脚本,解决 7 个真实麻烦:代码、场景与可复制
-
“本文整理自开发者AbdurRahman在Stackademic的真实记录,所有代码均经过最小化删减,确保在50行内即可运行。每段脚本都对应一个日常场景,拿来即用,无需额外依赖。一、在朋...
- Python3.14:终于摆脱了GIL的限制
-
前言Python中最遭人诟病的设计之一就是GIL。GIL(全局解释器锁)是CPython的一个互斥锁,确保任何时刻只有一个线程可以执行Python字节码,这样可以避免多个线程同时操作内部数据结...
- Python Web开发实战:3小时从零搭建个人博客
-
一、为什么选Python做Web开发?Python在Web领域的优势很突出:o开发快:Django、Flask这些框架把常用功能都封装好了,不用重复写代码,能快速把想法变成能用的产品o需求多:行业...
- 图解Python编程:从入门到精通系列教程(附全套速查表)
-
引言本系列教程展开讲解Python编程语言,Python是一门开源免费、通用型的脚本编程语言,它上手简单,功能强大,它也是互联网最热门的编程语言之一。Python生态丰富,库(模块)极其丰富,这使...
- Python 并发编程实战:从基础到实战应用
-
并发编程是提升Python程序效率的关键技能,尤其在处理多任务场景时作用显著。本文将系统介绍Python中主流的并发实现方式,帮助你根据场景选择最优方案。一、多线程编程(threading)核...
- 吴恩达亲自授课,适合初学者的Python编程课程上线
-
吴恩达教授开新课了,还是亲自授课!今天,人工智能著名学者、斯坦福大学教授吴恩达在社交平台X上发帖介绍了一门新课程——AIPythonforBeginners,旨在从头开始讲授Python...
- Python GUI 编程:tkinter 初学者入门指南——Ttk 小部件
-
在本文中,将介绍Tkinter.ttk主题小部件,是常规Tkinter小部件的升级版本。Tkinter有两种小部件:经典小部件、主题小部件。Tkinter于1991年推出了经典小部件,...
- Python turtle模块编程实践教程
-
一、模块概述与核心概念1.1turtle模块简介定义:turtle是Python标准库中的2D绘图模块,基于Logo语言的海龟绘图理念实现。核心原理:坐标系系统:原点(0,0)位于画布中心X轴:向右...
- Python 中的asyncio 编程入门示例-1
-
Python的asyncio库是用于编写并发代码的,它使用async/await语法。它为编写异步程序提供了基础,通过非阻塞调用高效处理I/O密集型操作,适用于涉及网络连接、文件I/O...
- 30天学会Python,开启编程新世界
-
在当今这个数字化无处不在的时代,Python凭借其精炼的语法架构、卓越的性能以及多元化的应用领域,稳坐编程语言排行榜的前列。无论是投身于数据分析、人工智能的探索,还是Web开发的构建,亦或是自动化办公...
- Python基础知识(IO编程)
-
1.文件读写读写文件是Python语言最常见的IO操作。通过数据盘读写文件的功能都是由操作系统提供的,读写文件就是请求操作系统打开一个文件对象(通常称为文件描述符),然后,通过操作系统提供的接口从这个...
- Python零基础到精通,这8个入门技巧让你少走弯路,7天速通编程!
-
Python学习就像玩积木,从最基础的块开始,一步步搭建出复杂的作品。我记得刚开始学Python时也是一头雾水,走了不少弯路。现在回头看,其实掌握几个核心概念,就能快速入门这门编程语言。来聊聊怎么用最...
- 一文带你了解Python Socket 编程
-
大家好,我是皮皮。前言Socket又称为套接字,它是所有网络通信的基础。网络通信其实就是进程间的通信,Socket主要是使用IP地址,协议,端口号来标识一个进程。端口号的范围为0~65535(用户端口...
- Python-面向对象编程入门
-
面向对象编程是一种非常流行的编程范式(programmingparadigm),所谓编程范式就是程序设计的方法论,简单的说就是程序员对程序的认知和理解以及他们编写代码的方式。类和对象面向对象编程:把...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)