百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python numpy 记录数组辅助方法一

off999 2024-11-06 11:22 14 浏览 0 评论

前言

numpy 结构化数组可以支持多数据类型的元素,类似于Python 内置的字典。

在前面,我们已经对numpy 结构化数组数据类型主要是使用 numpy.dtype 定义。

结构化数组的索引有三种形式:

  • 以字段名称为索引访问单个字段值
  • 以字段名称列表为索引访问多个字段值
  • 以整数标量为索引进行访问字段值

在结构化数组索引返回值的形式都是视图

numpy 模块提供了ndarray 子类 recarray,可以允许属性直接访问结构化数组字段。

我们在numpy 结构化数组之记录数组学习后,可以通过numpy.rec.array()方法进行创建记录数组或者将结构化数组转换成记录数组。

并且,numpy.lib.recfunctions中提供对结构化数组记录数组相关操作的方法。

本期,我们将学习recfunctions模块中常用的方法进行学习和使用,Let's go~

1.numpy.lib.recfunctions概述

numpy.lib.recfunctions 存在大量用于创建和操作结构化数组的辅助方法集合

目前,recfunctions 里面的方法都已经被重写和拓展了。

我们可以在 numpy->lib->recfunctions.py 文件中看到相关方法介绍。

我们在使用 recfunctions 模块相关方法时,需要提前使用from导入recfunctions库

from numpy.lib import recfunctions as rfn
复制代码

2. 添加新字段

numpy.lib.recfunctions 模块中提供 append_fields 方法,实现在现有的结构化数组中添加性字段

append_fields(base, names, data, dtypes=None,
                  fill_value=-1, usemask=True, asrecarray=False)
复制代码

参数说明:

参数

说明

base

需要拓展的数组

names

新字段名称

data

数组或者数据序列

dtypes

可选项,数据类型序列

fill_value

可选项,用于填充数组上缺失的数据

usemask

可选项,是否返回掩码数组

asrecarray

可选项,是否返回一个记录数组

  • 字段名称和名称参数需要一起给出
  • 对应的值和数据参数需要一起给出
  • 如果只附加单个字段,则names,data,dtypes 可以为值
>>> from numpy.lib import recfunctions as rfn
>>> arr = np.array([("Tom",12,"Beijing"),("Anne",10,"Guangzhou"),("Kenty",15,"Shengzheng")],dtype=[("name","U5"),("age","i8"),("add
ress","U5")])
>>> rfn.append_fields(arr,"province",["hebei","guangdong","guangdong"],"S16")
masked_array(data=[('Tom', 12, 'Beiji', b'hebei'),
                   ('Anne', 10, 'Guang', b'guangdong'),
                   ('Kenty', 15, 'Sheng', b'guangdong')],
             mask=[(False, False, False, False),
                   (False, False, False, False),
                   (False, False, False, False)],
       fill_value=('N/A', 999999, 'N/A', b'N/A'),
            dtype=[('name', '<U5'), ('age', '<i8'), ('address', '<U5'), ('province', 'S16')])

复制代码

3. 结构化数组字段缩减

recfunctions 提供 apply_along_fields 方法可以使用func 函数对结构化数组的字段进行缩减操作。

apply_along_fields(func, arr)
复制代码

参数说明:

参数

说明

func

应用于字段维度的函数,必须要支持轴参数如np.mean,np.sum等

arr

结构化数组

apply_along_fields 方法类似与 apply_along_axis,将结构化数组的字段视为额外的轴。

这个过程中,会调用 numpy.result_type 将dtypes 类型转换为同样类型。

>>> arr = np.array([(10,5),(3,9),(0,8)],dtype=[("x","i8"),("y","i8")])
>>> rfn.apply_along_fields(np.mean,arr)
array([7.5, 6. , 4. ])
>>> rfn.apply_along_fields(np.sum,arr)
array([15, 12,  8], dtype=int64)
>>> rfn.apply_along_fields(np.gradient,arr)
array([[-5., -5.],
       [ 6.,  6.],
       [ 8.,  8.]])
>>>
复制代码

func 支持axis numpy 函数方法常见有:

  • nump.mean:计算平均数
  • numpy.sum: 计算和
  • numpy.gradient: j计算数组的梯度
  • numpy.namin: 计算数组最小值,忽略NaN
  • numpy.amin:计算数组最小值
  • numpy.amax:计算数组最大值

4. 删除结构化数组的字段

recfunctions 模块提供 drop_fields 方法可以删除指定的字段,并返回一个新数组

同时,drop_fields 可以支持嵌套字段

drop_fields(base, drop_names, usemask=True, asrecarray=False)
复制代码

参数说明:

标题

说明

base

输入数组

drop_names

删除的字段或字段序列

usemask

是否返回掩码数组,可选项

asrecarray

是否返回一个记录数组,默认值为False

>>> arr = np.array([(10,5,"X"),(3,9,"Y"),(0,8,"Z")],dtype=[("x","i8"),("y","i8"),("z","S6")])
>>> rfn.drop_fields(arr,"x")
array([(5, b'X'), (9, b'Y'), (8, b'Z')], dtype=[('y', '<i8'), ('z', 'S6')])
>>> rfn.drop_fields(arr,"z")
array([(10, 5), ( 3, 9), ( 0, 8)], dtype=[('x', '<i8'), ('y', '<i8')])
>>> rfn.drop_fields(arr,["x","z"])
array([(5,), (9,), (8,)], dtype=[('y', '<i8')])
>>>

复制代码

注意:1.18.0版本:drop_fields 方法如果删除所有字段,则会返回一个包含0字段的数组,而不是以前一样返回None。

>>> rfn.drop_fields(arr,["x","z","y"])
array([(), (), ()], dtype=[])
>>>
复制代码

5. 连接两个结构化数组

recfunctions 提供 join_by 方法通过key 将两个结构化数组连接在一起。

join_by(key, r1, r2, jointype='inner', r1postfix='1', r2postfix='2',
            defaults=None, usemask=True, asrecarray=False)
复制代码

参数说明:

标题

说明

key

用于比较字段对应的字符串或字符串序列

r1

结构化数组1

r2

结构化数组2

jointype

连接类型,可选择为inner,outer,leftouter

r1postfix

附加到r2中不存在的键r1 字段名称的字符串,可选

r2postfix

附加到r1中不存在的键r2 字段名称的字符串,可选

default

字典将字段名称映射到相应的默认值

usemask

是否返回掩码数组,默认为True

asrecarray

是否返回一个记录数组

>>> arr = np.array([(10,5,"X"),(3,9,"Y"),(0,8,"Z")],dtype=[("x","i8"),("y","i8"),("z","S6")])
>>> arr2 = np.array([(10,5),(3,9),(0,8)],dtype=[("x","i8"),("y","i8")])
>>> rfn.join_by("x",arr,arr2)
masked_array(data=[(0, 8, 8, b'Z'), (3, 9, 9, b'Y'), (10, 5, 5, b'X')],
             mask=[(False, False, False, False),
                   (False, False, False, False),
                   (False, False, False, False)],
       fill_value=(999999, 999999, 999999, b'N/A'),
            dtype=[('x', '<i8'), ('y1', '<i8'), ('y2', '<i8'), ('z', 'S6')])
>>>

复制代码

注意:

  • key 应该是用于连接数组的字段相对于应的字符串获字符串序列。
  • 如果两个数组中找不到key,则会引发异常
  • 数组1和数组2尽量不要包含重复key。连接时,不会查重,会导致返回结果不可靠。

如下,arr 和 arr2 中,如果选择字段为z进行连接,则系统会报ValueError

>>> rfn.join_by("z",arr,arr2)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "<__array_function__ internals>", line 6, in join_by
  File "C:\Users\user\AppData\Roaming\Python\Python37\site-packages\numpy\lib\recfunctions.py", line 1480, in join_by
    raise ValueError('r2 does not have key field %r' % name)
ValueError: r2 does not have key field 'z'
>>>

复制代码

6. 合并结构化数组

recfunctions 提供 merge_fields 方法将两个数组序列进行字段合并。

merge_arrays(seqarrays, fill_value=-1, flatten=False,
                 usemask=False, asrecarray=False)
复制代码

参数说明:

标题

说明

seqarrays

数组序列

fill_value

填充用于较短数组上的缺失数据

flatten

是否折叠嵌套字段,可选项

usemask

是否使用掩码数组,可选

asrecarray

是否返回一个记录数组

>>> arr = np.array([(10,5,"X"),(3,9,"Y"),(0,8,"Z")],dtype=[("x","i8"),("y","i8"),("z","S6")])
>>> arr2 = np.array([(10,5),(3,9),(0,8)],dtype=[("x","i8"),("y","i8")])
>>> rfn.merge_arrays((arr,arr2))
array([((10, 5, b'X'), (10, 5)), (( 3, 9, b'Y'), ( 3, 9)),
       (( 0, 8, b'Z'), ( 0, 8))],
      dtype=[('f0', [('x', '<i8'), ('y', '<i8'), ('z', 'S6')]), ('f1', [('x', '<i8'), ('y', '<i8')])])
>>>

复制代码

总结

本期,我们对recfunctions模块对结构化数组操作如添加新字段append_feilds()方法,合并两个数组merge_feilds()方法、连接两个数组join_by()方法,删除指定字段drop_fields()方法。

recfunctions 模块中还有对结构化数组其他方法,我们下一期继续学习。

相关推荐

python入门到脱坑经典案例—清空列表

在Python中,清空列表是一个基础但重要的操作。clear()方法是最直接的方式,但还有其他方法也可以实现相同效果。以下是详细说明:1.使用clear()方法(Python3.3+推荐)...

python中元组,列表,字典,集合删除项目方式的归纳

九三,君子终日乾乾,夕惕若,厉无咎。在使用python过程中会经常遇到这四种集合数据类型,今天就对这四种集合数据类型中删除项目的操作做个总结性的归纳。列表(List)是一种有序和可更改的集合。允许重复...

Linux 下海量文件删除方法效率对比,最慢的竟然是 rm

Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...

数据结构与算法——链式存储(链表)的插入及删除,

持续分享嵌入式技术,操作系统,算法,c语言/python等,欢迎小友关注支持上篇文章我们讲述了链表的基本概念及一些查找遍历的方法,本篇我们主要将一下链表的插入删除操作,以及采用堆栈方式如何创建链表。链...

Python自动化:openpyxl写入数据,插入删除行列等基础操作

importopenpyxlwb=openpyxl.load_workbook("example1.xlsx")sh=wb['Sheet1']写入数据#...

在Linux下软件的安装与卸载(linux里的程序的安装与卸载命令)

通过apt安装/协助软件apt是AdvancedPackagingTool,是Linux下的一款安装包管理工具可以在终端中方便的安装/卸载/更新软件包命令使用格式:安装软件:sudoapt...

Python 批量卸载关联包 pip-autoremove

pip工具在安装扩展包的时候会自动安装依赖的关联包,但是卸载时只删除单个包,无法卸载关联的包。pip-autoremove就是为了解决卸载关联包的问题。安装方法通过下面的命令安装:pipinsta...

用Python在Word文档中插入和删除文本框

在当今自动化办公需求日益增长的背景下,通过编程手段动态管理Word文档中的文本框元素已成为提升工作效率的关键技术路径。文本框作为文档排版中灵活的内容容器,既能承载多模态信息(如文字、图像),又可实现独...

Python 从列表中删除值的多种实用方法详解

#Python从列表中删除值的多种实用方法详解在Python编程中,列表(List)是一种常用的数据结构,具有动态可变的特性。当我们需要从列表中删除元素时,根据不同的场景(如按值删除、按索引删除、...

Python 中的前缀删除操作全指南(python删除前导0)

1.字符串前缀删除1.1使用内置方法Python提供了几种内置方法来处理字符串前缀的删除:#1.使用removeprefix()方法(Python3.9+)text="...

每天学点Python知识:如何删除空白

在Python中,删除空白可以分为几种不同的情况,常见的是针对字符串或列表中空白字符的处理。一、删除字符串中的空白1.删除字符串两端的空白(空格、\t、\n等)使用.strip()方法:s...

Linux系统自带Python2&amp;yum的卸载及重装

写在前面事情的起因是我昨天在测试Linux安装Python3的shell脚本时,需要卸载Python3重新安装一遍。但是通过如下命令卸载python3时,少写了个3,不小心将系统自带的python2也...

如何使用Python将多个excel文件数据快速汇总?

在数据分析和处理的过程中,Excel文件是我们经常会遇到的数据格式之一。本文将通过一个具体的示例,展示如何使用Python和Pandas库来读取、合并和处理多个Excel文件的数据,并最终生成一个包含...

【第三弹】用Python实现Excel的vlookup功能

今天继续用pandas实现Excel的vlookup功能,假设我们的2个表长成这样:我们希望把Sheet2的部门匹在Sheet1的最后一列。话不多说,先上代码:importpandasaspd...

python中pandas读取excel单列及连续多列数据

案例:想获取test.xls中C列、H列以后(当H列后列数未知时)的所有数据。importpandasaspdfile_name=r'D:\test.xls'#表格绝对...

取消回复欢迎 发表评论: