更有效地使用 Python Pandas 的 4 个技巧
off999 2025-07-07 22:19 53 浏览 0 评论
一个简单而实用的指南
照片由simon sun在Unsplash上拍摄
Pandas 是一个用于数据分析和操作任务的非常实用且功能强大的库。自 2019 年以来,我一直在使用 Pandas,它始终能够为我的任务提供解决方案。
在使用 Pandas 大约 3 年后,我意识到一开始我并没有非常有效地使用它。在某些情况下,我解决特定问题的方法比最佳解决方案要长。我也没有非常有效和准确地使用某些功能。
我仍然能够完成任务。然而,当我发现更优化和实用的做事方式时,我的整个工作流程都得到了改进。
在本文中,我将分享 4 个技巧,帮助您充分利用 Pandas。让我们从创建一个示例 DataFrame 开始,以在示例中使用。
将 numpy 导入为 np
将 pandas 导入为 pddf = pd.DataFrame({
"团队": ["A","A","B","B","B",np.nan,np.nan,"C"],
"玩家": [
“约翰”、“简”、“阿什莉”、“艾米丽”、“马特”、“珍妮”、“麦克斯”、“亚历克斯”
]、
“得分”:[81、84、np.nan、91、np。南, 86, 94, 89]
})df
df(作者图片)
我们有一个包含 3 列和 8 行的 DataFrame,并且在 team 和 score 列中存在一些缺失值。
1. 带空值的 value_counts 函数
value_counts 函数是 Pandas 最常用的函数之一。它计算列中每个不同值的出现次数。默认情况下,它不考虑空值(即缺失值)。这可能会产生误导,尤其是在我们处理大文件时。
df["团队"].value_counts()# 输出
B 3
A 2
C 1
名称:团队,数据类型:int64
team 列中有空值,但我们在 value_counts 函数的输出中看不到它们。我们可以使用下面的 dropna 参数使其计算空值。
df["团队"].value_counts(dropna=False)# 输出
B 3
A 2
NaN 2
C 1
名称:团队,dtype:int64
现在输出更准确。
2. 使用其他列填充缺失值
现实生活中的数据集通常包含不能总是被忽略的缺失值。我们需要妥善处理它们以产生准确可靠的输出。
我们有不同的选项来填充缺失值。最优的取决于数据和任务的特性。例如,我们可以使用列平均值来填充缺失值。处理时间序列数据时,上一个或下一个值可能是更好的选择。
另一种选择是使用其他列中的数据。在我们的 DataFrame 中,我们可以使用 player 列填充 team 列中的缺失值。我将向您展示完成这项任务的两种不同技术。第一个是使用 loc 方法手动选择缺失值。
df.loc[df["Team"].isna()==True, "Team"] = df["Player"]
左侧选择团队列中的缺失值。右侧将玩家列中的值分配给这些值。
第二种是直接使用fillna函数。
df["Team"].fillna(df["Player"], inplace=True)df
df(作者图片)
3. 使用 Python 字典
字典是 Python 的内置数据结构。它在数据分析和操作中的各种任务中派上用场。我们还可以将它们与 Pandas 函数一起使用,以使它们更有用。
例如,replace 函数用于替换列或 DataFrame 中的值。考虑我们有一个包含每个球员的球队数据的球队字典。
团队= {
“约翰”:“A”,
“简”:“A”,
“阿什利”:“B”,
“艾米丽”:“B”,
“马特”:“B”,
“珍妮”:“C” ,
“最大”:“C”,
“亚历克斯”:“C”
}
我们可以使用这个字典将球队列中的球员姓名替换为他们的球队名称。
df["团队"] = df["团队"].replace(团队)df
df(作者图片)
我们也可以按如下方式执行此操作:
df["Team"] = df["Team"].replace("Jenny","C")
df["Team"] = df["Team"].replace("Max","C")
这绝对不如使用字典方便。此外,我们可能有几个值要替换。在这种情况下,无需编写几行代码,而是使用字典只需一行即可完成任务。
您可以使用 Python 字典增强其他一些 Pandas 函数。这是我写的关于这个主题的更详细的文章。
4. 缺失值的整数列
分数列中的值是整数,但它们显示为浮点数。原因是此列中的缺失值。
整数的默认数据类型不支持空值,因此数据类型向上转换为浮点数。如果将这些值表示为整数很重要,则可以使用可为空的整数数据类型。
df["Score"] = df["Score"].astype(pd.Int64Dtype())df
df(作者图片)
现在分数显示为整数。
数据清理和操作是任何面向数据的产品的重要组成部分。Pandas 提供了多种功能和方法来加快和简化您的工作流程。为了充分利用 Pandas,您应该尝试发掘任何功能的全部潜力。
您可以成为Medium 会员,以解锁对我的作品以及 Medium 其他内容的完全访问权限。如果您已经是,如果您想在我发布新文章时收到电子邮件,请不要忘记订阅。
感谢您的阅读。如果您有任何反馈,请告诉我。
相关推荐
- Linux 网络协议栈_linux网络协议栈
-
前言;更多学习资料(包含视频、技术学习路线图谱、文档等)后台私信《资料》免费领取技术点包含了C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,fastdfs,MongoDB,Z...
- 揭秘 BPF map 前生今世_bpfdm
-
1.前言众所周知,map可用于内核BPF程序和用户应用程序之间实现双向的数据交换,为BPF技术中的重要基础数据结构。在BPF程序中可以通过声明structbpf_map_def...
- 教你简单 提取fmpeg 视频,音频,字幕 方法
-
ffmpeg提取视频,音频,字幕方法(HowtoExtractVideo,Audio,SubtitlefromOriginalVideo?)1.提取视频(ExtractVi...
- Linux内核原理到代码详解《内核视频教程》
-
Linux内核原理-进程入门进程进程不仅仅是一段可执行程序的代码,通常进程还包括其他资源,比如打开的文件,挂起的信号,内核内部的数据结构,处理器状态,内存地址空间,或多个执行线程,存放全局变量的数据段...
- Linux C Socket UDP编程详解及实例分享
-
1、UDP网络编程主要流程UDP协议的程序设计框架,客户端和服务器之间的差别在于服务器必须使用bind()函数来绑定侦听的本地UDP端口,而客户端则可以不进行绑定,直接发送到服务器地址的某个端口地址。...
- libevent源码分析之bufferevent使用详解
-
libevent的bufferevent在event的基础上自己维护了一个buffer,这样的话,就不需要再自己管理一个buffer了。先看看structbufferevent这个结构体struct...
- 一次解决Linux内核内存泄漏实战全过程
-
什么是内存泄漏:程序向系统申请内存,使用完不需要之后,不释放内存还给系统回收,造成申请的内存被浪费.发现系统中内存使用量随着时间的流逝,消耗的越来越多,例如下图所示:接下来的排查思路是:1.监控系统中...
- 彻底搞清楚内存泄漏的原因,如何避免内存泄漏,如何定位内存泄漏
-
作为C/C++开发人员,内存泄漏是最容易遇到的问题之一,这是由C/C++语言的特性引起的。C/C++语言与其他语言不同,需要开发者去申请和释放内存,即需要开发者去管理内存,如果内存使用不当,就容易造成...
- linux网络编程常见API详解_linux网络编程视频教程
-
Linux网络编程API函数初步剖析今天我们来分析一下前几篇博文中提到的网络编程中几个核心的API,探究一下当我们调用每个API时,内核中具体做了哪些准备和初始化工作。1、socket(family...
- Linux下C++访问web—使用libcurl库调用http接口发送解析json数据
-
一、背景这两天由于一些原因研究了研究如何在客户端C++代码中调用web服务端接口,需要访问url,并传入json数据,拿到返回值,并解析。 现在的情形是远程服务端的接口参数和返回类型都是json的字符...
- 平衡感知调节:“系统如人” 视角下的架构设计与业务稳定之道
-
在今天这个到处都是数字化的时代,系统可不是一堆冷冰冰的代码。它就像一个活生生的“数字人”,没了它,业务根本转不起来。总说“技术要为业务服务”,但实际操作起来问题不少:系统怎么才能快速响应业务需求?...
- 谈谈分布式文件系统下的本地缓存_什么是分布式文件存储
-
在分布式文件系统中,为了提高系统的性能,常常会引入不同类型的缓存存储系统(算法优化所带来的的效果可能远远不如缓存带来的优化效果)。在软件中缓存存储系统一般可分为了两类:一、分布式缓存,例如:Memca...
- 进程间通信之信号量semaphore--linux内核剖析
-
什么是信号量信号量的使用主要是用来保护共享资源,使得资源在一个时刻只有一个进程(线程)所拥有。信号量的值为正的时候,说明它空闲。所测试的线程可以锁定而使用它。若为0,说明它被占用,测试的线程要进入睡眠...
- Qt编写推流程序/支持webrtc265/从此不用再转码/打开新世界的大门
-
一、前言在推流领域,尤其是监控行业,现在主流设备基本上都是265格式的视频流,想要在网页上直接显示监控流,之前的方案是,要么转成hls,要么魔改支持265格式的flv,要么265转成264,如果要追求...
- 30 分钟搞定 SpringBoot 视频推拉流!实战避坑指南
-
30分钟搞定SpringBoot视频推拉流!实战避坑指南在音视频开发领域,SpringBoot凭借其快速开发特性,成为很多开发者实现视频推拉流功能的首选框架。但实际开发中,从环境搭建到流处理优...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)