百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

使用Python和Pandas的最简单的数据清理方法

off999 2024-09-16 00:48 39 浏览 0 评论

本文中,我们将学习如何使用Python包Pyjanitor简化数据预处理工作。具体来说,我们将学习如何:

  • 向一个Pandasdataframe(数据帧)中添加一个列
  • 删除缺失的值
  • 删除一个空列
  • 清洗列名称

也就是说,我们将学习如何使用Pyjanitor清理Pandas数据帧。在所有Python数据操作示例中,我们还将看到如何仅使用Pandas的功能来实现这些操作。

Pyjanitor是什么?

Pyjanitor是什么?在我们继续学习如何使用Pandas和Pyjanitor来清理数据集之前,我们将学习这个包。Python包Pyjanitor使用基于文本的API扩展了Pandas。这个易于使用的API为我们提供了方便的数据清理技术。显然,它一开始是R包 janitor的一部分。此外,它的灵感来自于R包 dplyr的易用性和表现力。注意,有一些不同的方式可以使用这些方法,本文不会涵盖所有方式(请参阅文档:https://pyjanitor.readthedocs.io/ )。

如何安装 Pyjanitor

有两种比较容易的方法来安装Pyjanitor:

1.使用Pip安装Pyjanitor

2.使用Conda安装Pyjanitor:

既然我们已经知道了Pyjanitor是什么以及如何安装这个包,那我们很快就可以继续学习Python数据清理教程了,学习如何从Pandas中删除缺失的值。注意,本Pandas教程将详细介绍如何使用Pandas和Pyjanitor来实现这一点。最后,我们将有一个完整的只使用Pyjanitor的数据清理示例和一个链接到包含所有代码的Jupyter Notebook的链接。

  • 使用Pandas进行数据操作:简明教程(https://www.marsja.se/data-manipulation-pandas-tutorial/ )

假数据

在第一个Python数据操作示例中,我们将使用一个假数据集。更具体地说,我们将创建一个数据帧,其中有一个空列和一些缺失的值。在本文的这一部分中,我们将进一步使用Python包SciPy和NumPy。也就是说,我们还需要安装这些包。

在这个例子中,我们要创建三个列;Subject, RT (响应时间)和 Deg。要创建响应时间列,我们将使用SciPy的norm来创建正态分布的数据。

使用Scipy创建Python正态分布

在下一个代码块中,我们使用正态分布为响应时间创建一个变量。

重新排列列表并添加缺失的值

此外,我们再添加一些缺失的值,并重新排列正态分布的数据列表:

从字典创建数据帧

最后,我们将为我们的两个变量创建一个字典,并使用该字典来创建一个Pandas数据帧:

从字典创建DataFrame

在Python中使用Pandas和Pyjanitor进行数据清理

如何向Pandas Dataframe添加一个列

现在我们已经从一个字典创建了我们的数据帧,我们准备向它添加一个列。在下面的示例中,我们将使用Pandsa和Pyjanitors方法。

1. 向Pandas Dataframe追加一个列

使用Pandas向一个数据帧添加一个列是非常容易的。在下面的例子中,我们将向Pandas 数据帧中追加一个空列:

向数据帧中添加列

2. 使用Pyjanitor向Pandas Dataframe添加一个列

现在,我们将使用add_column方法向该数据帧中追加一个列。添加一个空列不像使用上面的方法那么容易。然而,正如您将在本文末尾看到的,我们可以在创建我们的数据帧时使用所有方法:

向数据帧中追加列

如何删除Pandas Dataframe中的缺失值

我们的数据集远远不够完整,这是很常见的。这可能是由于测量仪器的错误,人们忘记或拒绝回答某些问题,以及许多其他事情。尽管缺失的信息背后有各种原因,但这些行被称为缺失值。在Pandas的框架中,缺失值由符号NA编码,这与在R统计环境中很像。Pandas有isna()函数来帮助我们识别数据集中的缺失值。如果我们想删除缺失值,Pandas有一个函数dropna()。

1.使用Pandas dropna方法删除缺失值

在下面的代码示例中,我们删除所有具有缺失值的行。注意,如果我们想修改该数据帧,我们应该添加inplace参数并将其设置为true。

2.使用PyJanitor从Pandas Dataframe中删除缺失值

使用Pyjanitor从Pandas Dataframe中删除缺失值的方法与上面的方法相同。也就是说,我们将使用dropna方法。但是,当我们使用Pyjanitor从该数据帧中删除缺失数据时,我们还会使用subset参数来选择要使用哪些列:

如何从Pandas Dataframe中删除一个空列

在下一个Pandas数据操作示例中,我们将从数据帧中删除空列。首先,我们将使用Pandas删除空列,然后,我们将使用Pyjanitor。请记住,在本文的最后,我们将有一个完整的示例,其中我们在实际创建Pandas Dataframe的同时对所有数据进行清理。

1. 从Pandas Dataframe中删除一个空列

当我们想删除一个空列(例如,带有缺失值)时,我们将再次使用Pandas的dropna方法。然而,我们还将使用axis方法并将其设置为1(针对列)。此外,我们还必须使用参数how并将其设置为' all '。如果我们不这样做,它将删除任何带有缺失值的列。

删除空列

2. 使用Pyjanitor从Pandas Dataframe中删除一个空列

使用Pyjanitor删除一个空列要更容易一点:

如何在Pandas Dataframe中重命名列

现在我们知道了如何删除缺失值、向一个Pandas 数据帧中添加一个列以及如何删除一个列,我们将继续这个数据清理教程来学习如何重命名列。

例如,在我们学习了《如何将数据从一个JSON文件加载到一个Pandas数据帧》的文章中,我们重新命名了列,以便稍后更容易地使用该数据帧。在下面的示例中,我们将读取一个JSON文件,并使用Pandas 数据帧方法rename和Pyjanitor来重命名列。

更多关于将数据加载到数据帧的文章:

  • 如何使用Python和Pandas读写JSON文件 https://www.marsja.se/how-to-read-and-write-json-files-using-python-and-pandas/
  • Pandas读取CSV教程 https://www.marsja.se/pandas-read-csv-tutorial-to-csv/
  • Pandas Excel教程:如何读写Excel文件 https://www.marsja.se/pandas-excel-tutorial-how-to-read-and-write-excel-files/

1.在Pandas Dataframe中重命名列

如上图所示,我们想要删除一些空格和特殊字符。在第一个重命名列的例子中,我们将使用Pandas的 rename方法和正则表达式一起来重命名列(即,我们将用下划线替换空格和\)。

2. 如何使用Pyjanitor和clean_names重命名列

使用Pyjanitor重命名一个列(或多个列)要容易得多。实际上,当我们导入了这个Python包之后,我们就可以使用clean_names方法,它将给出与使用Pandas的rename方法相同的结果。事实上,使用clean_names,我们还可以将列名称中的所有字母转换为小写:

当从磁盘加载数据时,如何清理数据

使用Pyjanitor清理我们的数据的一个很酷的地方是,我们可以在加载数据时使用上述所有方法。例如,在最后一个数据清理示例中,我们将向该数据帧添加一个列,删除空列,删除缺失的数据,并清理列名称。这就是与Pyjanitor一起工作使我们的生活更容易的原因。

使用Pyjanitor聚合数据

在最后一个例子中,我们将使用Pandas方法agg、groupby和reset_index,以及Pyjanitor方法collapse_levels来计算每个扇区的平均值和标准:

更多关于使用Python和Pandas对数据进行分组和聚合的文章:

  • Python Pandas分组教程 https://www.marsja.se/python-pandas-groupby-tutorial-examples/
  • 使用Python进行描述性统计 https://www.marsja.se/pandas-python-descriptive-statistics/

结论

在这篇文章中,我们学习了一些数据清理方法。具体来说,我们学习了如何向一个Pandas数据帧追加一个列、删除空列、处理缺失值以及重命名列(即,获得更好的列名)。当然,当我们使用Pandas和Pyjanitor时,还有更多的数据清理方法可用。

总之,此Python包所增加的方法与R包janitor和dplyr中的方法是相似的。在预处理数据时,这些方法将使我们的生活更容易。

最后,小编整合了一些python的学习资料,免费分享给大家:

领取方式:转发本文+关注小编,然后私信小编“资料”即可免费领取!

相关推荐

win10开机慢怎么设置(win 10开机太慢)
  • win10开机慢怎么设置(win 10开机太慢)
  • win10开机慢怎么设置(win 10开机太慢)
  • win10开机慢怎么设置(win 10开机太慢)
  • win10开机慢怎么设置(win 10开机太慢)
手机路由器管理(手机路由器管理界面进不去是什么原因)
  • 手机路由器管理(手机路由器管理界面进不去是什么原因)
  • 手机路由器管理(手机路由器管理界面进不去是什么原因)
  • 手机路由器管理(手机路由器管理界面进不去是什么原因)
  • 手机路由器管理(手机路由器管理界面进不去是什么原因)
佳能(中国)官网下载(佳能(中国)官网下载appstore)

需要先进入佳能官网的下载页面,选择手机APP下载选项,根据手机操作系统的不同选择相应的下载链接即可成功下载佳能手机APP。下载链接通常会在网站的首页或者是产品页面上提供。总的来说,下载佳能手机APP非...

c盘右边有个恢复分区怎么删除

1、从网上下载“分区助手专业6.2(或5.6)”,它能无损分区,下载后打开按提示安装,点击分区助手桌面快捷方式图标,打开分区助手专业版6.2主界面。2、右击要调出空间的分区,如E,选“分配自由空间”,...

电脑插着电源却不充电怎么办

电脑插上电源但无法充电可能有以下原因:1.电池没有完全安装,需要检查电池是否完全插入笔记本电脑中。2.电池损坏,如果电池老化或发生机械故障、磨损和损伤,充电电流将会被阻塞从而无法进行充电,需要更换...

如何格式化手机(华为p50如何格式化手机)
如何格式化手机(华为p50如何格式化手机)

步骤/方式1软件格式化:利用psiloc公司的软件sTools,进行格式化手机,锁码为12345步骤/方式2软格:在手机上输入*#7370#之后要求你输入锁码,初始密码是:12345步骤/方式3硬格:先关机,再开机的时候按住拨号键、“*...

2025-12-17 12:03 off999

win10自动更新的禁用方法(win10自动更新的禁用方法是什么)

方法一:Windows设置  要想关闭Win10自动更新,比较简单的一种方法就是进入到Windows设置中,将Windows更新直接关闭。步骤如下:  1、按“Windows+I”键,打开Wind...

优化win7系统运行速度(优化win7系统运行速度多少)

优化WIN7系统开机启动项的操作方法1、在桌面上按组合键(win键+R)打开运行窗口,接着输入“regedit”,回车确认,2、打开注册表编辑器后,我们依次点击展开“HKEY_CURRENT_USE...

win7设置每天自动开机时间(win7设置每天自动开机时间任务)

要在Windows7上设置每天自动开关机,您可以按照以下步骤操作:1.打开“控制面板”,单击“系统和安全”,然后选择“计划任务”。2.单击“创建基本任务”,输入一个适合您的任务名称,并添加相应的...

苹果电脑装双系统好用吗(苹果电脑安装双系统会不会对电脑不好)

好处:1、可以在保留原来的系统上再安装一个新系统,两个系统互不干扰,可以互相切换,使用方便。2、双系统可以在不用环境系进行软件调试没测试电脑的兼容性。3、双系统可以让用户体验不同的系统功能,提高用户的...

qq好友恢复网站官方网站(qq好友恢复官方网站为什么不能用)
  • qq好友恢复网站官方网站(qq好友恢复官方网站为什么不能用)
  • qq好友恢复网站官方网站(qq好友恢复官方网站为什么不能用)
  • qq好友恢复网站官方网站(qq好友恢复官方网站为什么不能用)
  • qq好友恢复网站官方网站(qq好友恢复官方网站为什么不能用)
在电脑上复制粘贴按什么键(电脑怎复制粘贴按那个键)

电脑键盘上的“复制和粘贴”,分别是Ctrl+c和Ctrl+v,其中复制的快捷键是Ctrl+c,粘贴的快捷键是Ctrl+v。鼠标右键,点击右键会出菜单,移动光标后点击左键确认。键盘复制的快捷键:Ctrl...

office是电脑自带的吗(电脑自带的office都是2016版)

基本上大品牌电脑,都会带正版的office软件。如果是自己组装的电脑,一般使用的盗版软件,不是正版的。现在office软件分为国产和进口两个版本,进口的是微软office,国产的是wpsoffice...

怎么样的电脑配置才算好(怎么样的电脑配置才算好的)
  • 怎么样的电脑配置才算好(怎么样的电脑配置才算好的)
  • 怎么样的电脑配置才算好(怎么样的电脑配置才算好的)
  • 怎么样的电脑配置才算好(怎么样的电脑配置才算好的)
  • 怎么样的电脑配置才算好(怎么样的电脑配置才算好的)
appstore应用商店下载(AppStore应用商店下载入口)

可能因为1.你的软件原来在其他国家下载的,你现在账户不支持那个软件的更新,只要更改到相应的地区就好了2.可能你网不好(?˙ー˙?)3.你的pad原来登录的账户和现在不一样,所以你现在...

取消回复欢迎 发表评论: