面对一堆数据，你要怎么做——python数据合并、重塑和清理
off999 2024-09-16 00:49 52 浏览 0 评论
数据的清理、转换、合并和重塑是数据分析与挖掘的基础工作，而且常常消耗了分析人员大部分的时间，本文将介绍pandas的核心函数如何帮助分析人员进行数据规整工作。
一、数据的重排
1、合并数据集
多个数据集的合并是我们经常遇到的数据规整工作，例如各种类型商品在不同渠道的销售数据需要按照渠道进行汇总，各子公司每个月的财务数据需要按照月份进行汇总，这里边主要用到以下4个函数：
| 函数 | 参数 | 说明 |
| pandas.merge() | Left, right, how ,on, left_on, right_on, sort, suffixes, copy | 可根据一个或多个键将DataFrame连接起来 |
| pandas.concat() | objs, axis, join, join_axes, keys, levels, names, verify_integrity, ignore_index | 沿着一个轴将多个对象堆叠到一起 |
| obj1.combile_first(obj2) | obj | 将重复数据编结在一起，用一个对象的值边界另一个对象对缺失值。 |
| np.where() | 如np.where(pd.innull(a),b,a) | If-else逻辑的矢量化形式 |
下面以官方文档的几个例子简单介绍一下：
示例1：pandas.merge()
示例2：pandas.concat()
2、重塑和轴向旋转
我们常常需要把时间序列的数据按照类别、区域等维度进行重塑，从长格式转变为宽格式，这里边主要涉及3个函数：
| 函数 | 参数 | 说明 |
| obj.stack() | level, dropna, 默认值为level=-1, dropna=True，从最内层开始旋转，过滤缺失值 | 将DataFrame数据的列选装为行,返回Series |
| obj.unstack | Level, fill_value, 默认值为level=-1, fill_value=None，从最内层开始旋转，不填充缺失值 | 将层次化索引的Series旋转为列，返回DataFrame |
| pandas.pivot_table | Obj, values, index, columns, aggfunc | 创建层次化索引，并重塑。相当于先set_index，再unstack |
示例如下：
示例3：Obj.stack()
示例4：Obj.unstack()
示例5：Pandas.pivot_table()
二、数据的过滤和清理
对数据进行合并或重塑后，就需要对数据的内容进行处理，例如去重、替换或者元素级的转换和计算。
| 函数 | 参数 | 说明 |
| obj.duplicated() | Keep，默认为first，即判定第一次出现对行为true | 判断是否重复，返回一个布尔型Series |
| obj.drop_duplicated() | keep='first', inplace=False | 返回一个移除了重复行的DataFrame |
| obj.map() | 接受一个函数或字典型对象，进行元素级转换 | |
| obj.replace() | Obj.replace(a,b) | 替换 |
示例6：map()
三、字符串操作
最后，单独介绍一下Python的字符串和文本处理函数，Python进行字符串操作极其简洁。常用字符串的方法如下所示：
| 方法 | 说明 |
| count | 子串在字符串中出现对次数 |
| endswith、startswith | 字符串以某个后缀（前缀结尾），则返回true |
| Join | 将字符串用作连接其它字符串序列的分隔符 |
| index | 如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则引发valueError |
| find | 如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则返回-1 |
| rfind | 如果在字符串中找到子串，则返回最后一个发现对子串第一个字符所在对位置。否则返回-1 |
| strip、rstrip、istrip | 去除空白字符或换行符 |
| Split | 通过指定的分隔符将字符串拆分为一串子串 |
| lower、upper | 分别将字母转换大小写 |
| Ijust、rjust | 用空格（或其它字符）填充字符串的空白侧以返回符合最低宽度的字符串。 |
另外，还有Python的正则表达式功能也是文本处理的利器，主要使用内置对re模块，可以进行模式匹配（compile）、替换（replace）和拆分（split），常用的函数包括findall，match，search等。正则表达式其实可以自成一章，内容较多，此处不再详细介绍。
相关推荐
- win11分区教程（win11磁盘分区形式）
-
在安装win11时，可以选择自定义分区，进入磁盘管理界面，选择要安装win11的磁盘，点击新建分区，设置分区大小和分区盘符，注意不要覆盖原有数据分区。建议将系统分区和数据分区分开，以便备份和维护。安装...
- win7双系统怎么切换（双系统win7切换win10）
-
要切换到其他操作系统，必须使用另一个启动设备或安装系统。以下是一些步骤：1.获取安装媒体（光盘或USB驱动器），包含您要安装的操作系统。2.在Windows7上打开电脑，将安装媒体插入计算机。3...
- project2010激活码（project2010永久激活码）
-
首先我们在网上下载project2010，因为project2010是付费使用的，所以我们可以先使用试用版，试用版期限是30天。首先我们来创建一个项目，然后使用project2010来进行管理。我们可...
- 迈克菲无法卸载（迈克菲无法卸载怎么解决）
-
一，找到迈克菲的图标二，右键，点击更改设置——实时扫描三，点击关闭，即可。1，控制面板中－管理工具－服务－停止MCAFEEFRAMEWORKMANAGER服务2，开始中—运行—输入cmd—输入“C...
- 爱普生打印机驱动（爱普生打印机驱动怎么安装）
-
1.首先进入爱普生网站。找到驱动以及手册证书下载2.选择打印机的类型，勾选正确的打印机型号。3.根据自己的电脑操作系统选择对应的软件版本点击下载。4.下载了LQ-630KII的驱动，双击运行。5.运行...
- windows7显示不是正版怎么办
-
不必担心，是不是正版影响并不大，不会影响你正常使用电脑，无非就是心里对于正版和盗版的道德观念会有点小执念罢了，但这些都不影响系统的正常使用。如果你非要安装正版，可以去买个正版光盘，安装系统后输入正版激...
- vivo手机锁屏密码忘了怎么办
-
如下：1输入密码在vivo的锁屏页面，连续输入五次错误密码，弹出新页面。2/4选择忘记密码在新的页面中，找到页面中的忘记密码这个选项，点击它。3/4进行身份验证切换到身份验证的页面后，回答两个问题，再...
-
- 微软官网免费下载win7吗（微软官网免费下载win10是真的吗）
-
最简单的方法就是,下载完镜像文件后,直接把镜像文件解压,解压到非C盘,然后在解压文件里面找到setup.exe,点击运行即可。安装系统完成后,在C盘找到一个Windows.old(好几个GB,是旧系统打包在这里,垃圾文件了)删除即可。扩展资...
-
2025-12-17 00:51 off999
- windows7的密钥在哪里（windows7密钥在哪里可以找到）
-
查看Windows7的密钥，你可以按照以下步骤进行操作：在键盘上按下Win+R组合键，打开运行窗口。在运行窗口中输入"regedit"，然后点击确定，打开注册表编辑器。在注册表编...
- 360极速浏览器打不开网页（360极速浏览器经常打不开未响应）
-
先打开任务管理器结束360浏览器的所有进程(如果有).再尝试点击启动.如果还不行,重启电脑再试,如果还不行,执行杀毒检测和磁盘扫描,并卸载重装浏览器.强制360浏览器以极速模式打开页面方法如下：1、...
- win7系统图标（win7系统图标网络开关灰色）
-
1/6首先点击桌面右下角Windows，再点击【控制面板】2/6来到控制面板页面，我们再点击【个性化】3/6来到个性化页面，我们再点击左侧【更改桌面图标】4/6弹出桌面图标设置对话框，我们根据实际需要...
- 系统的超级宗门等级（系统的超级宗门人物介绍）
-
《一念永恒》中宗门等级划分分为：顶级宗门、一流宗门、二流宗门、三流宗门和小宗门。顶级宗门位于武道源头，是无数武极强者梦寐以求的存在。一流宗门规模庞大，经济实力雄厚，拥有大量高手强者，地位颇为显赫。二流...
- 为啥系统重装后有两个系统（为啥系统重装后有两个系统 原来的系统还在）
-
电脑重装系统后有两个系统，需要重新安装，并且再安装系统时需要把原来的系统所在盘即C盘进行格式化，否则安装完成就还是两个系统，非常占系统内存。1、可能在安装时删除了原来的引导分区。2、可能安装时直接安装...
- win10win7双系统引导设置（win10 win7双系统引导）
-
步骤如下： 1、首先我是开机时按F8，进入安全模式界面。但是进去的时候等待了几分钟都无反应，上面一直显示请稍等。 2、没办法只有按下复位键重启电脑，因电脑之前装有一键GHOST备份，于是果断还原...
- ie缓存清理在哪里（ie缓存如何清除）
-
? 1、首先打开IE浏览器，选择IE浏览器的工具这一选项; 2、下一步选择工具中的Internet的选项; 3、下一步就是在Internet选项中的常规的选项中; 4、选择常规--浏览历史记录...
欢迎 你 发表评论:
- 一周热门
-
-
抖音上好看的小姐姐，Python给你都下载了
-
全网最简单易懂!495页Python漫画教程，高清PDF版免费下载
-
Python 3.14 的 UUIDv6/v7/v8 上新，别再用 uuid4 () 啦!
-
飞牛NAS部署TVGate Docker项目，实现内网一键转发、代理、jx
-
python入门到脱坑 输入与输出—str()函数
-
宝塔面板如何添加免费waf防火墙?（宝塔面板开启https）
-
Python三目运算基础与进阶_python三目运算符判断三个变量
-
(新版)Python 分布式爬虫与 JS 逆向进阶实战吾爱分享
-
失业程序员复习python笔记——条件与循环
-
使用 python-fire 快速构建 CLI_如何搭建python项目架构
-
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)