面对一堆数据，你要怎么做——python数据合并、重塑和清理
off999 2024-09-16 00:49 36 浏览 0 评论
数据的清理、转换、合并和重塑是数据分析与挖掘的基础工作，而且常常消耗了分析人员大部分的时间，本文将介绍pandas的核心函数如何帮助分析人员进行数据规整工作。
一、数据的重排
1、合并数据集
多个数据集的合并是我们经常遇到的数据规整工作，例如各种类型商品在不同渠道的销售数据需要按照渠道进行汇总，各子公司每个月的财务数据需要按照月份进行汇总，这里边主要用到以下4个函数：
| 函数 | 参数 | 说明 |
| pandas.merge() | Left, right, how ,on, left_on, right_on, sort, suffixes, copy | 可根据一个或多个键将DataFrame连接起来 |
| pandas.concat() | objs, axis, join, join_axes, keys, levels, names, verify_integrity, ignore_index | 沿着一个轴将多个对象堆叠到一起 |
| obj1.combile_first(obj2) | obj | 将重复数据编结在一起，用一个对象的值边界另一个对象对缺失值。 |
| np.where() | 如np.where(pd.innull(a),b,a) | If-else逻辑的矢量化形式 |
下面以官方文档的几个例子简单介绍一下：
示例1：pandas.merge()
示例2：pandas.concat()
2、重塑和轴向旋转
我们常常需要把时间序列的数据按照类别、区域等维度进行重塑，从长格式转变为宽格式，这里边主要涉及3个函数：
| 函数 | 参数 | 说明 |
| obj.stack() | level, dropna, 默认值为level=-1, dropna=True，从最内层开始旋转，过滤缺失值 | 将DataFrame数据的列选装为行,返回Series |
| obj.unstack | Level, fill_value, 默认值为level=-1, fill_value=None，从最内层开始旋转，不填充缺失值 | 将层次化索引的Series旋转为列，返回DataFrame |
| pandas.pivot_table | Obj, values, index, columns, aggfunc | 创建层次化索引，并重塑。相当于先set_index，再unstack |
示例如下：
示例3：Obj.stack()
示例4：Obj.unstack()
示例5：Pandas.pivot_table()
二、数据的过滤和清理
对数据进行合并或重塑后，就需要对数据的内容进行处理，例如去重、替换或者元素级的转换和计算。
| 函数 | 参数 | 说明 |
| obj.duplicated() | Keep，默认为first，即判定第一次出现对行为true | 判断是否重复，返回一个布尔型Series |
| obj.drop_duplicated() | keep='first', inplace=False | 返回一个移除了重复行的DataFrame |
| obj.map() | 接受一个函数或字典型对象，进行元素级转换 | |
| obj.replace() | Obj.replace(a,b) | 替换 |
示例6：map()
三、字符串操作
最后，单独介绍一下Python的字符串和文本处理函数，Python进行字符串操作极其简洁。常用字符串的方法如下所示：
| 方法 | 说明 |
| count | 子串在字符串中出现对次数 |
| endswith、startswith | 字符串以某个后缀（前缀结尾），则返回true |
| Join | 将字符串用作连接其它字符串序列的分隔符 |
| index | 如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则引发valueError |
| find | 如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则返回-1 |
| rfind | 如果在字符串中找到子串，则返回最后一个发现对子串第一个字符所在对位置。否则返回-1 |
| strip、rstrip、istrip | 去除空白字符或换行符 |
| Split | 通过指定的分隔符将字符串拆分为一串子串 |
| lower、upper | 分别将字母转换大小写 |
| Ijust、rjust | 用空格（或其它字符）填充字符串的空白侧以返回符合最低宽度的字符串。 |
另外，还有Python的正则表达式功能也是文本处理的利器，主要使用内置对re模块，可以进行模式匹配（compile）、替换（replace）和拆分（split），常用的函数包括findall，match，search等。正则表达式其实可以自成一章，内容较多，此处不再详细介绍。
相关推荐
- Python Flask 容器化应用链路可观测
-
简介Flask是一个基于Python的轻量级Web应用框架，因其简洁灵活而被称为“微框架”。它提供了Web开发所需的核心功能，如请求处理、路由管理等，但不会强制开发者使用特定的工具或库。...
- Python GUI应用开发快速入门（python开发软件教程）
-
一、GUI开发基础1.主流GUI框架对比表1PythonGUI框架比较框架特点适用场景学习曲线Tkinter内置库，简单小型应用，快速原型平缓PyQt功能强大，商用许可专业级桌面应用陡峭PySi...
- 实战揭秘:Python Toga 打造跨平台 GUI 应用的神奇之旅
-
在Python的世界里，GUI（图形用户界面）开发工具众多，但要找到一款真正跨平台、易于使用且功能强大的工具并不容易。今天，我们就来深入探讨一下Toga——一款Python原生、操作系统原...
- python应用目录规划（python的目录）
-
Python大型应用目录结构规划（企业级最佳实践）核心原则模块化：按业务功能拆分，高内聚低耦合可扩展性：支持插件机制和动态加载环境隔离：清晰区分开发/测试/生产环境自动化：内置标准化的构建测试部署流...
- Python图形化应用开发框架:PyQt开发简介
-
PyQt概述定义：PyQt是Python绑定Qt框架的工具集，用于开发跨平台GUI应用程序原理：通过Qt的C++库提供底层功能，PyQt使用SIP工具生成Python绑定特点：支持Windows/ma...
- [python] 基于PyOD库实现数据异常检测
-
PyOD是一个全面且易于使用的Python库，专门用于检测多变量数据中的异常点或离群点。异常点是指那些与大多数数据点显著不同的数据，它们可能表示错误、噪声或潜在的有趣现象。无论是处理小规模项目还是大型...
- Python、Selenium 和 Allure 进行 UI 自动化测试的简单示例脚本
-
环境准备确保你已经安装了以下库：SeleniumAllurepytest你可以使用以下命令安装所需库：pipinstallseleniumallure-pytestpytest示例代码下面的代...
- LabVIEW 与 Python 融合:打造强大测试系统的利器
-
在现代测试系统开发领域，LabVIEW和Python各自凭借独特优势占据重要地位。LabVIEW以图形化编程、仪器控制和实时系统开发能力见长；Python则凭借丰富的库资源、简洁语法和强大数...
- 软件测试进阶之自动化测试——python+appium实例
-
扼要：1、了解python+appium进行APP的自动化测试实例；2、能根据实例进行实训操作；本课程主要讲述用python+appium对APP进行UI自动化测试的例子。appium支持Androi...
- Python openpyxl:读写样式Excel一条龙，测试报表必备!
-
无论你是测试工程师、数据分析师，还是想批量导出Excel的自动化工作者，只需一个库openpyxl，即可高效搞定Excel的各种需求！为什么选择openpyxl？支持.xlsx格式...
- Python + Pytest 测试框架——数据驱动
-
引言前面已经和大家介绍过Unittest测试框架的数据驱动框架DDT，以及其实现原理。今天和大家分享的是Pytest测试框架的数据驱动，Pytest测试框架的数据驱动是由pytest自...
- 这款开源测试神器，圆了我玩游戏不用动手的梦想
-
作者：HelloGitHub-Anthony一天我在公司用手机看游戏直播，同事问我在玩什么游戏？我和他说在看直播，他恍然大悟：原来如此，我还纳闷你玩游戏，咋不用动手呢。。。。一语惊醒梦中人：玩游戏不用...
- Python单元测试框架对比（pycharm 单元测试）
-
一、核心框架对比特性unittest(标准库)pytest(主流第三方)nose2(unittest扩展)doctest(文档测试)安装Python标准库pipinstallpytestp...
- 利用机器学习，进行人体33个2D姿态检测与评估
-
前几期的文章，我们分享了人脸468点检测与人手28点检测的代码实现过程，本期我们进行人体姿态的检测与评估通过视频进行人体姿势估计在各种应用中起着至关重要的作用，例如量化体育锻炼，手语识别和全身手势控制...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- Python Flask 容器化应用链路可观测
- Python GUI应用开发快速入门（python开发软件教程）
- 【MCP实战】Python构建MCP应用全攻略:从入门到实战!
- 实战揭秘:Python Toga 打造跨平台 GUI 应用的神奇之旅
- python应用目录规划（python的目录）
- Python图形化应用开发框架:PyQt开发简介
- [python] 基于PyOD库实现数据异常检测
- Python、Selenium 和 Allure 进行 UI 自动化测试的简单示例脚本
- LabVIEW 与 Python 融合:打造强大测试系统的利器
- 软件测试进阶之自动化测试——python+appium实例
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)