面对一堆数据，你要怎么做——python数据合并、重塑和清理
off999 2024-09-16 00:49 43 浏览 0 评论
数据的清理、转换、合并和重塑是数据分析与挖掘的基础工作，而且常常消耗了分析人员大部分的时间，本文将介绍pandas的核心函数如何帮助分析人员进行数据规整工作。
一、数据的重排
1、合并数据集
多个数据集的合并是我们经常遇到的数据规整工作，例如各种类型商品在不同渠道的销售数据需要按照渠道进行汇总，各子公司每个月的财务数据需要按照月份进行汇总，这里边主要用到以下4个函数：
| 函数 | 参数 | 说明 |
| pandas.merge() | Left, right, how ,on, left_on, right_on, sort, suffixes, copy | 可根据一个或多个键将DataFrame连接起来 |
| pandas.concat() | objs, axis, join, join_axes, keys, levels, names, verify_integrity, ignore_index | 沿着一个轴将多个对象堆叠到一起 |
| obj1.combile_first(obj2) | obj | 将重复数据编结在一起，用一个对象的值边界另一个对象对缺失值。 |
| np.where() | 如np.where(pd.innull(a),b,a) | If-else逻辑的矢量化形式 |
下面以官方文档的几个例子简单介绍一下：
示例1：pandas.merge()
示例2：pandas.concat()
2、重塑和轴向旋转
我们常常需要把时间序列的数据按照类别、区域等维度进行重塑，从长格式转变为宽格式，这里边主要涉及3个函数：
| 函数 | 参数 | 说明 |
| obj.stack() | level, dropna, 默认值为level=-1, dropna=True，从最内层开始旋转，过滤缺失值 | 将DataFrame数据的列选装为行,返回Series |
| obj.unstack | Level, fill_value, 默认值为level=-1, fill_value=None，从最内层开始旋转，不填充缺失值 | 将层次化索引的Series旋转为列，返回DataFrame |
| pandas.pivot_table | Obj, values, index, columns, aggfunc | 创建层次化索引，并重塑。相当于先set_index，再unstack |
示例如下：
示例3：Obj.stack()
示例4：Obj.unstack()
示例5：Pandas.pivot_table()
二、数据的过滤和清理
对数据进行合并或重塑后，就需要对数据的内容进行处理，例如去重、替换或者元素级的转换和计算。
| 函数 | 参数 | 说明 |
| obj.duplicated() | Keep，默认为first，即判定第一次出现对行为true | 判断是否重复，返回一个布尔型Series |
| obj.drop_duplicated() | keep='first', inplace=False | 返回一个移除了重复行的DataFrame |
| obj.map() | 接受一个函数或字典型对象，进行元素级转换 | |
| obj.replace() | Obj.replace(a,b) | 替换 |
示例6：map()
三、字符串操作
最后，单独介绍一下Python的字符串和文本处理函数，Python进行字符串操作极其简洁。常用字符串的方法如下所示：
| 方法 | 说明 |
| count | 子串在字符串中出现对次数 |
| endswith、startswith | 字符串以某个后缀（前缀结尾），则返回true |
| Join | 将字符串用作连接其它字符串序列的分隔符 |
| index | 如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则引发valueError |
| find | 如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则返回-1 |
| rfind | 如果在字符串中找到子串，则返回最后一个发现对子串第一个字符所在对位置。否则返回-1 |
| strip、rstrip、istrip | 去除空白字符或换行符 |
| Split | 通过指定的分隔符将字符串拆分为一串子串 |
| lower、upper | 分别将字母转换大小写 |
| Ijust、rjust | 用空格（或其它字符）填充字符串的空白侧以返回符合最低宽度的字符串。 |
另外，还有Python的正则表达式功能也是文本处理的利器，主要使用内置对re模块，可以进行模式匹配（compile）、替换（replace）和拆分（split），常用的函数包括findall，match，search等。正则表达式其实可以自成一章，内容较多，此处不再详细介绍。
相关推荐
- 大文件传不动?WinRAR/7-Zip 入门到高手，这 5 个技巧让你效率翻倍
-
“这200张照片怎么传给女儿？微信发不了，邮箱附件又超限……”62岁的张阿姨对着电脑犯愁时，儿子只用了3分钟就把照片压缩成一个文件，还教她：“以后用压缩软件，比打包行李还方便！”职场人更懂这...
- 电脑解压缩软件推荐——7-Zip:免费、高效、简洁的文件管理神器
-
在日常工作中，我们经常需要处理压缩文件。无论是下载软件包、接收文件，还是存储大量数据，压缩和解压缩文件都成为了我们日常操作的一部分。而说到压缩解压软件，7-Zip绝对是一个不可忽视的名字。今天，我就来...
- 设置了加密密码zip文件要如何打开?这几个方法可以试试~
-
Zip是一种常见的压缩格式文件，文件还可以设置密码保护。那设置了密码的Zip文件要如何打开呢？不清楚的小伙伴一起来看看吧。当我们知道密码想要打开带密码的Zip文件，我们需要用到适用于Zip格式的解压缩...
- 大文件想要传输成功，怎么把ZIP文件分卷压缩
-
不知道各位小伙伴有没有这样的烦恼，发送很大很大的压缩包会受到限制，为此，想要在压缩过程中将文件拆分为几个压缩包并且同时为所有压缩包设置加密应该如何设置？方法一：使用7-Zip免费且强大的文件管理工具7...
- 高效处理 RAR 分卷压缩包:合并解压操作全攻略
-
在文件传输和存储过程中，当遇到大文件时，我们常常会使用分卷压缩的方式将其拆分成多个较小的压缩包，方便存储和传输。RAR作为一种常见的压缩格式，分卷压缩包的使用频率也很高。但很多人在拿到RAR分卷...
- 2个方法教你如何删除ZIP压缩包密码
-
zip压缩包设置了加密密码，每次解压文件都需要输入密码才能够顺利解压出文件，当压缩包文件不再需要加密的时候，大家肯定想删除压缩包密码，或是忘记了压缩包密码，想要通过删除操作将压缩包密码删除，就能够顺利...
- 速转!漏洞预警丨压缩软件Winrar目录穿越漏洞
-
WinRAR是一款功能强大的压缩包管理器，它是档案工具RAR在Windows环境下的图形界面。该软件可用于备份数据，缩减电子邮件附件的大小，解压缩从Internet上下载的RAR、ZIP及其它类...
- 文件解压方法和工具分享_文件解压工具下载
-
压缩文件减少文件大小，降低文件失效的概率，总得来说好处很多。所以很多文件我们下载下来都是压缩软件，很多小伙伴不知道怎么解压，或者不知道什么工具更好，所以今天做了文件解压方法和工具的分享给大家。一、解压...
- [python]《Python编程快速上手:让繁琐工作自动化》学习笔记3
-
1.组织文件笔记（第9章）(代码下载)1.1文件与文件路径通过importshutil调用shutil模块操作目录，shutil模块能够在Python程序中实现文件复制、移动、改名和删除；同时...
- Python内置tarfile模块:读写 tar 归档文件详解
-
一、学习目标1.1学习目标掌握Python内置模块tarfile的核心功能，包括：理解tar归档文件的原理与常见压缩格式（gzip/bz2/lzma）掌握tar文件的读写操作（创建、解压、查看、过滤...
- 使用python展开tar包_python拓展
-
类Unix的系统，打包文件经常使用的就是tar包，结合zip工具，可以方便的打包并解压。在python的标准库里面有tarfile库，可以方便实现生成了展开tar包。使用这个库最大的好处，可能就在于不...
- 银狐钓鱼再升级:白文件脚本化实现GO语言后门持久驻留
-
近期，火绒威胁情报中心监测到一批相对更为活跃的“银狐”系列变种木马。火绒安全工程师第一时间获取样本并进行分析。分析发现，该样本通过阿里云存储桶下发恶意文件，采用AppDomainManager进行白利...
- ZIP文件怎么打开?2个简单方法教你轻松搞定!
-
在日常工作和生活中，我们经常会遇到各种压缩文件，其中最常见的格式之一就是ZIP。ZIP文件通过压缩数据来减少文件大小，方便我们进行存储和传输。然而，对于初学者来说，如何打开ZIP文件可能会成为一个小小...
- Ubuntu—解压多个zip压缩文件.zip .z01 .z02
-
方法将所有zip文件放在同一目录中：zip_file.z01，zip_file.z02，zip_file.z03，...，zip_file.zip。在Zip3.0版本及以上，使用下列命令：将所有zi...
- 如何使用7-Zip对文件进行加密压缩
-
7-Zip是一款开源的文件归档工具，支持多种压缩格式，并提供了对压缩文件进行加密的功能。使用7-Zip可以轻松创建和解压.7z、.zip等格式的压缩文件，并且可以通过设置密码来保护压缩包中的...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)