百度360必应搜狗淘宝本站头条
python类型转换python计时python异常python进度条python吧
当前位置：网站首页 > 技术资源 > 正文

python处理Excel实战进阶篇day08(把30MB文本数据写入excel文件)

off999 2024-10-04 00:20 23 浏览 0 评论

实例08—把规整的文本大数据写入excel表格

模拟场景需求：

年末岁尾，单位考勤机故障，通过某种方法，有幸获得了考勤记录的原始文本数据，足足近30MB的大文档，用系统自带的文本文件，打开都很困难，打开之后，是一行行规律的数据，先截图如下：

半天拉到结尾，一共9万多行，突发奇想，能不能把他们逐行导入excel表格，分段插入每一列，也好做好分析，手动去粘贴，你要累死呀，还不如累死计算机呢^_^干再多的重复循环也是分分秒秒的事，用Python处理Excel文件的模块openpyxl，看我怎么样用它搞定我们的“文本大数据写入表格”。

1、用到的知识点：

Python的循环读取，IO操作,file的读写方法，wb对象基本操作包括创建和保存，ws的操作遍历，cell单元格的读取和写入等。

2、用到的文件：

一个导出的考勤log日志数据，非隐私数据（已经脱敏处理，人名已经更改）如需要请下载，通过阿里云盘分享，链接如下：
https://www.aliyundrive.com/s/cjiSN9ZrGz7

3、操作步骤思维导图：

4、代码操作编写截图：

a、初级代码如下：

from openpyxl import Workbook

# 建立excel操作对象
wb = Workbook()
ws = wb.active

# 最python_man的文件读取方法，迭代遍历，不用担心读取文件过大问题
# 初级代码
with open('kaoqin.txt','r',encoding='utf-8') as f:
    for line in f:
        tmp = line.split() # 读取的行按空格分割
        ws.append(tmp) # 按行写入excel表格

wb.save('result.xlsx')

成功了，虽然有点丑：

循环读文本写表格，python无惧大数据

b、改进代码如下：

改进稍微难一点，用到了正则表达式模块和列表生成式，列表的切片合并等。

from openpyxl import Workbook
import re


# 建立excel操作对象
wb = Workbook()
ws = wb.active
title = ['date','time','id','name','workcode','status','authority','card_src','photo']
# 插入标题
ws.append(title)

#最python_man的读取方法
with open('kaoqin.txt','r',encoding='utf-8') as f:
    for line in f:
        tmp = re.split(r'[\s\=\"]+',line) # 分割字符通过空白和特殊符号="
        ret = tmp[1:2]+tmp[2::2] # 调节列表选项，选取需求的
        ws.append(ret)

wb.save('result2.xlsx')

今天的例子要活学活用，关键练基础，熟悉python的openpyxl处理表格的思路，愿一路有你，好好学习，openpyxl操作有疑难请参阅<python办公自动化openpyxl处理excel（基础篇）>,python基础不好的，请参阅其它，或者关注作者即将退出的python基础内容哦。

相关推荐

python入门到脱坑经典案例—清空列表

在Python中，清空列表是一个基础但重要的操作。clear()方法是最直接的方式，但还有其他方法也可以实现相同效果。以下是详细说明：1.使用clear()方法（Python3.3+推荐）...

python中元组，列表，字典，集合删除项目方式的归纳

九三，君子终日乾乾，夕惕若，厉无咎。在使用python过程中会经常遇到这四种集合数据类型，今天就对这四种集合数据类型中删除项目的操作做个总结性的归纳。列表（List）是一种有序和可更改的集合。允许重复...

Linux 下海量文件删除方法效率对比，最慢的竟然是 rm

Linux下海量文件删除方法效率对比，本次参赛选手一共6位，分别是：rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...

数据结构与算法——链式存储(链表)的插入及删除，

持续分享嵌入式技术，操作系统，算法，c语言/python等，欢迎小友关注支持上篇文章我们讲述了链表的基本概念及一些查找遍历的方法，本篇我们主要将一下链表的插入删除操作，以及采用堆栈方式如何创建链表。链...

Python自动化:openpyxl写入数据，插入删除行列等基础操作

importopenpyxlwb=openpyxl.load_workbook("example1.xlsx")sh=wb['Sheet1']写入数据#...

在Linux下软件的安装与卸载（linux里的程序的安装与卸载命令）

通过apt安装/协助软件apt是AdvancedPackagingTool，是Linux下的一款安装包管理工具可以在终端中方便的安装/卸载/更新软件包命令使用格式：安装软件：sudoapt...

Python 批量卸载关联包 pip-autoremove

pip工具在安装扩展包的时候会自动安装依赖的关联包，但是卸载时只删除单个包，无法卸载关联的包。pip-autoremove就是为了解决卸载关联包的问题。安装方法通过下面的命令安装：pipinsta...

用Python在Word文档中插入和删除文本框

在当今自动化办公需求日益增长的背景下，通过编程手段动态管理Word文档中的文本框元素已成为提升工作效率的关键技术路径。文本框作为文档排版中灵活的内容容器，既能承载多模态信息（如文字、图像），又可实现独...

Python 从列表中删除值的多种实用方法详解

#Python从列表中删除值的多种实用方法详解在Python编程中，列表（List）是一种常用的数据结构，具有动态可变的特性。当我们需要从列表中删除元素时，根据不同的场景（如按值删除、按索引删除、...

Python 中的前缀删除操作全指南（python删除前导0）

1.字符串前缀删除1.1使用内置方法Python提供了几种内置方法来处理字符串前缀的删除：#1.使用removeprefix()方法(Python3.9+)text="...

每天学点Python知识:如何删除空白

在Python中，删除空白可以分为几种不同的情况，常见的是针对字符串或列表中空白字符的处理。一、删除字符串中的空白1.删除字符串两端的空白（空格、\t、\n等）使用.strip()方法：s...

Linux系统自带Python2&amp;yum的卸载及重装

写在前面事情的起因是我昨天在测试Linux安装Python3的shell脚本时，需要卸载Python3重新安装一遍。但是通过如下命令卸载python3时，少写了个3，不小心将系统自带的python2也...

如何使用Python将多个excel文件数据快速汇总?

在数据分析和处理的过程中，Excel文件是我们经常会遇到的数据格式之一。本文将通过一个具体的示例，展示如何使用Python和Pandas库来读取、合并和处理多个Excel文件的数据，并最终生成一个包含...

【第三弹】用Python实现Excel的vlookup功能

今天继续用pandas实现Excel的vlookup功能，假设我们的2个表长成这样：我们希望把Sheet2的部门匹在Sheet1的最后一列。话不多说，先上代码：importpandasaspd...

python中pandas读取excel单列及连续多列数据

案例：想获取test.xls中C列、H列以后（当H列后列数未知时）的所有数据。importpandasaspdfile_name=r'D:\test.xls'#表格绝对...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表
Copyright Your WebSite.Some Rights Reserved.