Numpy第21练:读取文件中的坑，只有理解才能避免!
off999 2024-11-14 16:52 11 浏览 0 评论
在第 20 练中我们了解了如何用numpy读取文本文件及其常用方法的介绍，但其实 Numpy读取文本文件里的细微门道还是挺多的，稍有不注意可能读取的数据就不是自己想要的，我们先来看一个具体的例子：
此时问题就来了，为什么使用dtype为None时得出的ndarray对象是一维的，而将dtype指定为U16时得出的ndarray对象又是二维的呢？
genfromtxt的内部操作
上面的这个疑问其实涉及到了genfromtxt函数如何处理和解析数据，以及dtype参数是如何影响最终数组结构的。
首先，np.genfromtxt是一个用于从文本文件加载数据并按指定格式转换为数组的函数。参数dtype决定了数组中元素的数据类型。当dtype=None时，numpy会尝试为每列数据推断出最合适的数据类型。
当dtype=None时：
在这种情况下，numpy会检查CSV文件中每一列的数据，并尝试为每一列确定一个合适的数据类型。这意味着输出数组中的每一行将会是一个结构化数组的元素，每一列成为结构化元素中的一个字段。因此，虽然物理上存储为一维数组，但逻辑上每个元素实际上包含了多个子元素（对应于原始数据的各个列），从而形成了类似于二维数据的结构。但是，整体来看，这个数组实际上是一维的，每个数组元素是一个复合类型（类似于Python中的元组），包含了不同列的数据。
当指定了特定的dtype（如U16）时：
在这种情况下，你是在告诉numpy将所有的数据都强制转换为指定的数据类型（在这里是长度为16的Unicode字符串类型）。因此，不管原始数据的类型如何，所有的数据都会被读取并转换为字符串。在这种情况下，numpy没有理由将数据读取为结构化数组，因为你已经指定了一个具体的、统一的数据类型。因此，它会生成一个二维数组，其中每行对应文件中的一行，每列对应行中的一个元素。
所以，dtype=None让numpy决定最合适的数据类型，通常会导致生成一个一维结构化数组，每个元素包含了多个数据字段。而指定特定的dtype（如U16）会导致numpy将所有数据读取为这种类型，从而生成一个普通的二维数组。
读取数据
在使用Numpy操作数据时，只要事先明确数组的shape，才能确定相应的数据访问方法，接下来我们设定一道练习题，那就是针对上面的一维数组和二维数组，如何只取第 5 列也就是最后一列的数据？
从上图可知，如果我们只看前 5 行数据，发现一维数组与二维数组的数据长的几乎是一样的，但如果我们只看第一行的数据，差别一下子就会显现出来：
如上图所示，一维数组d_None的每一行其实是一个Python的元组，而二维数组d_Unicode的每一行其实还是Numpy数组：
正是因为这种差别，如果我们只想访问最后一列的数据，对一维数据而言，因为它没有列的概念，所以在每一行中只能通过遍历的方式获取最后一个，而针对二维数组想要读取最后一列，一个切片操作就能搞定：
小结
本次练习主要是强调了dtype对Numpy的重要性以及其内部的类型推理机制，另外同样复习了Python及Numpy数组的切片操作。还是那句话，如果你也想进军 AI，一定要从这些基础的技能开始疯狂练习！
相关推荐
- 让 Python 代码飙升330倍:从入门到精通的四种性能优化实践
-
花下猫语：性能优化是每个程序员的必修课，但你是否想过，除了更换算法，还有哪些“大招”？这篇文章堪称典范，它将一个普通的函数，通过四套组合拳，硬生生把性能提升了330倍！作者不仅展示了“术”，更传授...
- 7 段不到 50 行的 Python 脚本，解决 7 个真实麻烦:代码、场景与可复制
-
“本文整理自开发者AbdurRahman在Stackademic的真实记录，所有代码均经过最小化删减，确保在50行内即可运行。每段脚本都对应一个日常场景，拿来即用，无需额外依赖。一、在朋...
- Python3.14:终于摆脱了GIL的限制
-
前言Python中最遭人诟病的设计之一就是GIL。GIL（全局解释器锁）是CPython的一个互斥锁，确保任何时刻只有一个线程可以执行Python字节码，这样可以避免多个线程同时操作内部数据结...
- Python Web开发实战:3小时从零搭建个人博客
-
一、为什么选Python做Web开发？Python在Web领域的优势很突出：o开发快：Django、Flask这些框架把常用功能都封装好了，不用重复写代码，能快速把想法变成能用的产品o需求多：行业...
- 图解Python编程:从入门到精通系列教程(附全套速查表)
-
引言本系列教程展开讲解Python编程语言，Python是一门开源免费、通用型的脚本编程语言，它上手简单，功能强大，它也是互联网最热门的编程语言之一。Python生态丰富，库（模块）极其丰富，这使...
- Python 并发编程实战:从基础到实战应用
-
并发编程是提升Python程序效率的关键技能，尤其在处理多任务场景时作用显著。本文将系统介绍Python中主流的并发实现方式，帮助你根据场景选择最优方案。一、多线程编程（threading）核...
- 吴恩达亲自授课，适合初学者的Python编程课程上线
-
吴恩达教授开新课了，还是亲自授课！今天，人工智能著名学者、斯坦福大学教授吴恩达在社交平台X上发帖介绍了一门新课程——AIPythonforBeginners，旨在从头开始讲授Python...
- Python GUI 编程:tkinter 初学者入门指南——Ttk 小部件
-
在本文中，将介绍Tkinter.ttk主题小部件，是常规Tkinter小部件的升级版本。Tkinter有两种小部件：经典小部件、主题小部件。Tkinter于1991年推出了经典小部件，...
- Python turtle模块编程实践教程
-
一、模块概述与核心概念1.1turtle模块简介定义：turtle是Python标准库中的2D绘图模块，基于Logo语言的海龟绘图理念实现。核心原理：坐标系系统：原点(0,0)位于画布中心X轴：向右...
- Python 中的asyncio 编程入门示例-1
-
Python的asyncio库是用于编写并发代码的，它使用async/await语法。它为编写异步程序提供了基础，通过非阻塞调用高效处理I/O密集型操作，适用于涉及网络连接、文件I/O...
- 30天学会Python，开启编程新世界
-
在当今这个数字化无处不在的时代，Python凭借其精炼的语法架构、卓越的性能以及多元化的应用领域，稳坐编程语言排行榜的前列。无论是投身于数据分析、人工智能的探索，还是Web开发的构建，亦或是自动化办公...
- Python基础知识(IO编程)
-
1.文件读写读写文件是Python语言最常见的IO操作。通过数据盘读写文件的功能都是由操作系统提供的，读写文件就是请求操作系统打开一个文件对象（通常称为文件描述符），然后，通过操作系统提供的接口从这个...
- Python零基础到精通，这8个入门技巧让你少走弯路，7天速通编程!
-
Python学习就像玩积木，从最基础的块开始，一步步搭建出复杂的作品。我记得刚开始学Python时也是一头雾水，走了不少弯路。现在回头看，其实掌握几个核心概念，就能快速入门这门编程语言。来聊聊怎么用最...
- 一文带你了解Python Socket 编程
-
大家好，我是皮皮。前言Socket又称为套接字，它是所有网络通信的基础。网络通信其实就是进程间的通信，Socket主要是使用IP地址，协议，端口号来标识一个进程。端口号的范围为0~65535(用户端口...
- Python-面向对象编程入门
-
面向对象编程是一种非常流行的编程范式（programmingparadigm），所谓编程范式就是程序设计的方法论，简单的说就是程序员对程序的认知和理解以及他们编写代码的方式。类和对象面向对象编程：把...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)