百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

数据量太大?散点图装不下怎么办?用Python解决数据密度过大难题

off999 2024-11-24 20:06 14 浏览 0 评论

当我们需要观察比较2个变量间的关系时,散点图是我们首选图表。

可当数据量非常大,数据点又比较集中在某个区间中,图表没法看,密密麻麻的怎么看?


怎么办?这时候就得看密度图了

什么是密度图?

所谓的密度图 (Density Plot) 就是数据的分布稠密情况,它常用于显示数据在连续时间段内的分布状况。严格来说,它是由直方图演变而来,类似于把直方图进行了填充。

一般是使用平滑曲线来绘制数值水平来观察分布,峰值数值位置是该时间段内最高度集中的地方。

它比直方图适用性更强,不受分组数量(直方图的条形数量不宜过多)的影响,能更好地界定分布形状

本篇文章不谈论直方图,之后老海会专门总结关于直方图的使用。

什么是2D密度图?

说完了密度图和直方图,它们都是一维数据变量。

这下我们来看看2D密度图,它显示了数据集中两个定量变量范围内值的分布,有助于避免在散点图中过度绘制。

如果点太多,则2D密度图会计算2D空间特定区域内的观察次数。

该特定区域可以是正方形或六边形(六边形),还可以估算2D内核密度估算值,并用轮廓表示它。

本篇文章主要描述一下2D密度图的使用。

2D密度图的基本数据样式

2D密度图的使用建议

  • 密度图是一种直方图的代替方案,常用来观察连续变量的分布情况
  • 2D密度图主要用来解决数据点密度过大的问题,要注意密度分割是否合理。
  • 当数据范围都非常集中,数据间变化不大时,密度图往往很难观察效果。

下面开始具体的操作案例

准备工作

还是和之前一样,引入必要的工具包

## 初始字体设置,设置好可避免很多麻烦
plt.rcParams['font.sans-serif']=['Source Han Sans CN']      # 显示中文不乱码,思源黑体 
plt.rcParams['font.size'] = 22                              # 设置图表全局字体大小,后期某个元素的字体大小可以自行调整
plt.rcParams['axes.unicode_minus'] = False                  # 显示负数不乱码
## 初始化图表大小
plt.rcParams['figure.figsize'] = (20.0, 8.0)                # 设置figure_size尺寸
## 初始化图表分辨率质量
plt.rcParams['savefig.dpi'] = 300                           # 设置图表保存时的像素分辨率
plt.rcParams['figure.dpi'] = 300                            # 设置图表绘制时的像素分辨率

## 图表的颜色自定义
colors = ['#dc2624', '#2b4750', '#45a0a2', '#e87a59',
         '#7dcaa9', '#649E7D', '#dc8018', '#C89F91', 
         '#6c6d6c', '#4f6268', '#c7cccf']
plt.rcParams['axes.prop_cycle'] = plt.cycler( color=colors)

path = 'D:\\系列文章\\'
# 自定义文件路径,可以自行设定
os.chdir(path)
# 设置为该路径为工作路径,一般存放数据源文件

设定图表样式和文件路径

Financial_data = pd.read_excel('虚拟演示案例数据.xlsx',sheet_name='二维表')
Financial_data

读入数据

Financial_data = pd.read_excel('虚拟演示案例数据.xlsx',sheet_name='二维表')
Financial_data

常见的6种密度图表类型


from scipy.stats import kde  # 引入核密度计算方法


# 为方便演示,创建6个子图的画板
fig, axes = plt.subplots(3,2, figsize=(20, 20))

# 第一个子图,我们来画一个基本的散点图
# 散点图是最经典的观察2个变量关系,但数据量非常大就会出数据点堆叠交错,当值我们无法进一步探索
axes[0][0].set_title('散点图')                                           # 设置标题
axes_0 = axes[0][0].plot(Financial_data['材料'], Financial_data['管理'], 'ko')    # 画出散点图



# 第二个子图,我们画出六边形蜂巢图
# 当寻找2个数值型变量的关系,数据量很大且不希望数据堆叠在一起,就可以按照蜂巢形状切割数据点,计算每个六边形里的点数来表达密度
num_bins = 50                                                      # 设置六边形包含的距离
axes[0][1].set_title('蜂巢六边形图')                                # 设置标题
axes_1= axes[0][1].hexbin(Financial_data['材料'], Financial_data['管理'], 
                  gridsize=num_bins,                               # 设置六边形的大小
                  cmap="Blues"                                     # 设置颜色组合
                 )

fig.colorbar(axes_1,ax=axes[0][1])                                 # 设置颜色显示条

# 第三个子图,我们画出2D直方图。
# 我们您需要分析两个数据量比较大的数值变量关系时,2D直方图非常有用,它可以避免在散点图中出现的的数据密度过大问题
num_bins = 50
axes[1][0].set_title('2D 直方图')
axes_2 = axes[1][0].hist2d(Financial_data['材料'], Financial_data['管理'], 
                  bins=(num_bins,num_bins), 
                  cmap="Blues")

# fig.colorbar(axes_2,ax=axes[1][0])

 
# 第四个子图,我们画出高斯核密度图
# 考虑到想研究具有很多点的两个数值变量之间的关系。可以考虑绘图区域每个部分上的点数,来计算2D内核密度估计值。
# 就像平滑的直方图,这个方法不会使某个点掉入特定的容器中,而是会增加周围容器的权重,比如颜色会加深。
k = kde.gaussian_kde(Financial_data.loc[:,['材料','管理']].values.T)           # 进行核密度计算
xi, yi = np.mgrid[Financial_data['材料'].min():Financial_data['材料'].max():num_bins*1j, Financial_data['管理'].min():Financial_data['管理'].max():num_bins*1j]
zi = k(np.vstack([xi.flatten(), yi.flatten()]))

axes[1][1].set_title('高斯核密度图')
axes_3 = axes[1][1].pcolormesh(xi, 
                      yi, 
                      zi.reshape(xi.shape), 
                      cmap="Blues")

fig.colorbar(axes_3,ax=axes[1][1])                                  # 设置颜色显示条

# 第五个子图,我们画出带阴影效果的2D密度图
axes[2][0].set_title('带阴影效果的2D密度图')
axes[2][0].pcolormesh(xi, 
                      yi, 
                      zi.reshape(xi.shape), 
                      shading='gouraud', 
                      cmap="Blues")
 
# 第六个子图,我们画出带轮廓线的密度图
axes[2][1].set_title('带阴影+轮廓线的2D密度图')
axes_5 = axes[2][1].pcolormesh(xi, 
                      yi, 
                      zi.reshape(xi.shape), 
                      shading='gouraud', 
                      cmap="Blues")

fig.colorbar(axes_5,ax=axes[2][1])                                  # 设置颜色显示条

# 画出轮廓线
axes[2][1].contour(xi, 
                   yi, 
                   zi.reshape(xi.shape))

plt.show()

特别提一下:2D核密度估计图


sns.kdeplot(Financial_data['材料'],Financial_data['管理'])
sns.despine() # 默认无参数状态,就是删除上方和右方的边框,matplotlib貌似做不到
sns.kdeplot(Financial_data['材料'],Financial_data['管理'],
            cmap="Reds", 
            shade=True,                                    # 若为True,则在kde曲线下面的区域中进行阴影处理,color控制曲线及阴影的颜色
            shade_lowest=True,                        # 如果为True,则屏蔽双变量KDE图的最低轮廓。
#             bw=.15
           )
sns.despine() # 默认无参数状态,就是删除上方和右方的边框,matplotlib貌似做不到

写在最后

之前介绍了散点图、热力图,这次的2D密度图,也是观察数据分布的好图表

它同样符合图表演变原则,符合直方图→1D密度图→2D密度图的变化过程

在解决数据点密度大,造成数据堆叠无法观察的问题上,密度图非常有用。

OK,今天先到这里了,老海日常随笔总结,码字不易,初心不改!

如果觉得喜欢,请动动小手关注和转发,鼓励一下我们。

我是老海,来自数据炼金术师

相关推荐

Modbus RTU 指令基本功能介绍(modbus-rtu)

ModbusRTU协议概述:入门级知识点ModbusRTU协议,是工业自动化领域应用广泛的串行通信协议。它简单、可靠,在各种工业设备之间建立通信桥梁,实现数据的采集和控制。ModbusRTU...

AIOT开发选型:行空板 K10 与 M10 适用场景与选型深度解析

前言随着人工智能和物联网技术的飞速发展,越来越多的开发者、学生和爱好者投身于创意项目的构建。在众多的开发板中,行空板K10和M10以其独特的优势脱颖而出。本文旨在为读者提供一份详尽的行空板K...

程序员花了1个月时间,手搓低成本机械臂:跟着他你也能复刻一台

在开源硬件的广阔天地中,SO-ARM100作为一款备受瞩目的开源机械臂项目脱颖而出。它以标准化的四轴机械臂设计为核心,构建起一个开放共享的技术平台,为机械臂爱好者与开发者提供了绝佳的远程操作实践场域...

RPC接口测试技术-Tcp 协议的接口测试

首先明确Tcp的概念,针对Tcp协议进行接口测试,是指基于Tcp协议的上层协议比如Http,串口,网口,Socket等。这些协议与Http测试方法类似(具体查看接口自动化测试章...

同事开玩笑说:你这个python程序要是外流出去了,可能会有危险

引言公司因为业务原因,购入了一些高灵敏高精度的振动传感器。老板说:“拿去进行测试,看看数据如何?”吭哧吭哧接入数据,一看,确实精度和灵敏度非常高。具体多高呢?将传感器固定在相关的结构物上,在办公室中人...

STM32搭建简易环境监测站并通过网络实时上报

一、系统总体架构本系统以STM32F407为核心,搭建一个环境监测节点,能够采集温湿度、光照、空气质量等数据,并通过OLED屏显示,同时通过ESP8266模块实现局域网数据上报。适合室内空气监测、智慧...

STM32通过NB-IoT模块实现远程告警推送

一、项目概述本系统以STM32F103C8T6作为主控核心,通过串口控制NB-IoT通信模块(移远BC26),实现对外设状态的远程监测和异常自动告警推送(如温度超限、设备震动异常等)。支持通过UDP或...

MicroPython 玩转硬件系列3:上电执行程序

1.引言上一篇:MicroPython玩转硬件系列2:点灯实验我们在ESP32上实现了LED灯的闪烁,但是有一个问题,该功能的实现需要我们在串口终端里去手动执行代码,可不可以让ESP32上电后自动...

打标机与上位机通讯异常如何快速定位?串口工具验证流程拆解

打标机与上位机通信过程中出现的错误问题需要通过串口通信助手验证,主要原因在于串口通信的底层特性以及问题隔离的工程需求。以下是原理说明和验证方法:一、验证原理底层数据透明化串口通信本质上是基于二进制数据...

4G短信猫发送中文短信(Python)(4g短信)

4G短信猫发送中文短信(Python)4G短信猫发送中文短信的方式可以使用TEXT模式或者PDU模式。1.TEXT模式在TEXT模式下发送中文短信的指令序列:AT+CSCS="UCS2...

ESP32如何刷microPython固件(esp32 固件升级)

目录为什么要刷microPython固件固件和工具的获取刷固件的步骤检验是否成功1.为什么要刷固件microPython是由计算机工程师DamienGeorge设计出来的,他的初衷是——用Pyth...

CH9329双头线使用说明(双头线是干什么用的)

目录1.介绍说明2.测试说明3.修改为ASCII模式(CH9328字符模式)常见问题解答:1.介绍说明CH9329双头线是集成了CH9329+CH340芯片的成品线,主要作用是使用主控电脑发送串口指令...

Windows下最简单的ESP8266_ROTS_ESP-IDF环境搭建与腾讯云SDK编译

前言其实也没啥可说的,只是我感觉ESP-IDF对新手来说很不友好,很容易踩坑,尤其是对业余DIY爱好者搭建环境非常困难,即使有官方文档,或者网上的其他文档,但是还是很容易踩坑,多研究,记住两点就行了,...

CPU眼里的:Python 和 C(cpp和python)

“Python跟C语言有什么联系?它们在计算机系统中分别扮演着什么角色?”01提出问题Python可能是当今最热门的编程语言,凭借简洁易读的语法和强大的生态,成为许多新手程序员的首选。然而,作为一门解...

Python在工控领域的应用与优势(python工业控制系统)

前言之前利用Python编写了一些S7系列的PLC调试工具和组态开发,今天就具体讲讲Python在工控领域还有哪些应用与优势。Python在工业控制工控领域的应用逐渐增多,得益于其简洁的语法、丰富的生...

取消回复欢迎 发表评论: