百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

时间序列异常检测:MSET-SPRT组合方法的原理和Python代码实现

off999 2025-05-28 19:39 39 浏览 0 评论

来源:DeepHub IMBA

本文约1700字,建议阅读6分钟

本文通过一个精简的示例来演示MSET-SPRT方法在Python中的实现过程。



在异常检测领域,尤其针对工业机械、核反应堆和网络安全等复杂系统,传统方法往往难以有效处理高维度且相互关联的数据流。多元状态估计技术(MSET) 与序贯概率比检验(SPRT) 的组合方法在此类场景中展现出显著优势。


MSET-SPRT是一种结合机器学习状态估计与统计假设检验的混合技术框架,通过其高精度和稳健性,被广泛应用于关键任务系统的监控与分析。该方法能够实时识别系统行为的微小偏差,为预防性维护和异常事件预警提供可靠依据。

MSET-SPRT理论基础

多元状态估计技术(MSET)原理

MSET作为一种非参数非线性回归技术,通过历史观测数据构建系统正常状态模型。其核心工作机制包括:

建立包含历史正常系统状态的记忆矩阵,作为参考基准;利用学习到的历史状态间关系计算加权组合,从而估计当前系统的预期状态;通过对比观测值与估计值,计算系统行为偏差,为异常检测提供基础指标。

序贯概率比检验(SPRT)方法

SPRT是一种基于统计推断的序贯假设检验方法,专用于确定系统行为偏差是否具有统计显著性。其主要功能为:

持续评估残差误差(实际观测值与模型估计值之间的差异),并根据预设的统计模型进行假设检验;当检测到的偏差超过统计置信阈值时,系统能够及时发出预警信号,同时控制虚警率在可接受范围内。

MSET-SPRT框架通过上述两种技术的协同作用,为多元数据异常检测提供了准确且高效的解决方案,特别适用于高维度、高相关性的时间序列数据分析。

Python实现MSET-SPRT异常检测

下面通过一个精简的示例来演示MSET-SPRT方法在Python中的实现过程。

导入必要的库

 import numpy as np

 import scipy.stats as stats

 import matplotlib.pyplot as plt


生成模拟数据集

构建一个多元正态分布数据集,用于模拟正常运行状态下的系统行为:

# Simulating normal system behavior (3 correlated sensors)

np.random.seed(42)

mean = [50, 75, 100]  # Mean values for three sensors

cov = [[10, 5, 2], [5, 15, 3], [2, 3, 20]]  # Covariance matrix




# Generate 500 normal operation samples

 normal_data = np.random.multivariate_normal(mean, cov, size=500)


实现MSET算法

采用基于加权最近邻的方法实现MSET算法,用于估计系统的预期行为:

class MSET:

    def __init__(self, memory_matrix):

        self.memory_matrix = memory_matrix  # Store normal system states




    def estimate(self, input_vector):

        """

        Estimates the expected state based on historical data.

        Uses nearest neighbors to compute weighted estimation.

        """

        weights = np.exp(-np.linalg.norm(self.memory_matrix - input_vector, axis=1))

        weights /= np.sum(weights)

         return np.dot(weights, self.memory_matrix)


初始化MSET模型,将正常运行数据作为记忆矩阵:

 # Initialize MSET with normal data as memory

 mset_model = MSET(memory_matrix=normal_data)


计算残差

计算实际观测值与MSET估计值之间的残差,作为异常检测的基础:

 # filepath: deephub\5\20250327\article.md

# Simulated test data (normal + some anomalies)

test_data = np.vstack([

    np.random.multivariate_normal(mean, cov, size=450),  # Normal

    np.random.multivariate_normal([70, 50, 130], cov, size=50)  # Anomalies

])




# Compute estimated values

estimated_data = np.array([mset_model.estimate(x) for x in test_data])

# Compute residuals

 residuals = np.linalg.norm(test_data - estimated_data, axis=1)


应用SPRT进行异常检测

基于似然比检验原理实现SPRT算法,用于判定残差是否表示异常状态:

# Define thresholds for SPRT

alpha = 0.05  # False positive rate

beta = 0.05   # False negative rate

mu_0, sigma_0 = np.mean(residuals[:450]), np.std(residuals[:450])  # Normal behavior

mu_1 = mu_0 + 3 * sigma_0  # Anomalous mean shift




# SPRT decision function

def sprt_test(residual):

    """ Sequential Probability Ratio Test for anomaly detection """

    likelihood_ratio = stats.norm(mu_1, sigma_0).pdf(residual) / stats.norm(mu_0, sigma_0).pdf(residual)

    return likelihood_ratio > (1 - beta) / alpha

# Apply SPRT

anomalies = np.array([sprt_test(res) for res in residuals])

# Plot results

plt.figure(figsize=(12, 5))

plt.plot(residuals, label="Residuals", color="blue")

plt.axhline(mu_1, color="red", linestyle="dashed", label="Anomaly Threshold")

plt.scatter(np.where(anomalies)[0], residuals[anomalies], color="red", label="Detected Anomalies", zorder=2)

plt.xlabel("Time")

plt.ylabel("Residual Magnitude")

plt.legend()

plt.title("MSET-SPRT Anomaly Detection")

 plt.show()


结果分析与解释

图中数据可视化结果展示了MSET-SPRT方法的异常检测效果:

蓝色曲线表示系统状态残差时间序列,反映了实际观测值与估计值之间的偏差大小;红色虚线标示出异常检测阈值,该阈值基于正常运行数据的统计特性计算得出;红色标记点则代表被SPRT算法判定为异常的时间点,这些点的残差值显著高于正常波动范围。

分析结果表明,MSET-SPRT方法能够有效区分正常系统波动与异常行为,提供了一种可靠的多元时间序列异常检测方案。该方法特别适用于需要高精度异常检测的工业监控、设备健康管理和网络安全等领域。

相关推荐

大文件传不动?WinRAR/7-Zip 入门到高手,这 5 个技巧让你效率翻倍

“这200张照片怎么传给女儿?微信发不了,邮箱附件又超限……”62岁的张阿姨对着电脑犯愁时,儿子只用了3分钟就把照片压缩成一个文件,还教她:“以后用压缩软件,比打包行李还方便!”职场人更懂这...

电脑解压缩软件推荐——7-Zip:免费、高效、简洁的文件管理神器

在日常工作中,我们经常需要处理压缩文件。无论是下载软件包、接收文件,还是存储大量数据,压缩和解压缩文件都成为了我们日常操作的一部分。而说到压缩解压软件,7-Zip绝对是一个不可忽视的名字。今天,我就来...

设置了加密密码zip文件要如何打开?这几个方法可以试试~

Zip是一种常见的压缩格式文件,文件还可以设置密码保护。那设置了密码的Zip文件要如何打开呢?不清楚的小伙伴一起来看看吧。当我们知道密码想要打开带密码的Zip文件,我们需要用到适用于Zip格式的解压缩...

大文件想要传输成功,怎么把ZIP文件分卷压缩

不知道各位小伙伴有没有这样的烦恼,发送很大很大的压缩包会受到限制,为此,想要在压缩过程中将文件拆分为几个压缩包并且同时为所有压缩包设置加密应该如何设置?方法一:使用7-Zip免费且强大的文件管理工具7...

高效处理 RAR 分卷压缩包:合并解压操作全攻略

在文件传输和存储过程中,当遇到大文件时,我们常常会使用分卷压缩的方式将其拆分成多个较小的压缩包,方便存储和传输。RAR作为一种常见的压缩格式,分卷压缩包的使用频率也很高。但很多人在拿到RAR分卷...

2个方法教你如何删除ZIP压缩包密码

zip压缩包设置了加密密码,每次解压文件都需要输入密码才能够顺利解压出文件,当压缩包文件不再需要加密的时候,大家肯定想删除压缩包密码,或是忘记了压缩包密码,想要通过删除操作将压缩包密码删除,就能够顺利...

速转!漏洞预警丨压缩软件Winrar目录穿越漏洞

WinRAR是一款功能强大的压缩包管理器,它是档案工具RAR在Windows环境下的图形界面。该软件可用于备份数据,缩减电子邮件附件的大小,解压缩从Internet上下载的RAR、ZIP及其它类...

文件解压方法和工具分享_文件解压工具下载

压缩文件减少文件大小,降低文件失效的概率,总得来说好处很多。所以很多文件我们下载下来都是压缩软件,很多小伙伴不知道怎么解压,或者不知道什么工具更好,所以今天做了文件解压方法和工具的分享给大家。一、解压...

[python]《Python编程快速上手:让繁琐工作自动化》学习笔记3

1.组织文件笔记(第9章)(代码下载)1.1文件与文件路径通过importshutil调用shutil模块操作目录,shutil模块能够在Python程序中实现文件复制、移动、改名和删除;同时...

Python内置tarfile模块:读写 tar 归档文件详解

一、学习目标1.1学习目标掌握Python内置模块tarfile的核心功能,包括:理解tar归档文件的原理与常见压缩格式(gzip/bz2/lzma)掌握tar文件的读写操作(创建、解压、查看、过滤...

使用python展开tar包_python拓展

类Unix的系统,打包文件经常使用的就是tar包,结合zip工具,可以方便的打包并解压。在python的标准库里面有tarfile库,可以方便实现生成了展开tar包。使用这个库最大的好处,可能就在于不...

银狐钓鱼再升级:白文件脚本化实现GO语言后门持久驻留

近期,火绒威胁情报中心监测到一批相对更为活跃的“银狐”系列变种木马。火绒安全工程师第一时间获取样本并进行分析。分析发现,该样本通过阿里云存储桶下发恶意文件,采用AppDomainManager进行白利...

ZIP文件怎么打开?2个简单方法教你轻松搞定!

在日常工作和生活中,我们经常会遇到各种压缩文件,其中最常见的格式之一就是ZIP。ZIP文件通过压缩数据来减少文件大小,方便我们进行存储和传输。然而,对于初学者来说,如何打开ZIP文件可能会成为一个小小...

Ubuntu—解压多个zip压缩文件.zip .z01 .z02

方法将所有zip文件放在同一目录中:zip_file.z01,zip_file.z02,zip_file.z03,...,zip_file.zip。在Zip3.0版本及以上,使用下列命令:将所有zi...

如何使用7-Zip对文件进行加密压缩

7-Zip是一款开源的文件归档工具,支持多种压缩格式,并提供了对压缩文件进行加密的功能。使用7-Zip可以轻松创建和解压.7z、.zip等格式的压缩文件,并且可以通过设置密码来保护压缩包中的...

取消回复欢迎 发表评论: