百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

使用Python进行基础到高级日志记录

off999 2024-11-23 20:49 21 浏览 0 评论


在 Python 项目中,使用打印语句和堆栈跟踪很容易跟踪代码进度和调试。但是,日志记录提供了使用时间戳、文件名、代码行数等进行跟踪和调试的附加功能,区分不同类型的打印语句,甚至可以选择将打印语句保存到日志文件或其他位置,而不是只能在控制台或命令行上查看。

本文将介绍日志记录的组件,如何在文件中执行日志记录,以及如何使用配置以可重用和可扩展的方式跨多个文件执行日志记录。

目录

  • 日志记录的组件:文件、级别、格式
  • 文件中的基本日志记录
  • 日志记录的高级组件:记录器、处理程序、过滤器、格式化程序
  • 带有配置文件的高级日志记录
  • 常见问题:日志配置覆盖、继承

日志记录的组件

在深入研究代码实现之前,一些组件对于有效使用日志记录是不可或缺的。

日志文件——在哪里记录?

建议将日志保存到日志文件中,而不是在控制台或命令行上查看它们,因为一旦控制台或终端关闭,信息就会消失。我们可以指定要存储日志的项目的相对路径。

您还可以定义保存模式。默认情况下,日志以追加模式保存,但可以更改为写入模式以覆盖以前的日志。

日志级别——何时记录?

根据所跟踪事件的任务和严重性,有 5 种日志记录级别。按照严重程度递增的顺序,

  • DEBUG:记录详细信息,用于诊断问题,即故障调查
  • INFO:记录详细信息,在程序正常运行时使用,即状态监控
  • WARN:记录未来的意外事件或潜在问题,当代码尽管发生意外事件仍能按预期工作时使用
  • ERROR:记录严重问题,当代码无法执行某些功能时使用
  • CRITICAL:记录严重错误,在代码无法继续运行时使用

有疑问时,我总是INFO在正常操作时使用水平仪,WARN或者ERROR在遇到小问题和主要问题时使用水平仪。

默认情况下,日志级别为WARN,表示低于该级别的日志级别,即DEBUGINFO,除非更改默认日志级别,否则不会记录。

日志格式——记录什么?

可以设置日志格式,并将此格式应用于所有日志条目——这意味着您不必手动将相同的格式标准化到每个日志调用!默认情况下,日志条目遵循格式levelname:name:message,例如,DEBUG:root:This is a log entry但可以自定义以包含更多信息,

  • asctime:日志时间,具有默认格式%Y-%m-%d %H:%M:%S,%f,但可以按照 Python 日期时间模块格式代码进行更改
  • levelname:日志级别,即DEBUG,,INFO
  • name:记录器的名称,默认为root
  • filename: 包含日志调用的文件名,即file.py
  • module:文件名的名称部分,即file
  • funcName:包含日志调用的函数名称,即function_name
  • lineno: 发出日志调用的文件的行号
  • message: 日志信息,如This is a log entry
  • 更多格式属性可以在这里找到

要指定格式,我们使用"%(component)s"约定,例如"%(levelname)s". 例如,默认格式表示为"%(levelname)s:%(name)s:%(message)s". 这将在下一节中详细说明。

文件中的基本日志记录

在了解了日志记录组件之后,我们准备记录一些信息!日志记录可以这样完成,

import logging
logging.basicConfig(
    filename="output.log",
    filemode="w",
    level=logging.DEBUG,
    format="%(asctime)s:%(levelname)s:%(message)s",
    datefmt="%Y-%m-%d %I:%M:%S%p",
)

logging.debug("Log with debug-level severity")
logging.info("Log with info-level severity")
logging.warning("Log with warning-level severity")
logging.error("Log with error-level severity")
logging.critical("Log with error-level severity")

try:
    raise Exception("Throw exception")
except Exception as e:
    logging.error("Exception occurred", exc_info=True)

在上面的例子中,我们使用basicConfig来指定日志配置,

  • filename: 日志文件,项目的相对路径
  • filemode:保存模式,"a"追加(默认),"w"写入
  • level: 日志级别,DEBUG表示每一项与级别相同或更严重的项目都DEBUG将被记录
  • format: 日志格式
  • datefmt:asctime日志格式的日期格式
  • encoding: 指定编码,仅适用于 Python 3.9 版本

指定配置后,我们可以在代码中插入日志调用等logging.info()来执行日志记录。默认情况下,只会记录日志消息,但我们也可以设置exc_info=True捕获堆栈跟踪,如第 19 行所示。

话虽如此,使用basicConfig实现日志记录需要在不同的文件中定义配置,这会导致重复的代码。在下一节中,我们将使用配置文件以可重用和可扩展的方式实现日志记录。

日志记录的高级组件

对于日志的高级用法,我们可以在配置文件中定义日志配置,使其可重复用于跨多个 Python 文件进行日志记录。如果以这种方式实现日志记录,则可以完成更多项目和自定义,并且它建立在上一节中的基本组件之上。

记录器

记录器公开应用程序代码直接使用的接口

记录器对应name于日志条目中的属性。默认情况下root选择记录器,其设置(例如保存路径、保存模式、格式等)由处理程序处理(下一节)。

使用模块级记录器是一个很好的约定,这样模块名称而不是root将显示为name日志条目的属性。

如果存在需要多个设置的情况,可以定义并使用自定义记录器来代替root记录器。

模块级记录器和自定义记录器可以这样实现,

import logging
logging.basicConfig(...)

logger = logging.getLogger(__name__)

logger = logging.getLogger("custom_logger")

logger.info("Log with info-level severity")

请注意,日志调用现在使用logger.info()而不是logging.info()!

处理程序

处理程序将日志记录发送到适当的目的地(类似于日志文件)

处理程序指定如何保存日志。在前面的部分中,我们仅将日志保存到日志文件中,但还有更多处理日志的方法。这可以通过使用已经为您实现的相关处理程序类来完成。常见的处理程序类包括,

  • StreamHandler: 将消息发送到流,即控制台
  • FileHandler: 发送消息到磁盘文件
  • RotatingFileHandler:支持最大日志文件大小和日志文件轮换的 FileHandler
  • 可以在logging官方文档:https://docs.python.org/3/howto/logging.html#useful-handlers,找到更多处理程序类型。

模块化:处理程序以模块化方式实现,因此可以定义处理程序名称并在不同的记录器(root或自定义记录器)之间重用。

多对一:一个记录器可以由多个处理程序组成,例如,如果我们希望日志同时出现在控制台上,StreamHandler使用FileHandler.

过滤器

过滤器根据严重性确定输出哪些日志记录(类似于日志级别)

过滤器设置日志严重级别并记录指定严重级别及以上的所有内容。过滤器与处理程序一起在字段下定义level

如果需要更多自定义,例如仅过滤一个特定的严重级别,则必须编写一个 Python 类,并且此过滤器将与处理程序一起定义,但现在位于 field 下filters

模块化:过滤器以模块化的方式实现,这样过滤器名称可以在不同的处理程序中定义和重用。

多对一:一个处理程序可以由多个过滤器组成。

格式化程序

Formatters 指定日志记录的格式(类似于日志格式)

格式化程序设置日志条目的格式。格式化程序与处理程序一起定义,在字段下formatter

模块化:格式化程序以模块化方式实现,这样格式化程序名称可以在不同的处理程序中定义和重用。

一对一:每个处理程序只能有一种日志格式。

每个处理程序都有一个唯一的文件过滤器格式设置

由于过滤器和格式化程序是与处理程序一起定义的,因此每个处理程序都有一个唯一的文件过滤器格式设置。如果需要另一个文件(StreamHandlerFileHandler)、过滤器(DEBUGWARN级别)或格式,则应定义单独的处理程序。

带有配置文件的高级日志记录

我们现在将使用配置文件实现日志记录——它比使用basicConfig. 可以在.conf文件或字典中定义配置.py.yml文件

字典配置可以这样定义,

import logging.config


class LevelOnlyFilter:
    def __init__(self, level):
        self.level = level

    def filter(self, record):
        return record.levelno == self.level


LOGGING_CONFIG = {
    "version": 1,
    "loggers": {
        "": {  # root logger
            "level": "DEBUG",
            "propagate": False,
            "handlers": ["stream_handler", "file_handler"],
        },
        "custom_logger": {
            "level": "DEBUG",
            "propagate": False,
            "handlers": ["stream_handler"],
        },
    },
    "handlers": {
        "stream_handler": {
            "class": "logging.StreamHandler",
            "stream": "ext://sys.stdout",
            "level": "DEBUG",
            "filters": ["only_warning"],
            "formatter": "default_formatter",
        },
        "file_handler": {
            "class": "logging.FileHandler",
            "filename": "output.log",
            "mode": "w",
            "level": "DEBUG",
            "formatter": "default_formatter",
        },
    },
    "filters": {
        "only_warning": {
            "()": LevelOnlyFilter,
            "level": logging.WARN,
        },
    },
    "formatters": {
        "default_formatter": {
            "format": "%(asctime)s-%(levelname)s-%(name)s::%(module)s|%(lineno)s:: %(message)s",
        },
    },
}

logging.config.dictConfig(LOGGING_CONFIG)
logger = logging.getLogger(__name__)

我们可以观察到字典配置被分成几个部分

  • version(第 13 行):将版本号表示为整数
  • loggers((第 14-25 行):定义根和自定义记录器,由一个或多个处理程序组成
  • handlers(第 26-41 行):定义记录器中使用的自定义处理程序,包括特定的文件过滤器格式设置
  • filters(第 42-47 行):定义在处理程序中使用的自定义过滤器
  • formatters(第 48-53 行):定义在处理程序中使用的自定义格式化程序

具有.conf文件的等效实现可以是这样的,

[loggers]
keys=root,customLogger

[handlers]
keys=streamHandler,fileHandler

[formatters]
keys=defaultFormatter

[logger_root]
level=DEBUG
propagate=0
handlers=streamHandler,fileHandler

[logger_customLogger]
level=DEBUG
propagate=0
handlers=streamHandler
qualname=customLogger

[handler_streamHandler]
class=StreamHandler
args=(sys.stdout,)
level=DEBUG
formatter=defaultFormatter

[handler_fileHandler]
class=FileHandler
args=("output.log", "w")
level=DEBUG
formatter=defaultFormatter

[formatter_defaultFormatter]
format=%(asctime)s:%(levelname)s:%(name)s:%(module)s:%(funcName)s:%(lineno)s:%(message)s

要使用中定义的配置初始化记录器logging.conf

import logging.config 
logging.config .fileConfig("logging.conf") 
logger = logging.getLogger(__name__)

比较dictConfigfileConfig,字典实现是首选,因为它更新并且能够支持更多功能,例如使用自定义过滤器。

比较logging.configlogging.basicConfig,使用配置文件可以减少重复代码的数量,并将配置抽象到单独的字典或配置文件中,这是跨多个文件执行日志记录的首选方式。

常见问题

在本节中,我将讨论使用配置文件实现日志记录的一些常见问题和注意事项。

日志配置覆盖

有几种方式可以发生日志配置覆盖。

№1:同时使用logging.basicConfiglogging.config

如果不同的文件使用不同的方法来实例化记录器,并且在这些文件之间进行了一些导入,使得日志配置中存在冲突,则logging.config实现优先logging.basicConfig并被覆盖。

№2:在记录器级别与处理程序级别定义的日志级别

如果您在字典和logging.conf文件中注意到,日志级别被定义了两次,一次在记录器定义中,另一次在处理程序定义中。较高的严重级别优先,其次是记录器级别优先于处理程序级别。

为了使这项工作对您有利,我们可以将记录器级别设置为最低严重性,DEBUG并使用处理程序级别来控制级别。如果一个级别应该跨多个处理程序标准化,请随意在记录器定义中定义级别。

继承

在继承期间,日志将被传递给记录器及其高级(祖先)记录器,从而导致日志条目重复。默认情况下,所有自定义记录器都从root记录器继承。

为了防止继承导致重复日志,我们可以在配置中定义记录器时指定propagate字段。False

希望您对日志记录的组件以及如何使用配置文件以可重用和可扩展的方式实现它有更多的了解!与普通的打印语句相比,日志记录有助于开发人员更好地控制和理解代码库,并且在调试大型项目中的代码时特别有用。

感谢您的阅读!如果您喜欢这篇文章,请随时分享

相关推荐

Python开发管理神器--UV 使用教程:从安装到项目管理

UV是一个用Rust编写的高效Python包和项目管理工具,提供了比传统工具更快的速度和更强的功能。本文将指导你如何使用UV从安装到运行一个Python项目。重点:它可以独立安装,可...

python入门-Day 26: 优化与调试(python优化方法)

优化与调试,内容包括处理模型运行中的常见问题(内存、依赖)、调整参数(如最大生成长度),以及练习改进Day25的文本生成结果。我会设计一个结构化的任务,帮助你掌握优化和调试技巧,同时提升模型性能...

Python安装(python安装发生严重错误)

Windows系统1.安装python1.1下载Python安装包打开官方网站:https://www.python.org/downloads/点击"DownloadPython3.1...

UV 上手指南:Python 项目环境/包管理新选择

如果你是一位Python开发者,曾因pipinstall的安装速度而感到沮丧,或者希望Python的依赖管理能够像Node.js那样高效顺滑,那么UV可能正是你所需要的工具。UV...

uv——Python开发栈中的高效全能小工具

每天写Python代码的同学,肯定都离不开pip、virtualenv、Poetry等基础工具,但是对这些工具可能是又恨又离不开。那么有什么好的替代呢,虫虫今天就给大家介绍一个替代他们的小工具uv,一...

使用Refurb让你的Python代码更加优秀

还在担心你写的Python代码是否专业,是否符合规范吗?这里介绍一个Python代码优化库Refurb,使用它可以给你的代码提出更加专业的建议,让你的代码更加的可读,规范和专业。下面简单介绍这个库的使...

【ai】dify+python开发AI八字排盘插件

Dify插件是什么?你可以将Dify插件想象成赋予AI应用增强感知和执行能力的模块化组件。它们使得将外部服务、自定义功能以及专用工具以”即插即用”的简洁方式集成到基于Dify构建的AI...

零基础AI开发系列教程:Dify升级指南

Dify近期发布很是频繁,基本两三天一个版本。值得肯定的是优化和改进了很多问题,但是官方的升级文档有点分散,也有点乱。我这里整理了一个升级文档供大家参考,如果还没有升级到新版本的小伙伴,可以按照我的文...

升级到PyTorch 2.0的技巧总结(如何更新pytorch版本)

来源:DeepHubIMBA本文约6400字,建议阅读12分钟在本文将演示PyTorch2.0新功能的使用,以及介绍在使用它时可能遇到的一些问题。PyTorch2.0发布也有一段时间了,大家...

dify 1.6.0版本发布解读:引入MCP支持与多项核心优化升级指南详解

2025年7月10日,dify发布了1.6.0版本。这是一次功能深度升级与性能优化的综合性更新,标志着dify在技术规范支持、操作体验以及系统稳定性方面迈出了重要的一步。本文将从核心新特性、功能增强、...

Python教程(十四):列表(List)(python列表方法总结)

昨天,我们学习了变量作用域,理解了局部和全局变量的概念。今天,我们将开始探索Python的数据结构,从最常用的**列表(List)**开始。列表是Python中最灵活、最常用的数据结构,它可以存储不同...

Python列表操作(python列表有哪些基本操作)

Python添加列表4分钟阅读在Python操作列表有各种方法。例如–简单地将一个列表的元素附加到for循环中另一个列表的尾部,或使用+/*运算符、列表推导、extend()和i...

Python字符串变形术:replace替换+join连接,10分钟掌握核心操作

字符串替换魔法:replace()实战手册核心价值:一键更新文本内容,精准控制替换范围#基础替换:Python变Javas="hellopython"print(s.re...

python集合set() 数据增册改查统计序循常用方法和数学计算

概念特点定义和创建常用操作集合间的关系集合数学操作集合生成式遍历概念:可变、无序、不重复的序列数据容器特点:无序,不支持下标唯一性,可以删除重复数据可修改定义和创建赋值法:语法:s={x,....

Python列表方法append和extend的区别

在Python编程中,列表是一种非常常用的数据结构。而列表有两个方法append()和extend(),它们看起来有点相似,但实际上有着明显的区别。今天咱们就来好好唠唠这俩方法到底有啥不同。基本区别a...

取消回复欢迎 发表评论: