百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Kubernetes日志采集ELK|收集Python项目日志并展示

off999 2024-10-07 12:18 21 浏览 0 评论

简介

Kubernetes是一个流行的容器编排平台,而ELK是一个用于日志分析和可视化的工具组合。在Kubernetes中,我们可以使用ELK收集和展示容器日志,包括Python项目的日志。本文我以在Kubernetes中部署一个Django服务,并且把Django服务的日志接入到ELK中进行展示。

ELK服务搭建

在Kubernetes中搭建ELK服务,可以方便地处理分布式系统中的日志数据,并进行可视化分析。通过Elasticsearch、Logstash和Kibana三个组件的配合,可以实现完整的日志处理和分析流程,ELK日志平台,我在前几篇文章中已经安装好了,请各位移步:

Kubernetes日志采集ELK|部署ElasticSearch存储

Kubernetes日志采集ELK|部署Logstash日志收集

Kubernetes日志采集ELK|部署Kibana日志展示

这里,我们的Logstash的服务地址为 http://logstash:8888

创建一个Django项目

如何使用Python的Django框架和Logstash的Python客户端将日志输出到Logstash中,需要安装logstash的Python客户端,可以使用pip命令进行安装

pip install python-logstash

在Django项目的settings.py文件中,添加以下配置项:

LOGGING = {
    'version': 1,
    'disable_existing_loggers': False,
    'handlers': {
        'logstash': {
            'level': 'DEBUG',
            'class': 'logstash.TCPLogstashHandler',
            'host': 'logstash.elk',
            'port': 8888,  # 默认的Logstash端口为5000
            'version': 1,
            'message_type': 'django',
            'fqdn': False,
            'tags': ['django.request']
        },
        'console': {
            'level': 'DEBUG',
            'class': 'logging.StreamHandler',
        },
    },
    'loggers': {
        'test1': {
            'handlers': ['logstash','console'],
            'level': 'DEBUG',
            'propagate': True,
        }
    },
}

这里使用了logstash的TCPLogstashHandler作为日志处理器,将日志发送到Logstash服务。可以根据实际情况修改host和port配置项,以便连接到正确的Logstash服务。由于我的logstash服务已经部署好了,所以在这里我直接使用地址 http://logstash.elk:8888。

在Django项目test1 APP下的views.py文件中,添加以下代码:

from django.shortcuts import render
from django.http import HttpResponse
import logging
logger = logging.getLogger(__name__)
def index(request):
    msg='Hello, world!'
    logger.debug(msg+' This is a debug message')
    logger.info(msg+' This is an info message')
    logger.warning(msg+' This is a warning message')
    logger.error(msg+' This is an error message')
    logger.critical(msg+' This is a critical message')
    return HttpResponse(msg)

在Django的主APP下urls.py文件内,给test1的视图添加路由

from django.contrib import admin
from django.urls import path
from test1 import views
urlpatterns = [
    path('admin/', admin.site.urls),
    path('index', views.index,name='index'),
]

好了我的程序可以正常运行了

打包为镜像文件

创建Docker镜像:首先需要将Django项目打包成一个Docker镜像,可以使用Dockerfile来定义镜像的构建过程

FROM python:3.10
WORKDIR /opt
COPY requirements.txt . 
RUN pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
COPY . .
CMD ["gunicorn","-b","0.0.0.0:8000","logtest.wsgi"]

在上述Dockerfile中,首先从官方Python 3.10镜像开始构建,然后设置环境变量、安装依赖包、复制项目文件,并使用Gunicorn作为Web服务器运行Django项目。在Kubernetes中运行Django应用程序时,通常不应该使用Django的开发服务器,而应该使用一个成熟的Web服务器,如Gunicorn或uWSGI。因此,建议您将Django应用程序部署到Kubernetes中并使用适当的Web服务器进行服务。

构建成镜像

docker build -t 192.168.82.111:80/test/mypython:v1 .

上传到Harbor私有仓库

docker push 192.168.82.111:80/test/mypython:v1

创建Kubernetes配置文件

Kubernetes中,可以使用Deployment和Service对象来管理Django项目。Deployment对象用于创建和管理Pod,而Service对象则用于将请求路由到运行中的Pod。可以使用YAML文件定义Deployment和Service对象的配置。

vim mypython.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
  name: mypython
spec:
  replicas: 2
  selector:
    matchLabels:
      app: mypython
  template:
    metadata:
      labels:
        app: mypython
    spec:
      containers:
      - name: mypython
        image: 192.168.82.111:80/test/mypython:v1
        ports:
        - containerPort: 8000
---
apiVersion: v1
kind: Service
metadata:
  name: mypython
spec:
  selector:
    app: mypython
  type: NodePort
  ports:
    - name: http
      port: 8000
      targetPort: 8000
      nodePort: 38000

在K8s中部署Django项目

kubectl apply -f mypython.yaml

OK,我们的项目部署好了。

访问Django项目

使用Service对象的外部IP和端口来访问Django项目。例如,在浏览器中输入http://<external-ip>:80,其中<external-ip>是Service对象的外部IP地址。我们使用的是NodePort方式暴露服务的,所以使用 http://<节点>:38000就可以访问了

在Kibana中查看日志

可以看到Kibana里面已经展示了刚才访问的日志 。Kibana提供了各种可视化功能,例如数据图表、仪表盘、地图和日历等,可以帮助用户更好地分析和展示数据。当然这些功能还需要自己不断探索。

相关推荐

python列表(List)必会的13个核心技巧(附实用方法)

列表(List)是Python入门的关键步骤,因为它是编程中最常用的数据结构之一。以下是高效掌握列表的核心技巧和实用方法:一、理解列表的本质可变有序集合:可随时修改内容,保持元素顺序混合类型:一个列表...

Python列表(List)一文全掌握:核心知识点+20实战练习题

Python列表(List)知识点教程一、列表的定义与特性定义:列表是可变的有序集合,用方括号[]定义,元素用逗号分隔。list1=[1,"apple",3.14]lis...

python编程中列表常见的9大问题,你知道吗?

Python列表常见错误及解决方案列表(list)是Python中最常用的数据结构之一,但在使用过程中经常会遇到各种问题。以下是Python列表使用中的常见错误及其解决方法:一、索引越界错误1.访问...

python之列表操作(python列表操作函数大全)

常用函数函数名功能说明append将一个元素添加到列表中names=['tom']用法:names.append('tommy')注意事项:被添加的元素只会被添加到...

7 种在 Python 中反转列表的智能方法

1.使用reverse()方法(原地)my_list=[10,12,6,34,23]my_list.reverse()print(my_list)#output:[23,34,6,12,...

Python教程-列表复制(python中列表copy的用法)

作为软件开发者,我们总是努力编写干净、简洁、高效的代码。Python列表是一种多功能的数据结构,它允许你存储一个项目的集合。在Python中,列表是可变的,这意味着你可以在创建一个列表后改变它的...

「Python程序设计」基本数据类型:列表(数组)

列表是python程序设计中的一个基本的,也是重要的数据结构。我们可以把列表数据结构,理解为其它编程语言中的数组。定义和创建列表列表中的数据元素的索引,和数组基本一致,第一个元素的索引,或者是下标为0...

Python中获取列表最后一个元素的方法

技术背景在Python编程中,经常会遇到需要获取列表最后一个元素的场景。Python提供了多种方法来实现这一需求,不同的方法适用于不同的场景。实现步骤1.使用负索引-1这是最简单和最Pythoni...

Python学不会来打我(11)列表list详解:用法、场景与类型转换

在Python编程中,列表(list)是最常用且功能最强大的数据结构之一。它是一个有序、可变、支持重复元素的集合,可以存储任意类型的对象,包括整数、字符串、布尔值、甚至其他列表。本文将从基础语法开始...

零起点Python机器学习快速入门-4-4-列表操作

Python列表的基本操作展开。首先,定义了两个列表zlst和vlst并将它们的内容打印出来。接着,使用切片操作从这两个列表中提取部分元素,分别得到s2、s3和s4三个新的列表,并打...

python入门 到脱坑 基本数据类型—列表

以下是Python列表(List)的入门详解,包含基础操作、常用方法和实用技巧,适合初学者系统掌握:一、列表基础1.定义列表#空列表empty_list=[]#包含不同类型元素的列表...

Python 列表(List)完全指南:数据操作的利器

在Python中,列表(list)是一种可变序列(mutablesequence),它允许我们存储和操作一组有序数据(ordereddata)。本教程将从基础定义(basicdefiniti...

如何快速掌握 Python中列表的使用

学习python知识,好掌握Python列表的使用。从概念上来讲,Python中的列表list是一种有序、可变的容器,可以存储任意类型的数据(包括其他列表)。以下是列表的常用的操作和知识:1....

Python中的列表详解及示例(python中列表的用法)

艾瑞巴蒂干货来了,数据列表,骚话没有直接来吧列表(List)是Python中最基本、最常用的数据结构之一,它是一个有序的可变集合,可以包含任意类型的元素。列表的基本特性有序集合:元素按插入顺序存储可变...

python数据类型之列表、字典、元组、集合及操作

Python数据类型进阶:列表、字典与集合在Python中,数据类型是编程的基础,熟练掌握常用数据结构是成为高级开发者的关键。上一篇文章我们学习到了Python的数据类型:字符串(string)、数...

取消回复欢迎 发表评论: