Kubernetes日志采集ELK|收集Python项目日志并展示
off999 2024-10-07 12:18 21 浏览 0 评论
简介
Kubernetes是一个流行的容器编排平台,而ELK是一个用于日志分析和可视化的工具组合。在Kubernetes中,我们可以使用ELK收集和展示容器日志,包括Python项目的日志。本文我以在Kubernetes中部署一个Django服务,并且把Django服务的日志接入到ELK中进行展示。
ELK服务搭建
在Kubernetes中搭建ELK服务,可以方便地处理分布式系统中的日志数据,并进行可视化分析。通过Elasticsearch、Logstash和Kibana三个组件的配合,可以实现完整的日志处理和分析流程,ELK日志平台,我在前几篇文章中已经安装好了,请各位移步:
Kubernetes日志采集ELK|部署ElasticSearch存储
Kubernetes日志采集ELK|部署Logstash日志收集
Kubernetes日志采集ELK|部署Kibana日志展示
这里,我们的Logstash的服务地址为 http://logstash:8888
创建一个Django项目
如何使用Python的Django框架和Logstash的Python客户端将日志输出到Logstash中,需要安装logstash的Python客户端,可以使用pip命令进行安装
pip install python-logstash
在Django项目的settings.py文件中,添加以下配置项:
LOGGING = {
'version': 1,
'disable_existing_loggers': False,
'handlers': {
'logstash': {
'level': 'DEBUG',
'class': 'logstash.TCPLogstashHandler',
'host': 'logstash.elk',
'port': 8888, # 默认的Logstash端口为5000
'version': 1,
'message_type': 'django',
'fqdn': False,
'tags': ['django.request']
},
'console': {
'level': 'DEBUG',
'class': 'logging.StreamHandler',
},
},
'loggers': {
'test1': {
'handlers': ['logstash','console'],
'level': 'DEBUG',
'propagate': True,
}
},
}
这里使用了logstash的TCPLogstashHandler作为日志处理器,将日志发送到Logstash服务。可以根据实际情况修改host和port配置项,以便连接到正确的Logstash服务。由于我的logstash服务已经部署好了,所以在这里我直接使用地址 http://logstash.elk:8888。
在Django项目test1 APP下的views.py文件中,添加以下代码:
from django.shortcuts import render
from django.http import HttpResponse
import logging
logger = logging.getLogger(__name__)
def index(request):
msg='Hello, world!'
logger.debug(msg+' This is a debug message')
logger.info(msg+' This is an info message')
logger.warning(msg+' This is a warning message')
logger.error(msg+' This is an error message')
logger.critical(msg+' This is a critical message')
return HttpResponse(msg)
在Django的主APP下urls.py文件内,给test1的视图添加路由
from django.contrib import admin
from django.urls import path
from test1 import views
urlpatterns = [
path('admin/', admin.site.urls),
path('index', views.index,name='index'),
]
好了我的程序可以正常运行了
打包为镜像文件
创建Docker镜像:首先需要将Django项目打包成一个Docker镜像,可以使用Dockerfile来定义镜像的构建过程
FROM python:3.10
WORKDIR /opt
COPY requirements.txt .
RUN pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
COPY . .
CMD ["gunicorn","-b","0.0.0.0:8000","logtest.wsgi"]
在上述Dockerfile中,首先从官方Python 3.10镜像开始构建,然后设置环境变量、安装依赖包、复制项目文件,并使用Gunicorn作为Web服务器运行Django项目。在Kubernetes中运行Django应用程序时,通常不应该使用Django的开发服务器,而应该使用一个成熟的Web服务器,如Gunicorn或uWSGI。因此,建议您将Django应用程序部署到Kubernetes中并使用适当的Web服务器进行服务。
构建成镜像
docker build -t 192.168.82.111:80/test/mypython:v1 .
上传到Harbor私有仓库
docker push 192.168.82.111:80/test/mypython:v1
创建Kubernetes配置文件
Kubernetes中,可以使用Deployment和Service对象来管理Django项目。Deployment对象用于创建和管理Pod,而Service对象则用于将请求路由到运行中的Pod。可以使用YAML文件定义Deployment和Service对象的配置。
vim mypython.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
name: mypython
spec:
replicas: 2
selector:
matchLabels:
app: mypython
template:
metadata:
labels:
app: mypython
spec:
containers:
- name: mypython
image: 192.168.82.111:80/test/mypython:v1
ports:
- containerPort: 8000
---
apiVersion: v1
kind: Service
metadata:
name: mypython
spec:
selector:
app: mypython
type: NodePort
ports:
- name: http
port: 8000
targetPort: 8000
nodePort: 38000
在K8s中部署Django项目
kubectl apply -f mypython.yaml
OK,我们的项目部署好了。
访问Django项目
使用Service对象的外部IP和端口来访问Django项目。例如,在浏览器中输入http://<external-ip>:80,其中<external-ip>是Service对象的外部IP地址。我们使用的是NodePort方式暴露服务的,所以使用 http://<节点>:38000就可以访问了
在Kibana中查看日志
可以看到Kibana里面已经展示了刚才访问的日志 。Kibana提供了各种可视化功能,例如数据图表、仪表盘、地图和日历等,可以帮助用户更好地分析和展示数据。当然这些功能还需要自己不断探索。
相关推荐
- python列表(List)必会的13个核心技巧(附实用方法)
-
列表(List)是Python入门的关键步骤,因为它是编程中最常用的数据结构之一。以下是高效掌握列表的核心技巧和实用方法:一、理解列表的本质可变有序集合:可随时修改内容,保持元素顺序混合类型:一个列表...
- Python列表(List)一文全掌握:核心知识点+20实战练习题
-
Python列表(List)知识点教程一、列表的定义与特性定义:列表是可变的有序集合,用方括号[]定义,元素用逗号分隔。list1=[1,"apple",3.14]lis...
- python编程中列表常见的9大问题,你知道吗?
-
Python列表常见错误及解决方案列表(list)是Python中最常用的数据结构之一,但在使用过程中经常会遇到各种问题。以下是Python列表使用中的常见错误及其解决方法:一、索引越界错误1.访问...
- python之列表操作(python列表操作函数大全)
-
常用函数函数名功能说明append将一个元素添加到列表中names=['tom']用法:names.append('tommy')注意事项:被添加的元素只会被添加到...
- 7 种在 Python 中反转列表的智能方法
-
1.使用reverse()方法(原地)my_list=[10,12,6,34,23]my_list.reverse()print(my_list)#output:[23,34,6,12,...
- Python教程-列表复制(python中列表copy的用法)
-
作为软件开发者,我们总是努力编写干净、简洁、高效的代码。Python列表是一种多功能的数据结构,它允许你存储一个项目的集合。在Python中,列表是可变的,这意味着你可以在创建一个列表后改变它的...
- 「Python程序设计」基本数据类型:列表(数组)
-
列表是python程序设计中的一个基本的,也是重要的数据结构。我们可以把列表数据结构,理解为其它编程语言中的数组。定义和创建列表列表中的数据元素的索引,和数组基本一致,第一个元素的索引,或者是下标为0...
- Python中获取列表最后一个元素的方法
-
技术背景在Python编程中,经常会遇到需要获取列表最后一个元素的场景。Python提供了多种方法来实现这一需求,不同的方法适用于不同的场景。实现步骤1.使用负索引-1这是最简单和最Pythoni...
- Python学不会来打我(11)列表list详解:用法、场景与类型转换
-
在Python编程中,列表(list)是最常用且功能最强大的数据结构之一。它是一个有序、可变、支持重复元素的集合,可以存储任意类型的对象,包括整数、字符串、布尔值、甚至其他列表。本文将从基础语法开始...
- 零起点Python机器学习快速入门-4-4-列表操作
-
Python列表的基本操作展开。首先,定义了两个列表zlst和vlst并将它们的内容打印出来。接着,使用切片操作从这两个列表中提取部分元素,分别得到s2、s3和s4三个新的列表,并打...
- python入门 到脱坑 基本数据类型—列表
-
以下是Python列表(List)的入门详解,包含基础操作、常用方法和实用技巧,适合初学者系统掌握:一、列表基础1.定义列表#空列表empty_list=[]#包含不同类型元素的列表...
- Python 列表(List)完全指南:数据操作的利器
-
在Python中,列表(list)是一种可变序列(mutablesequence),它允许我们存储和操作一组有序数据(ordereddata)。本教程将从基础定义(basicdefiniti...
- 如何快速掌握 Python中列表的使用
-
学习python知识,好掌握Python列表的使用。从概念上来讲,Python中的列表list是一种有序、可变的容器,可以存储任意类型的数据(包括其他列表)。以下是列表的常用的操作和知识:1....
- Python中的列表详解及示例(python中列表的用法)
-
艾瑞巴蒂干货来了,数据列表,骚话没有直接来吧列表(List)是Python中最基本、最常用的数据结构之一,它是一个有序的可变集合,可以包含任意类型的元素。列表的基本特性有序集合:元素按插入顺序存储可变...
- python数据类型之列表、字典、元组、集合及操作
-
Python数据类型进阶:列表、字典与集合在Python中,数据类型是编程的基础,熟练掌握常用数据结构是成为高级开发者的关键。上一篇文章我们学习到了Python的数据类型:字符串(string)、数...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python自定义函数 (53)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python串口编程 (60)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python人脸识别 (54)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)