百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

面对成百上千台服务器产生的日志,试试这款轻量级日志搬运神器

off999 2025-01-23 20:17 17 浏览 0 评论

之前我们搭建的ELK日志收集系统,主要是用来收集SpringBoot应用的日志。其原理是应用通过Logstash插件,使用TCP向Logstash传输日志,从而存储到Elasticsearch中去。但是有很多中间件的日志都是直接存储在文件中的,比如Nginx、Elasticsearch和MySQL,此时我们就需要一个搬运工来把日志搬到Elasticsearch中去,Filebeat正是这样一个日志搬运工,本文将详细介绍它的使用方法,希望对大家有所帮助。

Filebeat简介

Filebeat是一款轻量级日志采集器,可用于转发和汇总日志与文件。Filebeat内置有多种模块(Nginx、MySQL、Redis、Elasticsearch、Logstash等),可针对常见格式的日志大大简化收集、解析和可视化过程,只需一条命令即可。

Filebeat安装及配置

安装Filebeat之前,我们需要先安装好Elasticsearch和Kibana,具体参考 你居然还去服务器上捞日志,搭个日志收集系统难道不香么 ,注意使用7.6.2版本。

  • 我们先下载Filebeat的安装包
  • 下载完成后解压到指定目录,注意图中所示的三个地方;
  • Kibana中早就提供好了Filebeat收集各种日志的教程,我们先进入首页
  • 点击Add log data按钮,可以发现支持的中间件还是很丰富的,涵盖了常用的;
  • 点开Nginx的日志收集教程看下,是不是很详细;
  • 接下来我们就要开始配置Filebeat了,配置好Elasticsearch和Kibana的连接地址,修改Filebeat的安装目录下的配置文件filebeat.yml即可,修改内容如下。
output.elasticsearch:
??hosts:?["localhost:9200"]
setup.kibana:
??host:?"localhost:5601"

收集Nginx日志

我们先拿Nginx来练练手,体验下Filebeat的日志收集功能吧。

  • 使用如下命令开启Filebeat的Nginx日志收集模块;
filebeat?modules?enable?nginx
  • 开启完成后,进入modules.d目录下,你会发现nginx.yml的disable后缀没有了,说明已经被开启;
  • 接下来修改nginx.yml文件,配置好Nginx的access和error日志路径;
#?Module:?nginx
#?Docs:?https://www.elastic.co/guide/en/beats/filebeat/7.6/filebeat-module-nginx.html

-?module:?nginx
??access:
????enabled:?true
????var.paths:?["I:/developer/env/nginx-1.8.1/logs/access.log"]

??error:
????enabled:?true
????var.paths:?["I:/developer/env/nginx-1.8.1/logs/error.log"]
  • 由于启用了Nginx日志收集模块,我们需要通过如下命令对Filebeat进行设置;
filebeat?setup
  • 通过如下命令启动Filebeat服务;
filebeat?-e
  • 我们可以通过之前使用的Kibana中的Nginx教程页面,检查下数据是否成功被收集了;
  • 点击Nginx logs dashboard按钮可以查看收集到的Nginx日志,先看看概览日志;
  • 再看看详细日志,从此不用再去服务器上捞Nginx日志了!

收集Elasticsearch日志

接下来我们再试试收集Elasticsearch的日志。

  • 使用如下命令开启Filebeat的Elasticsearch日志收集模块;
filebeat?modules?enable?elasticsearch
  • 接下来修改elasticsearch.yml配置,配置好Elasticsearch的日志路径;
#?Module:?elasticsearch
#?Docs:?https://www.elastic.co/guide/en/beats/filebeat/7.6/filebeat-module-elasticsearch.html

-?module:?elasticsearch
??server:
????enabled:?true
????var.paths:?["I:/developer/env/elasticsearch-7.6.2/logs/elasticsearch.log"]

??slowlog:
????enabled:?true
????var.paths:?["I:/developer/env/elasticsearch-7.6.2/logs/elasticsearch_index_indexing_slowlog.log","I:/developer/env/elasticsearch-7.6.2/logs/elasticsearch_index_search_slowlog.log"]

??deprecation:
????enabled:?true
????var.paths:?["I:/developer/env/elasticsearch-7.6.2/logs/elasticsearch_deprecation.log"]
  • 设置并启动Filebeat服务;
filebeat?setup
filebeat?-e
  • 在Discover页面中查看Elasticsearch日志。

收集MySQL日志

再来试试收集MySQL的日志。

  • 使用如下命令开启Filebeat的MySQL日志收集模块;
filebeat?modules?enable?mysql
  • 接下来修改mysql.yml配置,配置好MySQL的日志路径,主要是错误日志和慢查询日志;
#?Module:?mysql
#?Docs:?https://www.elastic.co/guide/en/beats/filebeat/7.6/filebeat-module-mysql.html

-?module:?mysql
??error:
????enabled:?true
????var.paths:?["C:/ProgramData/MySQL/MySQL?Server?5.7/Data/DESKTOP-5NIMJ19.err"]

??slowlog:
????enabled:?true
????var.paths:?["C:/ProgramData/MySQL/MySQL?Server?5.7/Data/DESKTOP-5NIMJ19-slow.log"]
  • 设置并启动Filebeat服务;
filebeat?setup
filebeat?-e
  • 点击MySQL logs dashboard按钮可以查看收集到的MySQL日志;
  • 查看MySQL收集到的日志详情。

总结

本文主要介绍了使用Filebeat去收集Nginx、Elasticsearch和MySQL的文件日志,其他中间件的日志收集用法也基本相同,用Filebeat收集中间件日志是不是方便!

相关推荐

推荐一款Python的GUI可视化工具(python 可视化工具)

在Python基础语法学习完成后,进一步开发应用界面时,就需要涉及到GUI了,GUI全称是图形用户界面(GraphicalUserInterface,又称图形用户接口),采用图形方式显示的计算机操...

教你用Python绘制谷歌浏览器的3种图标

前两天在浏览matplotlib官方网站时,笔者无意中看到一个挺有意思的图片,就是用matplotlib制作的火狐浏览器的logo,也就是下面这个东东(网页地址是https://matplotlib....

小白学Python笔记:第二章 Python安装

Windows操作系统的python安装:Python提供Windows、Linux/UNIX、macOS及其他操作系统的安装包版本,结合自己的使用情况,此处仅记录windows操作系统的python...

Python程序开发之简单小程序实例(9)利用Canvas绘制图形和文字

Python程序开发之简单小程序实例(9)利用Canvas绘制图形和文字一、项目功能利用Tkinter组件中的Canvas绘制图形和文字。二、项目分析要在窗体中绘制图形和文字,需先导入Tkinter组...

一文吃透Python虚拟环境(python虚拟环境安装和配置)

摘要在Python开发中,虚拟环境是一种重要的工具,用于隔离不同项目的依赖关系和环境配置。本文将基于windows平台介绍四种常用的Python虚拟环境创建工具:venv、virtualenv、pip...

小白也可以玩的Python爬虫库,收藏一下

最近,微软开源了一个项目叫「playwright-python」,作为一个兴起项目,出现后受到了大家热烈的欢迎,那它到底是什么样的存在呢?今天为你介绍一下这个传说中的小白神器。Playwright是...

python环境安装+配置教程(python安装后怎么配置环境变量)

安装python双击以下软件:弹出一下窗口需选择一些特定的选项默认选项不需要更改,点击next勾选以上选项,点击install进度条安装完毕即可。到以下界面,证明安装成功。接下来安装库文件返回电脑桌面...

colorama,一个超好用的 Python 库!

大家好,今天为大家分享一个超好用的Python库-colorama。Github地址:https://github.com/tartley/coloramaPythoncolorama库是一...

python制作仪表盘图(python绘制仪表盘)

今天教大家用pyecharts画仪表盘仪表盘(Gauge)是一种拟物化的图表,刻度表示度量,指针表示维度,指针角度表示数值。仪表盘图表就像汽车的速度表一样,有一个圆形的表盘及相应的刻度,有一个指针...

总结90条写Python程序的建议(python写作)

  1.首先  建议1、理解Pythonic概念—-详见Python中的《Python之禅》  建议2、编写Pythonic代码  (1)避免不规范代码,比如只用大小写区分变量、使用容易...

[oeasy]python0137_相加运算_python之禅_import_this_显式转化

变量类型相加运算回忆上次内容上次讲了是从键盘输入变量input函数可以有提示字符串需要有具体的变量接收输入的字符串输入单个变量没有问题但是输入两个变量之后一相加就非常离谱添加图片注释,不超过1...

Python入门学习记录之一:变量(python中变量的规则)

写这个,主要是对自己学习python知识的一个总结,也是加深自己的印象。变量(英文:variable),也叫标识符。在python中,变量的命名规则有以下三点:>变量名只能包含字母、数字和下划线...

掌握Python的"魔法":特殊方法与属性完全指南

在Python的世界里,以双下划线开头和结尾的"魔法成员"(如__init__、__str__)是面向对象编程的核心。它们赋予开发者定制类行为的超能力,让自定义对象像内置类型一样优雅工...

11个Python技巧 不Pythonic 实用大于纯粹

虽然Python有一套强大的设计哲学(体现在“Python之禅”中),但总有一些情况需要我们“打破规则”来解决特定问题。这触及了Python哲学中一个非常核心的理念:“实用主义胜于纯粹主义”...

Python 从入门到精通 第三课 诗意的Python之禅

导言:Python之禅,英文名是TheZenOfPython。最早由TimPeters在Python邮件列表中发表,它包含了影响Python编程语言设计的20条软件编写原则。它作为复活节彩蛋...

取消回复欢迎 发表评论: