百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Nginx日志分析&EFK案例实战之Awk、Sed、Grep分析Nginx日志

off999 2025-01-21 20:36 22 浏览 0 评论

1)在Linux服务器系统上日志种类很多:内核日志、安全日志、审计日志、邮件日志、应用程序(Nginx、MYSQL、Redis、MQ、ZK)日志等。日志内容通常是用于去定位软件服务、操作系统故障的,还可以对日志内容进行分析、统计,进而可以评估网站的访问量、IP、UV、PV、用户行为分析等。

2)基于SHELL编程三剑客awk、sed、grep分析Nginx日志,首先通过find工具去查找Nginx日志文件的位置。操作的方法和指令如下:

#查找Linux系统上以.log结尾的日志文件位置;

find / -name "*.log"

#查找Linux系统上以.log结尾的日志文件位置,以access开头的;

find / -name "*.log" -a -name "access*"

#查找Linux系统上以.log结尾的日志文件位置,以access开头的,排除access.log文件;

find / -name "*.log" -a -name "access*" -a ! -name access.log

#查找Linux系统上以.log结尾的日志文件位置,以access开头的,排除access.log文件,文件修改时间是60天之前的;

find / -name "*.log" -a -name "access*" -a ! -name access.log -a -mtime +60

#查找Linux系统上以.log结尾的日志文件位置,以access开头的,排除access.log文件,文件修改时间是60天之前的,文件大小超过200M的;

find / -name "*.log" -a -name "access*" -a ! -name access.log -a -mtime +60 -a -size +200M

#查找Linux系统上以.log结尾的日志文件位置,以access开头的,排除access.log文件,文件修改时间是60天之前的,文件大小超过200M的,将其拷贝至/tmp/目录;

for i in $(find / -name "*.log" -a -name "access*" -a ! -name access.log -a -mtime +60 -a -size +200M);do \cp $i /tmp/ ;done

find / -name "*.log" -a -name "access*" -a ! -name access.log -a -mtime +60 -a -size +200M -exec \cp {} /tmp/ \;

find / -name "*.log" -a -name "access*" -a ! -name access.log -a -mtime +60 -a -size +200M |xargs -I {} \cp {} /tmp/



3)Nginx WEB日志实战一,基于SHELL编程三剑客awk、sed、grep分析Nginx日志,分析、统计Nginx日志全天总的请求数(访问量),操作的方法和指令如下:

awk '{print $0}' access_20240523.log |wc -l

cat access_20240523.log |wc -l

wc -l < access_20240523.log

awk 'BEGIN{NR==1} END {print NR}' access_20240523.log

sed = access_20240523.log |tail -2|awk 'NR==1 {print $0}'

grep -aicwE " " access_20240523.log



4)Nginx WEB日志实战二,基于SHELL编程三剑客awk、sed、grep分析Nginx日志,分析、统计Nginx日志10:00-11:00之间的总的请求数(访问量),操作的方法和指令如下:

awk '/23\/May\/2024:10:00/' access_20240523.log |wc -l

sed -n '/23\/May\/2024:10:00/p' access_20240523.log |wc -l

grep -aiE '23\/May\/2024:10:00' access_20240523.log |wc -l

awk '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/' access_20240523.log |wc -l

sed -n '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/p' access_20240523.log |wc -l



5)Nginx WEB日志实战三,基于SHELL编程三剑客awk、sed、grep分析Nginx日志,分析、统计Nginx日志10:00-11:00之间的总的请求数(访问量),将用户的IP地址打印出来,操作的方法和指令如下:

sed -n '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/p' access_20240523.log |awk '{print $1}'

sed -n '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/p' access_20240523.log |cut -d" " -f1

sed -n '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/p' access_20240523.log |grep -aiowE "([0-9]{1,3}\.){3}[0-9]{1,3}"



6)Nginx WEB日志实战四,基于SHELL编程三剑客awk、sed、grep分析Nginx日志,分析、统计Nginx日志10:00-11:00之间的总的请求数(访问量),将用户的IP地址访问次数排前20名打印出来,操作的方法和指令如下:

sed -n '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/p' access_20240523.log |grep -aiowE "([0-9]{1,3}\.){3}[0-9]{1,3}"|sort -n|uniq -c|sort -nr|awk 'NR<=20 {print $0}'



7)Nginx WEB日志实战五,基于SHELL编程三剑客awk、sed、grep分析Nginx日志,分析、统计Nginx日志10:00-11:00之间的总的请求数(访问量),将用户的IP地址访问次数超过5000次加入Linux黑名单中,操作的方法和指令如下:

for ip in $(sed -n '/23\/May\/2024:10:00/,/23\/May\/2024:11:00/p' access_20240523.log |grep -aiowE "([0-9]{1,3}\.){3}[0-9]{1,3}"|sort -n|uniq -c|sort -nr|awk '{if(($1>=5000)) {print $2}}');do iptables -t filter -A INPUT -s $ip/32 -m tcp -p tcp --dport 80 -j DROP ;done

iptables -t filter -L -n --line-numbers|grep -aiE "DROP"

相关推荐

推荐一款Python的GUI可视化工具(python 可视化工具)

在Python基础语法学习完成后,进一步开发应用界面时,就需要涉及到GUI了,GUI全称是图形用户界面(GraphicalUserInterface,又称图形用户接口),采用图形方式显示的计算机操...

教你用Python绘制谷歌浏览器的3种图标

前两天在浏览matplotlib官方网站时,笔者无意中看到一个挺有意思的图片,就是用matplotlib制作的火狐浏览器的logo,也就是下面这个东东(网页地址是https://matplotlib....

小白学Python笔记:第二章 Python安装

Windows操作系统的python安装:Python提供Windows、Linux/UNIX、macOS及其他操作系统的安装包版本,结合自己的使用情况,此处仅记录windows操作系统的python...

Python程序开发之简单小程序实例(9)利用Canvas绘制图形和文字

Python程序开发之简单小程序实例(9)利用Canvas绘制图形和文字一、项目功能利用Tkinter组件中的Canvas绘制图形和文字。二、项目分析要在窗体中绘制图形和文字,需先导入Tkinter组...

一文吃透Python虚拟环境(python虚拟环境安装和配置)

摘要在Python开发中,虚拟环境是一种重要的工具,用于隔离不同项目的依赖关系和环境配置。本文将基于windows平台介绍四种常用的Python虚拟环境创建工具:venv、virtualenv、pip...

小白也可以玩的Python爬虫库,收藏一下

最近,微软开源了一个项目叫「playwright-python」,作为一个兴起项目,出现后受到了大家热烈的欢迎,那它到底是什么样的存在呢?今天为你介绍一下这个传说中的小白神器。Playwright是...

python环境安装+配置教程(python安装后怎么配置环境变量)

安装python双击以下软件:弹出一下窗口需选择一些特定的选项默认选项不需要更改,点击next勾选以上选项,点击install进度条安装完毕即可。到以下界面,证明安装成功。接下来安装库文件返回电脑桌面...

colorama,一个超好用的 Python 库!

大家好,今天为大家分享一个超好用的Python库-colorama。Github地址:https://github.com/tartley/coloramaPythoncolorama库是一...

python制作仪表盘图(python绘制仪表盘)

今天教大家用pyecharts画仪表盘仪表盘(Gauge)是一种拟物化的图表,刻度表示度量,指针表示维度,指针角度表示数值。仪表盘图表就像汽车的速度表一样,有一个圆形的表盘及相应的刻度,有一个指针...

总结90条写Python程序的建议(python写作)

  1.首先  建议1、理解Pythonic概念—-详见Python中的《Python之禅》  建议2、编写Pythonic代码  (1)避免不规范代码,比如只用大小写区分变量、使用容易...

[oeasy]python0137_相加运算_python之禅_import_this_显式转化

变量类型相加运算回忆上次内容上次讲了是从键盘输入变量input函数可以有提示字符串需要有具体的变量接收输入的字符串输入单个变量没有问题但是输入两个变量之后一相加就非常离谱添加图片注释,不超过1...

Python入门学习记录之一:变量(python中变量的规则)

写这个,主要是对自己学习python知识的一个总结,也是加深自己的印象。变量(英文:variable),也叫标识符。在python中,变量的命名规则有以下三点:>变量名只能包含字母、数字和下划线...

掌握Python的&quot;魔法&quot;:特殊方法与属性完全指南

在Python的世界里,以双下划线开头和结尾的"魔法成员"(如__init__、__str__)是面向对象编程的核心。它们赋予开发者定制类行为的超能力,让自定义对象像内置类型一样优雅工...

11个Python技巧 不Pythonic 实用大于纯粹

虽然Python有一套强大的设计哲学(体现在“Python之禅”中),但总有一些情况需要我们“打破规则”来解决特定问题。这触及了Python哲学中一个非常核心的理念:“实用主义胜于纯粹主义”...

Python 从入门到精通 第三课 诗意的Python之禅

导言:Python之禅,英文名是TheZenOfPython。最早由TimPeters在Python邮件列表中发表,它包含了影响Python编程语言设计的20条软件编写原则。它作为复活节彩蛋...

取消回复欢迎 发表评论: