日志分析如何分析 Linux 日志

如何分析 Linux 日志

Linux系统下Nginx 日志可以查看系统运行记录和出错说明，对Nginx 日志的分析可以了解系统运行的状态。那么Linux系统Nginx日志怎么分析呢？ 　　Nginx 日志相关配置有 2 个地方：ess_log 和 log_format 。 　　默认的格式： 　　ess_log /data/logs/ess.log; 　　log_format old ‘$remote_addr ［$time_local］ $status $request_time $body_bytes_sent ’ 　　‘“$request” “$ess_log /data/logs/ess.log buffer=32k flush=5s; 　　这决定了是否实时看到日志以及日志对磁盘 IO 的影响。 　　Nginx 日志能够记录的变量还有很多没出现在默认配置中： 　　比如： 　　请求数据大小：$request_length 　　返回数据大小：$bytes_sent 　　请求耗时：$request_time 　　所用连接序号：$connection 　　当前连接发生请求数：$connection_requests 　　Nginx 的默认格式不可计算，需要想办法转换成可计算格式，比如用控制字符 ^A （Mac 下 ctrl+v ctrl+a 打出）分割每个字段。 　　log_format 的格式可以变成这样： 　　log_format new ‘$remote_addr^A$ess.log | awk -F ‘^A’ ‘{print $10}’ | sort | uniq -c 　　查找当前日志文件 500 错误的访问： 　　cat ess.log | awk -F ‘^A’ ‘{if（$5 == 500） print $0}’ 　　查找当前日志文件 500 错误的数量： 　　cat ess.log | awk -F ‘^A’ ‘{if（$5 == 500） print $0}’ | wc -l 　　查找某一分钟内 500 错误访问的数量： 　　cat ess.log | awk -F ‘^A’ ‘{if（$5 == 500） print $0}’ | grep ’09:00’ | wc-l 　　查找耗时超过 1s 的慢请求： 　　tail -f ess.log | awk -F ‘^A’ ‘{if（$6》1） print $0}’ 　　假如只想查看某些位： 　　tail -f ess.log | awk -F ‘^A’ ‘{if（$6》1） print $3″|”$4}’ 　　查找 502 错误最多的 URL： 　　cat ess.log | awk -F ‘^A’ ‘{if（$5==502） print $11}’ | sort | uniq -c 　　查找 200 空白页 　　cat ess.log | awk -F ‘^A’ ‘{if（$5==200 && $8 《 100） print $3″|”$4″|”$11″|”$6}’ 　　查看实时日志数据流 　　tail -f ess.log | cat -e 　　或者 　　tail -f ess.log | tr ‘^A’ ‘|’ 　　照着这个思路可以做很多其他分析，比如 UA 最多的访问；访问频率最高的 IP；请求耗时分析；请求返回包大小分析；等等。 　　这就是一个大型 Web 日志分析系统的原型，这样的格式也是非常方便进行后续大规模 batching 和 streaming 计算。 　　以上就是Linux系统Nginx日志怎么分析的全部内容了，可以看出来Nginx日志还是有很强大的作用的。