日志快速筛选 之 linux命令grep|uniq|wc|awk

日志快速筛选 之 linux命令grep|uniq|wc|awk,第1张

概述以前我个人的观念是,在线上运行的东西尽量不要记什么流水日志。但是后来我变了,发现在线上记日志是一个绝对有必要的东西,尤其是在当下很流行的微服务的推动下,没有日志的帮助,犹如一个睁眼瞎,排查问题基本靠猜,这可不行。那就打印记录每次的访问日志,尤其是访问接口时的参数及返回数据和耗费时间等,这是对自己将问题抛给上层及性能优化的依据。但是日志量应该是非常大的,一定要注意及时清理。那么问题来了,当发现问题时,如何快速定位到错误的地方就很重要了。日志样例如下(某次访问的产生的日志):[2017-01-14 17:38:44] New request@ip: 112.65.141.22[2017-01-14 17:38:44] New request@ip: 112.65.141.22 param: <xml><ToUserName><![CDATA[gh_27923assff]]></ToUserName> <FromUserName><![CDATA[osj3ut7w0VqGU-6k1WssdmAQPVU]]></FromUserName> <CreateTime>1484386723</CreateTime> <MsgType><![CDATA[text]]></MsgType> <Content><![CDATA[http://satwx.ddd.com/wap]]></Content> <MsgId>6375392430314143735</MsgId> </xml>[2017-01-14 17:38:44] cat@http://192.168.1.125:30008/eagleeye/monitor/logEvent @visit, msg=> New request@ip: 112.65.141.22 ...[2017-01-14 17:38:44] api begin: [get] http://192.168.1.11:40003/micsite/api/ss/microsite/1.1/wchat/getAcken?wchatName=wx477026f155386[2017-01-14 17:38:44] api end: cost: 0.0081648826599121 sec,return data: {"error":"4000063","msg":"无该公众账号的accessToken信息 !","status":"0"}[2017-01-14 17:38:44] get token error [code:status 0]: {"error":"4000063","msg":"无该公众账号的accessToken信息 !","status":"0"}[2017-01-14 17:38:44] api begin: [get] https://api.weixin.qq.com/cgi-bin/user/info?access_token=&openid=osj3ut7w0VqGU-6k1WHVi5mAQPVU&lang=zh_CN[2017-01-14 17:38:44] api end: cost: 0.08442211151123 sec,return data: {"errcode":41001,"errmsg":"access_token missing hint: [ohHxoa0723vr30!]"}[2017-01-14 17:38:44] get UnionId error: {"errcode":41001,"errmsg":"access_token missing hint: [ohHxoa0723vr30!]"}[2017-01-14 17:38:45] POST https://a1.easemob.com/ddd/xyytest/token {"grant_type":"client_credentials","client_id":"YXA6895cUK3_EeW3YsEU_isqRQ","client_secret":"YXA61QdxmD9yvNcxd9zaHrcmFfTRZ3M"}[2017-01-14 17:38:45] return data: {"access_token":"YWMtf7ebhtFWEeaBVquozfw40QAAAA3A67AAAAAAHz3lxQrf8R5bdiwR4FZYgHzdwBPGgDdng322dddssvrzggb2_tQflF-cf4FEO07WzyZJuEQ","expires_in":4205288,"application":"f3de5c50-adff-11e5-b762-c114fe2b2a45"} , cost: 0.19826197624207 sec[2017-01-14 17:38:45] POST https://a1.easemob.com/dd/xyytest/messages {"target_type":"users","target":["custom"],"msg":{"type":"txt","msg":"http://satwx.shoujidai.com/wap"},"from":"hx_callback","ext":{"weichat":{"visitor":{"source":"weixin","msgId":"6375392430314143735","openid":"osj3ut7w0VqGU-6k1WHVi5mAQPVU","mp":"wx812302f2923a0e2f","userNickname":null}}}}[2017-01-14 17:38:45] return data: {"action" : "post","application" : "f3de5c50-adff-11e5-b762-c114fe2b2a45", "path" : "/messages"} , cost: 0.15990281105042 sec[2017-01-14 17:38:45] output: (empty)[2017-01-14 17:38:45] ---- This time cost: 0.52057886123657 sec ---- 问题1、我想查看有多少独立访问了这台机器?(可能有多天的访问日志)grep -n -E "[2017-01-14 [0-9]{2}:[0-9]{2}:[0-9]{2}] [0-9]+.[0-9]+.[0-9]+.[0-9]+" *log | awk '{if(!ip[$3]++) print $3 " ===> " $1 " " $2 " " $4;}' | sort | uniq | less想要统计总共有多少ip时,只需后接一个wc -l 的管道命令即可:cat a.log | wc -l问题2、发现某个外网接口慢了,怎样查看该接口慢的地方都有哪些?grep -A1 -n "api.weixin.qq.com/cgi-bin/" *.log | grep -v "api.weixin.qq.com" | awk '$6 > 5' | less #grep -v 是将接口访问栏给去掉,只留下时间记录行,过滤出访问时间大于5秒的日志. | wc -l #统计总共有多少地方问题3、假设有错误产生,但是不确定访问是否访问到该机器,是否可以同时看到访问日志与错误日志?tail -f access_log error_log # 将访问日志与错误日志同时动态打印出来,如果同时出现则证明访问到该机器且可查看错误问题4、如何清理日志?用crontab运行定时cron脚本。crontab -eFilePath=/data/logfind FilePath -mtime +3 -name '*.log' -exec rm -rf {} ;问题5、临时检查某接口是否通畅?使用curl命令curl -i http://coe.test.com:8080/micro_site/api/user/info #加-i参加可返回头信息,更多命令可查看帮助文档ping coe.test.com #直接看该域名是否可用telnet coe.test.com #如果需要,也可以使用telnet命令问题6、使用docker容器进行管理测试环境,一些简单的docker 命令应该知晓docker ps | grep myserver #查看docker 进程,过滤想要的行,如查看映射端口及完全的镜像名称docker exec -it myserver /bin/bash #进入自己的docker 容器问题7、其他技巧?netstat -tunlp #查看网络端口监听情况,以确定服务器是否有问题ps -ef | grep httpd #查看进程相关 pstree 更生动grep -F -f a.txt b.txt #求文件交集sort a.txt b.txt | uniq -d #求两文件交集sort a.txt b.txt b.txt | uniq -u #求两文件不重复的项说到日志筛选,其实只是想定位到问题在哪里,在这里就多了几句,以备后用吧!对于php解释型语言,调试起来相对方便,直接在服务器上改掉进行尝试即可,但是也有一个坏处就是没有编译器来给你检查代码,会隐藏一些语法错误。一般来说,将访问日志与错误日志一起打印会让你快速解决问题。语法错误相对好解决,逻辑错误则需要定位代码位置,仔细分析才能解决。对于像java一类的编译型语言,调试则相对麻烦一些。一般在改动很小或者一两个文件的时候,可以直接通过替换.class文件的方式,重启服务器进行快速调试,但是对于多个文件的更改基本上就得重新打包上传了。.war包的class文件可以方便的通过ftp工作替换,而.jar包则麻烦些,需先将服务器上的jar包下载至本地,用压缩工具打开后,直接替换class文件后,再将整个jar包上传即可。java的日志相对会比较大,所以清理文件会更多或更频繁。使用svn, git等工具进行代码管理很方便,但有时提交文件修改时,容易忘记添加的文件,多半会引起ClassNotFoundException,快速搞定。对于NullPointerException异常,找到引发错误的行,观察是哪个变量可能引起该错误,可能是接口响应,可能是数据库问题。对于OutOfMemoryError异常,加内存或者优化代码解决。

  以前我个人的观念是,在线上运行的东西尽量不要记什么流水日志。

  但是后来我变了,发现在线上记日志是一个绝对有必要的东西,尤其是在当下很流行的微服务的推动下,没有日志的帮助,犹如一个睁眼瞎,排查问题基本靠猜,这可不行。

  那就打印记录每次的访问日志,尤其是访问接口时的参数及返回数据和耗费时间等,这是对自己将问题抛给上层及性能优化的依据。但是日志量应该是非常大的,一定要注意及时清理。

  那么问题来了,当发现问题时,如何快速定位到错误的地方就很重要了。

日志样例如下(某次访问的产生的日志):

[-- ::] New request@ip: .-- ::] New request@ip: . param: 6375392430314143735 [-- ::] @http: New request@ip: 112.65.141.22 ...[-- ::] API begin: [get] http:[-- ::] API end: cost: sec,return data: {:,:,:-- ::] get token error [code:status ]: {:,:-- ::] API begin: [get] https:[-- ::] API end: cost: sec,return data: {:,:-- ::] get UnionID error: {:,:-- ::] POST https:[-- ::] return data: {:,:,licationf3de5c50-adff-11e5-b762-c114fe2b2a45[-- ::] POST https::{:{:{:,:,:,:,:-- ::] return data: { : , : : },cost: -- ::-- ::] ---- This cost: sec ----

问题1、我想查看有多少独立访问了这台机器?(可能有多天的访问日志)

-n -E *log | " " " " " ;} | | |

  想要统计总共有多少ip时,只需后接一个wc -l 的管道命令即可:

a.log | -l

问题2、发现某个外网接口慢了,怎样查看该接口慢的地方都有哪些?

-A1 -n *.log | -v | 5 | # -| -l #统计总共有多少地方

问题3、假设有错误产生,但是不确定访问是否访问到该机器,是否可以同时看到访问日志与错误日志?

-f access_log error_log #

问题4、如何清理日志?用crontab运行定时cron脚本。crontab -e

filePath=/data/ filePath -mtime + -name -exec -rf {} \;

问题5、临时检查某接口是否通畅?使用curl命令

curl -i http:telnet coe.test.com

问题6、使用docker容器进行管理测试环境,一些简单的docker 命令应该知晓

docker | -it myserver /bin/bash #进入自己的docker 容器

问题7、其他技巧?

netstat - -ef | -F - a.txt b.txt | - a.txt b.txt b.txt | -u #求两文件不重复的项

说到日志筛选,其实只是想定位到问题在哪里,在这里就多了几句,以备后用吧!

对于PHP解释型语言,调试起来相对方便,直接在服务器上改掉进行尝试即可,但是也有一个坏处就是没有编译器来给你检查代码,会隐藏一些语法错误。一般来说,将访问日志与错误日志一起打印会让你快速解决问题。语法错误相对好解决,逻辑错误则需要定位代码位置,仔细分析才能解决。

对于像java一类的编译型语言,调试则相对麻烦一些。一般在改动很小或者一两个文件的时候,可以直接通过替换.class文件的方式,重启服务器进行快速调试,但是对于多个文件的更改基本上就得重新打包上传了。.war包的class文件可以方便的通过ftp工作替换,而.jar包则麻烦些,需先将服务器上的jar包下载至本地,用压缩工具打开后,直接替换class文件后,再将整个jar包上传即可。java的日志相对会比较大,所以清理文件会更多或更频繁。

使用svn,git等工具进行代码管理很方便,但有时提交文件修改时,容易忘记添加的文件,多半会引起ClassNotFoundException,快速搞定。

对于NullPointerException异常,找到引发错误的行,观察是哪个变量可能引起该错误,可能是接口响应,可能是数据库问题。

对于OutOfMemoryError异常,加内存或者优化代码解决。

总结

以上是内存溢出为你收集整理的日志快速筛选 之 linux命令grep|uniq|wc|awk全部内容,希望文章能够帮你解决日志快速筛选 之 linux命令grep|uniq|wc|awk所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/yw/1050605.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-25
下一篇 2022-05-25

发表评论

登录后才能评论

评论列表(0条)

保存