使用 pprof 和火焰图调试 golang 应用

概述转自：http://cizixs.com/2017/09/11/profiling-golang-program 什么是 Profiling? Profiling 这个词比较难翻译，一般译成画像。比如在案件侦破的时候会对嫌疑人做画像，从犯罪现场的种种证据，找到嫌疑人的各种特征，方便对嫌疑人进行排查；还有就是互联网公司会对用户信息做画像，通过了解用户各个属性（年龄、性别、消费能力等），方便为用户推荐

转自：http://cizixs.com/2017/09/11/profiling-golang-program

什么是 Profiling?

Profiling 这个词比较难翻译，一般译成画像。比如在案件侦破的时候会对嫌疑人做画像，从犯罪现场的种种证据，找到嫌疑人的各种特征，方便对嫌疑人进行排查；还有就是互联网公司会对用户信息做画像，通过了解用户各个属性（年龄、性别、消费能力等），方便为用户推荐内容或者广告。

在计算机性能调试领域里，profiling 就是对应用的画像，这里画像就是应用使用 cpu 和内存的情况。也就是说应用使用了多少 cpu 资源？都是哪些部分在使用？每个函数使用的比例是多少？有哪些函数在等待 cpu 资源？知道了这些，我们就能对应用进行规划，也能快速定位性能瓶颈。

golang 是一个对性能特别看重的语言，因此语言中自带了 profiling 的库，这篇文章就要讲解怎么在 golang 中做 profiling。

在 go 语言中，主要关注的应用运行情况主要包括以下几种：

cpu profile：报告程序的 cpu 使用情况，按照一定频率去采集应用程序在 cpu 和寄存器上面的数据 Memory Profile（Heap Profile）：报告程序的内存使用情况 Block Profiling：报告 goroutines 不在运行状态的情况，可以用来分析和查找死锁等性能瓶颈 Goroutine Profiling：报告 goroutines 的使用情况，有哪些 goroutine，它们的调用关系是怎样的 两种收集方式

做 Profiling 第一步就是怎么获取应用程序的运行情况数据。go 语言提供了runtime/pprof和net/http/pprof两个库，这部分我们讲讲它们的用法以及使用场景。

工具型应用

如果你的应用是一次性的，运行一段时间就结束。那么最好的办法，就是在应用退出的时候把 profiling 的报告保存到文件中，进行分析。对于这种情况，可以使用runtime/pprof库。

pprof封装了很好的接口供我们使用，比如要想进行 cpu Profiling，可以调用pprof.StartcpuProfile()方法，它会对当前应用程序进行 cpu profiling，并写入到提供的参数中（w io.Writer），要停止调用StopcpuProfile()即可。

去除错误处理只需要三行内容，一般把部分内容写在main.go文件中，应用程序启动之后就开始执行：

f,err := os.Create(*cpuprofile) ... pprof.StartcpuProfile(f) defer pprof.StopcpuProfile() 

应用执行结束后，就会生成一个文件，保存了我们的 cpu profiling 数据。

想要获得内存的数据，直接使用WriteHeapProfile就行，不用start和stop这两个步骤了：

= os.Create(*memprofile) pprof.WriteHeapProfile(f) f.Close() 服务型应用

如果你的应用是一直运行的，比如 web 应用，那么可以使用net/http/pprof库，它能够在提供 http 服务进行分析。

如果使用了默认的http.DefaultServeMux（通常是代码直接使用http.ListenAndServe("0.0.0.0:8000",nil)），只需要添加一行：

import _ "net/http/pprof"

如果你使用自定义的Mux，则需要手动注册一些路由规则：

r.HandleFunc("/deBUG/pprof/",pprof.Index)r."/deBUG/pprof/cmdline",0)">Cmdline)r."/deBUG/pprof/profile",0)">Profile)r."/deBUG/pprof/symbol",0)">Symbol)r."/deBUG/pprof/trace",0)">Trace)

不管哪种方式，你的 http 服务都会多出/deBUG/pprofendpoint，访问它会得到类似下面的内容：

/deBUG/pprof/profiles:0 block62 goroutine444 heap30 threadcreatefull goroutine stack dump

这个路径下还有几个子页面：

/deBUG/pprof/profile：访问这个链接会自动进行 cpu profiling，持续 30s，并生成一个文件供下载 /deBUG/pprof/heap： Memory Profiling 的路径，访问这个链接会得到一个内存 Profiling 结果的文件 /deBUG/pprof/block：block Profiling 的路径 /deBUG/pprof/goroutines：运行的 goroutines 列表，以及调用关系 go tool pprof 命令：获取和分析 Profiling 数据

能通过对应的库获取想要的 Profiling 数据之后（不管是文件还是 http），下一步就是要对这些数据进行保存和分析，我们可以使用go tool pprof命令行工具。

在后面我们会生成调用关系图和火焰图，需要安装graphviz软件包，在 ubuntu 系统可以使用下面的命令：

$ sudo apt-get install -y graphviz

NOTE：获取的 Profiling 数据是动态的，要想获得有效的数据，请保证应用处于较大的负载（比如正在生成中运行的服务，或者通过其他工具模拟访问压力）。否则如果应用处于空闲状态，得到的结果可能没有任何意义。

cpu Profiling

go tool pprof最简单的使用方式为go tool pprof [binary] [source]，binary是应用的二进制文件，用来解析各种符号；source表示 profile 数据的来源，可以是本地的文件，也可以是 http 地址。比如：

➜ go tool pprof ./hyperkube http://172.16.3.232:10251/deBUG/pprof/profileFetching profile from http://172.16.3.232:10251/deBUG/pprof/profilePlease wait... (30s)Saved profile in /home/cizixs/pprof/pprof.hyperkube.172.16.3.232:10251.samples.cpu.002.pb.gz Entering interactive mode (type "help" for commands) (pprof)

这个命令会进行 cpu profiling 分析，等待一段时间（默认是 30s，如果在 url 最后加上?seconds=60参数可以调整采集数据的时间为 60s）之后，我们就进入了一个交互式命令行，可以对解析的结果进行查看和导出。可以通过help来查看支持的自命令有哪些。

一个有用的命令是topN，它列出最耗时间的地方：

(pprof) top10130ms of 360ms total (36.11%) Showing top 10 nodes out of 180 (cum >= 10ms) flat flat% sum% cum cum% 20ms 5.56% 5.56% 100ms 27.78% enCoding/Json.(*decodeState).object 20ms 5.56% 11.11% 20ms 5.56% runtime.(*mspan).refillAllocCache 20ms 5.56% 16.67% 20ms 5.56% runtime.futex 10ms 2.78% 19.44% 10ms 2.78% enCoding/Json.(*decodeState).literalStore 10ms 2.78% 22.22% 10ms 2.78% enCoding/Json.(*decodeState).scanWhile 10ms 2.78% 25.00% 40ms 11.11% enCoding/Json.checkValID 10ms 2.78% 27.78% 10ms 2.78% enCoding/Json.simpleLetterEqualFold 10ms 2.78% 30.56% 10ms 2.78% enCoding/Json.stateBeginValue 10ms 2.78% 33.33% 10ms 2.78% enCoding/Json.stateEndValue 10ms 2.78% 36.11% 10ms 2.78% enCoding/Json.stateInString

每一行表示一个函数的信息。前两列表示函数在 cpu 上运行的时间以及百分比；第三列是当前所有函数累加使用 cpu 的比例；第四列和第五列代表这个函数以及子函数运行所占用的时间和比例（也被称为累加值 cumulative），应该大于等于前两列的值；最后一列就是函数的名字。如果应用程序有性能问题，上面这些信息应该能告诉我们时间都花费在哪些函数的执行上了。

pprof 不仅能打印出最耗时的地方(top)，还能列出函数代码以及对应的取样数据(List)、汇编代码以及对应的取样数据(disasm)，而且能以各种样式进行输出，比如 svg、gv、callgrind、png、gif等等。

其中一个非常便利的是web命令，在交互模式下输入web，就能自动生成一个svg文件，并跳转到浏览器打开，生成了一个函数调用图：

这个调用图包含了更多的信息，而且可视化的图像能让我们更清楚地理解整个应用程序的全貌。图中每个方框对应一个函数，方框越大代表执行的时间越久（包括它调用的子函数执行时间，但并不是正比的关系）；方框之间的箭头代表着调用关系，箭头上的数字代表被调用函数的执行时间。

因为原图比较大，这里只截取了其中一部分，但是能明显看到enCoding/Json.(*decodeState).object是这里耗时比较多的地方，而且能看到它调用了哪些函数，分别函数多少。这些更详细的信息对于定位和调优性能是非常有帮助的！

要想更细致分析，就要精确到代码级别了，看看每行代码的耗时，直接定位到出现性能问题的那行代码。pprof也能做到，List命令后面跟着一个正则表达式，就能查看匹配函数的代码以及每行代码的耗时：

(pprof) List podFitsOnNodeTotal: 120msROUTINE ======================== k8s.io/kubernetes/plugin/pkg/scheduler.podFitsOnNode in /home/cizixs/go/src/k8s.io/kubernetes/_output/local/go/src/k8s.io/kubernetes/plugin/pkg/scheduler/generic_scheduler.go 0 20ms (flat,cum) 16.67% of Total . . 230: . . 231:// Checks whether node with a given name and NodeInfo satisfIEs all predicateFuncs. . . 232:func podFitsOnNode(pod *API.Pod,Meta interface{},info *schedulercache.NodeInfo,predicateFuncs map[string]algorithm.FitPredicate) (bool,[]algorithm.PredicateFailureReason,error) { . . 233: var FailedPredicates []algorithm.PredicateFailureReason . . 234: for _,predicate := range predicateFuncs { . 20ms 235: fit,reasons,err := predicate(pod,Meta,info) . . 236: if err != nil { . . 237: err := fmt.Errorf("SchedulerPredicates Failed due to %v,which is unexpected.",err) . . 238: return false,[]algorithm.PredicateFailureReason{},err . . 239: } . . 240: if !fit {

如果想要了解对应的汇编代码，可以使用disadm <regex>命令。这两个命令虽然强大，但是在命令行中查看代码并不是很方面，所以你可以使用webList命令，用法和两者一样，但它会在浏览器打开一个页面，能够同时显示源代码和汇编代码。

NOTE：更详细的 pprof 使用方法可以参考pprof --help或者pprof 文档。

Memory Profiling

要想获得内存使用 Profiling 信息，只需要把数据源修改一下就行（对于 http 方式来说就是修改 url 的地址，从/deBUG/pprof/profile改成/deBUG/pprof/heap）：

//172.16.3.232:10251/deBUG/pprof/heap Fetching profile from http://172.16.3.232:10251/deBUG/pprof/heapSaved profile in /home/cizixs/pprof/pprof.hyperkube10251.inuse_objects.inuse_space 和 cpu Profiling 使用一样，使用top N可以打印出使用内存最多的函数列表：

(pprof) top11712.11kB of 14785.10kB total (79.22%)Dropped 580 nodes (cum <= 73.92kB)Showing top 10 nodes out of 146 (cum >= 512.31kB) flat flat% sum% cum cum% 2072.09kB 14.01% 14.01% 14.01% k8s.io/kubernetes/vendor/github.com/beorn7/perks/quantile.NewTargeted 2049.25kB 13.86% 27.87% 13.86% k8s.io/kubernetes/pkg/API/v1.(*ResourceRequirements).Unmarshal 1572.28kB 10.63% 38.51% 10.63% k8s.io/kubernetes/vendor/github.com/beorn7/perks/quantile.(*stream).merge 1571.34kB 49.14% 10.63% regexp.(*bitState).reset 1184.27kB 8.01% 57.15% 8.01% bytes.makeSlice 1024.16kB 6.93% 64.07% 6.93% k8s.io/kubernetes/pkg/API/v1.(*ObjectMeta).Unmarshal 613.99kB 4.15% 68.23% 2150.63kB 14.55% k8s.io/kubernetes/pkg/API/v1.(*PersistentVolumeClaimList).Unmarshal 591.75kB 4.00% 72.23% 1103.79kB 7.47% reflect.Value.call 520.67kB 3.52% 75.75% 3.52% k8s.io/kubernetes/vendor/github.com/gogo/protobuf/proto.RegisterType 512.31kB 3.47% 79.22% 3.47% k8s.io/kubernetes/pkg/API/v1.(*PersistentVolumeClaimstatus).Unmarshal

每一列的含义也是类似的，只不过从 cpu 使用时间变成了内存使用大小，就不多解释了。

类似的，web命令也能生成svg图片在浏览器中打开，从中可以看到函数调用关系，以及每个函数的内存使用多少。

需要注意的是，默认情况下，统计的是内存使用大小，如果执行命令的时候加上--inuse_objects可以查看每个函数分配的对象数；--alloc-space查看分配的内存空间大小。

这里还要提两个比较有用的方法，如果应用比较复杂，生成的调用图特别大，看起来很乱，有两个办法可以优化：

使用web funcname的方式，只打印和某个函数相关的内容 运行go tool pprof命令时加上--nodefration=0.05参数，表示如果调用的子函数使用的 cpu、memory 不超过 5%，就忽略它，不要显示在图片中

pprof 已经支持动态的 web 浏览方式：https://github.com/Google/pprof/commit/f83a3d89c18c445178f794d525bf3013ef7b3330

go-torch 和火焰图

火焰图（Flame Graph）是 Bredan Gregg 创建的一种性能分析图表，因为它的样子近似

总结

以上是内存溢出为你收集整理的使用 pprof 和火焰图调试 golang 应用全部内容，希望文章能够帮你解决使用 pprof 和火焰图调试 golang 应用所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。

欢迎分享，转载请注明来源：内存溢出

原文地址: http://outofmemory.cn/langs/1273127.html