Go运行时metric指标详解 Go运行时metric指标详解

发表于 2年以前 | 总阅读数：545 次

一个运行中的程序似乎很难具有“内省”能力，我们需要通过一个外部的观察者例如dlv、gdb来观察，或者是程序自身暴露的metric。这就好像是要查看人体胃部的状况，需要借助外部工具胃镜，而内部的病变或者疼痛这样的指标也可以通过外部反应出来一样。这种metric暴露当然都是需要成本的。

对于Go程序来讲，大点的公司都有自己的监控平台，观测机器级别的(例如内存、CPU、网络、磁盘容量)、容器级别的（cgroup,cpu抢占、cpu.throttled）、程序级别的(qps、请求延迟)等等。

虽然大部分指标都是某一时刻瞬时的指标，但是通过指定时间内拉取指标，观察指标的变化，我们就可以观察到程序在一段时间内运行状况。

在本文中笔者将介绍运行时暴露出来的一些指标，主要是内存方面的。其他CPU等指标可以通过pprof等其他手段获取到。这些指标对于观察程序的异常情况、并排查问题有重要意义。对一些指标的深刻理解需要对于Go运行时处理模型的理解，因此并不是一件简单的事情。本文希望提供对这些指标的准确表述，较少其他同学理解的成本。

要注意的是，我们可能有多种工具来观测相同的指标，例如pprof、trace 都可以在不同程度表征程序内存的运行状态。不同的工具也有自己单独的指标，需要灵活的应用各种手段来达到自己想要的目的。

标准库获取运行时指标的函数有多个，Debug库中的 ReadGCStats 方法可以返回运行时GC相关的关键指标，对于判断是否频繁发生GC、以及GC完全不可用时长是否偏高有重要的意义。

func ReadGCStats(stats *GCStats) {
     ...
}

Debug库中的NumGoroutine获取程序的协程数量,GOMAXPROCS()获取逻辑处理器P。

func NumGoroutine() int {
    return int(gcount())
}

func GOMAXPROCS(n int) int[

}

runtime 标准库ReadMemStats 函数也包含了运行时内存相关的指标，有一些指标比较难懂，涉及到对于Go内存模型的深刻理解。

func ReadMemStats(m *MemStats) {
    ...
}

当然了runtime 还暴露了一些供pprof工具使用的API，获取当前Profile 样本文件，例如

func MemProfile(p []MemProfileRecord, inuseZero bool) (n int, ok bool)
func MutexProfile(p []BlockProfileRecord) (n int, ok bool)
func ThreadCreateProfile(p []StackRecord) (n int, ok bool)

ReadMemStats 和 GCStats

在本文中，笔者将对ReadMemStats 得到的MemStats结构和ReadGCStats中的GCStats结构中的各个指标进行解释。

type MemStats struct {
        Alloc uint64
        TotalAlloc uint64
        Sys uint64
        ... 
}

type GCStats struct {
    LastGC         time.Time     
    NumGC          int64         
    PauseTotal     time.Duration 
  ...
}

下面对各个指标进行深入解析：
Alloc
对象的分配字节数 = 已分配对象的字节数 - GC已释放的对象的字节数

TotalAlloc
对象的分配数量 = 已分配对象的数量 - GC已释放的对象的数量

Sys
运行时保留的虚拟内存，这些内存含义比较丰富，堆、栈和其他内部结构的内存

nlookup  (已废弃！)

Mallocs
活着的对象数量（Mallocs - Frees），和alloc不同的是，包含了微小对象。

Frees
释放的对象数量

HeapAlloc
堆内存分配的对象的字节数，同Alloc

HeapSys
向系统申请的虚拟内存大小

HeapIdle
向操作系统申请但是未分配或者回收了的堆内存 ， =HeapSys - HeapInuse

HeapInuse
被堆使用的内存，HeapInuse - HeapAlloc 表示这些内存还没有被分配对象。

HeapReleased
HeapIdle 中已经被释放给操作系统的内存。

HeapObjects
已分配的活着的堆对象 = Mallocs - Frees

StackInuse
协程栈本身占据的内存字节数

StackSys
= StackInuse协程栈字节数 + 系统线程栈字节数

MSpanInuse
正在使用的的span的字节数

MSpanSys
操作系统分配的span的字节数，其包含了MSpanInuse 和未被使用的span

mcache_inuse
正在使用的的mcache的字节数

mcache_sys
操作系统分配的mcache的字节数，其包含了mcache_inuse 和未被使用的mcache

BuckHashSys
pprof需要用到的bucket 内存大小

GCSys
垃圾收集需要用到的元数据所占的内存大小。

OtherSys
运行时其他特殊对象所占的内存大小。

NextGC
下一次GC的目标内存大小

PauseTotalNs
程序累积的垃圾回收stop-the-world时间，即不可用时间。在odin为ms

PauseNs
最近一次stop-the-world时间，即不可用时间

NumGC
程序开始后的GC次数，每一次GC加1

NumForcedGC
用户强制触发的GC数量

GCCPUFraction
衡量GC花费的CPU时间

runtime/metrics

其实Go语言还提供了更通用的接口，完成runtime.ReadMemStats 和Debug.ReadGCStats 共同的功能，api位于runtime/metrics中，生成当前时刻的metric样本。如下例中，简单打印出metric Key-Value对。

package main

import (
    "fmt"
    "runtime/metrics"
)

func main() {
    // Get descriptions for all supported metrics.
    descs := metrics.All()

    // Create a sample for each metric.
    samples := make([]metrics.Sample, len(descs))
    for i := range samples {
        samples[i].Name = descs[i].Name
    }

    // Sample the metrics. Re-use the samples slice if you can!
    metrics.Read(samples)

    // Iterate over all results.
    for _, sample := range samples {
        // Pull out the name and value.
        name, value := sample.Name, sample.Value

        // Handle each sample.
        switch value.Kind() {
        case metrics.KindUint64:
            fmt.Printf("%s: %d\n", name, value.Uint64())
        case metrics.KindFloat64:
            fmt.Printf("%s: %f\n", name, value.Float64())
        case metrics.KindFloat64Histogram:
            // The histogram may be quite large, so let's just pull out
            // a crude estimate for the median for the sake of this example.
            fmt.Printf("%s: %f\n", name, medianBucket(value.Float64Histogram()))
        case metrics.KindBad:
            // This should never happen because all metrics are supported
            // by construction.
            panic("bug in runtime/metrics package!")
        default:
            // This may happen as new metrics get added.
            //
            // The safest thing to do here is to simply log it somewhere
            // as something to look into, but ignore it for now.
            // In the worst case, you might temporarily miss out on a new metric.
            fmt.Printf("%s: unexpected metric Kind: %v\n", name, value.Kind())
        }
    }
}

func medianBucket(h *metrics.Float64Histogram) float64 {
    total := uint64(0)
    for _, count := range h.Counts {
        total += count
    }
    thresh := total / 2
    total = 0
    for i, count := range h.Counts {
        total += count
        if total >= thresh {
            return h.Buckets[i]
        }
    }
    panic("should not happen")
}

这些metric具有与之前描述中相似的功能，可以对比着学习。

/gc/cycles/automatic:gc-cycles
运行时完成的gc次数

/gc/cycles/forced:gc-cycles
用户调用force完成的gc次数

/gc/cycles/total:gc-cycles
gc总次数

/gc/heap/allocs-by-size:bytes
按照近似大小（Go内存管理有各级span分别对应存储不同大小的对象）分配的堆大小

/gc/heap/allocs:bytes
堆内存分配的对象的字节数

/gc/heap/allocs:objects
堆内存分配的对象的个数

/gc/heap/frees-by-size:bytes
按照近似大小（Go内存管理有各级span分别对应存储不同大小的对象）释放的内存大小

/gc/heap/frees:bytes
gc释放的堆内存的累积总和

/gc/heap/frees:objects
gc释放的堆内存的累积大小和

/gc/heap/goal:bytes
下一次GC内存目标

/gc/heap/objects:objects
占用堆内存的对象数，无论是活着的还是未清扫的

/gc/heap/tiny/allocs:objects
tiny微小对象分配的个数

/gc/pauses:seconds
stw时间

/memory/classes/heap/free:bytes
可以返回给操作系统的内存数量

/memory/classes/heap/objects:bytes
存活的对象或暂时未被gc标记的死对象大小

/memory/classes/heap/released:bytes
返回给操作系统的内存大小

/memory/classes/heap/stacks:bytes
当前协程栈占用的内存大小

/memory/classes/heap/unused:bytes
为堆对象保留但当前没有的内存

/memory/classes/metadata/mcache/free:bytes
为运行时 mcache 结构保留的内存，但未使用

/memory/classes/metadata/mcache/inuse:bytes
运行时 mcache 结构占用的内存，正在使用

/memory/classes/metadata/mspan/free:bytes
运行时 mspan 结构保留的内存，但未使用。

/memory/classes/metadata/mspan/inuse:bytes
运行时 mspan 结构占用的内存，目前正在使用

/memory/classes/metadata/other:bytes
为运行时保留或用于保存运行时元数据的内存

/memory/classes/os-stacks:bytes
底层操作系统分配的栈内存。

/memory/classes/other:bytes
调试运行时、finalizer等分配的内存，用于特殊功能

/memory/classes/profiling/buckets:bytes
profiling样本，栈扫描时使用的哈希表，占用的内存大小。

/memory/classes/total:bytes
Go 运行时映射到当前进程的所有内存。不包括通过 cgo 或 syscall 包里的代码映射的内存。

/sched/goroutines:goroutines
实时 goroutine 的计数。

/sched/latencies:seconds
协程在实际运行之前，在调度器中等待所花费的时间分布。