了解Go编译处理(三)—— 初识go compile-程序员宅基地

技术标签: 源码分析  compile  build  golang  go  

前言

了解Go编译处理(二)—— go build一文中对go build的过程进行了追踪,build的源码中并不负责代码的编译,而是交给专门的编译工具进行编译,完整的build过程使用到以下工具:

cover-cgo-compile-asm-pack-buildid-link

部分工具因文件类型的不一或编译参数的设置,可能不会调用。

关于.go的文件的编译由compile工具进行处理,本文先大致了解下compile的大致处理过程。

compile

compile是指位于安装目录($/go/pkg/tool/$GOOS_$GOARCH)下compile工具,build过程中会调用compile相关命令对文件等内容进行处理。

直接运行compile命令,可看到如下提示:

usage: compile [options] file.go...
  -%    debug non-static initializers
  -+    compiling runtime
  -B    disable bounds checking
  -C    disable printing of columns in error messages
  -D path
        set relative path for local imports
 ...

compile本身也是go实现的,其源码位于src/cmd/compile目录下(源码的查找小秘诀,我们在之前的文章中说过了呦)。

编译入口compile/main

var archInits = map[string]func(*gc.Arch){
    
    "386":      x86.Init,
    "amd64":    amd64.Init,
    "arm":      arm.Init,
    "arm64":    arm64.Init,
    "mips":     mips.Init,
    "mipsle":   mips.Init,
    "mips64":   mips64.Init,
    "mips64le": mips64.Init,
    "ppc64":    ppc64.Init,
    "ppc64le":  ppc64.Init,
    "riscv64":  riscv64.Init,
    "s390x":    s390x.Init,
    "wasm":     wasm.Init,
}
func main() {
    
    // disable timestamps for reproducible output
    log.SetFlags(0)
    log.SetPrefix("compile: ")

    archInit, ok := archInits[objabi.GOARCH]
    if !ok {
    
        fmt.Fprintf(os.Stderr, "compile: unknown architecture %q\n", objabi.GOARCH)
        os.Exit(2)
    }

    gc.Main(archInit)
    gc.Exit(0)
}

archInits包含了各个处理器架构的处理初始化方式。main中会通过获取当前处理器架构,再从archInits获取archInit,最后调用gc的Main及Exit。

main主要是为调用gc中的相关方法提供一个入口。

gc

此处的gc的意思是Go compiler,并不是常见的垃圾收集器。

Main

根据Main的注释可以知道:Main对命令行中flags及go源文件进行解析,对解析的包进行类型检查,然后将functions编译成机器码,最后将编译好的文件写入磁盘。

Main的代码实在太长了,此处仅保留关注处。

parseFiles是最关键的部分,负责文件的解析、语法解析、转换,封装成一个个的Node,然后append至xtop,随后就是对xtop中数据的检查。

// Main parses flags and Go source files specified in the command-line
// arguments, type-checks the parsed Go package, compiles functions to machine
// code, and finally writes the compiled package definition to disk.
func Main(archInit func(*Arch)) {
    
    ...
    // pseudo-package, for scoping
    builtinpkg = types.NewPkg("go.builtin", "") // TODO(gri) name this package go.builtin?
    builtinpkg.Prefix = "go.builtin"            // not go%2ebuiltin

    // pseudo-package, accessed by import "unsafe"
    unsafepkg = types.NewPkg("unsafe", "unsafe")
    ...
    // 头部是一系列flags的说明及解析,这里对应的就是前言中提到的命令提示哦
    // 这里还可以看到花式的flag的使用方式,如指定func,感兴趣的可以了解下
    flag.BoolVar(&compiling_runtime, "+", false, "compiling runtime")
    flag.BoolVar(&compiling_std, "std", false, "compiling standard library")
    ...
    lines := parseFiles(flag.Args())//解析文件,将import、var、const、type、func等相关的声明封装成node,然后append至xtop
    ...

    // Process top-level declarations in phases.

    // Phase 1: const, type, and names and types of funcs.
    //   This will gather all the information about types
    //   and methods but doesn't depend on any of it.
    //
    //   We also defer type alias declarations until phase 2
    //   to avoid cycles like #18640.
    //   TODO(gri) Remove this again once we have a fix for #25838.

    // Don't use range--typecheck can add closures to xtop.
    timings.Start("fe", "typecheck", "top1")
    for i := 0; i < len(xtop); i++ {
    
        n := xtop[i]
        if op := n.Op; op != ODCL && op != OAS && op != OAS2 && (op != ODCLTYPE || !n.Left.Name.Param.Alias) {
    
            xtop[i] = typecheck(n, ctxStmt)
        }
    }

    // Phase 2: Variable assignments.
    //   To check interface assignments, depends on phase 1.

    // Don't use range--typecheck can add closures to xtop.
    timings.Start("fe", "typecheck", "top2")
    for i := 0; i < len(xtop); i++ {
    
        n := xtop[i]
        if op := n.Op; op == ODCL || op == OAS || op == OAS2 || op == ODCLTYPE && n.Left.Name.Param.Alias {
    
            xtop[i] = typecheck(n, ctxStmt)
        }
    }

    // Phase 3: Type check function bodies.
    // Don't use range--typecheck can add closures to xtop.
    timings.Start("fe", "typecheck", "func")
    var fcount int64
    for i := 0; i < len(xtop); i++ {
    
        n := xtop[i]
        if op := n.Op; op == ODCLFUNC || op == OCLOSURE {
    
            Curfn = n
            decldepth = 1
            saveerrors()
            typecheckslice(Curfn.Nbody.Slice(), ctxStmt)
            checkreturn(Curfn)
            if nerrors != 0 {
    
                Curfn.Nbody.Set(nil) // type errors; do not compile
            }
            // Now that we've checked whether n terminates,
            // we can eliminate some obviously dead code.
            deadcode(Curfn)
            fcount++
        }
    }
    // With all types checked, it's now safe to verify map keys. One single
    // check past phase 9 isn't sufficient, as we may exit with other errors
    // before then, thus skipping map key errors.
    checkMapKeys()
    timings.AddEvent(fcount, "funcs")

    if nsavederrors+nerrors != 0 {
    
        errorexit()
    }

    // Phase 4: Decide how to capture closed variables.
    // This needs to run before escape analysis,
    // because variables captured by value do not escape.
    timings.Start("fe", "capturevars")
    for _, n := range xtop {
    
        if n.Op == ODCLFUNC && n.Func.Closure != nil {
    
            Curfn = n
            capturevars(n)
        }
    }
    capturevarscomplete = true

    Curfn = nil

    if nsavederrors+nerrors != 0 {
    
        errorexit()
    }

    // Phase 5: Inlining
    timings.Start("fe", "inlining")
    if Debug_typecheckinl != 0 {
    
        // Typecheck imported function bodies if debug['l'] > 1,
        // otherwise lazily when used or re-exported.
        for _, n := range importlist {
    
            if n.Func.Inl != nil {
    
                saveerrors()
                typecheckinl(n)
            }
        }

        if nsavederrors+nerrors != 0 {
    
            errorexit()
        }
    }

    if Debug['l'] != 0 {
    
        // Find functions that can be inlined and clone them before walk expands them.
        visitBottomUp(xtop, func(list []*Node, recursive bool) {
    
            for _, n := range list {
    
                if !recursive {
    
                    caninl(n)
                } else {
    
                    if Debug['m'] > 1 {
    
                        fmt.Printf("%v: cannot inline %v: recursive\n", n.Line(), n.Func.Nname)
                    }
                }
                inlcalls(n)
            }
        })
    }

    // Phase 6: Escape analysis.
    // Required for moving heap allocations onto stack,
    // which in turn is required by the closure implementation,
    // which stores the addresses of stack variables into the closure.
    // If the closure does not escape, it needs to be on the stack
    // or else the stack copier will not update it.
    // Large values are also moved off stack in escape analysis;
    // because large values may contain pointers, it must happen early.
    timings.Start("fe", "escapes")
    escapes(xtop)

    // Collect information for go:nowritebarrierrec
    // checking. This must happen before transformclosure.
    // We'll do the final check after write barriers are
    // inserted.
    if compiling_runtime {
    
        nowritebarrierrecCheck = newNowritebarrierrecChecker()
    }

    // Phase 7: Transform closure bodies to properly reference captured variables.
    // This needs to happen before walk, because closures must be transformed
    // before walk reaches a call of a closure.
    timings.Start("fe", "xclosures")
    for _, n := range xtop {
    
        if n.Op == ODCLFUNC && n.Func.Closure != nil {
    
            Curfn = n
            transformclosure(n)
        }
    }

    // Prepare for SSA compilation.
    // This must be before peekitabs, because peekitabs
    // can trigger function compilation.
    initssaconfig()

    // Just before compilation, compile itabs found on
    // the right side of OCONVIFACE so that methods
    // can be de-virtualized during compilation.
    Curfn = nil
    peekitabs()

    // Phase 8: Compile top level functions.
    // Don't use range--walk can add functions to xtop.
    timings.Start("be", "compilefuncs")
    fcount = 0
    for i := 0; i < len(xtop); i++ {
    
        n := xtop[i]
        if n.Op == ODCLFUNC {
    
            funccompile(n)
            fcount++
        }
    }
    timings.AddEvent(fcount, "funcs")

    if nsavederrors+nerrors == 0 {
    
        fninit(xtop)
    }

    compileFunctions()

    if nowritebarrierrecCheck != nil {
    
        // Write barriers are now known. Check the
        // call graph.
        nowritebarrierrecCheck.check()
        nowritebarrierrecCheck = nil
    }

    // Finalize DWARF inline routine DIEs, then explicitly turn off
    // DWARF inlining gen so as to avoid problems with generated
    // method wrappers.
    if Ctxt.DwFixups != nil {
    
        Ctxt.DwFixups.Finalize(myimportpath, Debug_gendwarfinl != 0)
        Ctxt.DwFixups = nil
        genDwarfInline = 0
    }

    // Phase 9: Check external declarations.
    timings.Start("be", "externaldcls")
    for i, n := range externdcl {
    
        if n.Op == ONAME {
    
            externdcl[i] = typecheck(externdcl[i], ctxExpr)
        }
    }
    // Check the map keys again, since we typechecked the external
    // declarations.
    checkMapKeys()

    if nerrors+nsavederrors != 0 {
    
        errorexit()
    }

    // Write object data to disk.
    timings.Start("be", "dumpobj")
    dumpdata()
    Ctxt.NumberSyms(false)
    dumpobj()
    if asmhdr != "" {
    
        dumpasmhdr()
    }

    // Check whether any of the functions we have compiled have gigantic stack frames.
    sort.Slice(largeStackFrames, func(i, j int) bool {
    
        return largeStackFrames[i].pos.Before(largeStackFrames[j].pos)
    })
    for _, large := range largeStackFrames {
    
        if large.callee != 0 {
    
            yyerrorl(large.pos, "stack frame too large (>1GB): %d MB locals + %d MB args + %d MB callee", large.locals>>20, large.args>>20, large.callee>>20)
        } else {
    
            yyerrorl(large.pos, "stack frame too large (>1GB): %d MB locals + %d MB args", large.locals>>20, large.args>>20)
        }
    }

    if len(compilequeue) != 0 {
    
        Fatalf("%d uncompiled functions", len(compilequeue))
    }

    logopt.FlushLoggedOpts(Ctxt, myimportpath)

    if nerrors+nsavederrors != 0 {
    
        errorexit()
    }

    flusherrors()
    timings.Stop()

    if benchfile != "" {
    
        if err := writebench(benchfile); err != nil {
    
            log.Fatalf("cannot write benchmark data: %v", err)
        }
    }
}

粗略来看,Main的过程大致分为以下几个部分:

  1. 处理器架构初始化及上下文的关联
  2. 构建伪包,方便对应包中func的使用
  3. flags声明及解析,这是对命令参数解析的核心
  4. 参数检查,确认是否满足编译条件
  5. 解析文件,转换为语法树,构造node,存入xtop(解析的过程是并发的)
  6. 对xtop中数据依次进行处理
  7. 写入编译后的文件至磁盘

对xtop数据的处理过程具体可以分为以下几个阶段。

  1. const、type、var、func的类型检查,此步骤不处理赋值。
  2. 在1的基础上对变量赋值。
  3. 对func body进行类型检查。
    以上3步检查结束后会进行map keys的检查。
  4. 决定如何捕获闭合变量。
  5. 内联检查。
  6. 逃逸分析。
  7. 转换闭包体以正确引用捕获的变量。
    准备SSA编译。
  8. 编译顶级函数。
    func间的调用处理在此处进行。
  9. 检查外部声明。
    再次检查map keys。

以上是编译的大致过程,后续会关注细节处理。

总结

本文主要从源码及其注释的角度对compile的过程有个初步了解,在稍后的文章中我们会关注更具体的处理细节。概括一下,compile的过程:

解析文件->解析语法->类型检查->编译->写入文件

公众号

鄙人刚刚开通了公众号,专注于分享Go开发相关内容,望大家感兴趣的支持一下,在此特别感谢。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/xz_studying/article/details/107741400

智能推荐

什么是内部类?成员内部类、静态内部类、局部内部类和匿名内部类的区别及作用?_成员内部类和局部内部类的区别-程序员宅基地

文章浏览阅读3.4k次,点赞8次,收藏42次。一、什么是内部类?or 内部类的概念内部类是定义在另一个类中的类;下面类TestB是类TestA的内部类。即内部类对象引用了实例化该内部对象的外围类对象。public class TestA{ class TestB {}}二、 为什么需要内部类?or 内部类有什么作用?1、 内部类方法可以访问该类定义所在的作用域中的数据,包括私有数据。2、内部类可以对同一个包中的其他类隐藏起来。3、 当想要定义一个回调函数且不想编写大量代码时,使用匿名内部类比较便捷。三、 内部类的分类成员内部_成员内部类和局部内部类的区别

分布式系统_分布式系统运维工具-程序员宅基地

文章浏览阅读118次。分布式系统要求拆分分布式思想的实质搭配要求分布式系统要求按照某些特定的规则将项目进行拆分。如果将一个项目的所有模板功能都写到一起,当某个模块出现问题时将直接导致整个服务器出现问题。拆分按照业务拆分为不同的服务器,有效的降低系统架构的耦合性在业务拆分的基础上可按照代码层级进行拆分(view、controller、service、pojo)分布式思想的实质分布式思想的实质是为了系统的..._分布式系统运维工具

用Exce分析l数据极简入门_exce l趋势分析数据量-程序员宅基地

文章浏览阅读174次。1.数据源准备2.数据处理step1:数据表处理应用函数:①VLOOKUP函数; ② CONCATENATE函数终表:step2:数据透视表统计分析(1) 透视表汇总不同渠道用户数, 金额(2)透视表汇总不同日期购买用户数,金额(3)透视表汇总不同用户购买订单数,金额step3:讲第二步结果可视化, 比如, 柱形图(1)不同渠道用户数, 金额(2)不同日期..._exce l趋势分析数据量

宁盾堡垒机双因素认证方案_horizon宁盾双因素配置-程序员宅基地

文章浏览阅读3.3k次。堡垒机可以为企业实现服务器、网络设备、数据库、安全设备等的集中管控和安全可靠运行,帮助IT运维人员提高工作效率。通俗来说,就是用来控制哪些人可以登录哪些资产(事先防范和事中控制),以及录像记录登录资产后做了什么事情(事后溯源)。由于堡垒机内部保存着企业所有的设备资产和权限关系,是企业内部信息安全的重要一环。但目前出现的以下问题产生了很大安全隐患:密码设置过于简单,容易被暴力破解;为方便记忆,设置统一的密码,一旦单点被破,极易引发全面危机。在单一的静态密码验证机制下,登录密码是堡垒机安全的唯一_horizon宁盾双因素配置

谷歌浏览器安装(Win、Linux、离线安装)_chrome linux debian离线安装依赖-程序员宅基地

文章浏览阅读7.7k次,点赞4次,收藏16次。Chrome作为一款挺不错的浏览器,其有着诸多的优良特性,并且支持跨平台。其支持(Windows、Linux、Mac OS X、BSD、Android),在绝大多数情况下,其的安装都很简单,但有时会由于网络原因,无法安装,所以在这里总结下Chrome的安装。Windows下的安装:在线安装:离线安装:Linux下的安装:在线安装:离线安装:..._chrome linux debian离线安装依赖

烤仔TVの尚书房 | 逃离北上广?不如押宝越南“北上广”-程序员宅基地

文章浏览阅读153次。中国发达城市榜单每天都在刷新,但无非是北上广轮流坐庄。北京拥有最顶尖的文化资源,上海是“摩登”的国际化大都市,广州是活力四射的千年商都。GDP和发展潜力是衡量城市的数字指...

随便推点

java spark的使用和配置_使用java调用spark注册进去的程序-程序员宅基地

文章浏览阅读3.3k次。前言spark在java使用比较少,多是scala的用法,我这里介绍一下我在项目中使用的代码配置详细算法的使用请点击我主页列表查看版本jar版本说明spark3.0.1scala2.12这个版本注意和spark版本对应,只是为了引jar包springboot版本2.3.2.RELEASEmaven<!-- spark --> <dependency> <gro_使用java调用spark注册进去的程序

汽车零部件开发工具巨头V公司全套bootloader中UDS协议栈源代码,自己完成底层外设驱动开发后,集成即可使用_uds协议栈 源代码-程序员宅基地

文章浏览阅读4.8k次。汽车零部件开发工具巨头V公司全套bootloader中UDS协议栈源代码,自己完成底层外设驱动开发后,集成即可使用,代码精简高效,大厂出品有量产保证。:139800617636213023darcy169_uds协议栈 源代码

AUTOSAR基础篇之OS(下)_autosar 定义了 5 种多核支持类型-程序员宅基地

文章浏览阅读4.6k次,点赞20次,收藏148次。AUTOSAR基础篇之OS(下)前言首先,请问大家几个小小的问题,你清楚:你知道多核OS在什么场景下使用吗?多核系统OS又是如何协同启动或者关闭的呢?AUTOSAR OS存在哪些功能安全等方面的要求呢?多核OS之间的启动关闭与单核相比又存在哪些异同呢?。。。。。。今天,我们来一起探索并回答这些问题。为了便于大家理解,以下是本文的主题大纲:[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-JCXrdI0k-1636287756923)(https://gite_autosar 定义了 5 种多核支持类型

VS报错无法打开自己写的头文件_vs2013打不开自己定义的头文件-程序员宅基地

文章浏览阅读2.2k次,点赞6次,收藏14次。原因:自己写的头文件没有被加入到方案的包含目录中去,无法被检索到,也就无法打开。将自己写的头文件都放入header files。然后在VS界面上,右键方案名,点击属性。将自己头文件夹的目录添加进去。_vs2013打不开自己定义的头文件

【Redis】Redis基础命令集详解_redis命令-程序员宅基地

文章浏览阅读3.3w次,点赞80次,收藏342次。此时,可以将系统中所有用户的 Session 数据全部保存到 Redis 中,用户在提交新的请求后,系统先从Redis 中查找相应的Session 数据,如果存在,则再进行相关操作,否则跳转到登录页面。此时,可以将系统中所有用户的 Session 数据全部保存到 Redis 中,用户在提交新的请求后,系统先从Redis 中查找相应的Session 数据,如果存在,则再进行相关操作,否则跳转到登录页面。当数据量很大时,count 的数量的指定可能会不起作用,Redis 会自动调整每次的遍历数目。_redis命令

URP渲染管线简介-程序员宅基地

文章浏览阅读449次,点赞3次,收藏3次。URP的设计目标是在保持高性能的同时,提供更多的渲染功能和自定义选项。与普通项目相比,会多出Presets文件夹,里面包含着一些设置,包括本色,声音,法线,贴图等设置。全局只有主光源和附加光源,主光源只支持平行光,附加光源数量有限制,主光源和附加光源在一次Pass中可以一起着色。URP:全局只有主光源和附加光源,主光源只支持平行光,附加光源数量有限制,一次Pass可以计算多个光源。可编程渲染管线:渲染策略是可以供程序员定制的,可以定制的有:光照计算和光源,深度测试,摄像机光照烘焙,后期处理策略等等。_urp渲染管线

推荐文章

热门文章

相关标签