扣丁书屋

从构建工具看 Android APK 编译打包流程

前言

在Android Studio中,我们几乎每天都在用run,generate APK等功能。那你有没有想过这其中的原理呢?比如编译打包的流程?AAPT是什么?这其中有哪些task会执行?今天就和大家一起去探索下Android中编译打包的那些事儿。

粗谈构建流程

对于编译打包过程,Android官网上有一张图做了简单介绍: 图画的比较简单,标出了大体流程,可以发现整个构建流程大概分为两部分:编译(Compile),打包(Package)

  • 编译

编译过程就是将 java文件 编译成 class文件,最后优化成 dex文件

  • 打包

打包流程就是将DEX文件和编译后的资源组合成单个APK,并且签名,生成最终的APK。

在这些工作中会有很多工具来辅助完成,比如AAPT,aidl,javac,apk builder 等等。

那在Android Studio中,又是由谁来调度这些工具的呢?Gradle构建工具。

也就是说,在我们点击 generate APK 之后,Gradle就会执行一系列的约定好的 task,每个task有自己的构建工作,按照编译打包的顺序,分别调用具体的工具,最终组织起了整个构建流程。

Gradle Task

在Android Studio中,我们运行一个debug包,Build控制台上就可以看到所有的构建相关task:

Starting Gradle Daemon...
Gradle Daemon started in 902 ms
> Task :app:preBuild UP-TO-DATE
> Task :app:preDebugBuild UP-TO-DATE
> Task :app:compileDebugAidl NO-SOURCE
> Task :app:compileDebugRenderscript NO-SOURCE
> Task :app:generateDebugBuildConfig UP-TO-DATE
> Task :app:checkDebugAarMetadata UP-TO-DATE
> Task :app:generateDebugResValues UP-TO-DATE
> Task :app:generateDebugResources UP-TO-DATE
> Task :app:mergeDebugResources UP-TO-DATE
> Task :app:createDebugCompatibleScreenManifests UP-TO-DATE
> Task :app:extractDeepLinksDebug UP-TO-DATE
> Task :app:processDebugMainManifest
> Task :app:processDebugManifest
> Task :app:javaPreCompileDebug UP-TO-DATE
> Task :app:mergeDebugNativeDebugMetadata NO-SOURCE
> Task :app:mergeDebugShaders UP-TO-DATE
> Task :app:compileDebugShaders NO-SOURCE
> Task :app:generateDebugAssets UP-TO-DATE
> Task :app:mergeDebugAssets UP-TO-DATE
> Task :app:compressDebugAssets UP-TO-DATE
> Task :app:processDebugJavaRes NO-SOURCE
> Task :app:mergeDebugJniLibFolders UP-TO-DATE
> Task :app:mergeDebugNativeLibs UP-TO-DATE
> Task :app:stripDebugDebugSymbols NO-SOURCE
> Task :app:validateSigningDebug UP-TO-DATE
> Task :app:mergeLibDexDebug
> Task :app:processDebugManifestForPackage
> Task :app:processDebugResources
> Task :app:compileDebugKotlin UP-TO-DATE
> Task :app:compileDebugJavaWithJavac UP-TO-DATE
> Task :app:compileDebugSources UP-TO-DATE
> Task :app:mergeDebugJavaResource UP-TO-DATE
> Task :app:dexBuilderDebug
> Task :app:mergeExtDexDebug
> Task :app:mergeProjectDexDebug
> Task :app:packageDebug
> Task :app:assembleDebug

BUILD SUCCESSFUL in 22s
27 actionable tasks: 10 executed, 17 up-to-date

我精简了下,留下了比较重要的task:

//aidl 转换aidl文件为java文件
> Task :app:compileDebugAidl

//生成BuildConfig文件
> Task :app:generateDebugBuildConfig

//获取gradle中配置的资源文件
> Task :app:generateDebugResValues

// merge资源文件
> Task :app:mergeDebugResources

// merge assets文件
> Task :app:mergeDebugAssets
> Task :app:compressDebugAssets

// merge所有的manifest文件
> Task :app:processDebugManifest

//AAPT 生成R文件
> Task :app:processDebugResources

//编译kotlin文件
> Task :app:compileDebugKotlin

//javac 编译java文件
> Task :app:compileDebugJavaWithJavac

//转换class文件为dex文件
> Task :app:dexBuilderDebug

//打包成apk并签名
> Task :app:packageDebug

这里涉及到的代码很多,今天就不详细说了,task主要涉及到的工具和功能我已经标注上了,下面就具体说说编译打包流程

(感兴趣的朋友可以自己看看源码,查看gradle源码的方法我也放到文末的附目录了)

aidl(编译aidl文件)

对于AIDL,大家应该都很熟悉,它是一种用于进程间通信的接口文件。

其实它是Google为了帮助我们进行进程间通信的简便写法,最后还是需要被解析编译为java文件,而做这个工作的就是aidl工具,存在于sdk/build-tools目录。

主要的工作就是将项目中的aidl文件编译为java文件

生成BuildConfig文件,资源文件

在引入Gradle编译工具之后,Apk的打包流程就多了这么一步,生成BuildConfig文件和资源文件

也就是会根据build.gradle里面配置的内容生成相应的java代码或者res代码。简单举个例子:

 //build.gradle
    buildTypes {
        debug{
            buildConfigField("boolean", "ISDEBUG", "true")
            resValue "string", "TestName", "love1"
        }
        release {
            buildConfigField("boolean", "ISDEBUG", "false")
            resValue "string", "TestName", "love2"
        }
    }

    //BuildConfig.java
    public final class BuildConfig {
    // Field from build type: debug
    public static final boolean ISDEBUG = true;
 }

 R.string.TestName

merge 资源文件

这一步就是合并res资源文件,assets文件,manifest文件。

因为在项目中会依赖不同的库、组件,也会有多渠道的需求,所以merge这一步操作就是将不同地方的资源文件进行整合。

多个manifest文件需要整理成一个完整的文件,所以如果有属性冲突这一步就会报错。资源文件也会整理分类到不同的分辨率目录中。

AAPT/AAPT2(打包资源文件)

然后就是打包资源文件,涉及到的工具是AAPT。

AAPT,全称Android Asset Packaging Tool,所以这个构建工具就是用来打包资源文件的。

资源文件包括:图片,res目录下的xml文件,AndroidManifest.xml文件;处理资源文件主要包括两步:

  • 1、编译:将资源文件编译为二进制格式。

把所有的Android资源文件进行解析,生成扩展名为.flat的二进制文件。比如是png图片,那么就会被压缩处理,采用.png.flat的扩展名。

  • 2、链接:合并所有已编译的文件并打包到一个软件包中。

首先,这一步会生成辅助文件,比如R.java(R文件),R文件大家应该都比较熟悉,就是一个资源索引文件,我们平时引用也都是通过R.的方式引用资源id。

最后,会将R文件和之前的二进制文件进行打包,打包到一个APK压缩包(没有dex文件、没有签名)。

再扩展一个问题,关于AAPT2。(之前有朋友面试遇到问这个的,真是问的比较细啊,所以这里就提一嘴) Android Gradle插件 3.0.0 及更高版本默认情况下会启用 AAPT2,而老版本的AAPT已经被弃用,那么AAPT2到底优化改进了什么呢?

  • 1、链接过程优化

在AAPT中是没有链接功能的,会将所有的资源进行编译生成压缩包。这样处理方式有个缺点就是每次编译都要全量编译。

所以在AAPT2中用到链接的功能,当修改了某个资源文件之后,只需要重新编译这个改变的文件,然后与其他资源进行链接即可,支持了增量更新,大大提升了效率。

  • 2、行为变化

对一些行为进行了优化,一些错误的元素以前不会报错,只会警告或者忽略,现在会直接报错,保证程序正确运行。比如

1)、在以前的AAPT版本,Android 清单文件中出现错误的节点元素只会被忽略或警告,而AAPT2开始会对这些节点进行报错,比如:

<activity android:name=".MainActivity">
     <action android:name="android.intent.action.TEST" />
</activity>

AndroidManifest.xml:15: error: unknown element <action> found.

2)、在AAPT2中,无法通过name属性指明资源类型了,需要单独使用type属性:

  <item name="attr/my_attr">@color/pink</item>
    // 修改为
    <item type="attr" name="my_attr">@color/pink</item>

3)、ForegroundLinearLayout(前景色相关)属性限制严格

foregroundInsidePadding属性,不属于android命名空间,所以AAPT2的改进就是对于这个属性使用更加严格了,原来使用android:foregroundInsidePadding的时候会被忽略,现在会报错,需要改为foregroundInsidePadding。

4)、@ 资源引用符号使用严格

对于遗漏或者错误引用@(资源引用符号)时候,AAPT2会报错。

5)、库配置不正确

当某些库创建过程中R文件字段声明为final会导致报错,AAPT2就会对这种情况进行优化。

javac(编译java文件)

接下来就是编译java文件了,用到的工具就是大家熟知的javac,通过它将java文件编译成.class文件。

注解代码也是在这个阶段生成的。当注解的生命周期被设置为CLASS的时候,就代表该注解会在编译class文件的时候生效,并且存在与java源文件和Class字节码文件。

javac的基础命令还是可以了解下:

javac -d destdir(class文件存放目录) srcFile(java文件)

dx/r8/d8 (编译class文件)

这一步就是转换.class文件为dex文件。

有人就奇怪了,.class文件不就是JVM可以识别的二进制文件吗,为什么还要进行一次转化呢?这就涉及到另一个问题:JVM 和 Dalvik(ART)的区别。

其中一个重要的区别就是Dalvik(ART)有自己的二进制文件,也就是.dex文件,所以需要将class文件进行再一次转换。

你可以把dex文件理解为一个class文件包,里面装着很多的class文件,让这些类能够共享数据,类似这种关系:

再谈谈这三个工具(dx/r8/d8)的区别:

  • dx是最早的转换工具,用于转换class文件为dex文件。
  • Android Studio 3.1之后,引入了D8编译器和 R8 工具。

注意这里的措辞:D8 编译器和 R8 工具。

所以D8就是用来代替dx用来进行转换class文件的,它的优势在于:编译更快、更小的dex文件、更好的性能。

R8工具是用来替代ProGuard的,用于代码的压缩和混淆。

编译class文件过程也常用于编译插桩,比如ASM,通过直接操作字节码文件完成代码修改或生成。

apkbuilder/zipflinger(生成APK包)

这一步就是生成APK文件,将manifest文件、resources文件、dex文件、assets文件等等打包成一个压缩包,也就是apk文件。

在老版本使用的工具是apkbuilder,但是在最新的版本我发现没有这个工具了,sdk目录下也找不到了。

所以我想到从打包的task——packageDebug中找找答案,果然,让我找到了新的打包工具——zipflinger

//PackageAndroidArtifact.java (packageDebug相关代码)
for (File arch : archives) {
    mApkCreator.writeZip(arch, pathNameMap::get, name -> !names.contains(name));
}

mApkCreator =new ApkFlinger(mCreationData, compressionLevel, !mIsDebuggableBuild);

/** An implementation of [ApkCreator] using the zipflinger library */
class ApkFlinger

同时在Android Studio的更新日志中也找到了对应的说明:

Android 构建团队不断进行更改以提高生成性能,在此版本中(Android Studio 3.6),我们将默认打包工具更改为 zipflinger 以进行调试生成。

zipalign(对齐处理)

zipalign 是一种归档对齐工具,可对 Android 应用 (APK) 文件提供重要的优化

具体来说,它会使 APK 中的所有未压缩数据(例如图片或原始文件)在 4 字节边界上对齐。

这里涉及到一个Data structurealignment(数据对齐)的知识点,其大概意思就是如果数据是自然对齐的,CPU读写就会更高效。

有的朋友可能会疑惑,这个对齐处理不是应该放在签名之后吗?其实这里就涉及到了签名工具的不同带来的对齐处理的顺序不同:

  • 如果使用的是 apksigner,只能在为 APK 文件签名之前执行 zipalign。
  • 如果使用的是 jarsigner,只能在为 APK 文件签名之后执行 zipalign。

下面具体聊聊两种签名工具。

jarsigner/apksigner(签名)

在生成APK文件之后,必须对该apk文件进行签名,否则无法被安装。

之前大家比较熟知的签名工具是JDK提供的jarsigner,而apksigner是Google专门为Android提供的签名和签证工具。

其区别就在于jarsigner只能进行v1签名,而apksigner可以进行v2、v3、v4签名。

什么?还有v4?我开始看到的时候也是大吃一惊,没想到都有v4签名了,那就顺带介绍下这几个签名机制吧:

  • v1签名

v1签名方式主要是利用META-INFO文件夹中的三个文件。

首先,将apk中除了META-INFO文件夹中的所有文件进行进行摘要写到 META-INFO/MANIFEST.MF;然后计算MANIFEST.MF文件的摘要写到CERT.SF;最后计算CERT.SF的摘要,使用私钥计算签名,将签名和开发者证书写到CERT.RSA。

所以META-INFO文件夹中这三个文件就能保证apk不会被修改。

但是缺点也很明显,META-INFO文件夹不会被签名,所以美团针对这种签名方式设计了一种多渠道打包方案:

利用pythone在META-INFO文件夹中创建一个文件,其名称就是渠道名,然后用java去读取文件名获取渠道。

  • v2签名

Android7.0之后,推出了v2签名,为了解决v1签名速度慢以及签名不完整的问题。

apk本质上是一个压缩包,而压缩包文件格式一般分为三块:文件数据区,中央目录结果,中央目录结束节。

而v2要做的就是,在文件中插入一个APK签名分块,位于中央目录部分之前,如下图:

这样处理之后,文件就完成无法修改了。

  • v3签名

Android 9 推出了v3签名方案,和v2签名方式基本相同,不同的是在v3签名分块中添加了有关受支持的sdk版本和新旧签名信息,可以用作签名替换升级。

  • v4签名

Android 11 推出了v4签名方案。

v4 签名基于根据 APK 的所有字节计算得出的 Merkle 哈希树。它完全遵循 fs-verity 哈希树的结构,将签名存储在单独的.apk.idsig 文件中。

小结图

附1、查看 Gradle 源码

这里提供一种Gradle源码的查看方式,就是导入Gradle库,然后在External Libraries中查看:

implementation 'com.android.tools.build:gradle:4.1.1'

先以依赖的方式导入gradle库,然后编译,就能在左侧External Libraries栏中看到源码了:

参考

https://developer.android.google.cn/studio/build/index.html https://cloud.tencent.com/developer/article/1392511 https://www.jianshu.com/p/e73510605c56 https://blog.csdn.net/qq_43278826/article/details/86543932


https://mp.weixin.qq.com/s/cJ3qnlz40SbkSCC-jq_rlg

最多阅读

简化Android的UI开发 1年以前  |  514398次阅读
Android 深色模式适配原理分析 1年以前  |  25227次阅读
Android 样式系统 | 主题背景覆盖 11月以前  |  7118次阅读
Android Studio 生成so文件 及调用 1年以前  |  4082次阅读
30分钟搭建一个android的私有Maven仓库 2年以前  |  3875次阅读
Android设计与开发工作流 1年以前  |  3741次阅读
Google Enjarify:可代替dex2jar的dex反编译 2年以前  |  3612次阅读
Android多渠道打包工具:apptools 2年以前  |  3256次阅读
Google Java编程风格规范(中文版) 2年以前  |  3151次阅读
Android-模块化-面向接口编程 1年以前  |  3103次阅读
Android UI基本技术点 2年以前  |  3092次阅读
Android死锁初探 1年以前  |  3075次阅读
Android内存异常机制(用户空间)_NE 1年以前  |  2970次阅读
移动端常见崩溃指标 1年以前  |  2900次阅读

手机扫码阅读