Android源代码仓库及其管理工具Repo分析

发表于 5年以前  | 总阅读数:3732 次

软件工程由于需要不断迭代开发,因此要对源代码进行版本管理。Android源代码工程(AOSP)也不例外,它采用Git来进行版本管理。AOSP作为一个大型开放源代码工程,由许许多多子项目组成,因此不能简单地用Git进行管理,它在Git的基础上建立了一套自己的代码仓库,并且使用工具Repo进行管理。工欲善其事,必先利其器。本文就对AOSP代码仓库及其管理工具repo进行分析,以便提高我们日常开发效率。

《Android系统源代码情景分析》一书正在进击的程序员网(http://0xcc0xcd.com)中连载,点击进入!

现代的代码版本管理工具,SVN和Git是最流行的。SVN是一种集中式的代码管理工具,需要有一个中心服务器,而Git是一种分布式的代码管理工具。不需要一个中心服务器。不需要中心服务器意味着在没有网络的情况下,Git也能进行版本管理。因此,单从这一点出发,Git就比SVN要方便很多。当然,Git和SVN相比,还有许多不同的理念设计,但是总的来说,Git越来越受到大家的青睐,尤其是在开源社区。君不见,Linux是采用Git进行版本管理,而越来越火的GitHub,提供也是Git代码管理服务。本文不打算分析Git与SVN的区别,以及Git的使用方法,不过强烈建议大家先去了解Git,然后再看下面的内容。这里推荐一本Git书籍《Pro Git》,它是GitHub的员工Scott Chacon撰写的,对Git的使用及其原理都介绍得非常详细和清晰。

前面提到,AOSP是由许许多项目组成的,例如,在Android 4.2中,就包含了329个项目,每一个项目都是一个独立的Git仓库。这意味着,如果我们要创建一个AOSP分支来做feature开发,那么就需要到每一个子项目去创建对应的分支。这显然不能手动地到每一个子项目里面去创建分支,必须要采用一种自动化的方式来处理。这些自动化处理工作就是由Repo工具来完成的。当然,Repo工具所负责的自动化工作不只是创建分支那么简单,查看分支状态、提交代码、更新代码等基础Git操作它都可以完成。

Repo工具实际上是由一系列的Python脚本组成的,这些Python脚本通过调用Git命令来完成自己的功能。比较有意思的是,组成Repo工具的那些Python脚本本身也是一个Git仓库。这个Git仓库在AOSP里面就称为Repo仓库。我们每次执行Repo命令的时候,Repo仓库都会对自己进行一次更新。

上面我们讨论的是Repo仓库,但是实际上我们执行Repo命令想操作的是AOSP。这就要求Repo命令要知道AOSP都包含有哪些子项目,并且要知道这些子项目的名称、仓库地址是什么。换句话说,就是Repo命令要知道AOSP所有子项目的Git仓库元信息。我们知道,AOSP也是不断地迭代法变化的,例如,它的每一个版本所包含的子项目可能都是不一样的。这意味着需要通过另外一个Git仓库来管理AOSP所有的子项目的Git仓库元信息。这个Git仓库在AOSP里面就称为Manifest仓库。

到目前为止,我们提到了三种类型的Git仓库,分别是Repo仓库、Manifest仓库和AOSP子项目仓库。Repo仓库通过Manifest仓库可以获得所有AOSP子项目仓库的元信息。有了这些元信息之后,我们就可以通过Repo仓库里面的Python脚本来操作AOSP的子项目。那么,Repo仓库和Manifest仓库又是怎么来的呢?答案是通过一个独立的Repo脚本来获取,这个Repo脚本位于AOSP的一个官方网站上,我们可以通过HTTP协议来下载。

现在,我们就通过一个图来来勾勒一下整个AOSP的Picture,它由Repo脚本、Repo仓库、Manifest仓库和AOSP子项目仓库组成,如图1所示:

图1 Repo脚本、Repo仓库、Manifest仓库和AOSP子项目仓库

接下来我们就看看上述脚本和仓库是怎么来的。

1. Repo脚本

官方网站可以知道,Repo脚本可以通过以下命令来获取:

$ curl http://commondatastorage.googleapis.com/git-repo-downloads/repo > ~/bin/repo
    $ chmod a+x ~/bin/repo

也就是可以通过curl工具从http://commondatastorage.googleapis.com/git-repo-downloads/repo获得,并且保存在文件~/bin/repo中。由于~/bin/repo是一个python脚本,我们通过chmod命令赋予它可执行的权限,以便接下来我们可以通过repo命令来运行它。

2. Repo仓库

我们下载好Repo脚本之后,要选通过以下命令来安装一个Repo仓库:

$ repo init -u https://android.googlesource.com/platform/manifest

这个命令实际上是包含了两个操作:安装Repo仓库和Manifest仓库。其中,Manifest仓库的地址由-u后来带的参数给出。这一小节我们先分析Repo仓库的安装过程,在接下来的第3小节中,再分析Manifest仓库的安装过程。

我们看看Repo脚本是如何执行repo init命令的:

def main(orig_args):
      repo_main, rel_repo_dir = _FindRepo()
      cmd, opt, args = _ParseArguments(orig_args)

      wrapper_path = os.path.abspath(__file__)
      my_main, my_git = _RunSelf(wrapper_path)

      if not repo_main:
        if opt.help:
          _Usage()
        if cmd == 'help':
          _Help(args)
        if not cmd:
          _NotInstalled()
        if cmd == 'init':
          if my_git:
            _SetDefaultsTo(my_git)
          try:
            _Init(args)
          except CloneFailure:
            ......
            sys.exit(1)
          repo_main, rel_repo_dir = _FindRepo()
        else:
          _NoCommands(cmd)

      if my_main:
        repo_main = my_main

      ver_str = '.'.join(map(str, VERSION))
      me = [repo_main,
            '--repo-dir=%s' % rel_repo_dir,
            '--wrapper-version=%s' % ver_str,
            '--wrapper-path=%s' % wrapper_path,
            '--']
      me.extend(orig_args)
      me.extend(extra_args)
      try:
        os.execv(repo_main, me)
      except OSError as e:
        ......
        sys.exit(148)

    if __name__ == '__main__':
      main(sys.argv[1:])

_FindRepo在从当前目录开始往上遍历直到根据目录。如果中间某一个目录下面存在一个.repo/repo目录,并且该.repo/repo存在一个main.py文件,那么就会认为当前是AOSP中执行Repo脚本,这时候它就会返回文件main.py的绝对路径和当前查找目录下的.repo子目录的绝对路径给调用者。在上述情况下,实际上是说明Repo仓库已经安装过了。

_FindRepo的实现如下所示:

repodir = '.repo'               # name of repo's private directory
    S_repo = 'repo'                 # special repo repository
    REPO_MAIN = S_repo + '/main.py' # main script

    def _FindRepo():
      """Look for a repo installation, starting at the current directory.
      """
      curdir = os.getcwd()
      repo = None

      olddir = None
      while curdir != '/' \
        and curdir != olddir \
        and not repo:
        repo = os.path.join(curdir, repodir, REPO_MAIN)
        if not os.path.isfile(repo):
          repo = None
          olddir = curdir
          curdir = os.path.dirname(curdir)
      return (repo, os.path.join(curdir, repodir))

_ParseArguments无非是对Repo的参数进行解析,得到要执行的命令及其对应的参数。例如,当我们调用"repo init -u https://android.googlesource.com/platform/manifest"的时候,就表示要执行的命令是init,这个命令后面跟的参数是"-u https://android.googlesource.com/platform/manifest"。同时,如果我们调用"repo sync",就表示要执行的命令是sync,这个命令没有参数。

_RunSelf检查Repo脚本所在目录是否存在一个Repo仓库,如果存在的话,就从该仓库克隆一个新的仓库到执行Repo脚本的目录来。实际上就是从本地克隆一个新的Repo仓库。如果不存在的话,那么就需要从远程地址克隆一个Repo仓库到本地来。这个远程地址是Hard Code在Repo脚本里面。

_RunSelf的实现如下所示:

def _RunSelf(wrapper_path):
      my_dir = os.path.dirname(wrapper_path)
      my_main = os.path.join(my_dir, 'main.py')
      my_git = os.path.join(my_dir, '.git')

      if os.path.isfile(my_main) and os.path.isdir(my_git):
        for name in ['git_config.py',
                     'project.py',
                     'subcmds']:
          if not os.path.exists(os.path.join(my_dir, name)):
            return None, None
        return my_main, my_git
      return None, None

从这里我们就可以看出,如果Repo脚本所在的目录存在一个Repo仓库,那么要满足以下条件:

(1). 存在一个.git目录;

(2). 存在一个main.py文件;

(3). 存在一个git_config.py文件;

(4). 存在一个project.py文件;

(5). 存在一个subcmds目录。

上述目录和文件实际上都是一个标准的Repo仓库所具有的。

我们再回到main函数中。如果调用_FindRepo得到的repo_main的值等于空,那么就说明当前目录还没有安装Repo仓库,这时候Repo后面所跟的参数只能是help或者init,否则的话,就会显示错误信息。如果Repo后面跟的参数是help,就打印出Repo脚本的帮助文档。

我们关注Repo后面跟的参数是init的情况。这时候看一下调用_RunSelf的返回值my_git是否不等于空。如果不等于空的话,那么就说明Repo脚本所在目录存一个Repo仓库,这时候就调用_SetDefaultsTo设置等一会要克隆的Repo仓库源。

_SetDefaultsTo的实现如下所示:

GIT = 'git'

    REPO_URL = 'https://gerrit.googlesource.com/git-repo'
    REPO_REV = 'stable'

    def _SetDefaultsTo(gitdir):
      global REPO_URL
      global REPO_REV

      REPO_URL = gitdir
      proc = subprocess.Popen([GIT,
                               '--git-dir=%s' % gitdir,
                               'symbolic-ref',
                               'HEAD'],
                              stdout = subprocess.PIPE,
                              stderr = subprocess.PIPE)
      REPO_REV = proc.stdout.read().strip()
      proc.stdout.close()

      proc.stderr.read()
      proc.stderr.close()

      if proc.wait() != 0:
        _print('fatal: %s has no current branch' % gitdir, file=sys.stderr)
        sys.exit(1)

如果Repo脚本所在目录不存在一个Repo仓库,那么默认就将https://gerrit.googlesource.com/git-repo设置为一会要克隆的Repo仓库源,并且要克隆的分支是stable。否则的话,就以该Repo仓库作为克隆源,并且以该Repo仓库的当前分支作为要克隆的分支。

从前面的分析就可以知道,当我们执行"repo init"命令的时候:

(1). 如果我们只是从网上下载了一个Repo脚本,那么在执行Repo命令的时候,就会从远程克隆一个Repo仓库到当前执行Repo脚本的目录来。

(2). 如果我们从网上下载的是一个带有Repo仓库的Repo脚本,那么在执行Repo命令的时候,就可以从本地克隆一个Repo仓库到当前执行Repo脚本的目录来。

我们再继续看main函数的实现,它接下来调用_Init在当前执行Repo脚本的目录下安装一个Repo仓库:

def _Init(args):
      """Installs repo by cloning it over the network.
      """
      opt, args = init_optparse.parse_args(args)
      ......

      url = opt.repo_url
      if not url:
        url = REPO_URL
        extra_args.append('--repo-url=%s' % url)

      branch = opt.repo_branch
      if not branch:
        branch = REPO_REV
        extra_args.append('--repo-branch=%s' % branch)

      ......

      if not os.path.isdir(repodir):
        try:
          os.mkdir(repodir)
        except OSError as e:
          ......
          sys.exit(1)

      _CheckGitVersion()
      try:
        if NeedSetupGnuPG():
          can_verify = SetupGnuPG(opt.quiet)
        else:
          can_verify = True

        dst = os.path.abspath(os.path.join(repodir, S_repo))
        _Clone(url, dst, opt.quiet)

        if can_verify and not opt.no_repo_verify:
          rev = _Verify(dst, branch, opt.quiet)
        else:
          rev = 'refs/remotes/origin/%s^0' % branch

        _Checkout(dst, branch, rev, opt.quiet)
      except CloneFailure:
        ......

如果我们在执行Repo脚本的时候,没有通过--repo-url和--repo-branch来指定Repo仓库的源地址和分支,那么就使用由REPO_URL和REPO_REV所指定的源地址和分支。从前面的分析可以知道,REPO_URL和REPO_REV要么指向远程地址https://gerrit.googlesource.com/git-repo和分支stable,要么指向Repo脚本所在目录的Repo仓库和该仓库的当前分支。

_Init函数继续检查当前执行Repo脚本的目录是否存在一个.repo目录。如果不存在的话,那么就新创建一个。接着是否需要验证等一会克隆回来的Repo仓库的GPG。如果需要验证的话,那么就会在调用_Clone函数来克隆好Repo仓库之后,调用_Verify函数来验证该Repo仓库的GPG。

最关键的地方就在于函数_Clone函数和_Checkout函数的调用,前者用来从url指定的地方克隆一个仓库到dst指定的地方来,实际上就是克隆到当前目录下的./repo/repo目录来,后者在克隆回来的仓库中将branch分支checkout出来。

函数_Clone的实现如下所示:

def _Clone(url, local, quiet):
      """Clones a git repository to a new subdirectory of repodir
      """
      try:
        os.mkdir(local)
      except OSError as e:
        _print('fatal: cannot make %s directory: %s' % (local, e.strerror),
               file=sys.stderr)
        raise CloneFailure()

      cmd = [GIT, 'init', '--quiet']
      try:
        proc = subprocess.Popen(cmd, cwd = local)
      except OSError as e:
        ......

      ......

      _InitHttp()
      _SetConfig(local, 'remote.origin.url', url)
      _SetConfig(local, 'remote.origin.fetch',
                        '+refs/heads/*:refs/remotes/origin/*')
      if _DownloadBundle(url, local, quiet):
        _ImportBundle(local)
      else:
        _Fetch(url, local, 'origin', quiet)

这个函数首先是调用"git init"在当前目录下的.repo/repo子目录初始化一个Git仓库,接着再调用_SetConfig函来设置该Git仓库的url信息等。再接着调用_DownloadBundle来检查指定的url是否存在一个clone.bundle文件。如果存在这个clone.bundle文件的话,就以它作为Repo仓库的克隆源。

函数_DownloadBundle的实现如下所示:

def _DownloadBundle(url, local, quiet):
      if not url.endswith('/'):
        url += '/'
      url += 'clone.bundle'

      ......

      if not url.startswith('http:') and not url.startswith('https:'):
        return False

      dest = open(os.path.join(local, '.git', 'clone.bundle'), 'w+b')
      try:
        try:
          r = urllib.request.urlopen(url)
        except urllib.error.HTTPError as e:
          if e.code in [403, 404]:
            return False
          ......
          raise CloneFailure()
        except urllib.error.URLError as e:
          ......
          raise CloneFailure()
        try:
          if not quiet:
            _print('Get %s' % url, file=sys.stderr)
          while True:
            buf = r.read(8192)
            if buf == '':
              return True
            dest.write(buf)
        finally:
          r.close()
      finally:
        dest.close()

Bundle文件是Git提供的一种机制,用来解决不能正常通过git、ssh和http等网络协议从远程地址克隆Git仓库的问题。简单来说,就是我们可以用"git bundle"命令来在一个Git仓库创建一个Bundle文件,这个Bundle文件就会包含Git仓库的提交历史。把这个Bundle文件通过其它方式拷贝到另一台机器上,就可以将它作为一个本地Git仓库来使用,而不用去访问远程网络。

回到函数_Clone中,如果存在对应的clone.bundle文件,并且能成功下载到该clone.bundle,接下来就调用函数_ImportBundle将它作为源仓库克隆为新的Repo仓库。函数_ImportBundle的实现如下所示:

def _ImportBundle(local):
      path = os.path.join(local, '.git', 'clone.bundle')
      try:
        _Fetch(local, local, path, True)
      finally:
        os.remove(path)

结合_Clone函数和_ImportBundle函数就可以看出,从clone.bundle文件克隆Repo仓库和从远程url克隆Repo仓库都是通过函数_Fetch来实现的。区别就在于调用函数_Fetch时指定的第三个参数,前者是已经下载到本地的一个clone.bundle文件路径,后者是origin(表示远程仓库名称)。

函数_Fetch的实现如下所示:

def _Fetch(url, local, src, quiet):
      if not quiet:
        _print('Get %s' % url, file=sys.stderr)

      cmd = [GIT, 'fetch']
      if quiet:
        cmd.append('--quiet')
        err = subprocess.PIPE
      else:
        err = None
      cmd.append(src)
      cmd.append('+refs/heads/*:refs/remotes/origin/*')
      cmd.append('refs/tags/*:refs/tags/*')

      proc = subprocess.Popen(cmd, cwd = local, stderr = err)
      if err:
        proc.stderr.read()
        proc.stderr.close()
      if proc.wait() != 0:
        raise CloneFailure()

函数_Fetch实际上就是通过"git fetch"从指定的仓库源克隆一个新的Repo仓库到当前目录下的.repo/repo子目录来。

注意,以上只是克隆好了一个Repo仓库,接下来还需要从这个Repo仓库checkout出一个分支来,才能正常工作。从Repo仓库checkout出一个分支是通过调用函数_Checkout来实现的:

def _Checkout(cwd, branch, rev, quiet):
      """Checkout an upstream branch into the repository and track it.
      """
      cmd = [GIT, 'update-ref', 'refs/heads/default', rev]
      if subprocess.Popen(cmd, cwd = cwd).wait() != 0:
        raise CloneFailure()

      _SetConfig(cwd, 'branch.default.remote', 'origin')
      _SetConfig(cwd, 'branch.default.merge', 'refs/heads/%s' % branch)

      cmd = [GIT, 'symbolic-ref', 'HEAD', 'refs/heads/default']
      if subprocess.Popen(cmd, cwd = cwd).wait() != 0:
        raise CloneFailure()

      cmd = [GIT, 'read-tree', '--reset', '-u']
      if not quiet:
        cmd.append('-v')
      cmd.append('HEAD')
      if subprocess.Popen(cmd, cwd = cwd).wait() != 0:
        raise CloneFailure()

要checkout出来的分支由参数branch指定。从前面的分析可以知道,如果当前执行的Repo脚本所在目录存在一个Repo仓库,那么参数branch描述的就是该仓库当前checkout出来的分支。否则的话,参数branch描述的就是从远程仓库克隆回来的"stable"分支。

需要注意的是,这里从仓库checkout出分支不是使用"git checkout"命令来实现的,而是通过更底层的Git命令"git update-ref"来实现的。实际上,"git checkout"命令也是通过"git update-ref"命令来实现的,只不过它进行了更高层的封装,更方便使用。如果我们去分析组成Repo仓库的那些Python脚本命令,就会发现它们基本上都是通过底层的Git命令来完成Git功能的。

3. Manifest仓库

我们接着再分析下面这个命令的执行:

repo init -u https://android.googlesource.com/platform/manifest

如前所述,这个命令安装好Repo仓库之后,就会调用该Repo仓库下面的main.py脚本,对应的文件为.repo/repo/main.py,它的入口函数的实现如下所示:

def _Main(argv):
      result = 0

      opt = optparse.OptionParser(usage="repo wrapperinfo -- ...")
      opt.add_option("--repo-dir", dest="repodir",
                     help="path to .repo/")
      ......

      repo = _Repo(opt.repodir)
      try:
        try:
          init_ssh()
          init_http()
          result = repo._Run(argv) or 0
        finally:
          close_ssh()
      except KeyboardInterrupt:
        ......
        result = 1
      except ManifestParseError as mpe:
        ......
        result = 1
      except RepoChangedException as rce:
        # If repo changed, re-exec ourselves.
        #
        argv = list(sys.argv)
        argv.extend(rce.extra_args)
        try:
          os.execv(__file__, argv)
        except OSError as e:
          ......
          result = 128

      sys.exit(result)

    if __name__ == '__main__':
      _Main(sys.argv[1:])

从前面的分析可以知道,通过参数--repo-dir传进来的是AOSP根目录下的.repo目录,这是一个隐藏目录,里面保存的是Repo仓库、Manifest仓库,以及各个AOSP子项目仓库。函数_Main首先是调用init_ssh和init_http来初始化网络环境,接着再调用前面创建的一个_Repo对象的成员函数_Run来解析要执行的命令,并且执行这个命令。

_Repo类的成员函数_Run的实现如下所示:

from subcmds import all_commands

    class _Repo(object):
      def __init__(self, repodir):
        self.repodir = repodir
        self.commands = all_commands
        # add 'branch' as an alias for 'branches'
        all_commands['branch'] = all_commands['branches']

      def _Run(self, argv):
        result = 0
        name = None
        glob = []

        for i in range(len(argv)):
          if not argv[i].startswith('-'):
            name = argv[i]
            if i > 0:
              glob = argv[:i]
            argv = argv[i + 1:]
            break
        if not name:
          glob = argv
          name = 'help'
          argv = []
        gopts, _gargs = global_options.parse_args(glob)

        ......

        try:
          cmd = self.commands[name]
        except KeyError:
          ......
          return 1

        cmd.repodir = self.repodir
        cmd.manifest = XmlManifest(cmd.repodir)

        ......

        try:
          result = cmd.Execute(copts, cargs)
        except DownloadError as e:
          ......
          result = 1
        except ManifestInvalidRevisionError as e:
          ......
          result = 1
        except NoManifestException as e:
          ......
          result = 1
        except NoSuchProjectError as e:
          ......
          result = 1
        finally:
          ......

        return result

Repo脚本能执行的命令都放在目录.repo/repo/subcmds中,该目录每一个python文件都对应一个Repo命令。例如,"repo init"表示要执行命令脚本是.repo/repo/subcmds/init.py。

_Repo类的成员函数_Run首先是在repo后面所带的参数中,不是以横线"-"开始的第一个选项,该选项就代表要执行的命令,该命令的名称就保存在变量name中。接着根据变量name的值在_Repo类的成员变量commands中找到对应的命令模块cmd,并且指定该命令模块cmd的成员变量repodir和manifest的值。命令模块cmd的成员变量repodir描述的就是AOSP的.repo目录,成员变量manifest指向的是一个XmlManifest对象,它描述的是AOSP的Repo仓库和Manifest仓库。

我们看看XmlManifest类的构造函数,它定义在文件.repo/repo/xml_manifest.py文件中:

class XmlManifest(object):
      """manages the repo configuration file"""

      def __init__(self, repodir):
        self.repodir = os.path.abspath(repodir)
        self.topdir = os.path.dirname(self.repodir)
        self.manifestFile = os.path.join(self.repodir, MANIFEST_FILE_NAME)
        ......

        self.repoProject = MetaProject(self, 'repo',
          gitdir   = os.path.join(repodir, 'repo/.git'),
          worktree = os.path.join(repodir, 'repo'))

        self.manifestProject = MetaProject(self, 'manifests',
          gitdir   = os.path.join(repodir, 'manifests.git'),
          worktree = os.path.join(repodir, 'manifests'))

        ......

XmlManifest作了描述了AOSP的Repo目录(repodir)、AOSP 根目录(topdir)和Manifest.xml文件(manifestFile)之外,还使用两个MetaProject对象描述了AOSP的Repo仓库(repoProject)和Manifest仓库(manifestProject)。

在AOSP中,每一个子项目(或者说仓库)都用一个Project对象来描述。Project类定义在文件.repo/repo/project.py文件中,用来封装对各个项目的基础Git操作,例如,对项目进行暂存、提交和更新等。它的构造函数如下所示:

class Project(object):
      def __init__(self,
                   manifest,
                   name,
                   remote,
                   gitdir,
                   worktree,
                   relpath,
                   revisionExpr,
                   revisionId,
                   rebase = True,
                   groups = None,
                   sync_c = False,
                   sync_s = False,
                   clone_depth = None,
                   upstream = None,
                   parent = None,
                   is_derived = False,
                   dest_branch = None):
        """Init a Project object.
        Args:
          manifest: The XmlManifest object.
          name: The `name` attribute of manifest.xml's project element.
          remote: RemoteSpec object specifying its remote's properties.
          gitdir: Absolute path of git directory.
          worktree: Absolute path of git working tree.
          relpath: Relative path of git working tree to repo's top directory.
          revisionExpr: The `revision` attribute of manifest.xml's project element.
          revisionId: git commit id for checking out.
          rebase: The `rebase` attribute of manifest.xml's project element.
          groups: The `groups` attribute of manifest.xml's project element.
          sync_c: The `sync-c` attribute of manifest.xml's project element.
          sync_s: The `sync-s` attribute of manifest.xml's project element.
          upstream: The `upstream` attribute of manifest.xml's project element.
          parent: The parent Project object.
          is_derived: False if the project was explicitly defined in the manifest;
                      True if the project is a discovered submodule.
          dest_branch: The branch to which to push changes for review by default.
        """
        self.manifest = manifest
        self.name = name
        self.remote = remote
        self.gitdir = gitdir.replace('\\', '/')
        if worktree:
          self.worktree = worktree.replace('\\', '/')
        else:
          self.worktree = None
        self.relpath = relpath
        self.revisionExpr = revisionExpr

        if   revisionId is None \
         and revisionExpr \
         and IsId(revisionExpr):
          self.revisionId = revisionExpr
        else:
          self.revisionId = revisionId

        self.rebase = rebase
        self.groups = groups
        self.sync_c = sync_c
        self.sync_s = sync_s
        self.clone_depth = clone_depth
        self.upstream = upstream
        self.parent = parent
        self.is_derived = is_derived
        self.subprojects = []

        self.snapshots = {}
        self.copyfiles = []
        self.annotations = []
        self.config = GitConfig.ForRepository(
                        gitdir = self.gitdir,
                        defaults =  self.manifest.globalConfig)

        if self.worktree:
          self.work_git = self._GitGetByExec(self, bare=False)
        else:
          self.work_git = None
        self.bare_git = self._GitGetByExec(self, bare=True)
        self.bare_ref = GitRefs(gitdir)
        self.dest_branch = dest_branch

        # This will be filled in if a project is later identified to be the
        # project containing repo hooks.
        self.enabled_repo_hooks = []

Project类构造函数的各个参数的含义见注释,这里为了方便描述,用中文描述一下:

manifest:指向一个XmlManifest对象,描述AOSP的Repo仓库和Manifest仓库元信息

name:项目名称

remote:描述项目对应的远程仓库元信息

gitdir:项目的Git仓库目录

worktree:项目的工作目录

relpath:项目的相对于AOSP根目录的工作目录

revisionExpr、revisionId、rebase、groups、sync_c、sync_s和upstream:每一个项目在.repo/repo/manifest.xml文件中都有对应的描述,这几个属性的值就来自于该manifest.xml文件对自己的描述的,它们的含义可以参考.repo/repo/docs/manifest-format.txt文件

parent:父项目

is_derived:如果一个项目含有子模块(也是一个Git仓库),那么这些子模块也会用一个Project对象来描述,这些Project的is_derived属性会设置为true

dest_branch:用来code review的分支

这里重点说一下项目的Git仓库目录和工作目录的概念。一般来说,一个项目的Git仓库目录(默认为.git目录)是位于工作目录下面的,但是Git支持将一个项目的Git仓库目录和工作目录分开来存放。在AOSP中,Repo仓库的Git目录(.git)位于工作目录(.repo/repo)下,Manifest仓库的Git目录有两份拷贝,一份(.git)位于工作目录(.repo/manifests)下,另外一份位于.repo/manifests.git目录,其余的AOSP子项目的工作目录和Git目录都是分开存放的,其中,工作目录位于AOSP根目录下,Git目录位于.repo/repo/projects目录下。

此外,每一个AOSP子项目的工作目录也有一个.git目录,不过这个.git目录是一个符号链接,链接到.repo/repo/projects对应的Git目录。这样,我们就既可以在AOSP子项目的工作目录下执行Git命令,也可以在其对应的Git目录下执行Git命令。一般来说,要访问到工作目录的命令(例如git status)需要在工作目录下执行,而不需要访问工作目录(例如git log)可以在Git目录下执行。

Project类有两个成员变量work_git和bare_git,它们指向的都是一个_GitGetByExec对象。用来封装对Git命令的执行。其中,前者在执行Git命令的时候,会将当前目录设置为项目的工作目录,而后者在执行的时候,不会设置当前目录,但是会将环境变量GIT_DIR的值设置为项目的Git目录,也就是.repo/projects目录下面的那些目录。通过这种方式,Project类就可以根据需要来在工作目录或者Git目录下执行Git命令。

回到XmlManifest类的构造函数中,由于Repo和Manifest也是属于Git仓库,所以我们也需要创建一个Project对象来描述它们。不过,由于它们是比较特殊的Git仓库(用来描述AOSP子项目元信息的Git仓库),所以我们就使用另外一个类型为MetaProject的对象来描述它们。MetaProject类是从Project类继承下来的,定义在project.py文件中,如下所示:

class MetaProject(Project):
      """A special project housed under .repo.
      """
      def __init__(self, manifest, name, gitdir, worktree):
        Project.__init__(self,
                         manifest = manifest,
                         name = name,
                         gitdir = gitdir,
                         worktree = worktree,
                         remote = RemoteSpec('origin'),
                         relpath = '.repo/%s' % name,
                         revisionExpr = 'refs/heads/master',
                         revisionId = None,
                         groups = None)

既然MetaProject类是从Project类继承下来的,那么它们的Git操作几乎都可以通过Project类来完成的。实际上,MetaProject类和Project类目前的区别不是太大,可以认为是基本相同的。使用MetaProject类来描述Repo仓库和Manifest仓库,主要是为了强调它们是用来描述AOSP子项目仓库的元信息的。

回到_Repo类的成员函数_Run中,创建好用来描述Repo仓库和Manifest仓库的XmlManifest对象之后,就开始执行跟在repo脚本后面的不带横线"-"的选项所表示的命令。在我们这个场景中,这个命令就是init,它对应的Python模块为.repo/repo/subcmds/init.py,入口函数为定义在该模块的Init类的成员函数Execute,它的实现如下所示:

class Init(InteractiveCommand, MirrorSafeCommand):
        ......

      def Execute(self, opt, args):
        ......

        self._SyncManifest(opt)
        self._LinkManifest(opt.manifest_name)

        ......

Init类的成员函数Execute主要就是调用另外两个成员函数_SyncManifest和_LinkManifest来完成克隆Manifest仓库的工作。

Init类的成员函数_SyncManifest的实现如下所示:

class Init(InteractiveCommand, MirrorSafeCommand):
      ......

      def _SyncManifest(self, opt):
        m = self.manifest.manifestProject
        is_new = not m.Exists

        if is_new:
            ......

          m._InitGitDir(mirror_git=mirrored_manifest_git)

          if opt.manifest_branch:
            m.revisionExpr = opt.manifest_branch
          else:
            m.revisionExpr = 'refs/heads/master
        else:
          if opt.manifest_branch:
            m.revisionExpr = opt.manifest_branch
          else:
            m.PreSync()

        ......

        if not m.Sync_NetworkHalf(is_new=is_new):
          ......
          sys.exit(1)

        if opt.manifest_branch:
          m.MetaBranchSwitch(opt.manifest_branch)
        ......

        m.Sync_LocalHalf(syncbuf)
        ......

        if is_new or m.CurrentBranch is None:
          if not m.StartBranch('default'):
            ......
            sys.exit(1)

Init类的成员函数_SyncManifest执行以下操作:

(1). 检查本地是否存在Manifest仓库,即检查用来描述Manifest仓库MetaProject对象m的成员变量mExists值是否等于true。如果不等于的话,那么就说明本地还没有安装过Manifest仓库。这时候就需要调用该MetaProject对象m的成员函数_InitGitDir来在.repo/manifests目录初始化一个Git仓库。

(2). 调用用来描述Manifest仓库MetaProject对象m的成员函数Sync_NetworkHalf来从远程仓库中克隆一个新的Manifest仓库到本地来,或者更新本地的Manifest仓库。这个远程仓库的地址即为在执行"repo init"命令时,通过-u指定的url,即https://android.googlesource.com/platform/manifest。

(3). 检查"repo init"命令后面是否通过-b指定要在Manifest仓库中checkout出来的分支。如果有的话,那么就调用用来描述Manifest仓库MetaProject对象m的成员函数MetaBranchSwitch做一些清理工作,以便接下来可以checkout到指定的分支。

(4). 调用用来描述Manifest仓库MetaProject对象m的成员函数Sync_LocaHalf来执行checkout分支的操作。注意,要切换的分支在前面已经记录在MetaProject对象m的成员变量revisionExpr中。

(5). 如果前面执行的是新安装Manifest仓库的操作,并且没有通过-b选项指定要checkout的分支,那么默认就checkout出一个default分支。

接下来,我们就主要分析MetaProject类的成员函数_InitGitDir、Sync_NetworkHalf和Sync_LocaHalf的实现。这几个函数实际上都是由MetaProject的父类Project来实现的,因此,下面我们就分析Project类的成员函数_InitGitDir、Sync_NetworkHalf和Sync_LocaHalf的实现。

Project类的成员函数_InitGitDir的成员函数的实现如下所示:

class Project(object):
      ......

      def _InitGitDir(self, mirror_git=None):
        if not os.path.exists(self.gitdir):
          os.makedirs(self.gitdir)
          self.bare_git.init()
          ......

Project类的成员函数_InitGitDir首先是检查项目的Git目录是否已经存在。如果不存在,那么就会首先创建这个Git目录,然后再调用成员变量bare_git所描述的一个_GitGetByExec对象的成员函数init来在该目录下初始化一个Git仓库。

_GitGetByExec类的成员函数init是通过另外一个成员函数getattr来实现的,如下所示:

class Project(object):
      ......

      class _GitGetByExec(object):
        ......

        def __getattr__(self, name):
          """Allow arbitrary git commands using pythonic syntax.

          This allows you to do things like:
            git_obj.rev_parse('HEAD')

          Since we don't have a 'rev_parse' method defined, the __getattr__ will
          run.  We'll replace the '_' with a '-' and try to run a git command.
          Any other positional arguments will be passed to the git command, and the
          following keyword arguments are supported:
            config: An optional dict of git config options to be passed with '-c'.

          Args:
            name: The name of the git command to call.  Any '_' characters will
                be replaced with '-'.

          Returns:
            A callable object that will try to call git with the named command.
          """
          name = name.replace('_', '-')
          def runner(*args, **kwargs):
            cmdv = []
            config = kwargs.pop('config', None)
            ......
            if config is not None:
              ......
              for k, v in config.items():
                cmdv.append('-c')
                cmdv.append('%s=%s' % (k, v))
            cmdv.append(name)
            cmdv.extend(args)
            p = GitCommand(self._project,
                           cmdv,
                           bare = self._bare,
                           capture_stdout = True,
                           capture_stderr = True)
            if p.Wait() != 0:
              ......
            r = p.stdout
            try:
              r = r.decode('utf-8')
            except AttributeError:
              pass
            if r.endswith('\n') and r.index('\n') == len(r) - 1:
              return r[:-1]
            return r
          return runner

从注释可以知道,_GitGetByExec类的成员函数getattr使用了一个trick,将_GitGetByExec类没有实现的成员函数间接地以属性的形式来获得,并且将该没有实现的成员函数的名称作为git的一个参数来执行。也就是说,当执行_GitGetByExec.init()的时候,实际上是透过成员函数getattr执行了一个"git init"命令。这个命令就正好是用来初始化一个Git仓库。

我们再来看Project类的成员函数Sync_NetworkHalf的实现:

class Project(object):
      ......

      def Sync_NetworkHalf(self,
          quiet=False,
          is_new=None,
          current_branch_only=False,
          clone_bundle=True,
          no_tags=False):
        """Perform only the network IO portion of the sync process.
           Local working directory/branch state is not affected.
        """
        if is_new is None:
          is_new = not self.Exists
        if is_new:
          self._InitGitDir()

        ......

        if not self._RemoteFetch(initial=is_new, quiet=quiet, alt_dir=alt_dir,
                                 current_branch_only=current_branch_only,
                                 no_tags=no_tags):
          return False

        ......

Project类的成员函数Sync_NetworkHalf主要执行以下的操作:

(1). 检查本地是否已经存在对应的Git仓库。如果不存在,那么就先调用另外一个成员函数_InitGitDir来初始化该Git仓库。

(2). 调用另外一个成员函籹_RemoteFetch来从远程仓库更新本地仓库。

Project类的成员函数_RemoteFetch的实现如下所示:

class Project(object):
      ......

      def _RemoteFetch(self, name=None,
                       current_branch_only=False,
                       initial=False,
                       quiet=False,
                       alt_dir=None,
                       no_tags=False):
        ......

        cmd = ['fetch']

        ......

        ok = False
        for _i in range(2):
          ret = GitCommand(self, cmd, bare=True, ssh_proxy=ssh_proxy).Wait()
          if ret == 0:
            ok = True
            break
          elif current_branch_only and is_sha1 and ret == 128:
            # Exit code 128 means "couldn't find the ref you asked for"; if we're in sha1
            # mode, we just tried sync'ing from the upstream field; it doesn't exist, thus
            # abort the optimization attempt and do a full sync.
            break
          time.sleep(random.randint(30, 45))

        ......

Project类的成员函数_RemoteFetch的核心操作就是调用"git fetch"命令来从远程仓库更新本地仓库。

接下来我们再看MetaProject类的成员函数Sync_LocaHalf的实现:

class Project(object):
      ......

      def Sync_LocalHalf(self, syncbuf):
        """Perform only the local IO portion of the sync process.
           Network access is not required.
        """
        ......

        revid = self.GetRevisionId(all_refs)

        ......

        self._InitWorkTree()
        head = self.work_git.GetHead()
        if head.startswith(R_HEADS):
          branch = head[len(R_HEADS):]
          try:
            head = all_refs[head]
          except KeyError:
            head = None
        else:
          branch = None

        ......

        if head == revid:
          # No changes; don't do anything further.
          #
          return

        branch = self.GetBranch(branch)

        ......

        if not branch.LocalMerge:
          # The current branch has no tracking configuration.
          # Jump off it to a detached HEAD.
          #
          syncbuf.info(self,
                       "leaving %s; does not track upstream",
                       branch.name)
          try:
            self._Checkout(revid, quiet=True)
          except GitError as e:
            syncbuf.fail(self, e)
            return
          ......
          return

        ......

这里我们只分析一种比较简单的情况,就是当前要checkout的分支是一个干净的分支,它没有做过修改,也没有设置跟踪远程分支。这时候Project类的成员函数_RemoteFetch的主要执行以下操作:

(1). 调用另外一个成员函数GetRevisionId获得即将要checkout的分支,保存在变量revid中。

(2). 调用成员变量work_git所描述的一个_GitGetByExec对象的成员函数GetHead获得项目当前checkout的分支,只存在变量head中。

(3). 如果即将要checkout的分支revid就是当前已经checkout分支,那么就什么也不用做。否则继续往下执行。

(4). 调用另外一个成员函数GetBranch获得用来描述当前分支的一个Branch对象。

(5). 如果上述Branch对象的属性LocalMerge的值等于None,也就是属于我们讨论的情况,那么就调用另外一个成员函数_Checkout真正执行checkout分支revid的操作。

如果要checkout的分支revid不是一个干净的分支,也就是它正在跳踪远程分支,并且在本地做过提交,这些提交又没有上传到远程分支去,那么就需要执行一些merge或者rebase的操作。不过无论如何,这些操作都是通过标准的Git命令来完成的。

我们接着再看Project类的成员函数_Checkout的实现:

class Project(object):
      ......

      def _Checkout(self, rev, quiet=False):
        cmd = ['checkout']
        if quiet:
          cmd.append('-q')
        cmd.append(rev)
        cmd.append('--')
        if GitCommand(self, cmd).Wait() != 0:
          if self._allrefs:
            raise GitError('%s checkout %s ' % (self.name, rev))

Project类的成员函数_Checkout的实现很简单,它通过GitCommand类构造了一个"git checkout"命令,将参数rev描述的分支checkout出来。

至此,我们就将Manifest仓库从远程地址https://android.googlesource.com/platform/manifest克隆到本地来了,并且checkout出了指定的分支。回到Init类的成员函数Execute中,它接下来还要调用另外一个成员函数_LinkManifest来执行一个符号链接的操作。

Init类的成员函数_LinkManifest的实现如下所示:

class Init(InteractiveCommand, MirrorSafeCommand):
      ......

      def _LinkManifest(self, name):
        if not name:
          print('fatal: manifest name (-m) is required.', file=sys.stderr)
          sys.exit(1)

        try:
          self.manifest.Link(name)
        except ManifestParseError as e:
          print("fatal: manifest '%s' not available" % name, file=sys.stderr)
          print('fatal: %s' % str(e), file=sys.stderr)
          sys.exit(1)

参数name的值一般就等于"default.xml",表示Manifest仓库中的default.xml文件,Init类的成员函数_LinkManifest通过调用成员变量manifest所描述的一个XmlManifest对象的成员函数Link来执行符号链接的操作,它定义在文件.repo/repo/xml_manifest.py文件,它的实现如下所示:

class XmlManifest(object):
      """manages the repo configuration file"""
      ......

      def Link(self, name):
        """Update the repo metadata to use a different manifest.
        """
        ......

        try:
          if os.path.lexists(self.manifestFile):
            os.remove(self.manifestFile)
          os.symlink('manifests/%s' % name, self.manifestFile)
        except OSError as e:
          raise ManifestParseError('cannot link manifest %s: %s' % (name, str(e)))

XmlManifest类的成员变量manifestFile的值等于$(AOSP)/.repo/manifest.xml,通过调用os.symlink就将它符号链接至$(AOSP)/.repo/manifests/文件去。这样无论Manifest仓库中用来描述AOSP子项目的xml文件是什么名称,都可以统一通过$(AOSP)/.repo/manifest.xml文件来访问。

前面提到,Manifest仓库中用来描述AOSP子项目的xml文件名称默认就为default.xml,它的内容如下所示:

<?xml version="1.0" encoding="UTF-8"?>
    <manifest>

      <remote  name="aosp"
               fetch=".."
               review="https://android-review.googlesource.com/" />
      <default revision="refs/tags/android-4.2_r1"
               remote="aosp"
               sync-j="4" />

      <project path="build" name="platform/build" >
        <copyfile src="core/root.mk" dest="Makefile" />
      </project>
      <project path="abi/cpp" name="platform/abi/cpp" />
      <project path="bionic" name="platform/bionic" />
      ......

    </manifest>

关于该xml文件的详细描述可以参考.repo/repo/docs/manifest-format.txt文件。一般来说,该xml包含有四种类型的标签:

remote:用来指定远程仓库信息。属性name描述的是一个远程仓库的名称,属性fetch用作项目名称的前缘,在构造项目仓库远程地址时使用到,属性review描述的是用作code review的server地址。

default:当project标签没有指定default标签的属性时,默认就使用在default标签列出的属性。属性revision描述的是项目默认检出的分支,属性remote描述的是默认使用的远程仓库名称,必须要对应的remote标签的name属性值,属性sync-j描述的是从远程仓库更新项目时使用的并行任务数。

project:每一个AOSP子项目在这里都对应有一个projec标签,用来描述项目的元信息。属性path描述的是项目相对于远程仓库URL的路径,属性name描述的是项目的名称,也是相对于 AOSP根目录的目录名称。例如,如果远程仓库URL为https://android.googlesource.com/platform,那么AOSP子项目bionic对应的远程仓库URL就为https://android.googlesource.com/platform/bionic,并且它的工作目录位于$(AOSP)/bionic。

copyfile:作为project的子标签,表示要将从远程仓库更新回来的文件拷贝到指定的另外一个文件去。

至些,我们就分析完成Manifest仓库的克隆过程了。在此基础上,我们再分析AOSP子项目仓库的克隆过程或者针对AOSP子项目的各种Repo命令就容易多了。

4. AOSP子项目仓库

执行完成repo init命令之后,我们就可以继续执行repo sync命令来克隆或者同步AOSP子项目了:

$ repo sync

与repo init命令类似,repo sync命令的执行过程如下所示:

1. Repo脚本找到Repo仓库里面的main.py文件,并且执行它的入口函数_Main;

2. Repo仓库里面的main.py文件的入口函数_Main调用_Repo类的成员函数_Run对Repo脚本传递进来的参数进行解析;

3. _Repo类的成员函数_Run解析参数发现要执行的命令是sync,于是就在subcmds目录中找到一个名称为sync.py的文件,并且调用定义在它里面的一个名称为Sync的类的成员函数Execute;

4. Sync类的成员函数Execute解析Manifest仓库的default.xml文件,并且克隆或者同步出在default.xml文件里面列出的每一个AOSP子项目。

在第3步中,Repo仓库的每一个Python文件是如何与一个Repo命令关联起来的呢?原来在Repo仓库的subcmds目录中,有一个init.py文件,每当subcmds被import时,定义在它里面的命令就会被执行,如下所示:

all_commands = {}

    my_dir = os.path.dirname(__file__)
    for py in os.listdir(my_dir):
      if py == '__init__.py':
        continue

      if py.endswith('.py'):
        name = py[:-3]
        clsn = name.capitalize()
        while clsn.find('_') > 0:
          h = clsn.index('_')
          clsn = clsn[0:h] + clsn[h + 1:].capitalize()

        mod = __import__(__name__,
                         globals(),
                         locals(),
                         ['%s' % name])
        mod = getattr(mod, name)
        try:
          cmd = getattr(mod, clsn)()
        except AttributeError:
          raise SyntaxError('%s/%s does not define class %s' % (
                             __name__, py, clsn))

        name = name.replace('_', '-')
        cmd.NAME = name
        all_commands[name] = cmd

init.py会列出subcmds目录中的所有Python文件(除了init.py),并且里面找到对应的类,然后再创建这个类的一个对象,并且以文件名为关键字将该对象保存在全局变量all_commands中。例如,对于sync.py文件,它的文件名称去掉后缀名后为sync,再将sync的首字母大写,得到Sync。也就是说,sync.py需要定义一个Sync类,并且这个类需要直接或者间接地从Command类继承下来。Command类有一个成员函数Execute,它的各个子类需要对它进行重写,以实现各自的功能。

_Repo类的成员函数_Run就是通过subcmds模块里面的全局变量all_commands,并且根据Repo脚本传进行来的第一个不带横线"-"的参数来找到对应的Command对象,然后调用它的成员函数Execute的。

Sync类的成员函数Execute的实现如下所示:

class Sync(Command, MirrorSafeCommand):
      ......

      def Execute(self, opt, args):
        ......

        mp = self.manifest.manifestProject
        ......

        if not opt.local_only:
          mp.Sync_NetworkHalf(quiet=opt.quiet,
                              current_branch_only=opt.current_branch_only,
                              no_tags=opt.no_tags)
        ......

        if mp.HasChanges:
          ......
          mp.Sync_LocalHalf(syncbuf)
          ......

        all_projects = self.GetProjects(args,
                                        missing_ok=True,
                                        submodules_ok=opt.fetch_submodules)
        ......

        if not opt.local_only:
          to_fetch = []
          ......
          to_fetch.extend(all_projects)
          to_fetch.sort(key=self._fetch_times.Get, reverse=True)

          fetched = self._Fetch(to_fetch, opt)
          ......

          if opt.network_only:
            # bail out now; the rest touches the working tree
            return

          # Iteratively fetch missing and/or nested unregistered submodules
          while True:
            ......
            all_projects = self.GetProjects(args,
                                            missing_ok=True,
                                            submodules_ok=opt.fetch_submodules)
            missing = []
            for project in all_projects:
              if project.gitdir not in fetched:
                missing.append(project)
            if not missing:
              break
            ......
            fetched.update(self._Fetch(missing, opt))

        if self.UpdateProjectList():
          sys.exit(1)

        ......

        for project in all_projects:
          ......
          if project.worktree:
            project.Sync_LocalHalf(syncbuf)

        ......

Sync类的成员函数Execute的核以执行流程如下所示:

(1). 获得用来描述Manifest仓库的MetaProject对象mp。

(2). 如果在执行repo sync命令时,没有指定--local-only选项,那么就调用MetaProject对象mp的成员函数Sync_NetworkHalf从远程仓库下载更新本地Manifest仓库。

(3). 如果Mainifest仓库发生过更新,那么就调用MetaProject对象mp的成员函数Sync_LocalHalf来合并这些更新到本地的当前分支来。

(4). 调用Sync的父类Command的成员函数GetProjects获得由Manifest仓库的default.xml文件定义的所有AOSP子项目信息,或者由参数args所指定的AOSP子项目的信息。这些AOSP子项目信息都是通过Project对象来描述,并且保存在变量all_projects中。

(5). 如果在执行repo sync命令时,没有指定--local-only选项,那么就对保存在变量all_projects中的AOSP子项目进行网络更新,也就是从远程仓库中下载更新到本地仓库来,这是通过调用Sync类的成员函数_Fetch来完成的。Sync类的成员函数_Fetch实际上又是通过调用Project类的成员函数Sync_NetworkHalf来将远程仓库的更新下载到本地仓库来的。

(6). 由于AOSP子项目可能会包含有子模块,因此当对它们进行了远程更新之后,需要检查它们是否包含有子模块。如果包含有子模块,并且执行repo sync脚本时指定有--fetch-submodules选项,那么就需要对AOSP子项目的子模块进行远程更新。调用Sync的父类Command的成员函数GetProjects的时候,如果将参数submodules_ok的值设置为true,那么得到的AOSP子项目列表就包含有子模块。将这个AOSP子项目列表与之前获得的AOSP子项目列表fetched进行一个比较,就可以知道有哪些子模块是需要更新的。需要更新的子模块都保存在变量missing中。由于子模块也是用Project类来描述的,因此,我们可以像远程更新AOSP子项目一样,调用Sync类的成员函数_Fetch来更新它们的子模块。

(7). 调用Sync类的成员函数UpdateProjectList更新$(AOSP)/.repo目录下的project.list文件。$(AOSP)/.repo/project.list记录的是上一次远程同步后所有的AOSP子项目名称。以后每一次远程同步之后,Sync类的成员函数UpdateProjectList就会通过该文件来检查是否存在某些AOSP子项目被删掉了。如果存在这样的AOSP子项目,并且这些AOSP子项目没有发生修改,那么就会将它们的工作目录删掉。

(8). 到目前为止,Sync类的成员函数对AOSP子项目所做的操作仅仅是下载远程仓库的更新到本地来,但是还没有将这些更新合并到本地的当前分支来,因此,这时候就需要调用Project类的成员函数Sync_LocalHalf来执行合并更新的操作。

从上面的步骤可以看出,init sync命令的核心操作就是收集每一个需要同步的AOSP子项目所对应的Project对象,然后再调用这些Project对象的成员函数Sync_NetwokHalft和Sync_LocalHalf进行同步。关于Project类的成员函数Sync_NetwokHalft和Sync_LocalHalf,我们在前面分析Manifest仓库的克隆过程时,已经分析过了,它们无非就是通过git fetch、git rebase或者git merge等基本Git命令来完成自己的功能。

以上我们分析的就是AOSP子项目仓库的克隆或者同步过程,为了更进一步加深对Repo仓库的理解,接下来我们再分析另外一个用来在AOSP上创建Topic的命令repo start。

5. 在AOSP上创建Topic

在Git的世界里,分支(branch)是一个很核心的概念。Git鼓励你在修复Bug或者开发新的Feature时,都创建一个新的分支。创建Git分支的代价是很小的,而且速度很快,因此,不用担心创建Git分支是一件不讨好的事情,而应该尽可能多地使用分支。

同样的,我们下载好AOSP代码之后,如果需要在上面进行修改,或者增加新的功能,那么就要在新的分支上面进行。Repo仓库提供了一个repo start命令,用来在AOSP上创建分支,也称为Topic。这个命令的用法如下所示:

$ repo start BRANCH_NAME [PROJECT_LIST]

参数BRANCH_NAME指定新的分支名称,后面的PROJECT_LIST是可选的。如果指定了PROJECT_LIST,就表示只对特定的AOSP子项目创建分支,否则的话,就对所有的AOSP子项目创建分支。

根据前面我们对repo sync命令的分析可以知道,当我们执行repo start命令的时候,最终定义在Repo仓库的subcmds/start.py文件里面的Start类的成员函数Execute会被调用,它的实现如下所示:

class Start(Command):
      ......

      def Execute(self, opt, args):
        ......

        nb = args[0]
        if not git.check_ref_format('heads/%s' % nb):
          print("error: '%s' is not a valid name" % nb, file=sys.stderr)
          sys.exit(1)

        err = []
        projects = []
        if not opt.all:
          projects = args[1:]
          if len(projects) < 1:
            print("error: at least one project must be specified", file=sys.stderr)
            sys.exit(1)

        all_projects = self.GetProjects(projects)

        pm = Progress('Starting %s' % nb, len(all_projects))
        for project in all_projects:
          pm.update()
          ......
          if not project.StartBranch(nb):
            err.append(project)
        pm.end()

        ......

参数args[0]保存的是要创建的分支的名称,参数args[1:]保存的是要创建分支的AOSP子项目名称列表,Start类的成员函数Execute分别将它们保存变量nb和projects中。

Start类的成员函数Execute接下来调用父类Command的成员函数GetProjects,并且以变量projects为参数,就可以获得所有需要创建新分支nb的AOSP子项目列表all_projects。在all_projects中,每一个AOSP子项目都用一个Project对象来描述。

最后,Start类的成员函数Execute就遍历all_projects里面的每一个Project对象,并且调用它们的成员函数StartBranch来执行创建新分支的操作。

Project类的成员函数StartBranch的实现如下所示:

class Project(object):
      ......

      def StartBranch(self, name):
        """Create a new branch off the manifest's revision.
        """
        head = self.work_git.GetHead()
        if head == (R_HEADS + name):
          return True

        all_refs = self.bare_ref.all
        if (R_HEADS + name) in all_refs:
          return GitCommand(self,
                            ['checkout', name, '--'],
                            capture_stdout = True,
                            capture_stderr = True).Wait() == 0

        branch = self.GetBranch(name)
        branch.remote = self.GetRemote(self.remote.name)
        branch.merge = self.revisionExpr
        revid = self.GetRevisionId(all_refs)

        if head.startswith(R_HEADS):
          try:
            head = all_refs[head]
          except KeyError:
            head = None

        if revid and head and revid == head:
          ref = os.path.join(self.gitdir, R_HEADS + name)
          try:
            os.makedirs(os.path.dirname(ref))
          except OSError:
            pass
          _lwrite(ref, '%s\n' % revid)
          _lwrite(os.path.join(self.worktree, '.git', HEAD),
                  'ref: %s%s\n' % (R_HEADS, name))
          branch.Save()
          return True

        if GitCommand(self,
                      ['checkout', '-b', branch.name, revid],
                      capture_stdout = True,
                      capture_stderr = True).Wait() == 0:
          branch.Save()
          return True
        return False

Project类的成员函数StartBranch的执行过程如下所示:

(1). 获得项目的当前分支head,这是通过调用Project类的成员函数GetHead来实现的。

(2). 项目当前的所有分支保存在Project类的成员变量bare_ref所描述的一个GitRefs对象的成员变量all中。如果要创建的分支name已经项目的一个分支,那么就直接通过GitCommand类调用git checkout命令来将该分支检出即可,而不用创建新的分支。否则继续往下执行。

(3). 创建一个Branch对象来描述即将要创建的分支。Branch类的成员变量remote描述的分支所要追踪的远程仓库,另外一个成员变量merge描述的是分支要追踪的远程仓库的分支。这个要追踪的远程仓库分支由Manifest仓库的default.xml文件描述,并且保存在Project类的成员变量revisionExpr中。

(4). 调用Project类的成员函数GetRevisionId获得项目要追踪的远程仓库分支的sha1值,并且保存在变量revid中。

(5). 由于新创建的分支name需要追踪的远程仓库分支为revid,因此如果项目的当前分支head刚好就是项目要追踪的远程仓库分支revid,那么创建新分支name就变得很简单,只要在项目的Git目录(位于.repo/projects目录下)下的refs/heads子目录以name名称创建一个文件,并且往这个文件写入写入revid的值,以表明新分支name是在要追踪的远程分支revid的基础上创建的。这样的一个简单的Git分支就创建完成了。不过我们还要修改项目工作目录下的.git/HEAD文件,将它的内容写为刚才创建的文件的路径名称,这样才能将项目的当前分支切换为刚才新创建的分支。从这个过程就可以看出,创建的一个Git分支,不过就是创建一个包含一个sha1值的文件,因此代价是非常小的。如果项目的当前分支head刚好不是项目要追踪的远程仓库分支revid,那么就继续往下执行。

(6). 执行到这里的时候,就表明我们要创建的分支不存在,并且我们需要在一个不是当前分支的分支的基础上创建该新分支,这时候就需要通过调用带-b选项的git checkout命令来完成创建新分支的操作了。选项-b后面的参数就表明要在哪一个分支的基础上创建分支。新的分支创建出来之后,还需要将它的文件拷贝到项目的工作目录去。

至此,我们就分析完成在AOSP上创建新分支的过程了,也就是repo start命令的执行过程。更多的repo命令,例如repo uplad、repo diff和repo status等,可以以参考官方文档http://source.android.com/source/using-repo.html,它们的执行过程和我们前面分析repo sync、repo start都是类似,不同的是它们执行其它的Git命令。有兴趣的小伙伴自己尝试自己去分析一下。更多的知识分享,请关注老罗的新浪微博:http://weibo.com/shengyangluo

 相关推荐

刘强东夫妇:“移民美国”传言被驳斥

京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。

发布于:6月以前  |  808次阅读  |  详细内容 »

博主曝三大运营商,将集体采购百万台华为Mate60系列

日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。

发布于:6月以前  |  770次阅读  |  详细内容 »

ASML CEO警告:出口管制不是可行做法,不要“逼迫中国大陆创新”

据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。

发布于:6月以前  |  756次阅读  |  详细内容 »

抖音中长视频App青桃更名抖音精选,字节再发力对抗B站

今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。

发布于:6月以前  |  648次阅读  |  详细内容 »

威马CDO:中国每百户家庭仅17户有车

日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。

发布于:6月以前  |  589次阅读  |  详细内容 »

研究发现维生素 C 等抗氧化剂会刺激癌症生长和转移

近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。

发布于:6月以前  |  449次阅读  |  详细内容 »

苹果据称正引入3D打印技术,用以生产智能手表的钢质底盘

据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。

发布于:6月以前  |  446次阅读  |  详细内容 »

千万级抖音网红秀才账号被封禁

9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...

发布于:6月以前  |  445次阅读  |  详细内容 »

亚马逊股东起诉公司和贝索斯,称其在购买卫星发射服务时忽视了 SpaceX

9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。

发布于:6月以前  |  444次阅读  |  详细内容 »

苹果上线AppsbyApple网站,以推广自家应用程序

据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。

发布于:6月以前  |  442次阅读  |  详细内容 »

特斯拉美国降价引发投资者不满:“这是短期麻醉剂”

特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。

发布于:6月以前  |  441次阅读  |  详细内容 »

光刻机巨头阿斯麦:拿到许可,继续对华出口

据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。

发布于:6月以前  |  437次阅读  |  详细内容 »

马斯克与库克首次隔空合作:为苹果提供卫星服务

近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。

发布于:6月以前  |  430次阅读  |  详细内容 »

𝕏(推特)调整隐私政策,可拿用户发布的信息训练 AI 模型

据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。

发布于:6月以前  |  428次阅读  |  详细内容 »

荣耀CEO谈华为手机回归:替老同事们高兴,对行业也是好事

9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。

发布于:6月以前  |  423次阅读  |  详细内容 »

AI操控无人机能力超越人类冠军

《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。

发布于:6月以前  |  423次阅读  |  详细内容 »

AI生成的蘑菇科普书存在可致命错误

近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。

发布于:6月以前  |  420次阅读  |  详细内容 »

社交媒体平台𝕏计划收集用户生物识别数据与工作教育经历

社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”

发布于:6月以前  |  411次阅读  |  详细内容 »

国产扫地机器人热销欧洲,国产割草机器人抢占欧洲草坪

2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。

发布于:6月以前  |  406次阅读  |  详细内容 »

罗永浩吐槽iPhone15和14不会有区别,除了序列号变了

罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。

发布于:6月以前  |  398次阅读  |  详细内容 »
 目录