16 Commits

Author SHA1 Message Date
ych
f5ad79b162 Merge remote-tracking branch 'origin/ych-patch-1' 2025-12-08 22:38:47 +08:00
ych
8229717c5b merge upstream 2025-12-08 14:19:08 +00:00
ych
62e74a0fb7 更新 src/compile/sharebuild-aosp14.md 2025-12-08 11:46:53 +00:00
2218eae0fc 初步整理的编译加速相关文档 (#6)
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (push) Has been cancelled
Co-authored-by: 孟宁 <mengning997@163.com>
Reviewed-on: #6
2025-12-08 01:42:53 +00:00
ych
39859809a5 更新 src/compile/sharebuild-aosp14.md
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Has been cancelled
2025-12-07 07:41:29 +00:00
b1afa7d902 更新 src/compile/sharebuild-aosp14.md
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Has been cancelled
2025-12-07 06:39:52 +00:00
ych
855c9b0869 更新 src/compile/sharebuild-aosp14.md
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Has been cancelled
2025-12-06 13:53:36 +00:00
d2e6ecbeba 更新 src/compile/why-distributed-compiling.md
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Failing after 3m2s
2025-12-05 06:58:25 +00:00
bcaff05d70 初步整理的编译加速相关文档 (#2)
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (push) Has been cancelled
Co-authored-by: 孟宁 <mengning997@163.com>
Reviewed-on: #2
2025-12-05 02:14:25 +00:00
3638457aa6 Merge branch 'main' into mengning
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Has been cancelled
2025-12-05 02:13:47 +00:00
孟宁
e2b50e2188 页面上的链接可以携带.md结尾,兼容网站模式和Git仓库Web模式
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Has been cancelled
2025-12-05 02:10:49 +00:00
孟宁
3870b9720b 初步整理的编译加速相关文档 2025-12-05 02:00:24 +00:00
a490b98cba 更新 src/compile/sharebuild.md 2025-12-05 01:16:41 +00:00
dcd05056db 更新 src/compile/sharebuild.md 2025-12-04 06:05:48 +00:00
55e4b8dbb0 Merge pull request '重构了项目目录结构,并初步整理了文档结构' (#1) from mengning into main
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (push) Failing after 2m33s
Reviewed-on: #1
2025-12-01 05:20:56 +00:00
c3fc09ece7 更新 src/devstar/ai-devops.md
Some checks failed
CI/CD Pipeline for mengning.com.cn / build (pull_request) Failing after 2m44s
2025-12-01 04:54:28 +00:00
7 changed files with 274 additions and 233 deletions

View File

@@ -271,11 +271,11 @@ function sidebarCompiling(): DefaultTheme.SidebarItem[] {
link: '/src/compile/why-distributed-compiling' link: '/src/compile/why-distributed-compiling'
}, },
{ {
text: 'CloudBuild', text: 'CloudBuild分布式编译',
link: '/src/compile/cloudbuild' link: '/src/compile/cloudbuild'
}, },
{ {
text: 'ShareBuild', text: 'ShareBuild共享编译',
link: '/src/compile/sharebuild' link: '/src/compile/sharebuild'
}, },
] ]

View File

@@ -1,11 +1,13 @@
# 分布式编译系统CloudBuild # CloudBuild私有云分布式编译系统
![alt text](/public/compile/promotional-graphic-cloudbuild.jpg)
## 为什么需要分布式编译? ## CloudBuild的适用场景
- 大型项目过长的编译耗时将会给开发、测试和调试都带来延迟,所以缩短大型项目的编译时间的分布式编译系统有重要意义
- 使用分布式编译系统编译项目可以利用计算机集群提高编译效率,缩短项目编译时间 对于大型开发团队CloudBuild私有云分布式编译系统不仅可以通过分布式编译加速项目编译过程而且有大量编译任务是相同的分布式编译缓存可以避免重复编译从而节约算力消耗并进一步缩短项目编译时间
- 在实际开发时同一个团队大量的编译任务时相同的。CloudBuild提供的编译缓存可以避免重复上传和重复编译从而进一步加快编译效率
## CloudBuild QuickStart
todo
## 总体架构
### 系统总体架构 ### 系统总体架构
![alt text](/public/compile/architecture.png) ![alt text](/public/compile/architecture.png)
- Ninja客户端该机器上需要保存有完整的待编译项目源代码。 - Ninja客户端该机器上需要保存有完整的待编译项目源代码。

View File

@@ -1,80 +1,24 @@
# 编译加速 # 编译加速
## 分布式编译技术 ## 分布式编译
![alt text](/public/compile/promotional-graphic-cloudbuild.jpg) ![alt text](/public/compile/promotional-graphic-cloudbuild.jpg)
- 大型项目过长的编译耗时将会给开发、测试和调试都带来延迟,所以缩短大型项目的编译时间的分布式编译系统有重要意义 - [为什么需要分布式编译?](/src/compile/why-distributed-compiling)
- 使用分布式编译系统编译项目可以利用计算机集群提高编译效率,缩短项目编译时间 - [CloudBuild私有云分布式编译系统](/src/compile/cloudbuild)
- 在实际开发时同一个团队大量的编译任务时相同的。CloudBuild提供的编译缓存可以避免重复上传和重复编译从而进一步加快编译效率 - [ShareBuild分布式共享编译工作站](/src/compile/sharebuild)
- [以AOSP14项目为例ShareBuild分布式编译详细配置方法](/src/compile/sharebuild-aosp14.md)
### CloudBuild
![alt text](/public/compile/architecture.png)
- Ninja客户端该机器上需要保存有完整的待编译项目源代码。
- Action Cache服务端缓存主要保存编译任务的执行结果。
- CAS Cache服务端缓存主要保存客户端上传的依赖文件编译结果文件。
- Scheduler任务调度器将编译任务id分发到各个编译节点。
- Redis主要存储具体的编译任务供编译节点领取执行也可存储Action Cache和 CAS Cache中的内容加速编译。
- MySQL主要存储编译过程中的任务统计信息。
- Executor各个编译节点
### ShareBuild ## AI编译器
![alt text](/public/compile/system-diagram.png)
CloudBuild主程序分为三个部分Client、Server、Executor。
- Client运行在客户端和用户对接用于生成待执行的远程编译任务 同时也作为本地编译节点执行本地任务。
- Server运行在主服务器主要用于连接各个编译节点以及 将客户端上传的编译任务调度到与其连接的各个编译节点上。
- Executor运行在编译节点负责接收并执行编译任务是编译任务真正执行的地方。
### 系统分层结构 todo
![alt text](/public/compile/layered-system-architecture.png)
## 运行原理与流程 ## PGO/LTO编译性能优化
todo
### 分布式编译原理
![alt text](/public/compile/compiler-principles.png)
### CloudBuild客户端
CloudBuild客户端基于Ninja改造有下面这些优势
- 兼容使用Ninja编译的项目
- 使用远程执行的方式提高编译时并发度
- 使用编译缓存减少需要编译的任务数量
### CloudBuild服务端
- 使用远程执行的方法提高编译时并发度,实现了任务分发至远程节点同步执行
- 使用分布式任务调度提高任务调度效率和计算节点资源利用率,避免集中式调度的任务阻塞问题
- 使用编译缓存结合内容寻址存储技术减少网络传输量、避免重复上传与重复编译
### CloudBuild优势
- 低成本组成executor的机器不需要使用专门的高性能计算型机器可使用多个平价的空闲机器
- 高效CloudBuild实现分布式编译的功能相比单机大大提升并发度
- 兼容NinjaCloudBuild客户端基于Ninja改造对于使用Ninja构建和可以转换为Ninja构建的项目不用额外修改构建清单
### CloudBuild执行流程
- 客户端: 生成远程任务->生成任务依赖->发送任务与依赖
- 服务端:检查任务缓存->检查依赖完整性->调度任务
- 编译结点:还原文件目录->还原文件目录->返回编译结果
## AOSP和LLVM上的应用
### LLVM上的应用效果
![alt text](/public/compile/table1.png)
### AOSP上的应用效果
![alt text](/public/compile/table2.png)
### CloudBuild硬件资源利用率
4核CPU利用率:
![alt text](/public/compile/CPU-utilization-4.png)
8核CPU利用率:
![alt text](/public/compile/CPU-utilization-8.png)
16核CPU利用率:
![alt text](/public/compile/CPU-utilization-16.png)
## CloudBuild使用方法
### CloudBuild安装
![alt text](/public/compile/cloudbuild-installation.png)
CloudBuild项目地址https://gitee.com/cloudbuild888/cloudbuild.git
### CloudBuild分布式编译
![alt text](/public/compile/cloudbuild-distributed-compilation.png)
LLVM项目地址https://gitee.com/mirrors/LLVM.git

View File

@@ -0,0 +1,125 @@
# 以AOSP14项目为例ShareBuild分布式编译详细配置方法
## 编译环境准备
### 安装 Sharebuild
* 参与编译的同一个局域网内的A、B、C等所有节点上安装ninja2和sharebuild:
```
wget -c https://raw.githubusercontent.com/ninja-cloudbuild/ninja2/refs/heads/main/install.sh && chmod +x install.sh && sudo ./install.sh
```
* 确保所有节点上均安装配置好了项目的编译环境即所有节点上均能采用ninja成功单机编译项目。
### 安装AOSP项目编译环境
* 参与编译的同一个局域网内的A、B、C等所有节点上安装编译环境依赖:
```bash
# 安装核心开发工具和库
sudo apt-get install git-core gnupg flex bison build-essential zip curl zlib1g-dev gcc-multilib g++-multilib libc6-dev-i386 libncurses5 lib32ncurses5-dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-utils xsltproc unzip fontconfig
# 安装Android 14所需的Java环境
sudo apt-get install openjdk-17-jdk
# 确保Python 3环境正确安装
sudo apt-get install python3 python3-pip
```
### 下载 AOSP 源码并执行单机编译
* 选择任一节点作为客户端节点下载AOSP14源码:
```bash
mkdir ~/bin && curl https://mirrors.tuna.tsinghua.edu.cn/git/git-repo > ~/bin/repo && chmod a+x ~/bin/repo
export PATH=~/bin:$PATH
repo init --depth=1 --partial-clone -u https://mirrors.tuna.tsinghua.edu.cn/git/AOSP/platform/manifest -b android-14.0.0_r2
repo sync -j16
cd android-14.0.0_r2
source build/envsetup.sh # 初始化环境
lunch aosp_arm-eng # 选择目标配置
make # 执行单机编译,编译成功后可以看到:
```
```
[19:20:05.430], pending/wanted: 4, ready: 1, running: 0
#### build completed successfully (02:26:51 (hh:mm:ss)) ####
real 146m51.385s
user 1327m35.812s
sys 78m2.153s
root@lab1:/home/lab1/android-14.0.0_r2#
```
### 配置AOSP项目开启ShareBuild模式
* 将.sharebuild.yml 复制到 AOSP 根目录
```
cd android-14.0.0_r2
cp /etc/ninja2/aosp14/.sharebuild.yml ./
```
* 进入AOSP14项目根目录替换 AOSP 内部 ninja 为 android_ninja
```
cp /usr/bin/android_ninja prebuilts/build-tools/linux-x86/bin/ninja
```
* 开启ShareBuild模式然后进行分布式编译。
项目根目录下创建ninja2.conf 文件如下即可开启ShareBuild模式
```
sharebuid:true
```
* 在项目根目录下执行分布式编译
```bash
su # 切换到 root 关闭沙箱
source build/envsetup.sh # 初始化环境
lunch aosp_arm-eng # 选择目标配置
make # 执行分布式编译,编译成功后可以看到:
```
* 客户端节点:
```
[ShareBuild] Command will be executed REMOTELY
[ShareBuild] ----------------------------------------
[100% 130093/130093] Target vbmeta image: out/target/product/generic/vbmeta.img
stdout: , stderr:
[16:34:34.063], pending/wanted: 5, ready: 2, running: 0
#### build completed successfully (01:42:17 (hh:mm:ss)) ####
real 102m16.362s
user 1074m56.673s
sys 64m22.863s
root@lab1:/home/lab1/android-14.0.0_r2#
```
* 服务端节点sharebuild部分日志
```
{"severity":"INFO","timestamp":"2025-11-24T16:34:38.988708686+08:00","caller":"service/sharebuild_proxy.go:448","message":"Successfully cl
eared environment on executor","component":"proxy","executor":"id:\"12D3KoowBsw2Lrs7FwKkmgrmRt3MYQgNzLa82vjK8tve8gQ95KTk\"ip:\"192.168.1.
12\" port:39077 "}
{"severity":"INFO","timestamp":"2025-11-24T16:34:38.99059505+08:00","caller":"runner/project_runner.go:463","message":"ProjectRunner free.
.. ","component":"runner", "ReceivedtaskCount":0,"PreemptedTaskCount":33291}
[worker-17]Stopping worker
[worker-24]Stopping worker
```
```
make clean # 清除编译目标文件
rm -r out # 清除编译产物
```
## 版权声明
Copyright @ Mengning Software
梦宁软件(江苏)有限公司 版权所有

View File

@@ -1,79 +1,74 @@
# 分布式编译系统ShareBuild # ShareBuild分布式共享编译工作站
![alt text](/public/compile/promotional-graphic-cloudbuild.jpg)
## 为什么需要分布式编译? ## ShareBuild的适用场景
- 大型项目过长的编译耗时将会给开发、测试和调试都带来延迟,所以缩短大型项目的编译时间的分布式编译系统有重要意义
- 使用分布式编译系统编译项目可以利用计算机集群提高编译效率,缩短项目编译时间 在同一局域网内工作的小型团队ShareBuild以P2P共享架构将空闲算力贡献给团队其他成员从而为每个团队成员提供编译加速效果。
- 在实际开发时同一个团队大量的编译任务时相同的。CloudBuild提供的编译缓存可以避免重复上传和重复编译从而进一步加快编译效率
## ShareBuild QuickStart
## 总体架构
### 系统总体架构 * 同一个局域网内的A、B、C等所有节点上安装ninja2:
![alt text](/public/compile/architecture.png)
- Ninja客户端该机器上需要保存有完整的待编译项目源代码。 ```
- Action Cache服务端缓存主要保存编译任务的执行结果。 wget -c https://raw.githubusercontent.com/ninja-cloudbuild/ninja2/refs/heads/main/install.sh && chmod +x install.sh && sudo ./install.sh
- CAS Cache服务端缓存主要保存客户端上传的依赖文件编译结果文件。 ```
- Scheduler任务调度器将编译任务id分发到各个编译节点。
- Redis主要存储具体的编译任务供编译节点领取执行也可存储Action Cache和 CAS Cache中的内容加速编译。 * 启用ShareBuild的前置要求
- MySQL主要存储编译过程中的任务统计信息。
- Executor各个编译节点 1. 所有节点上均安装配置好了项目的编译环境即所有节点上均能采用ninja成功单机编译项目。
<!--
### 部署示意图
![alt text](/public/compile/system-diagram.png) 2. 选择任一节点上作为项目开发环境,项目中使用.devcontainer/devcontainer.json 配置了image镜像示例如下依次镜像创建的开发容器中能采用ninja成功单机编译项目。
CloudBuild主程序分为三个部分Client、Server、Executor。
- Client运行在客户端和用户对接用于生成待执行的远程编译任务 同时也作为本地编译节点执行本地任务。 ```
- Server运行在主服务器主要用于连接各个编译节点以及 将客户端上传的编译任务调度到与其连接的各个编译节点上。 {
- Executor运行在编译节点负责接收并执行编译任务是编译任务真正执行的地方。 "name": "DevContainer",
"image": "devstar.cn/devstar/DevContainer:latest" # 仅作示例,务必使用您已安装配置好项目编译环境的容器镜像!
### 系统分层结构 }
![alt text](/public/compile/layered-system-architecture.png) ```
> 注意以上两种方式二选一即可第2种方式省掉了在其他节点上安装配置项目编译环境但是首次ShareBuild模式分布式编译时其他节点会自动下载项目编译环境的容器镜像。
## 运行原理与流程 -->
### 分布式编译原理 * 选择任一节点上作为项目开发环境开启ShareBuild模式然后进行分布式编译
![alt text](/public/compile/compiler-principles.png)
项目根目录下创建ninja2.conf 文件如下即可开启ShareBuild模式
### CloudBuild客户端 ```
CloudBuild客户端基于Ninja改造有下面这些优势 sharebuid:true
- 兼容使用Ninja编译的项目 ```
- 使用远程执行的方式提高编译时并发度 这时使用ninja编译将自动进入ShareBuild模式分布式编译项目。
- 使用编译缓存减少需要编译的任务数量
> 如果直接使用ninja命令编译项目也可以加上-s参数表示启用ShareBuild模式示例如下
### CloudBuild服务端 ```
- 使用远程执行的方法提高编译时并发度,实现了任务分发至远程节点同步执行 ninja -s -r `realpath ../` #启动分布式编译,注意-r 指定项目根目录
- 使用分布式任务调度提高任务调度效率和计算节点资源利用率,避免集中式调度的任务阻塞问题 ninja -t clean #清除编译产物
- 使用编译缓存结合内容寻址存储技术减少网络传输量、避免重复上传与重复编译 ````
### CloudBuild优势 * 对一些特殊项目的补充说明
- 低成本组成executor的机器不需要使用专门的高性能计算型机器可使用多个平价的空闲机器
- 高效CloudBuild实现分布式编译的功能相比单机大大提升并发度 除以上常规的ShareBuild配置外对于一些特殊项目需要做一些额外的配置补充说明如下
- 兼容NinjaCloudBuild客户端基于Ninja改造对于使用Ninja构建和可以转换为Ninja构建的项目不用额外修改构建清单
## 使用ShareBuild编译Android开源项目AOSP
### CloudBuild执行流程
- 客户端: 生成远程任务->生成任务依赖->发送任务与依赖 除按照以上方法准备好编译环境和开启ShareBuild模式外以AOSP14项目为例[详细的配置方法](/src/compile/sharebuild-aosp14.md)还需要替换ninja和准备.sharebuild.yml来过滤掉一些无法远程编译的命令具体操作如下
- 服务端:检查任务缓存->检查依赖完整性->调度任务
- 编译结点:还原文件目录->还原文件目录->返回编译结果 ```
cp /usr/bin/android_ninja prebuilts/build-tools/linux-x86/bin/ninja
## AOSP和LLVM上的应用 cp /etc/ninja2/aosp14/.sharebuild.yml ./
### LLVM上的应用效果 ```
![alt text](/public/compile/table1.png)
### AOSP上的应用效果 然后就可以单机编译一样使用make命令来分布式编译Android开源项目AOSP
![alt text](/public/compile/table2.png)
### CloudBuild硬件资源利用率 <!--
4核CPU利用率: ## 使用ShareBuild编译鸿蒙开源项目OpenHarmony
![alt text](/public/compile/CPU-utilization-4.png)
8核CPU利用率: todo
![alt text](/public/compile/CPU-utilization-8.png) -->
16核CPU利用率:
![alt text](/public/compile/CPU-utilization-16.png) ## 参考链接
## CloudBuild使用方法 * [以AOSP14项目为例ShareBuild分布式编译详细配置方法](/src/compile/sharebuild-aosp14.md)
### CloudBuild安装
![alt text](/public/compile/cloudbuild-installation.png) ## 版权声明
CloudBuild项目地址https://gitee.com/cloudbuild888/cloudbuild.git
### CloudBuild分布式编译 Copyright @ Mengning Software
![alt text](/public/compile/cloudbuild-distributed-compilation.png)
LLVM项目地址https://gitee.com/mirrors/LLVM.git 梦宁软件(江苏)有限公司 版权所有

View File

@@ -1,78 +1,52 @@
# 为什么需要分布式编译? # 为什么需要分布式编译?
- 大型项目过长的编译耗时将会给开发、测试和调试都带来延迟,所以缩短大型项目的编译时间分布式编译系统有重要意义 大型项目过长的编译耗时给开发、调试、测试和CI/CD都带来延迟,缩短大型项目的编译时间分布式编译系统的主要目标。
- 使用分布式编译系统编译项目可以利用计算机集群提高编译效率,缩短项目编译时间
- 在实际开发时同一个团队大量的编译任务时相同的。CloudBuild提供的编译缓存可以避免重复上传和重复编译从而进一步加快编译效率 - 使用分布式编译系统编译项目可以利用计算机集群提高编译效率,缩短项目编译时间。
- 在实际开发时,同一个团队有大量编译任务是相同的,分布式编译缓存可以避免重复编译,从而节约算力消耗,并进一步缩短项目编译时间。
## 总体架构
### 系统总体架构 ## 分布式编译技术相关工作综述
![alt text](/public/compile/architecture.png)
- Ninja客户端该机器上需要保存有完整的待编译项目源代码 当前国内外已有多种分布式编译系统和技术如Distcc[8]、 CCache[9]、Bazel[10]、CodeArts Build[11]以及YADCC[12]等
- Action Cache服务端缓存主要保存编译任务的执行结果。
- CAS Cache服务端缓存主要保存客户端上传的依赖文件编译结果文件 Distcc是一款经典的分布式编译工具采用客户端/服务器的工作模式用户使用客户端程序启动编译任务客户端会分析项目代码并在本地完成预处理工作然后选择一台远程计算机将文件发送至服务器服务器进程处理收到的编译任务并将结果返回至客户端。Distcc 的缺点在于其负载均衡算法过于简单,其无法感知各个远程计算机的负载情况,任务分发的依据主要与远程主机在本地环境变量中的次序相关,远程主机名越靠前,得到的编译任务越多,但是当存在某个远程主机的性能过差的情况,整体编译效率将会显著下降
- Scheduler任务调度器将编译任务id分发到各个编译节点。
- Redis主要存储具体的编译任务供编译节点领取执行也可存储Action Cache和 CAS Cache中的内容加速编译 CCacheCompiler Cache是一款编译缓存工具支持GCC、Clang、MSVCMicrosoft Visual C++等编译器。其原理是将源代码文件的编译结果保存在文件缓存中在后续编译过程中再次使用到对应文件且该文件无变动时可直接从缓存中获取编译结果。CCache的效果类似于Make的缓存功能不同的是Make是根据源文件的时间戳来实现缓存而CCache是按文件内容实现缓存通过计算文件内容的哈希值来标识该缓存文件。有了编译缓存CCache的支持软件项目能够在无入侵不影响现有业务代码对开发人员透明的前提下提高编译效率。CCache的缺点是只能实现本地机器的缓存共享无法对多个远程计算机提供编译缓存服务
- MySQL主要存储编译过程中的任务统计信息。
- Executor各个编译节点 Bazel是Google内部编译工具Blaze的开源实现同时支持多种编程语言。其采用的客户端/服务器模式可以将任务方便地扩展到多台服务器上进行分布式编译。Bazel的编译指令采用了类似Python的Starlark语言[13]作为领域特定语言DSL[14]domain special language而且支持细粒度的编译产物管理使得项目互相引用变得十分简单。虽然Bazel 拥有执行速度快、跨平台、可扩展等优点但Bazel 运行的前提条件是需要开发人员手动编写依赖描述文件即BUILD文件。这样也就意味着在代码规模稍大的项目中引入Bazel需要消耗时间精力编写BUILD文件对于非Bazel项目极其不友好。
### 部署示意图 华为云CodeArts Build已经可以支持华为6万研发人员进行软件开发工作和软件高效集成每日编译任务量达到77万次并提供24.8万台服务器进行集中的弹性调度。但CodeArts Build是专为华为云平台设计的因此它的使用会对华为云服务的依赖性较高同时由于其非开源用户无法直接了解该系统的具体实现细节和内部工作原理对后续的优化和维护工作带来不便。
![alt text](/public/compile/system-diagram.png)
CloudBuild主程序分为三个部分Client、Server、Executor 腾讯YADCCYet Another Distributed C/C++ Compiler是腾讯云推出的一款基于分布式架构的C/C++ 编译器。它采用了分布式编译技术和增量编译技术可以快速地编译大型C/C++项目并支持多种编译选项和优化级别。除了分布式编译外YADCC还提供分布式编译缓存、调度预取优化、并发控制等服务。但由于YADCC的调度器是全局共享的所有请求均由调度节点统一分配因此集群在高负载时会阻塞新请求导致用户无法正常使用服务。而且YADCC主要用于C/C++项目,因为使用范围有限
- Client运行在客户端和用户对接用于生成待执行的远程编译任务 同时也作为本地编译节点执行本地任务。
- Server运行在主服务器主要用于连接各个编译节点以及 将客户端上传的编译任务调度到与其连接的各个编译节点上 结合国内外现状可以发现大多数分布式编译系统都是针对C/C++相关项目对于像Android开源项目、开源鸿蒙等复杂的多语言大型项目的支持能力不足
- Executor运行在编译节点负责接收并执行编译任务是编译任务真正执行的地方。
## CloudBuild/ShareBuild分布式编译系统
### 系统分层结构
![alt text](/public/compile/layered-system-architecture.png) CloudBuild/ShareBuild分布式编译系统实现了基于Ninja的高效分布式编译实验表明采用本分布式编译系统后AOSP项目的编译时间降低了57.4%LLVM项目降低了72.4%OpenCV项目降低了71.6%,因此本系统可以大幅缩短编译时间,加快项目迭代速度。
## 运行原理与流程 ![alt text](/public/compile/promotional-graphic-cloudbuild.jpg)
### 分布式编译原理 ## 参考链接
![alt text](/public/compile/compiler-principles.png)
- [1] Google. Android开源项目[EB/OL]. https://source.android.google.cn,2021.
### CloudBuild客户端 - [2] Evan Martin. The ninja build system[EB/OL]. 2022. https://ninja-build.org/manual.html.
CloudBuild客户端基于Ninja改造有下面这些优势 - [3] 王淼. 面向多核处理器的并行编译及优化关键技术研究[D]. 长沙: 国防科学技术大学, 2010.
- 兼容使用Ninja编译的项目 - [4] 崔洋洋. 分布式计算综合实验平台的设计与实现[D]. 西安电子科技大学, 2021.
- 使用远程执行的方式提高编译时并发度 - [5] 童亚拉. 分布式编译的方法和系统研究[J]. 计算机技术与发展, 2010, 20(5): 79-8.
- 使用编译缓存减少需要编译的任务数量 - [6] 张朝滨. 基于Ninja的分布式编译系统[D]. 中山大学, 2015.
- [7] Nacke, Kai. Learn llvm 12: A beginners guide to learning llvm compiler tools and core libraries with c++[M]. Packt Publishing Ltd, 2021: 30 - 34.
### CloudBuild服务端 - [8] Matev, Rosen. Fast distributed compilation and testing of large c++ projects[C]//EPJ Web of Conferences. USA: EDP Sciences, 2020: 3-5.
- 使用远程执行的方法提高编译时并发度,实现了任务分发至远程节点同步执行 - [9] Joel Rosdahl. Ccache—a fast c/c++ compiler cache[EB/OL]. 2023. h-ttps://ccache.dev.
- 使用分布式任务调度提高任务调度效率和计算节点资源利用率,避免集中式调度的任务阻塞问题 - [10] Google. Bazel官方文档[EB/OL]. 2022. https://bazel.build/start/baz-elintro.
- 使用编译缓存结合内容寻址存储技术减少网络传输量、避免重复上传与重复编译 - [11] HuaWei. 编译构建 CodeArts Build[EB/OL]. https://www.huaweicloud.com/product/cloudbuild.html,2023.
- [12] Tencent. Yadcc 分布式C++编译器[EB/OL]. 2022. https://github.com/Tencent/yadcc.
### CloudBuild优势 - [13] Google. Starlark language[EB/OL]. 2022. https://bazel.build/rules/language.
- 低成本组成executor的机器不需要使用专门的高性能计算型机器可使用多个平价的空闲机器 - [14] 廖万斌, 曹云峰, 王新尧. 面向复杂系统需求分析的 DSL 构建[J]. 系统工程与电子技术, 2022, 44(11): 3443-3454.
- 高效CloudBuild实现分布式编译的功能相比单机大大提升并发度 - [15] Jing, Shimin, Zheng, Xin, Chen, Zhengwen. Review and investigation of merkle trees technical principles and related application fields[C/OL]//2021 International Conference on Artificial Intelligen-ce, Big Data and Algorithms (CAIBDA). Xian, China: IEEE, 2021: 86-90. DOI:10.1109/CAIBDA53561.2021.00026.
- 兼容NinjaCloudBuild客户端基于Ninja改造对于使用Ninja构建和可以转换为Ninja构建的项目不用额外修改构建清单 - [16] Rawal, Bharat S, Kumar, Lingampally Shiva AND Maganti, Sriram AND Godha, Varun. Comparative study of sha-256 optimization techniques[C]//2022 IEEE World AI IoT Congress (AIIoT). Seattle, WA, USA: IEEE, 2022: 387-392.
### CloudBuild执行流程
- 客户端: 生成远程任务->生成任务依赖->发送任务与依赖
- 服务端:检查任务缓存->检查依赖完整性->调度任务
- 编译结点:还原文件目录->还原文件目录->返回编译结果
## AOSP和LLVM上的应用
### LLVM上的应用效果
![alt text](/public/compile/table1.png)
### AOSP上的应用效果
![alt text](/public/compile/table2.png)
### CloudBuild硬件资源利用率
4核CPU利用率:
![alt text](/public/compile/CPU-utilization-4.png)
8核CPU利用率:
![alt text](/public/compile/CPU-utilization-8.png)
16核CPU利用率:
![alt text](/public/compile/CPU-utilization-16.png)
## CloudBuild使用方法
### CloudBuild安装
![alt text](/public/compile/cloudbuild-installation.png)
CloudBuild项目地址https://gitee.com/cloudbuild888/cloudbuild.git
### CloudBuild分布式编译
![alt text](/public/compile/cloudbuild-distributed-compilation.png)
LLVM项目地址https://gitee.com/mirrors/LLVM.git

View File

@@ -17,7 +17,8 @@ sudo devstar start
### 二、Ollama私有部署代码大模型 ### 二、Ollama私有部署代码大模型
> 如您使用第三方API及Token比如从http://xxx 注册申请,可以跳过这一部分。 > 如您使用第三方大模型开放API可以跳过这一部分。
> 比如从[智谱AI开放平台](https://bigmodel.cn/usercenter/proj-mgmt/apikeys) 上注册申请并添加新的API Key以Claude Code为例URL使用https://open.bigmodel.cn/api/anthropic
Ubuntu-20.04下完成安装: Ubuntu-20.04下完成安装:
``` ```