forkd

6个月前发布 232 00

forkd 是一款基于 Firecracker 构建的微 VM 沙箱运行时,专为 AI 智能体的“扇出”(Fan-out)场景设计。它通过创新的内存映射与写时复制(Copy-on-Write)技术,实现了在 101 毫秒内创建 100 个微 VM,或在 56 毫秒内分支一个正在运行的 VM,将虚拟机的启动成本降至接近进程 fork() 的...

所在地:
美国
收录时间:
2026-06-10

在 AI 智能体(Agent)日益复杂的今天,如何快速、安全地并行执行多个独立任务成为一大挑战。forkd 是一款基于 Firecracker 构建的微 VM 沙箱运行时,专为 AI 智能体的“扇出”(Fan-out)场景设计。它通过创新的内存映射与写时复制(Copy-on-Write)技术,实现了在 101 毫秒内创建 100 个微 VM,或在 56 毫秒内分支一个正在运行的 VM,将虚拟机的启动成本降至接近进程 fork() 的水平,同时保留完整的硬件隔离性。

forkd

核心亮点:极速、隔离、继承

1. 极致速度与低开销

  • 毫秒级分支:利用 MAP_PRIVATE 映射父 VM 内存镜像,内核级写时复制使得子 VM 在修改前共享父 VM 常驻内存。
  • Live BRANCH:支持暂停正在运行的沙箱并快照其状态,v0.4 版本将源暂停窗口缩短至 56ms (p50),实现近乎实时的状态克隆。
  • 高并发扇出:101ms 内即可 fork 出 100 个独立微 VM,完美适配大规模评估、并行代码执行等场景。

2. 硬件级隔离与安全

  • KVM 支持:每个子 VM 都是独立的 Firecracker 微 VM,由 KVM 提供硬件虚拟化隔离。
  • 多租户安全:独立的网络命名空间、cgroup v2 内存限制,并通过 vmgenid 重新播种 /dev/urandom,确保随机数生成器的独立性,防止侧信道攻击。

3. 预热运行时免费继承

  • 零冷启动成本:父 VM 预先加载运行时、JIT 编译代码或模型权重,子 VM 直接继承这些驻留内存,无需重复加载。
  • 完整 Linux 环境:每个子 VM 拥有多 vCPU、完整 TCP 网络栈,支持 apt install 及出站 HTTPS,如同真正的 Linux 服务器。

4. 高效的存储与管理 (v0.5+)

  • 差分快照链:支持在基础镜像之上堆叠多个层(如 numpy, pandas, scikit-learn),避免存储多个完整副本,大幅节省磁盘空间。
  • 丰富工具集:提供 snapshot-diff, snapshot-info, rmi, pack/unpack 等命令,简化镜像管理。

适用场景

  • AI 智能体扇出:并行执行多个 Agent 的任务规划、工具调用或代码解释。
  • 大规模评估推出:快速启动数百个隔离环境进行模型基准测试或红队演练。
  • 云端代码解释器:为用户提供安全、隔离且预装数据科学库的代码执行环境。
  • 多租户 SaaS 服务:为不同用户提供隔离的运行环境,确保数据安全与资源公平分配。

快速开始

1. 系统要求

  • Linux ≥ 5.7
  • 启用 vm.unprivileged_userfaultfd=1
  • 使用 vendored Firecracker 分支

2. Python 使用示例

from forkd import Controller

c = Controller()

# 1. 启动父 VM (必须启用 live_fork)
parent = c.spawn_sandboxes("pyagent", n=1, live_fork=True)[0]

# 2. 在父 VM 中预加载环境或执行初始化...

# 3. Live Branch: 克隆正在运行的 VM
branch = c.branch_sandbox(parent["id"], mode="live", wait=False)

# branch 现在是一个独立的、包含父 VM 所有状态的微 VM

版本演进

  • v0.3.4:修复重复 BRANCH 性能回归。
  • v0.4:Live BRANCH 速度提升 3.6 倍,暂停窗口降至 56ms。
  • v0.5:引入差分快照链,支持层叠复用,优化存储效率。

forkd 证明了在保持严格硬件隔离的前提下,虚拟机的启动与分支可以达到近乎进程级的速度。对于构建高性能、高安全性的 AI 智能体平台而言,forkd 提供了不可或缺的基础设施支持。

相关导航