Sandstorm

2周前更新 36 00

Sandstorm 是专为大量 AI Agent 沙箱设计的编排工具,核心思路利用**检查点快照 + 分级休眠**:AI Agent 大部分时间处于等待状态,空闲沙盒可以冻结、快照写入磁盘释放内存,有请求抵达时快速恢复,从而让一台普通机器承载远高于内存上限的沙箱实例。

所在地:
deeplethe
收录时间:
2026-11-03
SandstormSandstorm

Sandstorm 是一款专为在低成本硬件上高密度运行 AI Agent 沙箱而设计的开源集群管理工具。它通过智能的暂停与快照机制,使单台机器能够容纳远超其物理内存同时运行上限的沙箱数量,从而大幅降低 AI 智能体集群的基础设施成本。

Sandstorm

核心机制:自适应沙盒生命周期

Sandstorm 针对 AI Agent 大部分时间处于等待状态的特性,设计了四个层级的沙箱状态,以在资源占用与唤醒延迟之间取得最佳平衡:

  • 热 (Hot):沙箱正在运行,完全占用内存。
  • 冻结 (Frozen):沙箱暂停,冷页面交换至 zswap,部分占用内存,恢复至热状态约需 0.1 秒。
  • 快照 (Snapshot):检查点写入磁盘,完全释放内存,恢复至热状态约需 0.2 秒。
  • 分离 (Detached):仅保留数据卷,完全释放内存,再次请求时需进行完整的冷启动。

关键架构特性

  • 集中式调度与混合后端:单一主节点(使用 SQLite 存储期望状态)负责跨集群调度。支持 gVisor(无需 KVM,作为默认后端)和 Firecracker(微虚拟机,需 KVM)两种后端,且可在同一集群中混合运行,各自形成独立的资源池。
  • 流量驱动唤醒:节点上的网关会拦截传入请求,自动唤醒目标沙箱并转发流量,实现无缝的请求处理。
  • 节点自我保护:当节点内存不足时,会主动拒绝新的工作负载,确保 SSH 等核心管理通道始终保持可达,避免节点彻底失联。
  • 极简部署:主节点、工作节点和 Web 控制台均由单一二进制文件 (sandstormd) 提供,降低了运维复杂度。

性能表现与基准测试

根据 2026 年 10 月的实测数据,Sandstorm 在不同环境下的表现如下:

  • 极速恢复:在 PVM(无 KVM 的虚拟机)环境下,从磁盘唤醒 64 MiB 应用仅需 80 毫秒;唤醒 512 MiB 应用约需 0.4 秒。
  • 高并发稳定性:在每秒 1 至 8 个请求的负载测试中,Firecracker (KVM) 和 PVM 节点均保持了 0% 的请求拒绝率。
  • 对比优势:与 CubeSandbox 等同类工具相比,Sandstorm 在运行中沙箱的快照生成速度上具有显著优势(30 毫秒 vs 304 毫秒),且在并行克隆 100 个沙箱时仅需 1.7 秒,而对比工具在 20 个时即无法运行。

部署指南与未来演进

  • 快速部署:项目提供完整的脚本支持。用户可通过 scripts/fleet.sh 快速拉起包含主节点和多个工作节点的集群,并通过 Web 控制台(HTTPS)进行模板创建与沙箱管理。
  • v0.6 版本演进方向:针对集群运行的实际反馈,开发团队计划进一步优化调度策略,包括:
    1. 智能腾挪:在唤醒新沙箱时,优先将需求最低的空闲沙箱换出至磁盘,而非直接拒绝新请求。
    2. 弹性重试:支持在节点内存释放后,自动重试之前因内存不足而暂缓的创建任务。
    3. 并行恢复:支持在单个节点上并行恢复多个沙箱快照,进一步提升突发流量下的吞吐能力。
    4. 容量预留:在主节点调度时预留节点容量,防止突发流量超出节点最后报告的资源上限。

相关导航