今天,Meta 与 Booz Allen 合作,已将其开源 Llama 3.2 模型的定制版本部署到国际空间站 (ISS) 国家实验室。 Space Llama 的目标是测试在轨人工智能在支持科学研究方面的性能。

由于 Llama 的完整“模型权重”是公开可用的,研究人员可以在隔离的硬件上安装和运行它,而无需互联网连接,这对于国际空间站来说是一项基本要求。这种方法消除了通过地球服务器路由数据的需要,提高了数据安全性并降低了延迟。
Space Llama 的设置结合了:
Booz Allen 的 A2E2(边缘环境人工智能)框架 惠普企业 (HPE) 的 Spaceborne Computer-2 NVIDIA 加速计算(CUDA、cuDNN 和 cuBLAS) Meta 的 Llama 视觉 AI 功能
该团队报告称,在类似于卫星使用的紧凑型、节能型系统上运行,某些任务的推理时间已从几分钟缩短至仅一秒多。
此外, Space Llama 集成了生成式和多模态 AI。它可以根据提示生成文本或图像,并处理混合数据类型:文本、视觉和音频。一个实际用例是,它使研究人员可以直接访问重要的技术参考文档和说明,而无需互联网连接。
在此次部署之前,Booz Allen 于 2024 年 8 月在国际空间站上使用 HPE 的 Spaceborne Computer-2 展示了一个生成式大型语言模型 (LLM),而 Meta 于 2024 年 11 月宣布其微调的 Llama 模型将提供给美国政府和私人合作伙伴。
Booz Allen 首席技术官 Bill Vass 谈到该项目时表示:
历史上,由于计算和通信能力依赖于地球连接,太空创新一直受到限制。 Space Llama 将工具直接带到太空边缘,以快速进行关键维修和维护国际空间站国家实验室——推动我们走向基于太空的科学、发现以及在最远的任务边缘(太空)运行能力的未来。
Space Llama 实验预计将为未来的任务(包括月球和火星探索)提供信息,并可能影响地球上偏远或断开连接的环境中自主系统的部署。