在 2025 年全球开发者先锋大会上,商汤大装置正式推出了开源、低代码的大模型应用开发框架——LazyLLM。该框架旨在帮助开发者以极低的成本和门槛,快速构建复杂、定制化的多 Agent 大模型应用。通过 LazyLLM,开发者仅需编写 10 行左右的代码,即可轻松实现功能强大的 AI 应用开发。
LazyLLM
LazyLLM 的命名寓意为“懒惰”,商汤希望通过这一框架,让用户无需具备高超的技能或复杂的操作,就能轻松解决问题。LazyLLM 的核心优势在于其低代码开发模式,能够将复杂的 AI 应用开发简化为像搭乐高积木一样的过程,显著降低开发门槛。
核心亮点与功能
- 低代码开发体验
LazyLLM 提供了简洁的代码设计体验,通过精细化模块设计和符合直觉的代码风格,帮助开发者快速搭建应用。例如,实现一个数学公式仅需 10 行代码,而类似功能在 LangChain 需 15 行代码,LlamaIndex 则需 30 多行代码。
- 高效的数据流开发范式
LazyLLM 采用以数据流为核心的应用开发范式,支持 Pipeline、Parallel、Switch、If、Loop 等数据流组件,可快速拼接已有组件或其他开源软件,不断提升数据效果。
- 一键部署与跨平台兼容
LazyLLM 提供一键部署功能,支持将应用快速部署到网页、企业微信、钉钉等平台。此外,它还支持跨平台兼容,无需修改代码即可一键切换 IaaS 平台,包括裸金属服务器、开发机、Slurm 集群和公有云等。
- 网格搜索参数优化
LazyLLM 支持自动化的网格搜索,根据用户配置尝试不同的基模型、召回策略和微调参数,优化应用性能,无需对代码进行大量修改。
- 高效的模型微调
LazyLLM 支持对应用中的模型进行微调,自动选择最佳的微调框架和模型切分策略,简化模型迭代的维护工作,让开发者专注于算法和数据迭代。
应用开发流程
基于 LazyLLM 的 AI 应用构建流程包括三个核心阶段:
- 原型搭建:快速搭建应用原型,验证核心功能。
- 数据回流:结合实际场景任务数据,进行 bad-case 分析。
- 迭代优化:对应用中的关键环节进行算法迭代和模型微调,逐步提升应用效果。
万象平台:一站式 AI 应用开发平台
为进一步降低开发门槛,商汤还推出了 万象平台,这是一个基于 LazyLLM 构建的完整模型开发平台与 Agent 应用开发平台。万象平台提供一站式的 AI 应用落地全流程解决方案,支持低代码开发,甚至无需编写代码。
- 低代码开发:用户只需了解业务的数据流程和链路,通过可视化的拖拉拽操作,即可自动生成代码并完成部署。
- 一站式服务:提供模型管理、精调、推理、评测等全方位功能,支持商汤“日日新”大模型以及数百种开源大模型,实现开箱即用。
- 快速迭代:支持快速搭建、试错、上架和迭代,实现从应用开发到迭代的完美闭环。