Ai2 发布 EMO:首个“涌现模块化”MoE 模型,仅用 12.5% 专家即可保持全量性能,打破单体架构限制大型语言模型(LLM)正变得日益庞大,万亿级参数成为常态。然而,对于大多数应用而言,只需模型的一小部分能力(如代码生成或数学推理)。传统的单体模型或标准混合专家(MoE)模型往往需要加载全部参数,造成...大语言模型# Ai2# EMO6个月前2650
AI2发布Open Coding Agents:低成本、可复现的开源编程智能体,支持任意私有代码库过去一年,编程智能体(Coding Agents)显著改变了软件开发流程——从自动调试、重构到提交 PR,它们正逐步成为开发者的新“协作者”。然而,主流系统多为闭源、训练成本高昂,且难以适配私有代码库...大语言模型# Ai2# Open Coding Agents# 编程智能体9个月前3970
美国国家科学基金会与英伟达联手,斥资 1.5 亿美元推动全开源 AI 模型,加速美国科学创新美国国家科学基金会(NSF)与英伟达(NVIDIA)近日宣布达成一项重要合作,共同投资 1.52 亿美元,支持由 Allen 人工智能研究所(Ai2) 牵头的“开放多模态 AI 基础设施加速科学”(O...早报# Ai2# 美国国家科学基金会# 艾伦AI研究所1年前6390
AI2推出一种全新的语言模型协作训练范式FlexOlmo由 AI2(Allen Institute for AI) 推出的 FlexOlmo,正在重新定义语言模型的训练方式。 它提出了一种名为“数据协作”的新范式,让多个数据拥有者在不共享原始数据的前提下...新技术# Ai2# FlexOlmo1年前7080
Allen人工智能研究所推出OLMoTrace:让大语言模型透明化,追溯AI决策的真实来源在企业AI应用中,大语言模型(LLM)的“黑盒”特性一直是阻碍其大规模采用的主要障碍之一。如何理解模型输出的来源、提升透明度并增强信任,成为行业亟需解决的问题。本周,Allen人工智能研究所(Ai2...新技术# Ai2# OLMoTrace# 大语言模型2年前5600