新技术

清华大学和加州大学伯克利分校的研究人员推出高效稀疏注意力机制 SpargeAttn，旨在加速大模型的推理过程，同时不损失模型性能。注意力机制在现代深度学习模型中扮演着重要角色，但由于其计算复杂度与序列...

在开源周的第五天，DeepSeek 正式发布了 3FS（Fire-Flyer File System）。这是一个专为现代 SSD 和 RDMA 网络设计的并行文件系统，旨在为深度学习等数据密集型应用提...

AI 初创公司 Hugging Face 近日推出了一款名为 FastRTC 的开源 Python 库，旨在简化开发者构建实时音频和视频 AI 应用的复杂性。这一创新工具的发布，标志着实时 AI 应用...

今天是 DeepSeek 开源周的第四天。与前三天相比，今天的开源项目公布稍晚一些，让关注者们等待得略显焦急，不过等待的结果总是值得的！DeepSeek 今日公布了两项重要的开源内容：DualPipe...

在开源周的第三天，DeepSeek 推出了一个名为 DeepGEMM 的新库，专为高效、简洁的 FP8 通用矩阵乘法（GEMM）而设计。这一工具旨在解决现代 AI 计算中矩阵乘法的效率和精度问题，特别...

在大语言模型领域，专家混合（MoE）架构因其能在不显著增加计算量的情况下提升模型容量而受到青睐。但MoE模型在GPU间通信方面面临挑战，传统的全对全通信方法可能成为瓶颈。为此，深度求索开源第二弹Dee...

随着大语言模型（LLMs）在各个领域的广泛应用，其安全性问题日益受到关注。尽管这些模型在性能上表现出色，但在面对恶意查询和越狱攻击时，仍存在一定的风险。为了应对这一挑战，清华大学与瑞莱智慧联合团队推出...

随着全球对高性能计算需求的不断增长，AI模型训练和推理对硬件资源的需求也在快速攀升。然而，由于美国出口限制等原因，中国市场更多依赖于英伟达的“缩减版”H800 GPU（相较于H100功能有所削减）。这...

字节跳动的研究人员推出一个统一的视频生成框架Phantom ，通过跨模态对齐实现主体一致性的视频生成（Subject-to-Video, S2V），用于单主体和多主体参考，构建在现有的文本到视频和图像...

OpenAI 最近推出了 SWE-Lancer，这是一个基于真实世界软件工程任务的基准测试平台。SWE-Lancer 包含超过 1400 个来自 Upwork 的自由软件工程任务，这些任务的总报酬价值...

据 TechCrunch 报道，埃隆·马斯克的一名高级员工创建了一个名为 DOGE 的 AI 聊天机器人，旨在帮助美国政府效率部门（Government Efficiency Department，简...

上海交通大学、中国科学技术大学、香港中文大学、香港科技大学、斯坦福大学和上海人工智能实验室的研究人员推出Light-A-Video，这是一个无需训练（training-free）的视频重新打光（vid...