新技术

OmniJigsaw 是由 浙江大学 和 小米 联合提出的一种创新的全模态（Audio-Video）自监督学习框架。它旨在解决当前多模态大模型在视频和音频协同理解上的不足，通过一种名为“时间重排序”的...

大多数数字视频受限于存储格式，以 8 位低动态范围（LDR） 保存。这意味着原始场景中丰富的高光细节（如云层纹理、灯光光晕）和阴影层次（如暗部织物、夜景角落）因饱和与量化而永久丢失。这不仅限制了在 H...

RotorQuant 是一项突破性的 KV 缓存量化技术，旨在解决大型语言模型（LLM）在长上下文推理中的显存瓶颈。通过引入块对角旋转（Block-Diagonal Rotation）替代传统的蝴蝶网...

在英伟达 Blackwell GPU 上，针对小批量（Small Batch）自回归解码场景，一种名为 Warp Decode 的新内核设计彻底改变了混合专家（MoE）模型的推理方式。通过翻转并行性轴...

麻省理工学院、英伟达和浙江大学的研究人员联合推出了一项突破性技术——TriAttention。这是一种基于三角级数（Triangular Series）的 KV 缓存压缩方法，解决大型语言模型（LLM...

在AI领域，我们常常陷入一种迷思：“模型越复杂、记忆越长，效果就越好。” 尤其是在流式视频理解（Streaming Video Understanding）这一前沿赛道，各大研究团队都在拼命堆砌复杂的...

在处理 20 万 token 甚至更长的上下文时，大型语言模型（LLM）往往面临“又贵又慢”的困境。随着上下文长度增加，计算成本呈平方级飙升，成为阻碍长文档分析、复杂智能体工作流落地的最大瓶颈。 论文...

Hugging Face 正式发布了 TRL (Transformer Reinforcement Learning) v1.0。这标志着该库从一个主要用于学术研究的实验性仓库，正式转型为稳定、生产就...

在大型语言模型（LLM）向更长上下文、更复杂任务演进的过程中，显存瓶颈已成为制约效率的关键障碍。尤其是键值缓存（KV Cache），随着序列长度增加呈线性增长，不仅占用大量显存，还限制了推理速度和并发...

你是否曾有过这样的经历：想让AI画一组连环画，比如“一只狐狸在森林、舞台、海边、卧室弹吉他”，结果AI生成的四张图里，狐狸变成了四种不同的动物，吉他变了样，画风也从油画突变成了水彩？ 这就是AI绘画领...

随着 OpenClaw 等自主 LLM 智能体从“被动问答”进化为能执行高权限系统任务的“主动实体”，其面临的安全挑战也发生了质变。 论文地址：https://arxiv.org/pdf/2603.1...

在现代 Transformer 架构中，残差连接（Residual Connection）一直是维持深层网络训练稳定的基石。然而，月之暗面（Moonshot AI）的研究人员指出，这种沿用多年的标准机...