新TokenGateTokenGate 是长上下文预填充方向一个很有竞争力的可学习剪枝方案,区别于传统启发式 KV 过滤;靠 MoE 式可微 TopK 解决训练难题,不仅在标准注意力上收益巨大,还打通了 Qwen3 混合架构里 DeltaNet 层的剪枝能力。90AI工具# TokenGate