Gemini 3.1

Needle 是由 Cactus 团队基于 Gemini 3.1 蒸馏而成的实验性模型，参数量仅为 2600 万 (26M)。尽管体量极小，Needle 在单次函数调用任务上展现了惊人的性能，不仅击败了 FunctionGemma-270m、Qwen-0.6B 等更大规模的模型，更在 Cactus 推理引擎上实现了 6000 token/秒 的预填充速度和 1200 token/秒 的解码速度。