Needle

Needle 是由 Cactus 团队基于 Gemini 3.1 蒸馏而成的实验性模型，参数量仅为 2600 万 (26M)。尽管体量极小，Needle 在单次函数调用任务上展现了惊人的性能，不仅击败了 FunctionGemma-270m、Qwen-0.6B 等更大规模的模型，更在 Cactus 推理引擎上实现了 6000 token/秒 的预填充速度和 1200 token/秒 的解码速度。

NEEDLE是由 Keenable AI 发布的一个开源、实时的网页搜索 API 基准测试框架。它旨在解决传统静态数据集在评估具备工具调用能力的 AI 代理时面临的“答案泄露”和“记忆过拟合”问题。通过每小时或每天从新鲜公共源重建查询集，NEEDLE 确保了评估的动态性和真实性，并为开发者提供了一个衡量搜索质量上限的“Ultimate”参照系。