新清华联合港中文开源 AKV:基于 SGLang 的 Agent 专用 KV 缓存工程系统,降本 27.7%清华大学与香港中文大学的研究人员近日联合开源了 AKV,这是一个专为大语言模型(LLM)智能体设计的 KV 缓存工程服务系统。该系统构建于高性能推理框架 SGLang 之上,采用 Apache-2.0...工具# AKV# SGLang19小时前110
Google Cloud 推出Agent Compute Engine:为每个AI代理分配独立硬件隔离微虚拟机,配套开源Agent SubstrateGoogle Cloud在AGNTCon + MCPCon大会上正式发布 Agent Compute Engine(ACE),一款专门面向AI代理场景的云原生计算服务,核心设计思路:每一个AI代理会话...工具# Agent Compute Engine# Google Cloud4天前140
Liquid AI 推出 RIPL 实时推理管道:端到端 50ms 内完成生成,面向搜索、风控、支付等低延迟业务Liquid AI今天正式发布了 Liquid RIPL(实时推理管道,Real-time Inference Pipeline)。这是一个专为低延迟场景构建的推理引擎,旨在将 Liquid Foun...工具# Liquid AI# Liquid RIPL5天前210
DeepSeek 全面开源内部推理框架 DeepInfer:支撑 V4.1-Flash 的生产级引擎DeepSeek宣布,在开源一系列大模型、TileLang 编译工具及推理算子库的基础上,将其内部推理框架 DeepInfer 全面开源。同步发布的还有 MIT 许可的生产级 Token 编解码组件 ...工具# DeepInfer# DeepSeek# deepseek-recipe7天前270
GitHub Copilot 开放Computer Use预览:可直接操作桌面GUI软件,官方建议优先用API/MCPGitHub于周四公开预览 Copilot Computer Use,为Copilot CLI与桌面端应用增加跨Windows、macOS的桌面操控能力。AI智能体可以读取软件界面内容,完成点击、输入...工具早报# Copilot Computer Use# GitHub Copilot3周前1250
PewDiePie 揭晓 Ajax :基于 Qwen3.5-9B 的无审查本地模型,因蒸馏两次遭 OpenAI 封禁,尚未发布知名 YouTuber PewDiePie 揭晓其自研 AI 模型 Ajax,一个基于阿里巴巴 Qwen3.5-9B 微调、移除拒绝机制的“无审查”模型,专为在本地家用 PC 上运行而设计,作为其自托...工具# Ajax# PewDiePie# Qwen3.5-9B4周前510
TinyFish推出学生&大使双计划:开发Web智能体拿礼品卡赏金,edu邮箱注册送35美元额度Web智能体基础设施服务商TinyFish正式开放学生构建者计划与大使计划,两项计划均可免费加入,面向学生与独立开发者,参与者基于TinyFish Web API开发智能体项目,完成并通过审核即可获得...工具# TinyFish4周前410
Hugging Face 发布 @huggingface/kernels:207个WebGPU优化内核,大幅提速浏览器本地AI推理Hugging Face WebAI团队发布@huggingface/kernels,配套上线包含207个WebGPU内核的初始算子库,Apache-2.0协议开源,目标夯实浏览器端本地AI推理的底层...工具# Hugging Face# kernels# WebGPU4周前560
Ollama 0.35新增Jev风格决策模型支持,本地高速完成分类与审核任务Ollama 官宣新增对 TypeSafe Jev 风格决策模型的支持,从 Ollama 0.35 版本起可用,为本地AI决策场景带来重大升级。新版本开放 /v1/systemone 接口,传入文本状...工具# Ollama4周前500
Perplexity自研Rust检索引擎Photon上线:p99延迟从800ms降至65ms,驱动Fast Search高速搜索Perplexity正式发布基于Rust语言从零编写的自研检索排名引擎Photon,替代此前分叉维护的开源检索引擎,目前已经承载全站全部生产检索流量,同时为Search API新增Fast Searc...工具# Perplexity# Photon4周前530
Cloudflare推出专为AI Agent打造命令行工具cf,一口气覆盖3000+API,接管域名、DNS、Workers全平台管理Cloudflare正式发布面向AI Agent设计的全新命令行工具cf,相比原有开发者工具Wrangler,cf覆盖全部3000+ Cloudflare API,让Codex、Claude Code...工具# cf# Cloudflare4周前440
OpenRouter 上线 Jev Router:基于TypeSafe Jev决策模型,感知缓存的智能模型路由OpenRouter 正式推出 typesafe/jev-router,由 TypeSafe AI 的 Jev(System 1 决策模型)驱动,一款具备缓存感知能力的模型路由器,可以为每一条请求自动...工具# jev-router# OpenRouter4周前540