
Needle
Needle 是由 Cactus 团队基于 Gemini 3.1 蒸馏而成的实验性模型,参数量仅为 2600 万 (26M)。尽管体量极小,Needle 在单次函数调用任务上展现了惊人的性能,不仅击败了 FunctionGemma-270m、Qwen-0.6B 等更大规模的模型,更在 Cactus 推理引擎上实现了 6000 token/秒 的预填充速度和 1200 token/秒 的解码速度。
GraphRAG Workbench 是一个现代化的 Web 应用,旨在将微软 的 GraphRAG 框架能力以沉浸式 3D 可视化的方式呈现。你只需上传 PDF 文档,系统便会自动提取实体、关系与社区结构,生成一个可交互、可查询、可分析的知识图谱。

它不是简单的图数据库前端,而是一个端到端的 AI 知识发现平台——从文档摄入到 3D 探索,全程在本地或私有环境中完成(仅依赖 OpenAI API 进行文本处理)。

“主要主题是什么?”
“公司 A 和人物 B 之间有哪些关联?”
| 层级 | 技术栈 |
|---|---|
| 前端 | Next.js 15 + React Three Fiber + Three.js + TailwindCSS |
| 后端 | Next.js API Routes + GraphRAG(Python) |
| AI 引擎 | OpenAI(gpt-4o-mini + text-embedding-3-small) |
| 存储 | 本地文件系统(文档 + 图谱 JSON) |
| 部署 | 单机运行,支持开发/生产模式 |
数据流:PDF 上传 → 文本提取 → GraphRAG 处理(实体/关系/社区) → JSON 转换 → 3D 可视化渲染 → 交互式查询
# 1. 克隆项目
git clone https://github.com/ChristopherLyon/graphrag-workbench.git
cd graphrag-workbench
# 2. 安装前端依赖
npm install
# 3. 配置 API 密钥
cp .env.example .env
# 编辑 .env,填入 OPENAI_API_KEY
# 4. 安装 GraphRAG
pip install graphrag
# 5. 启动
npm run dev
# 访问 http://localhost:3000
通过 settings.yaml 自定义处理逻辑:
models:
default_chat_model:
model: gpt-4o-mini
default_embedding_model:
model: text-embedding-3-small
extract_graph:
entity_types: [organization, person, geo, event] # 可增删
community_reports:
max_length: 2000
支持调整:
注意:3D 性能与图谱规模相关。若卡顿,可:
- 启用“社区隔离器”缩小范围
- 禁用 Bloom 效果
- 分批处理文档







