基于 RAG 的开源工具kotaemon：让用户能够轻松与文档进行对话

kotaemon 是一个开源的、简洁且高度可定制的 RAG 用户界面，旨在让终端用户和开发者能够轻松与文档进行对话。它不仅提供了直观的用户界面，还为开发者构建复杂的 RAG 流程提供了强大的工具支持。

• 项目主页：https://cinnamon.github.io/kotaemon
• GitHub：https://github.com/Cinnamon/kotaemon

面向终端用户

对于终端用户来说，kotaemon 提供了以下主要特性：

• 简洁且极简的UI：用户友好的界面，使得基于 RAG 的问答变得简单直接。
• 多语言模型支持：兼容多种大语言模型（LLM）API 服务提供商（如 OpenAI、AzureOpenAI、Cohere 等），以及本地 LLM（通过 ollama 和 llama-cpp-python）。
• 易于安装：提供简单的安装脚本，帮助用户快速上手并开始使用。

面向开发者

对于开发者而言，kotaemon 提供了以下开发工具和功能：

• RAG 流程框架：帮助开发者构建自己的基于 RAG 的文档问答系统。
• 可定制的 UI：内置基于 Gradio 的用户界面，可以查看 RAG 流程的运行情况，并根据需要进行自定义。
• Gradio 主题：如果使用 Gradio 进行开发，可以参考 kotaemon-gradio-theme 获取主题灵感。

主要功能

1、托管文档问答 Web 界面

• 支持多用户登录，允许用户将文件组织为私有或公共集合。
• 协作和分享功能，让用户可以与他人共享喜欢的对话。

2、组织 LLM 和嵌入模型

• 支持本地 LLM 及流行的 API 服务提供商（如 OpenAI、Azure、Ollama、Groq）。
• 灵活配置不同的 LLM 和嵌入模型，以满足不同需求。

3、混合 RAG 流程

• 默认提供混合检索器（全文检索与向量检索结合）和重排序功能，确保最佳检索质量。

4、多模态问答支持

• 支持对包含图表和表格的多文档进行问答。
• 提供多模态文档解析选项，用户可以在 UI 中选择合适的解析方式。

5、高级引用与文档预览

• 系统默认提供详细的引用，确保 LLM 回答的准确性。
• 用户可以直接在浏览器内置的 PDF 查看器中查看引用（包括相关性评分），并高亮显示相关内容。
• 当检索流程返回低相关性文章时，系统会发出警告。

6、复杂推理方法

• 使用问题分解功能回答复杂或多跳问题。
• 支持基于代理的推理方法，如 ReAct、ReWOO 等，提升回答的深度和准确性。

7、可配置的设置界面

• 用户可以在 UI 中调整检索和生成过程中的大多数关键参数（包括提示词），以优化问答效果。

8、可扩展性

• 基于 Gradio 构建，用户可以自由定制或添加任何 UI 元素。
• 计划支持多种文档索引和检索策略，目前已有 GraphRAG 索引流程 作为示例。

未来发展

kotaemon 的开发者团队将继续完善项目，计划引入更多高级功能和改进用户体验。未来的发展方向包括：

• 更多的文档索引和检索策略：支持更多类型的文档索引和检索方法，提升检索效率和准确性。
• 多语言支持：增加对更多语言的支持，满足全球用户的需求。
• 社区贡献：鼓励社区成员参与开发，共同推动项目的进步。