上传 PDF、网页、文档后自动生成知识库,并通过聊天对话查询。
项目总览
- 定义:AnythingLLM 是一个“全功能”应用,支持桌面和 Docker 环境,内建 RAG、AI Agents(智能代理)、无代码代理构建器、以及 MCP(Modular Chat Plugin)兼容等功能
- 定位目标:该项目秉持“零设置、隐私优先”的理念,为用户提供一个既不依赖外部云,又能私密运行、定制强、使用简单的 AI 平台
关键功能亮点
- 文档上下文聊天
你可以将 PDF、TXT、DOCX、CSV、代码库等各种内容作为“上下文”导入,系统会构建关联记忆供 LLM 在对话中引用 - 支持多种 LLM 模型与向量数据库
可选择自带本地 Embedder 或 OpenAI、Azure OpenAI、LocalAI、Ollama、Cohere 等,同时支持多种向量数据库连接 - 无代码 AI 代理构建
内建的 Agent Builder 支持拖拽式配置,用户无需编写代码即可创建智能代理 - 多平台部署
支持 Windows、macOS、Linux 桌面安装,也允许通过 Docker 部署在服务器、云环境中运维,而且支持多用户权限管理(Docker 模式下) - 嵌入式聊天部件
提供可以嵌入到网站的聊天 widget(通过<script>
或<iframe>
实现),便于将某个知识库作为一个独立聊天入口暴露给访客 - 开发者 API 与插件生态
AnythingLLM 支持开发者通过 API 接入,也可以通过 CLI 工具上传或分享自定义插件(agent-skill、data connector 等),扩展功能 - 隐私与本地优先
默认数据存储在本地,所有操作可选择离线进行,优先保护用户隐私
项目结构简要 — Mono-repo 架构
frontend
– 使用 ViteJS + React 构建的用户界面。server
– Node.js + Express,负责与 LLM、向量数据库交互。collector
– 解析、处理上传文档的模块。docker
– 提供构建、部署 Docker 镜像的支持。embed
– 实现网页嵌入部件的子模块。browser-extension
– Chrome 扩展模块,方便一键导入网页内容到工作区
社区与文档生态
- 有官方文档库(anythingllm-docs)提供使用指南、部署方式、功能详解等
- Release 页面活跃,最近的 1.8.0 版本已支持快速更新 MCP Config、改进 Onboarding 等体验
总结说明
AnythingLLM 是一个面向普通用户与开发者都友好的开源 AI 工具平台:
- 对初学者:界面清晰、无需配置即可使用。
- 对进阶用户 / 团队:支持高度自定义、插件扩展、本地部署、权限控制。
- 对隐私关注者:默认支持离线运行,数据本地存储。