AnythingLLM专注于知识库问答的Chat项目

上传 PDF、网页、文档后自动生成知识库,并通过聊天对话查询。

项目总览

  • 定义:AnythingLLM 是一个“全功能”应用,支持桌面和 Docker 环境,内建 RAG、AI Agents(智能代理)、无代码代理构建器、以及 MCP(Modular Chat Plugin)兼容等功能
  • 定位目标:该项目秉持“零设置、隐私优先”的理念,为用户提供一个既不依赖外部云,又能私密运行、定制强、使用简单的 AI 平台

关键功能亮点

  1. 文档上下文聊天
    你可以将 PDF、TXT、DOCX、CSV、代码库等各种内容作为“上下文”导入,系统会构建关联记忆供 LLM 在对话中引用
  2. 支持多种 LLM 模型与向量数据库
    可选择自带本地 Embedder 或 OpenAI、Azure OpenAI、LocalAI、Ollama、Cohere 等,同时支持多种向量数据库连接
  3. 无代码 AI 代理构建
    内建的 Agent Builder 支持拖拽式配置,用户无需编写代码即可创建智能代理
  4. 多平台部署
    支持 Windows、macOS、Linux 桌面安装,也允许通过 Docker 部署在服务器、云环境中运维,而且支持多用户权限管理(Docker 模式下)
  5. 嵌入式聊天部件
    提供可以嵌入到网站的聊天 widget(通过 <script> 或 <iframe> 实现),便于将某个知识库作为一个独立聊天入口暴露给访客
  6. 开发者 API 与插件生态
    AnythingLLM 支持开发者通过 API 接入,也可以通过 CLI 工具上传或分享自定义插件(agent-skill、data connector 等),扩展功能
  7. 隐私与本地优先
    默认数据存储在本地,所有操作可选择离线进行,优先保护用户隐私

项目结构简要 — Mono-repo 架构

  • frontend – 使用 ViteJS + React 构建的用户界面。
  • server – Node.js + Express,负责与 LLM、向量数据库交互。
  • collector – 解析、处理上传文档的模块。
  • docker – 提供构建、部署 Docker 镜像的支持。
  • embed – 实现网页嵌入部件的子模块。
  • browser-extension – Chrome 扩展模块,方便一键导入网页内容到工作区

社区与文档生态

  • 有官方文档库(anythingllm-docs)提供使用指南、部署方式、功能详解等
  • Release 页面活跃,最近的 1.8.0 版本已支持快速更新 MCP Config、改进 Onboarding 等体验

总结说明

AnythingLLM 是一个面向普通用户与开发者都友好的开源 AI 工具平台

  • 对初学者:界面清晰、无需配置即可使用。
  • 对进阶用户 / 团队:支持高度自定义、插件扩展、本地部署、权限控制。
  • 对隐私关注者:默认支持离线运行,数据本地存储。

Github:https://github.com/Mintplex-Labs/anything-llm

油管:https://youtu.be/5ypOIBiD10M