上傳PDF、網頁和文檔後,知識庫會自動生成,並通過聊天對話進行查詢。
項目概況
- 定義:Anything LLM是一款「全功能」應用程式,支持桌面和Docker環境,內置RAG、AI Agents(智能代理)、無代碼代理構建器和HCP(模塊化聊天插件)兼容性
- 定位目標:該項目秉承「零設置、隱私至上」的理念,為用戶提供了一個不依賴外部雲、可私密操作、高度定製、易於使用的人工智慧平台。
主要功能亮點
- 文檔上下文聊天
您可以將PDF、XT、DOCX、CSV、代碼庫等各種內容導入為「上下文」,系統將為LLM建立關聯內存,以供對話中參考 - 支持多個LLM模型和載體資料庫
您可以選擇攜帶您自己的本地Embedder或OpenAI、Azure OpenAI、LocalAI、Ollama、Kohere等,並支持多個載體資料庫連接 - 無代碼人工智慧代理構建
內置Agent Builder支持拖放配置,用戶無需編寫代碼即可創建智能代理 - 多平台部署
支持Windows、macOS和Linux上的桌面安裝。它還允許在伺服器和雲環境中部署Docker進行運營和維護,並支持多用戶權限管理(在Docker模式下) - 嵌入式聊天組件
提供可以嵌入網站的聊天小部件(通過<腳本>或<iframe>實施)以促進將知識庫作為單獨的聊天門戶向訪問者展示 - 開發人員API和插件生態系統
LLM允許開發人員通過API訪問它,還可以上傳或共享自定義插件(代理技能、數據連接器等)通過CLI工具擴展功能 - 隱私和當地優先事項
默認數據本地存儲,所有操作都可以離線執行,優先保護用戶隱私
項目結構簡介- Mono-repo架構
前端- 使用ViteJS + React構建的用戶界面。伺服器- Node.js + Express,負責與LLM和載體資料庫交互。收集器- 用於解析和處理上傳文檔的模塊。Docker- 為構建和部署Docker鏡像提供支持。嵌入- 在網頁上實現嵌入式部件的子模塊。瀏覽器擴展- Chrome擴展模塊允許只需單擊即可輕鬆將Web內容導入工作空間
社區和文檔生態系統
- 有官方文件庫(任何事情文檔)提供使用指南、部署方法、功能詳細說明等。
- 發布頁面處於活動狀態。最新版本1.8.0已經支持快速更新HCP Protect以及改進的入職體驗和其他體驗。
概要描述
Anything LLM是一個開源人工智慧工具平台,對普通用戶和開發人員友好:
- 對於初學者:界面清晰,無需配置即可使用。
- 對於高級用戶/團隊:支持高度定製、插件擴展、本地部署、權限控制。
- 出於隱私問題:默認支持離線操作和本地數據存儲。
Github:https://github.com/Mintplex-Labs/anything-llm
輸油管: