在 Docker 内连接 Ollama 时,如何修复 AnythingLLM 的 'Connection Refused' 错误?

在 Docker 容器内部,localhost 指的是容器自身,而不是宿主机,因此要把 AnythingLLM 的 LLM URL 指向 http://host.docker.internal:11434。你还必须用环境变量 OLLAMA_HOST=0.0.0.0 来启动 Ollama,以允许跨网络接口访问。

AnythingLLM 在 RAG 中使用什么样的分块策略?

AnythingLLM 使用 LangChain 的 RecursiveCharacterTextSplitter,默认 chunkSize 为 1000、chunkOverlap 为 200,按段落和换行的优先级进行切分(分隔符为 "\n\n"、"\n"、" "、"")。200 个 token 的重叠保留了跨段落的上下文,使语义不会因随意截断而丢失。

AnythingLLM 与 LocalGPT 和 PrivateGPT 有何不同?

AnythingLLM 拥有 Node.js 的前后端,配有精致的 UI、多用户工作区隔离以及 RBAC,还支持一键 Docker 部署。LocalGPT 是一个单用户的 Python 终端脚本,没有权限隔离;PrivateGPT 提供了不错的 API,但内置 UI 很原始,访问控制也较弱。

AnythingLLM 为什么用 Server-Sent Events 而不是 WebSockets 来做流式传输?

AnythingLLM 使用 SSE 这种更轻量的单向协议,因为它在部署于复杂 Nginx 反向代理之后的企业内网中能稳定工作。SSE 绕开了那些常常导致 WebSocket 连接中断的防火墙拦截问题。

AnythingLLM 默认的 LanceDB 为什么在多用户时会抛出 SQLITE_BUSY 错误?

默认的嵌入式向量数据库(LanceDB/Chroma)在高频并发写入下存在文件锁定问题,当许多用户向同一个工作区上传大型 PDF 时,会抛出 SQLITE_BUSY 或写锁错误。在员工众多的生产环境中,应将 Vector DB 切换为独立的 Qdrant 或 Milvus 实例。

企业为什么害怕 ChatGPT？

AnythingLLM 是开源本地 RAG 平台，支持多用户工作区、Ollama/LM Studio 接入和主流向量数据库，数据永不离开你的服务器，企业私有化部署首选。

Docker
Go
JavaScript
Python
MIT
更新于 2026-05-15

🔗 相关资源推荐

💬 留言讨论