奥德赛:自我托管AI工作站,内置10余种工具——6.5万颗星——完整安装指南2026
奥德赛(69,110个GitHub星标)是一个自助托管的AI工作站,结合了聊天、代理自动化、深度研究、文档编辑、邮件筛选、日历等功能。支持vLLM、llama.cpp、Ollama、OpenRouter、OpenAI和GitHub Copilot。提供Docker和原生Linux/macOS安装方式。
- ⭐ 69110
- 更新于 2026-06-09
┌──────────────────────────────────────────────────┐
│ Odysseus Architecture │
│ │
│ ┌─────────┐ ┌──────────┐ ┌─────────────────┐ │
│ │ Chat │ │ Agent │ │ Cookbook │ │
│ │ (API) │ │ (Tools) │ │ (Model Server)│ │
│ └────┬────┘ └────┬─────┘ └────────┬────────┘ │
│ │ │ │ │
│ ▼ ▼ ▼ │
│ ┌───────────────────────────────────────────────┐ │
│ │ Python Backend (FastAPI) │ │
│ │ ChromaDB │ SearXNG │ ntfy │ .env config │ │
│ └───────────────────────────────────────────────┘ │
│ │ │ │ │
│ ▼ ▼ ▼ │
│ ┌───────────────────────────────────────────────┐ │
│ Docker Compose Stack │ │
│ ┌────────┐ ┌──────────┐ ┌────────┐ ┌─────────┐ │
│ │ Odysseus│ │ChromaDB │ │SearXNG │ │ ntfy │ │
│ └────────┘ └──────────┘ └────────┘ └─────────┘ │
│ │
│ ┌───────────────────────────────────────────────┐ │
│ │ Frontend: Responsive Web UI (PWA) │ │
│ └───────────────────────────────────────────────┘ │
└──────────────────────────────────────────────────┘
Odysseus 是一个自托管的AI工作站,集成了10多种集成工具到一个隐私优先的界面中。由名为pewdiepie-archdaemon 的开发者创建,自2026年5月31日创建以来已获得超过65,000颗GitHub星标——是GitHub历史上增长最快的AI项目之一。
与需要您提交数据的ChatGPT或Claude不同,Odysseus 完全在您的硬件上运行。您可以连接自己的API密钥或将本地模型自行服务。该项目描述自己为“类似于ChatGPT和Claude的UI体验的自托管版本,但更具瑕疵且更有趣。”
本指南涵盖了所有内容:架构分解、Docker和原生安装、模型配置、代理设置、深度研究以及生产强化。
什么是Odysseus? #
Odysseus 是一个基于Python(FastAPI后端,响应式Web前端)的全栈AI工作站。它为希望拥有统一AI界面便利性的同时保持完全数据主权的用户而设计——就像ChatGPT的多模型聊天一样。
该项目在单个网络应用程序中集成了以下功能:
| 功能 | 描述 | 基于 |
|---|---|---|
| 聊天 | 多模型对话 | vLLM, llama.cpp, Ollama, OpenRouter, OpenAI, GitHub Copilot |
| 代理 | 自主智能代理 | OpenCode, MCP, web, files, shell, skills, memory |
| 烹饪书 | 意识到硬件的模型下载器和服务端 | llmfit, VRAM意识,GGUF/FP8/AWQ |
| 深度研究 | 多步研究与源合成 | 阿里巴巴通义深度研究的改进版本 |
| 对比 | 盲目多模型对比测试 | 多模型合成 |
| 文档 | 多标签文本编辑器,带有AI辅助 | Markdown, HTML, CSV, 语法高亮 |
| 内存/技能 | 持久化内存,向量+关键词检索 | ChromaDB, fastembed (ONNX) |
| 邮件 | IMAP/SMTP收件箱,带有AI分类 | IMAP, SMTP, CalDAV意识 |
| 笔记与任务 | 待办事项列表、提醒、cron风格的任务 | ntfy, 浏览器, 邮件渠道 |
| 日历 | 本地优先的日历,CalDAV同步 | CalDAV, .ics导入/导出 |
| 其他 | 图像编辑器、主题编辑器、文件上传、双因素认证 | Vision + PDF支持 |
Odysseus 如何工作 #
Odysseus 采用分层架构。后端是一个使用Python FastAPI编写的应用程序,负责模型推理、工具执行和数据库查询的协调。前端是一个响应式Web UI,可在桌面和移动设备上运行(可安装为PWA)。
Client (Browser/PWA)
│
▼
┌─────────────────────────┐
│ Web UI (Frontend) │
│ Chat / Agent / Docs / │
│ Email / Calendar / etc. │
└─────────┬───────────────┘
│ WebSocket / REST API
▼
┌─────────────────────────┐
│ FastAPI Backend │
│ • Chat handler │
│ • Agent executor │
│ • Cookbook manager │
│ • Deep research engine │
└─────────┬───────────────┘
│
┌─────┼──────────┬──────────┐
▼ ▼ ▼ ▼
vLLM Ollama SearXNG ChromaDB
(GPU) (CPU) (Search) (Memory)
烹饪书组件尤为值得注意——它会扫描您的硬件以检测可用的GPU,然后推荐并下载兼容的GGUF、FP8或AWQ格式模型。这消除了确定哪个模型适合您VRAM的常见痛点。
对于代理,Odysseus 基于 OpenCode 构建,并支持MCP(Model Context Protocol)进行工具集成。这意味着您的代理可以自主地与文件、shell、网络搜索和自定义技能交互。
安装与设置 #
Docker(推荐) #
Docker 是运行Odysseus 的最简单且最可靠的方式。项目提供了完整的Docker Compose堆栈,包括应用程序、ChromaDB用于记忆、SearXNG用于Web搜索以及ntfy用于通知。
# Clone the repository (use dev branch for latest features)
git clone https://github.com/pewdiepie-archdaemon/odysseus.git
cd odysseus
# Copy the example environment file (recommended)
cp .env.example .env
# Optional: configure explicit defaults
# APP_BIND=127.0.0.1
# APP_PORT=7000
# AUTH_ENABLED=true
# Start the stack
docker compose up -d --build
启动后,请访问 http://localhost:7000。首次设置时,Odysseus 会创建一个管理员账户(除非设置了 ODYSSEUS_ADMIN_USER),并在终端中打印临时密码。
要包含可选的额外功能(PDF查看器、AGPL PyMuPDF进行Office提取):
docker compose build --build-arg INSTALL_OPTIONAL=true
docker compose up -d --build
要启用对NVIDIA GPU的GPU通过:
# Diagnose GPU passthrough
scripts/check-docker-gpu.sh
# Install NVIDIA Container Toolkit if needed
scripts/check-docker-gpu.sh --install-nvidia-toolkit
# Enable GPU overlay
scripts.check-docker-gpu.sh --enable-nvidia-overlay
对于AMD/ROCm:
scripts/check-docker-amd-gpu.sh
然后编辑 .env 以添加覆盖层和您的主机渲染组ID。
原生Linux/macOS安装 #
如果您不希望使用Docker:
git clone https://github.com/pewdiepie-archdaemon/odysseus.git
cd odysseus
# Create Python virtual environment
python3 -m venv venv
source venv/bin/activate
# Install dependencies
pip install -r requirements.txt
# Run initial setup
python setup.py
# Start the server
python -m uvicorn app:app --host 127.0.0.1 --port 7000
要求:Python 3.11+。应用程序本身很轻量级;本地模型服务取决于您的模型、运行时、GPU和VRAM的重量。
Apple Silicon(macOS带GPU) #
Docker 在 macOS 上无法使用 Metal GPU。对于 M 系列 Mac 上的 GPU 加速本地模型服务:
git clone https://github.com/pewdiepie-archdaemon/odysseus.git
cd odysseus
# The bundled script handles venv + dependencies + startup
./start-macos.sh
这将在 http://127.0.0.1:7860 启动。要通过 Tailscale 暴露给手机:
ODYSSEUS_HOST=0.0.0.0 ./start-macos.sh
构建桌面应用 #
您可以将 Odysseus 包装为原生桌面应用封装器:
./build-macos-app.sh
配置与模型设置 #
安装后,通过 web UI 的 设置 选项卡配置您的 AI 模型。可以添加以下这些提供者中的任意一个:
# Example .env configuration for multi-provider setup
APP_BIND=127.0.0.1
APP_PORT=7000
AUTH_ENABLED=true
DATABASE_URL=sqlite:///./odysseus.db
# OpenAI-compatible API
OPENAI_API_KEY=sk-your-key-here
OPENAI_BASE_URL=https://api.openai.com/v1
# Anthropic
ANTHROPIC_API_KEY=sk-ant-your-key-here
# Ollama (local)
OLLAMA_BASE_URL=http://localhost:11434
# OpenRouter
OPENROUTER_API_KEY=sk-or-your-key-here
烹饪书提供了图形界面辅助下载和部署模型的方式。它会检测到您的 GPU VRAM 并建议合适的模型。对于仅使用 API(没有本地模型)的情况,您可以跳过烹饪书并连接到您偏好的 API 提供商。
添加自定义模型 #
# List available models in Cookbook
odysseus cookbook list
# Download a model (auto-detects best format for your hardware)
odysseus cookbook download mistral-7b
# Start serving a local model
odysseus cookbook serve llama-3.1-8b
与其他工具的集成 #
OpenCode Agent 框架 #
Odysseus 剂量基于 OpenCode,使其能够自主使用工具。您可以配置 MCP 服务器以连接外部工具:
# Configure MCP in .env
MCP_SERVERS=http://localhost:3000,mcp://your-server
# Your agent can then use:
# - File tools (read/write/search)
# - Shell execution
# - Web search
# - Custom skills
ChromaDB 用于持久内存 #
Odysseus 包含了 ChromaDB,用于向量基础的持久内存。您的剂量会记住之前的对话,并可以通过向量相似性和关键词搜索来检索上下文:
# Memory import/export
odysseus memory export --output memory.json
odysseus memory import --input memory.json
# The memory system uses:
# - ChromaDB for vector storage
# - fastembed (ONNX) for embeddings
# - Combined vector + keyword retrieval
SearXNG 网站搜索 #
对于需要网络研究的剂量,Odysseus 集成了 SearXNG(一个隐私保护的元搜索引擎)。这意味着 AI 剂量可以在不将您的查询暴露给 Google 或 Bing 的情况下进行网络搜索:
# SearXNG is included in the Docker stack
# Access it at: http://localhost:8888 (inside Docker network)
# Agent web search uses it automatically
电子邮件集成 #
Odysseus 包含了一个完整的 IMAP/SMTP 收件箱,并集成了 AI 功能来处理邮件:
# Email config in .env
EMAIL_IMAP_SERVER=imap.gmail.com
EMAIL_IMAP_PORT=993
EMAIL_SMTP_SERVER=smtp.gmail.com
EMAIL_SMTP_PORT=587
EMAIL_USERNAME=your@email.com
EMAIL_PASSWORD=app-password
AI 可以自动:总结邮件、标记紧急程度、起草回复、自动分类和过滤垃圾邮件。
性能基准与实际用例 #
资源使用比较 #
| 组件 | Docker | 原生(无模型) |
|---|---|---|
| 内存 (RAM) | ~200 MB | ~50 MB |
| 磁盘空间 (Disk) | ~500 MB(基础) | ~100 MB |
| 启动时间 (Startup) | ~5 秒 | ~1 秒 |
| GPU 通过式 | 支持 | 原生仅限(Metal) |
深度研究性能 #
Odysseus 的深度研究功能(来自阿里巴巴 Tongyi DeepResearch 的改编)可以执行多步骤的研究工作流:
Research Task: "Compare RAG vs. fine-tuning for enterprise QA"
Step 1: Web search (SearXNG) → 15 sources
Step 2: Read & extract key points → 8 documents
Step 3: Synthesize into report → 5-page summary
Step 4: Visualize with charts → auto-generated
这特别适用于研究人员、分析师以及需要从多个来源综合信息并生成结构化报告的人。
模型比较模式 #
比较功能允许您在旁边对不同模型进行盲 A/B 测试:
Prompt: "Write a Python binary search implementation"
Model A: [hidden] → Response
Model B: [hidden] → Response
User selects best response → rankings updated
这消除了在评估哪种模型最适合您的用例时的品牌偏见。
高级用法 / 生产强化 #
多用户设置 #
# Enable authentication (default)
AUTH_ENABLED=true
# Set custom admin user
ODYSSEUS_ADMIN_USER=yourusername
# Set admin password via .env
ODYSSEUS_ADMIN_PASSWORD=secure-password
# After first login, disable temporary password requirement
# via Settings panel
反向代理配置 #
对于反向代理后的生产部署:
server {
listen 443 ssl;
server_name ai.yourdomain.com;
ssl_certificate /etc/letsencrypt/live/ai.yourdomain.com/fullchain.pem;
ssl_certificate_key /etc/letsencrypt/live/ai.yourdomain.com/remote.key;
location / {
proxy_pass http://127.0.0.1:7000;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
}
}
用于生产的 Docker Compose #
# docker-compose.prod.yml
services:
odysseus:
image: pewdiepie-archdaemon/odysseus:latest
restart: unless-stopped
ports:
- "127.0.0.1:7000:7000"
volumes:
- ./data:/app/data
- ./config:/app/config
env_file: .env
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: 1
capabilities: [gpu]
备份策略 #
# Backup ChromaDB (memory) and configuration
tar czf odysseus-backup-$(date +%Y%m%d).tar.gz \
data/ \
config/ \
.env \
# ChromaDB data persists in: ./data/chroma/
# SQLite database: ./odysseus.db
与其他替代方案的比较 #
| 特性 | Odysseus | ChatGPT | Claude | NotebookLM | Open WebUI |
|---|---|---|---|---|---|
| 自托管 | ✅ 完全 | ❌ 只限云端 | ❌ 只限云端 | ❌ 只限云端 | ✅ 部分 |
| 内置代理 | ✅ OpenCode/MCP | ✅ GPTs | ✅ Computer Use | ❌ 无 | ✅ 局部 |
| 深度研究 | ✅ 内置 | ✅ Plus 版本仅限 | ✅ | ✅ 内置 | ❌ 无 |
| 邮件集成 | ✅ IMAP/SMTP | ❌ 无 | ❌ 无 | ❌ 无 | ❌ 无 |
| 日历同步 | ✅ CalDAV | ❌ 无 | ❌ 无 | ❌ 无 | ❌ 无 |
| 本地模型 | ✅ vLLM/llama.cpp | ❌ 无 | ❌ 无 | ❌ 无 | ✅ 部分 |
| 内存持久化 | ✅ ChromaDB | ✅ Plus 版本仅限 | ❌ 无 | ❌ 无 | ✅ 部分 |
| 移动 PWA | ✅ 完全 | ✅ 是 | ✅ 是 | ✅ 是 | ✅ 是 |
| 成本 | 免费(自托管) | $20/月 | $20/月 | 免费 | 免费 |
限制 / 实事评估 #
尽管 Odysseus 非常出色,但也有一些需要了解的限制:
-
新项目(创建于 2026 年 5 月 31 日) — 尽管有超过 65,000 星,Odysseus 极其年轻。预期会出现错误、中断变更和不完整的文档。
dev分支是默认分支,但“可能不稳定”。 -
GPU 支持侧重于 Docker/NVIDIA — AMD ROCm 支持存在,但需要手动
.env配置。Apple Silicon 需要原生安装(不支持 Docker GPU)。 -
尚未发布官方容器镜像 — 您必须从源代码构建(
git clone+docker compose build)。一个官方的 Docker Hub 镜像将简化部署过程。 -
Cookbook 模型选择有限 — 虽然 VRAM 意识强,但 CookBook 从 HuggingFace 下载模型可能对大型模型下载速度较慢。没有内置模型注册表和质量评分。
-
代理功能仍在成熟中 — 基于 OpenCode 构建,代理可以使用工具,但缺乏更成熟的框架所具有的广泛插件生态系统。
-
移动体验为“响应式” — 项目声明它在手机上看起来运行良好,但由于是基于 Web 的应用,因此不是真正的原生移动体验。
常见问题解答 #
Q: 我可以在 Raspberry Pi 上运行 Odysseus 吗?
A: 技术上可以,但本地模型服务将不切实际。您可以连接到远程 API 提供商(如 OpenAI、Anthropic 或 OpenRouter)或远程模型服务器。基于 Chromium 的前端在 ARM 设备上的性能可能因内存限制而受到影响。
Q: Odysseus 是否已经准备好用于团队使用?
A: 截至 2026 年 6 月,该项目尚未达到 1.0 版本且正在积极开发中。它非常适合个人使用和测试,但团队部署应预期偶尔出现中断变更。多用户身份验证系统存在,但功能有限(没有 RBAC 或 SSO)。
Q: 如何在不使用 CookBook 的情况下连接我的本地模型?
A: 您可以使用 Ollama 或 vLLM 作为您的模型提供商,并在 Odysseus 设置中配置 API 端点。CookBook 是可选的,主要是为了下载和通过 VRAM 意识强的推荐来提供模型。
Q: Odysseus 支持流式响应吗?
A: 是的,所有聊天和代理响应都通过 WebSocket 连接实时流式传输。前端支持流式 UI 动画以实现类似于 ChatGPT 的体验。
Q: 我可以不用任何 API 密钥使用 Odysseus 吗?
A: 可以 — 如果您有 GPU,可以通过 vLLM 或 llama.cpp(通过 CookBook)在本地提供模型服务。对于仅 CPU 用户,Ollama 提供免费的本地模型。API 仅用需要来自 OpenAI、Anthropic 或 OpenRouter 的密钥。
Q: Odysseus 如何与 Gmail 集成?
A: 您需要在 Google 账户设置中创建一个“应用专用密码”(在安全 > 双重验证 > 应用专用密码下)。使用这个 16 位密码而不是您的常规 Gmail 密码进行 IMAP 配置。 Odysseus 是 GitHub 上最具雄心的自托管 AI 项目之一——它将聊天、代理自动化、深度研究、文档编辑、邮件筛选、日历管理以及本地模型服务整合到一个以隐私为先的工作空间中。该项目拥有超过 65,000 颗星,仅创建几周时间就广受用户欢迎,这些用户希望在使用 ChatGPT 接口的同时避免数据交换的代价。
基于 Docker 的安装使其即使对于缺乏深厚 Linux 知识的用户也易于访问,而原生安装和 Apple Silicon 支持则为那些更喜欢直接在其硬件上运行的用户提供选择。
亲自尝试 Odysseus: github.com/pewdiepie-archdaemon/odysseus
相关文章:
- AgentMemory — 为 AI 编码代理提供持久化内存
- Open Notebook — 提供 15+ AI 供应商的开源 NotebookLM 替代品
参考资料及进一步阅读:
- 官方文档: https://pewdiepie-archdaemon.github.io/odysseus/
- GitHub 仓库: https://github.com/pewdiepie-archdaemon/odysseus
- 烹饪指南(模型选择): https://github.com/AlexsJones/llmfit
- 深度研究(改编自): https://github.com/Alibaba-NLP/DeepResearch
- 代理框架(OpenCode): https://github.com/anomalyco/opencode
加入我们的社区,了解更多 AI 工具深度解析:t.me/DIBI8_Group
免责声明: 本文仅作参考之用。在生产环境中运行第三方软件之前,请务必审查源代码。关联声明:上述某些链接可能包含关联代码。我们可能会在不增加您额外成本的情况下获得佣金。
💬 留言讨论