OmniRoute: AI Gateway Miễn Phí Fork Từ 9Router Thành Hơn 290 Provider

OmniRoute là AI gateway mã nguồn mở — một endpoint tương thích OpenAI tự động fallback qua hơn 290 provider LLM, kèm pipeline nén và dashboard desktop/PWA. Ban đầu nó là bản fork TypeScript của 9Router.

  • ⭐ 33037
  • TypeScript
  • Node.js
  • Next.js
  • React
  • Electron
  • MIT
  • Cập nhật 2026-07-29

Orca: ADE Chạy Song Song Claude Code, Codex Và Cursor

Dashboard OmniRoute hiển thị trạng thái provider và tình hình định tuyến
Dashboard OmniRoute — ảnh chụp màn hình chính thức từ github.com/diegosouzapw/OmniRoute

OmniRoute Là Gì? #

OmniRoute là một AI gateway mã nguồn mở: cài một lần, trỏ bất kỳ công cụ tương thích OpenAI nào về endpoint local (http://localhost:20128/v1), rồi để nó xử lý hộ việc quản lý nhiều provider LLM — ngay khi một provider chạm giới hạn tốc độ, hết quota, hoặc key hỏng, nó tự động chuyển sang provider khác.

🔗 GitHub: https://github.com/diegosouzapw/OmniRoute 🌐 Trang chủ: https://omniroute.online

Cần nói rõ trước: OmniRoute ban đầu là bản fork TypeScript của 9Router (rtk-ai/rtk, dibi8 đã viết riêng bản tiếng Anh). Hai dự án sau đó phát triển theo hướng khác nhau — OmniRoute thêm danh sách provider rộng hơn nhiều, API đa phương thức, dashboard desktop/PWA được trau chuốt; còn 9Router/RTK tự phát triển tiếp và tính đến cuối tháng 7/2026 thực tế có số sao (hơn 73.600) nhiều hơn OmniRoute (hơn 33.000). Đáng biết trước khi giả định bên nào là “bản nâng cấp” của bên nào.


Không Cần Cấu Hình Gì Ngay Từ Lần Cài Đầu #

Cài mới xong là phản hồi ngay không cần API key — nhờ các backend miễn phí không cần key đã kết nối sẵn vào chế độ “auto”:

npm i -g omniroute
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'

Cơ Chế Fallback Hoạt Động Ra Sao #

Định tuyến của OmniRoute nằm trên các tài khoản provider bạn đã có, theo cấu trúc 4 tầng — thử tầng rẻ nhất/rảnh nhất trước, chỉ xuống tầng dưới khi cần:

TầngNguồnXuống tầng khi nào
1. SubscriptionCác gói Claude Code, Codex, Copilot bạn đã trả tiềnHết quota
2. API KeyDeepSeek, Groq, xAI…Chạm ngưỡng ngân sách
3. Giá rẻGLM (~0.5 USD), MiniMax (~0.2 USD)Chạm ngưỡng ngân sách
4. Miễn phíKiro, Qoder, Pollinations và các backend miễn phí khácLuôn sẵn sàng làm phương án cuối

Tính Năng Chính #

Tính năngMô tả
Hơn 290 providerMột endpoint bao phủ danh sách provider rộng lớn (theo danh sách tự công bố của dự án, chưa kiểm chứng độc lập)
Pipeline nénTối đa 12 engine (RTK, Caveman, LLMLingua-2, GCF, OmniGlyph) nén prompt/output công cụ trước khi đến model
MCP + A2AHỗ trợ Model Context Protocol (stdio/HTTP/SSE) và Agent2Agent v0.3 (JSON-RPC 2.0 + SSE)
Lưu trữ ưu tiên localSQLite (better-sqlite3, WAL) với mã hóa AES-256-GCM
Định tuyến ẩn danh TLSGiả lập dấu vân tay TLS JA3/JA4 qua wreq-js, dùng để truy cập provider trong mạng bị hạn chế
Nhiều hình thức chạyCLI/server (Node.js), app desktop Electron, Android qua Termux, PWA trình duyệt
Phân tích thời gian thựcDashboard theo dõi lượng dùng, quota, mức tiết kiệm, độ trễ p95 theo từng provider

Dashboard provider của OmniRoute, liệt kê hàng chục provider LLM đã kết nối
Dashboard provider — ảnh chụp màn hình chính thức từ github.com/diegosouzapw/OmniRoute


Tech Stack (Theo Tài Liệu Của Dự Án) #

  • Runtime: Node.js 22.x/24.x LTS
  • Ngôn ngữ: TypeScript (dự án tuyên bố core 100% TypeScript, không còn any trong core từ v2.0)
  • Framework: Next.js 16 + React 19 + Tailwind CSS 4
  • Database: better-sqlite3 (WAL) + LowDB cho JSON legacy, trải rộng 95 module domain
  • Xác thực: OAuth 2.0 (PKCE), JWT, API key, MCP scoped auth
  • Testing: Node.js test runner + Vitest — dự án tuyên bố có hơn 25.000 test case trên hơn 3.300 file

Các Cách Cài Đặt #

npm i -g omniroute

Cũng hỗ trợ Docker:

docker pull diegosouzapw/omniroute

Bản desktop (Electron), Android (Termux), PWA được tài liệu hóa tại trang releases GitHubwebsite của dự án.


Công Cụ Tương Thích #

Bất kỳ client tương thích OpenAI nào cũng hoạt động, chỉ cần trỏ về endpoint local của OmniRoute. Dự án tài liệu hóa rõ cách thiết lập cho hơn 30 công cụ, bao gồm:

Claude Code · Codex CLI · Cursor CLI · GitHub Copilot CLI · Cline · Kilo Code · Roo Code · Continue · Aider · OpenCode · Factory Droid · Goose · Hermes Agent · Grok Build

Dashboard phân tích của OmniRoute, hiển thị lượng dùng, quota, độ trễ theo provider
Dashboard phân tích — ảnh chụp màn hình chính thức từ github.com/diegosouzapw/OmniRoute


OmniRoute So Với 9Router #

Khía cạnhOmniRoute9Router (RTK)
Quan hệBản fork của 9RouterDự án gốc
Sao GitHub (cuối tháng 7/2026)Hơn 33.000Hơn 73.600
Giao diệnDesktop Electron + dashboard PWAXem bài viết 9Router bản tiếng Anh của dibi8
Engine nénRTK + Caveman + LLMLingua-2 + GCF + OmniGlyphRTK (engine gốc)
Giao thứcMCP + A2AXem tài liệu riêng của 9Router
Giấy phépMITMIT

Trường Hợp Sử Dụng #

1. Không Bị Gián Đoạn Vì Giới Hạn Tốc Độ #

Khi Claude Code hay Codex chạm giới hạn quota giữa phiên làm việc, cơ chế fallback 4 tầng tự động tiếp quản thay vì để request thất bại.

2. Không Phải Quản Lý Nhiều Dashboard Miễn Phí Riêng Lẻ #

Thay vì tự theo dõi hạn mức miễn phí của cả chục provider, trỏ một endpoint về OmniRoute để nó tự định tuyến đến backend miễn phí còn hạn mức.

3. Giảm Chi Phí Token Cho Session Agent Gọi Nhiều Công Cụ #

Pipeline nén nằm giữa agent và model, nhằm giảm khối lượng token của output công cụ lớn trước khi bị tính phí.


Repository Liên Quan #

RepositoryMục đích
9Router (RTK)Dự án gốc mà OmniRoute fork ra — hiện là bên lớn hơn trong hai dự án
OrcaGiải quyết vấn đề khác (điều phối agent song song) nhưng cùng triết lý “một điểm điều khiển cho nhiều công cụ AI”

Bài Viết Liên Quan #


Kết Luận #

OmniRoute kế thừa ý tưởng “một endpoint, nhiều provider” từ 9Router và thêm vào danh sách provider rộng hơn nhiều, pipeline nén, hỗ trợ MCP/A2A, dashboard Electron/PWA được trau chuốt. Tăng trưởng nhanh — từ khoảng 17.700 lên hơn 33.000 sao trong khoảng hai tuần (tính đến cuối tháng 7/2026) — dù dự án gốc RTK vẫn là bên lớn hơn trong hai bên. Đáng thử nếu bạn muốn một gateway hướng dashboard thay vì core gọn nhẹ hơn của 9Router.

Phù hợp nhất với: Developer muốn có dashboard trực quan và độ phủ provider rộng dựa trên ý tưởng định tuyến fallback, không ngại một dự án nặng hơn và có màu sắc marketing rõ hơn.

GitHub: https://github.com/diegosouzapw/OmniRoute


Hạ Tầng Đề Xuất Để Tự Host #

Nếu bạn muốn chạy phần server của OmniRoute trên một máy hoạt động liên tục thay vì laptop:

  • DigitalOcean — 200 USD credit miễn phí trong 60 ngày trên hơn 14 vùng toàn cầu, lựa chọn phổ biến cho endpoint gateway hoạt động liên tục.
  • HTStack — VPS Hồng Kông với độ trễ thấp từ Trung Quốc đại lục. Đây chính là IDC đang host dibi8.com.

Liên kết affiliate — không tốn thêm chi phí cho bạn và giúp duy trì hoạt động của dibi8.com.

Cập nhật lần cuối: 2026-07-29

Tài Liệu Tham Khảo #

📦 Xuất hiện trong các bộ sưu tập

💬 Bình luận & Thảo luận