OmniRoute: 9Router를 290개 이상의 프로바이더로 포크한 무료 AI 게이트웨이

OmniRoute는 290개 이상의 LLM 프로바이더 사이를 자동 폴백하는 단일 OpenAI 호환 엔드포인트를 제공하는 오픈소스 AI 게이트웨이다. 압축 파이프라인과 데스크톱/PWA 대시보드를 갖췄다. 원래는 9Router의 TypeScript 포크였다.

  • ⭐ 33037
  • TypeScript
  • Node.js
  • Next.js
  • React
  • Electron
  • MIT
  • 업데이트 2026-07-29

Orca: Claude Code, Codex, Cursor를 병렬로 실행하는 ADE

OmniRoute 대시보드가 프로바이더 상태와 라우팅 현황을 보여주는 모습
OmniRoute 대시보드 — github.com/diegosouzapw/OmniRoute 공식 스크린샷

OmniRoute란 무엇인가? #

OmniRoute는 오픈소스 AI 게이트웨이다: 한 번 설치하고 OpenAI 호환 도구를 로컬 엔드포인트(http://localhost:20128/v1)로 지정하면, 여러 LLM 프로바이더를 관리하는 번거로움을 대신 처리해 준다 — 한 프로바이더가 속도 제한, 할당량 초과, 키 만료를 겪는 순간 즉시 다른 프로바이더로 자동 전환된다.

🔗 GitHub: https://github.com/diegosouzapw/OmniRoute 🌐 홈페이지: https://omniroute.online

먼저 밝혀둘 점: OmniRoute는 원래 9Router(rtk-ai/rtk, dibi8 영문판에서 이미 다룬 적 있음)의 TypeScript 포크로 시작했다. 두 프로젝트는 이후 서로 다른 방향으로 발전했다 — OmniRoute는 훨씬 넓은 프로바이더 목록, 멀티모달 API, 정교한 데스크톱/PWA 대시보드를 추가했고, 9Router/RTK는 독자적으로 계속 성장해 2026년 7월 말 기준 실제로 OmniRoute(3만 3000개 이상)보다 스타 수(7만 3600개 이상)가 더 많다. 어느 쪽이 다른 쪽의 업그레이드 버전이라고 단정하기 전에 알아둘 만한 사실이다.


설치 즉시 별도 설정 없이 작동 #

새로 설치하면 API 키 없이 바로 응답한다 — “auto” 라우팅 모드에 이미 연결된 키 불필요 무료 백엔드 덕분이다:

npm i -g omniroute
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'

폴백은 어떻게 작동하나 #

OmniRoute의 라우팅은 이미 가진 프로바이더 계정 위에 4단계 캐스케이드로 놓인다 — 가장 저렴하거나 가장 여유 있는 단계를 먼저 시도하고, 필요할 때만 다음 단계로 넘어간다:

단계출처넘어가는 시점
1. 구독이미 결제 중인 Claude Code, Codex, Copilot 플랜할당량 소진
2. API 키DeepSeek, Groq, xAI 등예산 한도 도달
3. 저가GLM(약 0.5달러), MiniMax(약 0.2달러)예산 한도 도달
4. 무료Kiro, Qoder, Pollinations 등 무료 티어 백엔드항상 마지막 수단으로 사용 가능

핵심 기능 #

기능설명
290개 이상 프로바이더하나의 엔드포인트로 방대한 프로바이더 목록을 커버(프로젝트 자체 목록 기준, 독립 검증 아님)
압축 파이프라인최대 12개 엔진(RTK, Caveman, LLMLingua-2, GCF, OmniGlyph)이 요청이 모델에 도달하기 전에 프롬프트/도구 출력을 압축
MCP + A2AModel Context Protocol(stdio/HTTP/SSE)과 Agent2Agent v0.3(JSON-RPC 2.0 + SSE) 지원
로컬 우선 저장AES-256-GCM 암호화가 적용된 SQLite(better-sqlite3, WAL) 저장
TLS 은닉 라우팅wreq-js를 통한 JA3/JA4 TLS 지문 위장, 제한된 네트워크 환경에서 프로바이더 접근용
다양한 실행 형태CLI/서버(Node.js), Electron 데스크톱 앱, Termux 안드로이드, 브라우저 PWA
실시간 분석프로바이더별 사용량, 할당량, 절감액, p95 지연 시간을 추적하는 대시보드

OmniRoute 프로바이더 대시보드, 연결된 수십 개의 LLM 프로바이더 목록
프로바이더 대시보드 — github.com/diegosouzapw/OmniRoute 공식 스크린샷


기술 스택(프로젝트 자체 문서 기준) #

  • 런타임: Node.js 22.x/24.x LTS
  • 언어: TypeScript(프로젝트는 core가 100% TypeScript이며 v2.0부터 core에 any가 없다고 밝힘)
  • 프레임워크: Next.js 16 + React 19 + Tailwind CSS 4
  • 데이터베이스: better-sqlite3(WAL) + 레거시 JSON용 LowDB, 95개 도메인 모듈에 걸쳐 사용
  • 인증: OAuth 2.0(PKCE), JWT, API 키, MCP scoped auth
  • 테스트: Node.js 테스트 러너 + Vitest — 프로젝트는 3300개 이상 파일에 걸쳐 25000개 이상의 테스트 케이스가 있다고 밝힘

설치 옵션 #

npm i -g omniroute

Docker도 지원한다:

docker pull diegosouzapw/omniroute

데스크톱(Electron), 안드로이드(Termux), PWA 빌드는 프로젝트 GitHub 릴리스웹사이트에 문서화돼 있다.


호환 도구 #

로컬 엔드포인트를 가리키기만 하면 OpenAI 호환 클라이언트라면 무엇이든 작동한다. 프로젝트는 다음을 포함해 30개 이상 도구의 설정 문서를 명시적으로 제공한다:

Claude Code · Codex CLI · Cursor CLI · GitHub Copilot CLI · Cline · Kilo Code · Roo Code · Continue · Aider · OpenCode · Factory Droid · Goose · Hermes Agent · Grok Build

OmniRoute 분석 대시보드, 프로바이더별 사용량·할당량·지연 시간 표시
분석 대시보드 — github.com/diegosouzapw/OmniRoute 공식 스크린샷


OmniRoute vs 9Router #

항목OmniRoute9Router (RTK)
관계9Router의 포크원본 프로젝트
GitHub 스타(2026년 7월 말)3만 3000개 이상7만 3600개 이상
UIElectron 데스크톱 + PWA 대시보드dibi8 영문판의 9Router 글 참고
압축 엔진RTK + Caveman + LLMLingua-2 + GCF + OmniGlyphRTK(원조 엔진)
프로토콜MCP + A2A9Router 자체 문서 참고
라이선스MITMIT

사용 사례 #

1. 속도 제한 때문에 작업이 끊기지 않게 하기 #

Claude Code나 Codex가 세션 도중 할당량 제한에 걸리면, 요청이 실패하는 대신 4단계 폴백이 자동으로 이어받는다.

2. 여러 무료 티어 대시보드를 일일이 관리하지 않기 #

십여 개 프로바이더의 무료 할당량을 직접 추적하는 대신, 하나의 엔드포인트를 OmniRoute로 지정해 아직 여유 있는 무료 백엔드로 자동 라우팅되게 한다.

3. 도구 호출이 많은 에이전트 세션의 토큰 비용 절감 #

압축 파이프라인이 에이전트와 모델 사이에 위치해, 대량의 도구 출력이 과금되기 전에 토큰 부피를 줄이려 시도한다.


관련 저장소 #

저장소용도
9Router (RTK)OmniRoute가 포크한 원본 프로젝트 — 지금은 둘 중 더 큰 쪽
Orca다른 문제(병렬 에이전트 오케스트레이션)를 다루지만 “여러 AI 도구를 하나의 지점에서 관리"한다는 철학은 비슷

관련 글 #


결론 #

OmniRoute는 9Router에서 물려받은 “하나의 엔드포인트, 여러 프로바이더” 아이디어에 훨씬 넓은 프로바이더 목록, 압축 파이프라인, MCP/A2A 지원, 정교한 Electron/PWA 대시보드를 더했다. 2026년 7월 말 기준 약 2주 만에 1만 7700개에서 3만 3000개 이상으로 늘어난 빠른 성장세를 보였지만, 모체인 RTK가 여전히 둘 중 더 큰 쪽이다. 9Router의 더 가벼운 코어 대신 대시보드 중심의 게이트웨이를 원한다면 시도해 볼 만하다.

추천 대상: 폴백 라우팅 아이디어 위에 시각적 대시보드와 넓은 프로바이더 커버리지를 원하고, 좀 더 무겁고 마케팅 색채가 짙은 프로젝트여도 괜찮은 개발자.

GitHub: https://github.com/diegosouzapw/OmniRoute


셀프 호스팅 추천 인프라 #

노트북 대신 상시 가동되는 서버에서 OmniRoute의 서버 컴포넌트를 돌리고 싶다면:

  • DigitalOcean — 14개 이상의 글로벌 리전, 60일간 200달러 무료 크레딧. 상시 가동 게이트웨이 엔드포인트로 흔히 선택된다.
  • HTStack — 중국 본토에서 지연 시간이 짧은 홍콩 VPS. dibi8.com이 호스팅되는 것과 같은 IDC다.

제휴 링크입니다 — 추가 비용 없이 dibi8.com 운영을 돕습니다.

최종 업데이트: 2026-07-29

참고 자료 #

💬 댓글 토론