Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 900+ contributors
README (Filipino)
🌐 Languages: 🇺🇸 English · 🇪🇹 am · 🇸🇦 ar · 🇦🇿 az · 🇧🇬 bg · 🇧🇩 bn · 🇧🇦 bs · 🇨🇿 cs · 🇩🇰 da · 🇩🇪 de · 🇬🇷 el · 🇪🇸 es · 🇪🇪 et · 🇮🇷 fa · 🇫🇮 fi · 🇫🇷 fr · 🇮🇪 ga · 🇮🇳 gu · 🇳🇬 ha · 🇮🇱 he · 🇮🇳 hi · 🇭🇷 hr · 🇭🇺 hu · 🇦🇲 hy · 🇮🇩 id · 🇳🇬 ig · 🇮🇹 it · 🇯🇵 ja · 🇬🇪 ka · 🇰🇭 km · 🇮🇳 kn · 🇰🇷 ko · 🇱🇹 lt · 🇱🇻 lv · 🇮🇳 ml · 🇮🇳 mr · 🇲🇾 ms · 🇲🇹 mt · 🇲🇲 my · 🇳🇵 ne · 🇳🇱 nl · 🇳🇴 no · 🇮🇳 or · 🇮🇳 pa · 🇵🇱 pl · 🇵🇹 pt · 🇧🇷 pt-BR · 🇷🇴 ro · 🇷🇺 ru · 🇱🇰 si · 🇸🇰 sk · 🇸🇮 sl · 🇷🇸 sr · 🇸🇪 sv · 🇰🇪 sw · 🇮🇳 ta · 🇮🇳 te · 🇹🇭 th · 🇹🇷 tr · 🇺🇦 uk-UA · 🇵🇰 ur · 🇺🇿 uz · 🇻🇳 vi · 🇳🇬 yo · 🇨🇳 zh-CN · 🇹🇼 zh-TW
🚀 OmniRoute — Ang Libreng AI Gateway
💰 ~1.62B Token / Buwan Mula sa Mga Libreng Tier ng Third-Party
Gamitin ang sarili mong mga provider account. Isa itong tinatayang pinagsama-samang halaga mula sa magkakahiwalay na kwalipikadong libreng tier ng mga third-party, hindi isang token grant mula sa OmniRoute. Mag-sign up, kumuha ng mga kredensyal kung kinakailangan, at ikonekta ang mga provider na magagamit mo; ang bawat provider ang kumokontrol sa sarili nitong mga limitasyon, availability, at tuntunin.
Mahirap pagsama-samahin nang manu-mano ang mga libreng tier — dose-dosenang SDK, dose-dosenang rate limit, at walang paraan para malaman kung gaano karami talaga ang mayroon ka. Itinatala ng OmniRoute ang 467 entry ng libreng tier sa 34 na umuulit na pool key at kinakalkula ang pangunahing bilang ng mga token mula sa 17 pool na may inilathalang positibong buwanang budget at limang per-model na cap ng Groq, na inaalis ang mga duplicate ayon sa pinaghahatiang pool. Ang mga quota na nagiging available lamang pagkatapos ng panrehiyong identity check (sa kasalukuyan: ModelScope) ay hiwalay na ipinapakita, +~6M sa likod ng panrehiyong identity verification, at hindi kailanman isinasama sa pangunahing bilang. Patuloy na makikita ang resulta sa dashboard (
/dashboard/free-tiers).
Animated na buod ng live na pahinang
/dashboard/free-tiers. Kumpletong metodolohiya (pag-aalis ng mga duplicate na pool, mga credit tier, mga tuntunin ng provider): docs/reference/FREE_TIERS.md.Muling sinusuri ang mga bilang na ito kada dalawang linggo batay sa live catalog at gumagalaw sa parehong direksyon — kapag itinigil ng isang provider ang libreng tier nito, bumababa ang bilang; kapag may bagong dumating, tumataas ito. Inilalathala namin kung ano talaga ang kinakalkula ng catalog, at hindi kailanman isang ni-round up na pinakamainam na posibleng halaga.
⭐ Lagyan ng star ang repo kung nakatulong ang OMNIROUTE na makatipid ka at mapadali ang iyong trabaho.
💬 Sumali sa komunidad
👋 I-follow ang maintainer — ikaw ang unang makaalam tungkol sa mga bagong provider, release, at tip:
Mga tanong, tip tungkol sa mga provider, roadmap, at suporta → Discord · Telegram · WhatsApp 🌍 Global / 🇧🇷 Brasil / Portal
📈 Patuloy na Lumalago ang Gateway
| v3.8.50 | v3.8.51 | v3.8.52+ |
|
|---|---|---|---|
| 🌐 Mga provider | 352 | 358 | 375 |
| 🧠 Mga natatanging chat model ID | 1320 | 1374 | 1475 |
| 🖼️ Tulay ng modality | 🆕 bisyon + audio + video | ✓ | ✓ |
| 📡 Libreng katalogo ng Radar | 🆕 kusang pagsali | ✓ | ✓ |
| ⚖️ Pag-iiskedyul batay sa quota | 🆕 Quota-Share | ✓ | ✓ |
| 📊 Telemetry ng quota | 🆕 real-time | ✓ | ✓ |
| 🧰 Headless mode | — | — | 🆕 serve --headless |
| 🛤️ Imprastraktura ng LTS rail | — | — | 🆕 mga release channel |
| 🔎 API sa pagtuklas ng modelo | — | — | 🆕 /v1/models/query |
→ Roadmap — tumatahak sa landas patungong v3.9.0 LTS
🧩 Magagamit
| 🚀 Magsimula | 🚀 Mabilisang Pagsisimula | 📦 I-install | 🆓 Kumonekta sa isang provider |
| 💡 Matuto | 💥 Ang Pangako | 🤔 Bakit OmniRoute | 🏆 Ano ang Nagpapaiba Rito |
| ⚙️ Mga Feature | 🎯 Mga Combo | 🌐 Mga Provider | 🔌 CLI at MCP |
| 🗜️ Compression | 🖥️ Kung Saan Ito Tumatakbo | 🔒 Pribado | |
| 👀 Tingnan ito | 🎬 Aktuwal na Paggamit | ✨ Ano ang Bago | 🤖 Mga Katugmang CLI |
| 💚 Suporta | 💚 Suportahan / Mag-donate | 💬 Komunidad | 💖 Mga Sponsor |
| 📦 Proyekto | 🛠️ Tech Stack | 📖 Dokumentasyon | 👥 Mga Contributor |
# Pagkatapos kumonekta sa isang provider, kopyahin ang iyong OmniRoute key mula sa Dashboard → Endpoints:
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer YOUR_OMNIROUTE_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'
Nangangailangan ang auto ng kwalipikadong route. Maaaring walang kwalipikadong keyless target ang isang bagong installation, at maaaring tanggihan ng isang keyless provider ang mga third-party client. Ang mga provider na may markang tos: avoid, kabilang ang Kiro, ay hindi isinasama sa awtomatikong routing bilang default; hindi ino-override ng pagkonekta ng account ang setting na iyon. Tingnan ang Gabay sa mga Libreng Tier bago pumili ng provider.
📦 Mga copy-paste na quickstart script para sa Python, Node.js, PHP, at cURL → examples/quickstart/
💥 Ang Pangako
🤔 Bakit OmniRoute?
🤝 Sinusuportahan ng Aming Mga Kaibigan sa Open Source
Gusto mo bang sumali bilang isang Kaibigan sa Open Source? Ito ang mga kumpanyang sumusuporta sa open source at tumutulong na panatilihing gumagana ang OmniRoute — at ipinapahayag namin sa publiko kung saan napupunta ang bawat token na ibinibigay nila sa amin. Makipag-ugnayan: [email protected]
|
Kimi Moonshot AI |
Salamat sa Kimi (Moonshot AI), ang aming founding Open Source Friend, sa pagsuporta sa proyektong ito! Ang Kimi ay ang AI lab sa likod ng open-weight K2 at K3 model families — ang Kimi K3 ay naghahatid ng 1M-token context window, native vision at frontier-level coding sa isang bahagi ng presyo ng closed-model, at gumagana agad sa Claude Code, Codex at bawat coding tool na inihahatid ng OmniRoute.
Ano ang pinapagana ng suporta ng Kimi: Ang mga API credit ng Kimi ay nagpapagana sa AI-validated release pipeline ng OmniRoute — ang merge validation na pinapagana ng Kimi K3 stage na sumusuri sa bawat pull request bago ito ilabas — kasama ang pang-araw-araw na pagbuo ng feature. Ang first-class na suporta ng Kimi ay inilalabas sa parehong rails: ang direktang Kimi API ( kimi-k3) at ang Kimi Code coding plan (OAuth at API key). Ang OmniRoute din ang unang Brazilian open-source project sa support program ng Kimi. Kumuha ng Kimi API key na may 15% dagdag na credits →
|
|
Cheaper Inference cheaperinference.com |
Salamat sa Cheaper Inference, isang OmniRoute Open Source Friend, sa pagsuporta sa proyektong ito! Ang Cheaper Inference ay isang cost-ranked gateway na nagbebenta muli ng 42 frontier models — Claude, GPT-5.x, Gemini, Kimi K3, GLM, DeepSeek, Grok at MiniMax — sa likod ng isang OpenAI-compatible endpoint, na nagruruta ng bawat kahilingan sa pinakamurang karapat-dapat na provider nang hindi kailanman naniningil ng mas mataas sa list price ng gumawa ng modelo.
First-class na suporta sa OmniRoute: Chat Completions, ang native na /v1/responses endpoint, vision, tool calling at 3 image models (grok-imagine, nano-banana-pro, nano-banana-2, na naaabot bilang cheaperinference/<model>). Kumuha ng API key →
|
Ang mga link na may tag na aff=omniroute ay mga partner link. Pinopondohan nila ang proyekto nang walang dagdag na gastos sa iyo.
🎟️ Affiliates Promo — libreng signup coupons mula sa mga provider na hindi namin sinusuportahan (i-click para palawakin)
Ang seksyong ito ay para lamang sa referral/coupon codes. Ang mga sponsored partnership ay nasa 🤝 Sinusuportahan ng Aming Mga Kaibigan sa Open Source sa itaas. Walang sponsorship o partnership ang OmniRoute sa mga provider na nakalista dito — ito ay mga pampublikong coupon na maaaring gamitin ng sinuman.
|
AgentRouter agentrouter.org |
AgentRouter — affiliate signup · $100 libreng credits sa signup (libreng server, asahan ang mas mataas na latency — pinakamahusay para sa pagsubok, hindi para sa produksyon). First-class na suporta sa OmniRoute mula noong v3.8.50: Chat Completions, ang Anthropic-compatible wire format at ang OpenAI-compatible path. Kasama sa mga available na modelo ang claude-opus-4-8, claude-opus-5, gpt-5.6-sol at marami pa. Kunin ang iyong $100 →
⚠️ Affiliate link — Walang sponsorship o partnership ang OmniRoute sa provider na ito. |
May alam ka bang ibang provider na may mapagbigay na libreng signup coupon na makikinabang sa mga user ng OmniRoute? Magbukas ng isyu at idaragdag namin ito dito.
🎯 Mga Combo — Ang Pangunahing Tampok
Ang combo ay isang hanay ng mga model na awtomatikong pinagrurutahan ng OmniRoute. Kung maubos ang quota, pumalya ang isang provider, o biglang tumaas ang mga gastos, maaaring lumipat ang combo sa susunod na kwalipikado at maayos na model. 🛡️
⚡ Walang configuration — gamitin lang ang auto
Walang combo na kailangang gawin. Itakda ang iyong model sa auto (o isang variant) at bubuo ang OmniRoute ng virtual na combo mula sa iyong mga nakakonektang provider, na sinusuri nang live:
| Model ID | Kung para saan ito nag-o-optimize |
|---|---|
auto | 🎯 Balanseng default (LKGP — nananatili sa iyong huling maayos na provider) |
auto/coding | 🧑💻 Mga weight na inuuna ang kalidad para sa pagbuo ng code |
auto/fast | ⚡ Pinakamababang latency muna |
auto/cheap | 💰 Pinakamura bawat token muna |
auto/subscription | 🎟️ Tanging ang quota ng subscription na binabayaran mo na — hihinto kapag nabigo, at hindi kailanman lilipat sa fallback na may bayad (gabay) |
auto/thrifty | 🪜 Quota ng plan muna, pagkatapos ay paisa-isang antas patungo sa pinakamurang mga opsyong may bayad — babalik sa plan pagkatapos nitong mag-reset (gabay) |
auto/offline | 🔋 Pinakamalaking natitirang quota / kapasidad sa rate limit muna |
auto/smart | 🔭 Inuuna ang kalidad + 10% eksplorasyon upang makatuklas ng mas mahuhusay na model |
auto/lkgp | 📌 Tahasang pananatili sa huling kilalang maayos na provider |
auto/chaos | 🧪 Sabay-sabay na pagpapadala sa isang panel ng mga model (isa bawat provider, 5 bilang default), at nagbabalik ng isang sagot; isang upstream call bawat model sa panel, hindi fault injection |
🔀 O bumuo ng sarili mo — 20 diskarte sa pagruruta
Lahat ng 20 diskarte — paghalu-haluin at pagtugmain sa bawat hakbang ng combo:
| # | Diskarte | Kung ano ang ginagawa nito |
|---|---|---|
| 1 | priority |
Listahang nakaayos ayon sa unang target — ubusin ang bawat isa bago lumipat sa susunod 🥇 |
| 2 | fill-first |
Lubusang punuin ang quota ng bawat target bago lumipat |
| 3 | weighted |
Random na pagpili batay sa weight ng bawat target |
| 4 | round-robin |
Umikot sa mga target ayon sa pagkakasunod-sunod |
| 5 | p2c |
Random na load balancing gamit ang power-of-two-choices |
| 6 | least-used |
Piliin ang target na may pinakamababang kasalukuyang load |
| 7 | random |
Pantay-pantay na random na pagpili (inaalis ang mga duplicate) |
| 8 | strict-random |
Random nang hindi inaalis ang mga pag-uulit 🎲 |
| 9 | cost-optimized |
Pinapaliit ang $ bawat request batay sa live na pagpepresyo sa catalog 💸 |
| 10 | headroom |
Piliin ang target na may pinakamaraming natitirang quota |
| 11 | quota-weighted |
Laktawan ang mga account na ubos na, pagkatapos ay pumili nang proporsyonal sa natitirang quota ÷ kasalukuyang load — mananatiling naka-pin ang mga umiiral na pag-uusap ⚖️ |
| 12 | reset-window |
Unahin ang target na may quota window na pinakamalapit nang mag-reset |
| 13 | reset-aware |
I-ranggo ayon sa oras ng pag-reset ng quota — maiikling window muna 📊 |
| 14 | context-relay |
Ilipat ang context sa iba't ibang target para sa mahahabang pag-uusap 🧠 |
| 15 | context-optimized |
Piliin ang pinakaangkop para sa kasalukuyang laki ng context |
| 16 | cache-optimized |
I-pin ang bawat muling magagamit na prefix ng prompt sa parehong account — i-maximize ang mga hit sa prompt cache 🎯 |
| 17 | lkgp |
Huling Kilalang Maayos na Path — ipinipin sa huling matagumpay na provider, pagkatapos ay lilipat sa mga panuntunan bilang fallback |
| 18 | auto |
Live na pagmamarka gamit ang 16 na salik sa lahat ng koneksyon 🤖 |
| 19 | fusion |
Ipadala sa isang panel ng mga model + isang tagahatol ang magsasama-sama ng iisang sagot 🧬 |
| 20 | pipeline |
Ikadena ang mga hakbang — ang output ng bawat target ay ipinapasa sa susunod 🔗 |
Binibigyan ng Auto-Combo engine ng puntos ang bawat kandidato batay sa 16 na salik (kalusugan, quota, gastos, latency, pagiging angkop sa gawain, kalidad, availability ng session…) — tingnan ang docs/routing/AUTO-COMBO.md.
🧱 Nakapaloob na ang resilience (3 independiyenteng layer)
📖 Auto-Combo Engine · Gabay sa Resilience
🏆 Ang Nagpapabukod-tangi sa OmniRoute
📊 Kumpletong metodolohiya & mga detalye ng bawat feature kumpara sa 9router, OpenRouter, CLIProxyAPI & LiteLLM → docs/comparison/OMNIROUTE_VS_ALTERNATIVES.md
💚 Suportahan ang OmniRoute
Ang OmniRoute ay may lisensyang MIT at hayagang pinapanatili. Kung nakakatipid ito ng oras o pera para sa iyo, narito kung paano mo ito matutulungang manatiling malaya — piliin ang naaangkop sa iyo. Hindi kailanman naaapektuhan ng sponsorship ang priyoridad sa routing; visibility ang binibili nito, hindi ranggo.
| ⭐ I-star ang repo | Libre — talagang nakakatulong sa visibility | I-star ang OmniRoute |
| 🐙 GitHub Sponsors | Isang beses o buwanan · walang bayarin sa platform | github.com/sponsors/diegosouzapw |
| ☕ Ko-fi | Mabilis na minsanang tip, hindi kailangang mag-sign up ang donor | ko-fi.com/diegosouzapw |
| 🧋 Buy Me a Coffee | Maliit at di-pormal na pagpapahalaga | buymeacoffee.com/diegosouzapw |
| 🖐 Liberapay | Paulit-ulit · non-profit · open source | liberapay.com/diegosouzapw |
| 🇧🇷 PIX (Brazil) | Agad-agad, walang bayarin | key at QR sa ibaba |
| ₿ Crypto | BTC · ETH · USDT-TRC20 · USDC-Solana | mga address sa ibaba |
🇧🇷 PIX — agad-agad, walang bayarin (Brazil)
Key (random): 5d865059-bc44-483a-962d-43ceb80126eb
Kopyahin-at-i-paste na Pix:
00020101021126580014br.gov.bcb.pix01365d865059-bc44-483a-962d-43ceb80126eb5204000053039865802BR5922OMNIROUTE CONTRIBUICAO6006BRASIL62070503***630475DD
₿ Crypto — BTC · ETH · USDT-TRC20 · USDC-Solana (i-click para palawakin)
| ₿ BTC | Bitcoin (SegWit) | bc1qh00smz004sy85wyl28v77tenkt3ckl6eaep7fd |
| Ξ ETH | Ethereum (ERC20) | 0x64Cf6B68A6Ff34288e89172950a2d00102337a84 |
| ₮ USDT | Tron (TRC20) | TKAF41JpuQrHbKTnsQa9svJE2T192Hvsc2 |
| $ USDC | Solana | 2emNNZzVVWQc3FQ2wk9M6qXUQmW8AKdjjL174fXR28Tu |
⚠️ Ipadala lamang ang bawat coin sa ipinapakitang network — maaaring mawala ang mga pondo kapag ipinadala sa maling network.
🐛 Nakakita ng bug o may feedback? Magbukas ng Talakayan.
Mga tala para sa developer: Maaaring bumuo ang proyekto ng lokal na .env file habang isinasagawa ang npm install/postinstall para sa kaginhawaan ng developer. Sadyang binabalewala ang file na ito sa pamamagitan ng .gitignore (tingnan ang .gitignore) at hindi ito kailanman dapat i-commit — kung aksidenteng na-commit, palitan ang anumang nalantad na secret at alisin ang file mula sa history. Tingnan ang docs/DEVELOPER-ENVIRONMENT.md para sa gabay sa pamamahala ng mga lokal na environment file at secret.
📡 OmniRoute Radar
Ang pangunahing headline para sa libreng tier ay nananatiling ~1.62B token/buwan mula sa nakadokumento at na-deduplicate ayon sa pool na catalog sa itaas. Maaaring hiwalay na mapataas ng pansamantalang signup credits ng provider ang unang buwan sa ~2.22B. Ang Radar ay isang opsyonal at nilagdaang catalog overlay para sa mga taong nais ng mas napapanahong availability ng mga libreng modelo sa pagitan ng mga release ng OmniRoute; mananatiling libre ang catalog ng komunidad at ang bawat umiiral na libreng feature.
Maaaring matanggap ng mga supporter ang live na catalog at mga karagdagang oportunidad mula sa provider. Ang hiwalay at nababagong limitasyon nito ay humigit-kumulang 3B token/buwan sa pinakamataas, depende sa availability ng provider. Hindi garantiya ang limitasyong iyon: maaaring baguhin ng mga provider ang mga quota, pagiging kwalipikado, mga modelo, o mga rehiyon anumang oras.
Ang Radar ay opt-in at GET-only. Hindi nag-a-upload ang OmniRoute client ng mga prompt, traffic, configuration ng provider, telemetry ng paggamit, o lokal na estado ng pag-dismiss sa announcement. Alamin ang tungkol sa pagiging kwalipikado at ang kasalukuyang catalog sa radar.omniroute.online/planos.
✨ Ano ang Bago
Mga kamakailang tampok mula v3.8.20 → v3.8.52. Nasa
CHANGELOG.mdang buong kasaysayan.
- ⚖️
quota-weightedna pagruruta — nilalaktawan ng ika-20 combo strategy ang mga account na naubusan na, pagkatapos ay pumipili mula sa natitira nang proporsyonal sa natitirang quota ÷ kasalukuyang load, habang pinananatiling naka-pin ang mga umiiral na pag-uusap. → Auto-Combo - 🧰 Headless mode — pinapatakbo ng
omniroute serve --headless(oOMNIROUTE_HEADLESS=1) ang/v1/*proxy engine lamang, habang naka-off ang dashboard at mga subsystem na para lamang sa dashboard. → Headless Mode - 🔎 Pagtuklas ng modelo — nagfi-filter ang
/v1/modelsayon sa kakayahan, context, uri, at teksto, at nagbabalik angPOST /v1/models/queryng maikli at deterministic na shortlist na may parehong visibility sa bawat key. → Sanggunian ng API - 🔑 Kontrol sa pagruruta kada key — i-pin ang isang API key sa isang modelo o combo gamit ang
forcedModel, at atomically na magdagdag o mag-alis ng mga modelo at combo ng isang key (/api/keys/{id}/access). → Sanggunian ng API · OpenAPI - 🛡️ Mas pinong mga kontrol sa PII — pagpili kada uri, hanggang 20 napatunayang custom masking pattern, at mga detection counter kada uri; nananatiling opt-in ang mismong masking. → Mga Guardrail
- 🌍 67 wika — dashboard, mga mirror ng dokumentasyon, at CLI, kung saan nagdaragdag ang
npm run i18n:add-localeng wika sa lahat ng bahagi sa iisang command. → Gabay sa i18n - 🎛️ OmniConductor — papasok na A2A delegation sa iyong hanay ng mga agent, mga kasanayan ng Conductor sa Agent Card, at dashboard panel na may Faro push-to-talk voice chat. → A2A Server
- 🛂 Adaptive admission at proteksiyon laban sa overload — inilalagay sa pila ang mabibigat na chat request sa halip na magbalik ng 503, na may atomic RPM rolling lease kada koneksiyon. → Gabay sa Resilience
- 🗂️ Canonical na pagkakasunod-sunod ng
/v1/models— isang tuloy-tuloy na block na nakapangkat ayon sa provider para sa bawat provider (naka-pin muna ang mga combo), na stable sa bawat pinagmulan ng catalog. → Sanggunian ng API - 🗜️ Pagpapatibay ng compression — default-on na inflation guard, mga Caveman pack para sa DE / FR / JA + Chinese (wényán), at mga RTK filter para sa Gradle at .NET. → Compression
- 💸 Tapat na flat-rate na gastos — ipinapakita bilang $0 sa cost analytics ang mga subscription / coding-plan provider; patuloy na nagtatantiya ang budget, quota, at routing. → Sanggunian ng API
- ⚖️ Quota-Share na pagruruta — patas na hatiin ang quota ng isang shared account sa mga pinagsama-samang key, at work-conserving ito upang maipahiram ang mga hindi ginagamit na bahagi. → Gabay sa Resilience
- 🤖 Isang-command na pag-setup ng CLI/agent — 15 nakarehistrong
setup-*command; inilulunsad ngomniroute runang 7 CLI (Claude Code, Codex, Aider, Goose, OpenCode, Qwen Code, Gemini CLI); sinusuportahan ngomniroute configureang 11 target na may interactive na provider+model picker at mga paborito kada context. → Mga Integrasyon ng CLI - 🛰️ Remote mode — kontrolin ang remote na OmniRoute gamit ang mga scoped token (
connect/contexts/tokens) + isangantigravityOAuth helper para sa mga VPS install. → Remote Mode - 🧭 Mas matalinong auto-routing — mga
auto/<category>:<tier>combo, Fusion (model panel + judge), task-aware na pagruruta, at mga override kada request para sa modelo / mode / USD-budget. → Auto-Combo - 🗜️ Pluggable na compression — 12 composable engine + Compression Studios: LLMLingua-2, two-tier Ultra, omniglyph, fidelity gate kada hakbang, GCF v3.2, at drag-reorder editor. → Compression
- 🕵️ Transparent na MITM decrypt (TPROXY) — hulihin ang mga CLI na hindi isinasaalang-alang ang mga proxy env var, gamit ang CA kada SNI + trust-store installer. → MITM/TPROXY
- 💸 Telemetry ng gastos sa lahat ng dako — mga
X-OmniRoute-*cost/usage header sa bawat endpoint, cache-HIT savings header, at mga USD spending quota kada key. → Sanggunian ng API - 🧠 Memory na kontrolado mo — naka-off bilang default, opt-in na int8 vector quantization + typed decay, at
x-omniroute-no-memorykada request. → Memory - 🛡️ Seguridad — prompt-injection guard sa bawat LLM route (red-team suite), opt-in na credential-masking guardrail (nagre-redact ng mga na-leak na API key/secret sa parehong direksiyon), libreng DuckDuckGo web search bilang huling opsiyon, at opsiyonal na OIDC login gate para sa dashboard (palaging nananatiling available ang password login). → Mga Guardrail
- 🖼️ Mga bagong endpoint — kinukumpleto ng
/v1/ocr(Mistral OCR) at/v1/audio/translations(Whisper-style) ang media surface. → Sanggunian ng API - 🎨 Pagbuo ng larawan / video / audio — iisang API para sa media: xAI Grok Imagine at Novita AI video, ComfyUI, Magnific, Adobe Firefly, Segmind, at mga speech provider gaya ng ElevenLabs. → Sanggunian ng API
- 🌍 Deployment at operasyon — reverse-proxy na
basePath, awtomatikong pagtukoy sa wika ng browser, pagsubaybay sa device kada key, root-less na MITM trust, at zh-TW localization. → Environment - 🤝 Mas maraming provider at agent — mga cloud agent (Codex Cloud, Cursor, Devin, Jules), Grok Build (xAI) na may browser + OAuth login, first-class na card para sa Ollama, Claude Opus 5 at Sonnet 5, opisyal na partnership sa Kimi (Code/Web/Moonshot), Zed, Requesty, SenseNova, Yuanbao, Agnes AI… at na-refresh na catalog ng 375 provider. → Mga Provider
- 📡 Transparency sa pagruruta — naglalaman ang bawat response ng
X-OmniRoute-Decisionheader na tumutukoy sa strategy/provider/latency na nagsilbi rito, ibinabalik ng bagongcache-optimizedcombo strategy + Auto-CombocacheAffinityfactor ang mga nauulit na request sa koneksiyong may hawak ng naka-cache na prefix, at inilalantad ng read-only na/v1/auto-combo/{channel}/candidatesendpoint ang live candidate pool ng isangauto/*channel. → Auto-Combo - ⚡ Lokal na performance at imprastraktura — isang-click na lokal na Redis, mga relay deployer para sa Cloudflare Workers / Deno Deploy, at Bifrost at Mux bilang mga sinusubaybayang naka-embed na serbisyo. → Mga Naka-embed na Serbisyo
- 🧩 Kasama rin — framework ng plugin + marketplace, mga framework ng kasanayan para sa Omni/Agent/GitHub, integrasyon sa Obsidian vault (22 MCP tool), mga OpenAI-compatible na Batch at Files API, cache ng semantikong tugon, gamification na may mga leaderboard, pagtuklas ng ACP agent (15 built-in na agent), naka-iskedyul na pag-export ng log sa BigQuery,
auto/chaosna parallel multi-model fan-out, isang Telegram bot bridge, isang in-app na tagapamahala ng bersyon, at mga ranking ng libreng provider mula sa LMArena-ELO. → Dokumentasyon
🤖 Mga Katugmang CLI at Coding Agent
Isang config —
http://localhost:20128/v1— at bawat AI IDE o CLI ay gumagana sa mga libre at murang modelo.
Claude Code |
Codex CLI |
Cline |
Kilo Code |
Zoo Code |
Continue |
Aider |
ForgeCode |
jcode |
DeepSeek TUI |
CodeWhale |
OpenCode |
Factory Droid |
Copilot CLI |
Cursor CLI |
Smelt |
Pi |
Grok Build |
Hermes Agent |
OpenClaw |
Goose |
Open Interpreter |
Warp AI |
deyin.ai |
📖 Pag-setup sa bawat tool para sa lahat ng 37 tool (27 CLI Code + 10 CLI Agent) → docs/reference/CLI-TOOLS.md · 🧩 OpenCode plugin → @omniroute/opencode-provider
Ilunsad ang anumang sinusuportahang CLI sa pamamagitan ng OmniRoute gamit ang iisang command — walang isinusulat na mga config file, ini-inject ang mga credential sa bawat proseso, at binibigyan ang Qwen/Gemini ng pansamantalang nakahiwalay na home:
omniroute run claude --model openai/gpt-5.4 # Claude Code
omniroute run codex --model glm/glm-5.2 # OpenAI Codex CLI
omniroute run aider --model glm/glm-5.2 -- --message "reply OK"
omniroute run goose --model glm/glm-5.2
omniroute run opencode --model glm/glm-5.2 -- run "reply OK"
omniroute run qwen --model glm/glm-5.2 -- -p "reply OK"
omniroute run gemini --model glm/glm-5.2 -- --skip-trust -p "reply OK"
# O pumili ng provider+model nang interaktibo at isulat ang sariling config ng tool:
omniroute configure codex # gayundin: claude opencode qwen aider goose gemini cline continue kilo 5dive
Sinusunod ng bawat command ang aktibong remote context (omniroute connect <host>), ipinapakita muna ng --dry-run
ang eksaktong env/args nang hindi isinasagawa ang mga ito, at pinapanatili ng --api-key-env NAME ang mga secret na wala
sa iyong shell history. → Mga Integrasyon ng CLI
🌐 375 AI Provider — 153 Minarkahang Libre sa Catalog
375 nakarehistrong provider sa mga kanonikal na koleksyon ng chat, media, paghahanap, lokal, cloud-agent, at system, kabilang ang 153 na may
hasFree: truena metadata para sa pagtuklas. Saklaw ng registry ng chat model ang 239 provider / 3,059 natatanging pares ng provider-model / 1,475 raw model ID; ang hiwalay na catalog ng libreng badyet ay may 467 row kada modelo, 34 umuulit na pool, at 52 umuulit/keyless na provider na libre magpakailanman. Sadyang magkakaiba ang mga denominator na ito; matatagpuan ang mga depinisyon at kalkulasyong na-deduplicate ayon sa pool sa Sanggunian ng Provider at Mga Libreng Tier.
🏢 Bawat pangunahing lab — sa pamamagitan ng iisang endpoint
OpenAI |
Anthropic |
Gemini |
xAI Grok |
DeepSeek |
Mistral |
Qwen |
Meta Llama |
Groq |
NVIDIA |
MiniMax |
Cohere |
Perplexity |
HuggingFace |
Together |
Fireworks |
Cloudflare |
Baidu |
…at 350+ pa — ang bawat icon ay live na kinukuha mula sa catalog ng provider ng dashboard. 📖 Sanggunian ng Provider
🆓 Libre Magpakailanman — $0, walang card
OpenCode Zen DeepSeek V4, Nemotron 3 Walang limitasyon sa token |
Kilo Code Awtomatikong router, Tencent Hy3 Libre magpakailanman |
Requesty GPT-OSS 120B, Nemotron Libre magpakailanman |
SiliconFlow DeepSeek V3.2 / R1 Libreng tier |
Z.AI GLM GLM-4.7 / 4.5-Flash Libre magpakailanman |
Baidu ERNIE ERNIE 4.0 Libre magpakailanman |
Qoder AI Qwen3-Max, Kimi-K2 Walang limitasyong LIBRE |
Pollinations GPT, Llama, Claude Hindi kailangan ng key |
Cloudflare AI 50+ modelo 10K neuron/araw |
NVIDIA NIM GLM, MiniMax ~40 RPM nang libre |
Cerebras GLM 4.7, GPT-OSS Isahang $5 na credit; kailangan ng card |
OpenRouter :free na mga modelo +$10 → mas mataas na RPM |
📖 Buong katalogong nababasa ng makina → docs/reference/PROVIDER_REFERENCE.md
🖥️ Saan Gumagana ang OmniRoute — Kahit Saan
Parehong app, sarili mong makina, sarili mong mga tuntunin. Mula sa global na pag-install gamit ang npm hanggang sa iyong telepono sa pamamagitan ng Termux.
| Platform | Pag-install | Mga Tampok |
|---|---|---|
| 📦 npm (global) | npm install -g omniroute | Isang command, anumang OS |
| 🐳 Docker | docker run … diegosouzapw/omniroute | Multi-arch na AMD64 + ARM64 |
| 🖥️ Desktop (Electron) | npm run electron:build | Native na window + system tray — Windows / macOS / Linux |
| 🎩 Menu-bar (OmniRouteTray) | brew install --cask zoispag/tap/omniroute-tray | Sinusubaybayan at awtomatikong ina-update ang server — macOS |
| 💪 ARM | native na arm64 | Raspberry Pi, mga ARM server, Apple Silicon |
| 📱 Android (Termux) | pkg install nodejs && npx -y omniroute | Gumagana sa iyong telepono, 24/7, walang root |
| 📲 PWA | "Idagdag sa Home Screen" | Fullscreen, offline, maaaring i-install mula sa browser |
| 🧩 OpenCode plugin | @omniroute/opencode-provider | Native na integrasyon sa OpenCode |
| 🤖 VS Code Copilot Chat | i-install ang OmniCopilot extension | Lahat ng modelo ng OmniRoute sa native na Copilot Chat picker — stable at Insiders |
| 🛠️ Mula sa source | npm install && npm run dev | Baguhin ito, mag-ambag |
📖 Gabay sa Docker · Desktop · Menu-bar tray · Termux · PWA · OpenCode
🧩 Bago: OmniRoute sa loob ng native na Copilot Chat ng VS Code
Walang bagong sidebar, walang bagong chat UI — bawat modelong inihahatid ng OmniRoute ay lalabas mismo sa Copilot Chat model picker na ginagamit mo na. Mula sa VS Code 1.122, gumagana ang mga provider model nang hindi kailangang mag-sign in sa GitHub o magkaroon ng Copilot subscription — agent mode, tool calling, at vision, nang libre.
I-install ang OmniCopilot extension, ituro ito
sa iyong OmniRoute server (default ang localhost:20128), pagkatapos ay buksan ang Copilot Chat → model picker
→ Pamahalaan ang Mga Modelo… → OmniRoute.
| Store | Link | Gumagana sa |
|---|---|---|
| 🧩 VS Code Marketplace | I-install → | VS Code — stable at Insiders |
| 🔓 Open VSX Registry | I-install → | Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod, Antigravity, Kiro… |
Mula sa loob ng editor: buksan ang Extensions view, hanapin ang "OmniRoute", at i-click ang Install — pareho ang paraan ng paggana sa dalawang store. Matatagpuan ang source, mga issue, at runbook sa pag-publish sa diegosouzapw/OmniCopilot.
📖 Gabay sa VS Code Copilot Chat — pag-setup, kung ano ang ipinapakita ng picker, dashboard-sa-isang-tab, pag-troubleshoot
🎩 Bago: OmniRouteTray — ang iyong gateway na nasa menu bar
Pinakamahusay na gumagana ang
omniroute servekapag palagi itong naka-on. Ginagawang set-and-forget na menu-bar app para sa macOS ng OmniRouteTray ang setup na iyon: sinisimulan nito ang server, pinananatili itong gumagana sa bawat pag-reboot, ina-update ito nang hindi inililipat, at inilalagay ang iyong kasalukuyang token budget isang click lang ang layo — walang terminal window na kailangang manatiling bukas, walangnpm install -g omniroutena kailangang bantayan.
Binuo gamit ang Tauri v2 (isang Rust core na napakaliit), kasama rito
ang sarili nitong signed na Node 24 runtime at pinamamahalaan nito ang pag-install ng OmniRoute na pag-aari ng app, kaya hindi ito kailanman sumasalungat sa iyong
global na node/bun. Ibinabahagi nito ang kasalukuyan mong ~/.omniroute/ config at database — kaya ito rin ang
OmniRoute na ginagamit mo na, ngunit may suot lamang na sombrero. 🎩
| Ano ang ginagawa nito | Paano |
|---|---|
| 🟢 Sinusubaybayan ang server | Inilulunsad ang omniroute serve at ginagamit ang tumatakbo nang instance sa halip na gumawa ng duplicate nito |
| 📊 Aktuwal na paggamit sa isang tingin | Mga quota bar ng provider, mga limitasyon ng Claude session/lingguhan na may countdown bago mag-reset, at 30-araw na breakdown ng gastos |
| 🔄 Awtomatikong nag-a-update nang hindi inililipat | Staged na pag-install, atomic swap, rollback kapag nabigo — palaging nasa pinakabagong release |
| 🚀 Simulan sa pag-login | Opsyonal na paglunsad sa pag-login; tray lamang, walang dock icon |
| 🩺 Doctor at mga log | Isang-click na diagnostics at access sa mga server log |
brew install --cask zoispag/tap/omniroute-tray
Mas gusto mong mag-download? Kunin ang pinakabagong .dmg mula sa
Mga Release. Ang source, mga issue, at dokumentasyon sa build ay
makikita sa zoispag/omniroute-tray.
💛 Isang proyektong pangkomunidad ni @zoispag — hindi isang opisyal na release ng OmniRoute.
🔒 Pribado at Lokal Muna
📖 Awtorisasyon · Mga Pananggalang · Pagsunod
🔌 Kumpletong CLI + A2A at MCP
Bukod sa server, ang OmniRoute ay isang kumpletong command-line cockpit na may 80+ command, pati mga bukas na protocol para makontrol ito ng isang AI agent nang mag-isa.
⌨️ Isang tunay na CLI (hindi lang start)
omniroute # patakbuhin ang gateway + dashboard (port 20128)
omniroute chat # interaktibong TUI chat client (slash: /model /combo /skill /memory)
omniroute setup # ginabayang wizard para sa unang pagpapatakbo
omniroute doctor # suriin ang mga provider, port, at native dependency
🛰️ Remote mode — patakbuhin ang CLI rito, at ang OmniRoute sa isang VPS
Nasa isang server ang OmniRoute? Kontrolin ito mula sa iyong laptop gamit ang parehong CLI. Mag-log in nang isang beses gamit ang scoped access token; pagkatapos, ang bawat command ay itutuon sa remote.
omniroute connect 192.168.0.15 # password → scoped token, sine-save bilang isang context
omniroute models # ← tumatakbo laban sa REMOTE server
omniroute configure codex # ← pumipili ng remote model, nagsusulat ng lokal na Codex profile
omniroute tokens create --name ci --scope read # gumawa ng mas limitadong mga token para sa ibang machine
omniroute contexts use default # ← bumalik sa lokal na server
May scope na read / write / admin ang mga token; nananatiling loopback-only ang mga route na naglulunsad ng process.
📖 Remote Mode
🤝 Ikonekta ang isang agent — at kokontrolin nito mismo ang OmniRoute
Ilantad ang OmniRoute sa pamamagitan ng MCP, A2A, isang REST API, mga webhook, o isang remote CLI — makukuha ng anumang may kakayahang agent (o ng sarili mong code) ang mga susi sa buong gateway: routing, mga provider, combo, cache, compression, memory — nang awtonomo. Inihahatid ang mga HTTP endpoint sa ibaba sa ilalim ng http://localhost:20128.
| Interface | Endpoint / command | Gamitin ito para sa |
|---|---|---|
| 🧰 MCP (stdio) | omniroute --mcp | Ikonekta sa Claude Desktop, Cursor, o anumang MCP client |
| 🌊 MCP (HTTP) | /api/mcp/stream | Remote MCP — 110 tool, 33 scope (opsyonal ang pagpapatupad), kumpletong audit trail |
| 📡 MCP (SSE) | /api/mcp/sse | Streaming na MCP transport |
| 🤝 A2A | /.well-known/agent.json | Agent-to-agent, JSON-RPC 2.0 + SSE, 6 na skill |
| 🌐 REST API | /v1/* | Compatible sa OpenAI — chat, embedding, larawan, audio, OCR |
| 🔔 Mga Webhook | /api/webhooks | Mag-push ng mga request / quota event sa Slack, Discord, Telegram, o anumang URL |
| 🛰️ Remote CLI | omniroute connect | Kontrolin ang isang remote instance gamit ang mga scoped access token |
# Ibigay sa Claude Code ang kumpletong toolset ng OmniRoute sa pamamagitan ng MCP:
claude mcp add-server omniroute --type http --url http://localhost:20128/api/mcp/stream
📖 MCP Server · A2A Server · Mga Protocol ng Agent
🗜️ Makatipid ng 15–95% na Token — Awtomatiko
📖 Paano ito gumagana — pipeline, arkitektura at matematika ng pagtitipid
Pinapatakbo ng default na stacked combo ang RTK → Caveman. Kapag parehong kumikilos ang mga ito sa iisang tool/context payload, naiipon ang matitipid:
combined = 1 − (1 − RTK) × (1 − Caveman_input)
average = 1 − (1 − 0.80) × (1 − 0.46) = 89.2%
range = 78.4 – 94.6%
Ang mga code block, URL, JSON at structured data ay palaging pinoprotektahan ng preservation engine.
Bakit gagamit ng maraming token kung sapat na ang kaunti? Dumaraan ang bawat kahilingan sa compression pipeline ng OmniRoute nang transparent — walang kailangang baguhin sa client. Isa na itong stack ng 12 composable engine na tumatakbo nang sunod-sunod at maaaring paghalu-haluin sa bawat routing combo — batay sa mga ideya mula sa RTK, Caveman (⭐ 90K+), LLMLingua-2, at Troglodita (PT-BR).
🧱 Ang stack ng 12 engine
Tumatakbo ang mga engine ayon sa pagkakasunod-sunod ng pipeline; maaaring i-toggle at i-configure nang hiwalay ang bawat isa para sa bawat combo:
| # | Engine | Ano ang ginagawa nito |
|---|---|---|
| 1 | Session-Dedup | Inaalis ang content na nauulit sa iba't ibang turn (content-addressed, cross-turn) |
| 2 | CCR | Ina-archive ang malalaking block sa likod ng mga retrieve marker, na kinukuha kapag kailangan |
| 3 | Lite | Pagbabawas ng whitespace at image URL (magaan sa latency na baseline) |
| 4 | RTK | Matalinong pag-filter, pag-dedup at pag-truncate ng mga resulta ng tool (command-aware) |
| 5 | Responses Tool Output | Lossless-first na JSON at may hangganang diagnostic compression para sa mga output ng shell/patch/search/build (Responses API) |
| 6 | Headroom | Lossless na tabular compaction ng mga JSON array (~30%) sa pamamagitan ng naka-vendor na GCF codec |
| 7 | Relevance | Extractive na pagmamarka ng mga pangungusap batay sa pinakahuling query ng user |
| 8 | Caveman | Rule-based na compression ng prosa (~65–75% sa output) |
| 9 | Aggressive | Pagbubuod at progresibong pagpapatanda ng mga lumang turn |
| 10 | LLMLingua-2 | ML semantic pruning sa pamamagitan ng MobileBERT ONNX — ligtas para sa code, async |
| 11 | Ultra | Heuristic na token pruning na may opsyonal na small-model (SLM) tier |
| 12 | OmniGlyph | Eksperimental na context-as-image encoding para sa nasukat na Claude Fable 5 sa direktang Anthropic wire; nananatiling fail-closed ang mga GPT 5.6 transformer habang hinihintay ang mga receipt ng provider. Apat na compression profile (aggressive na default, balanced, coding-safe, passthrough) (pinaka-agresibo; opt-in) |
Ang mga code block, URL at structured data ay palaging napapanatili nang byte-perfect. Pinagsasama-sama ng mga one-click preset ang mga engine:
| Mode | Matitipid | Pinakamainam para sa |
|---|---|---|
| 🪶 Lite | ~15% | Ligtas na default na palaging naka-on |
| 🪨 Standard (Caveman) | ~30% | Pang-araw-araw na coding |
| ⚡ Aggressive | ~50% | Mahahabang session na maraming paggamit ng tool |
| 🔥 Ultra | ~75% | Pinakamalaking pagtitipid |
| 🧰 RTK | 60–90% | Output ng shell/test/build/git |
| 🔗 Stacked (RTK → Caveman) | 78–95% | Pinaghalong mga prompt at tool log |
Tunay na halimbawa — Standard mode:
Bago (69 token): "Ang malamang na dahilan kung bakit muling nire-render ang iyong React component ay gumagawa ka ng bagong object reference sa bawat render cycle. Kapag nagpasa ka ng inline object bilang prop, nakikita ito ng shallow comparison ng React bilang ibang object sa bawat pagkakataon, kaya nagti-trigger ito ng muling pag-render. Inirerekomenda kong gamitin ang useMemo upang i-memoize ang object."
Pagkatapos (19 token): "Bagong object ref sa bawat render. Inline object prop = bagong ref = muling pag-render. I-wrap sa useMemo."
Parehong sagot. 72% mas kaunting token. Walang nabawas sa katumpakan. ✅
Halimbawa sa PT-BR — Troglodita mode:
Bago (42 token): "Ang problema ay muling nire-render ang component dahil gumagawa ng bagong object reference sa bawat render cycle. Irerekomenda kong gamitin ang useMemo."
Pagkatapos (12 token): "Muling pag-render: bagong ref bawat cycle (muling nilikhang inline object). Gamitin ang
useMemo."Parehong sagot. ~70% mas kaunting token. Buo ang teknikal na katumpakan. ✅
🎚️ Higit pa sa mga engine — mga istilo ng output, ang adaptive dial, at kontrol sa bawat request
Pinapaliit ng 12 engine sa itaas ang pumapasok. Tatlo pang layer ang humuhubog sa paano, kailan, at kung ano ang lumalabas:
- 🪄 Mga Istilo ng Output (pagkontrol sa output axis) — nag-i-inject ng deterministic at cache-safe na mga tagubilin sa paghubog ng tugon; maaaring pagsamahin, bawat isa ay may
lite/full/ultrana intensity. Isang linyang registry entry lang ang pagdaragdag ng istilo:- Maikling prosa — alisin ang palaman / mga pantukoy / pag-aalinlangan; panatilihing eksakto ang teknikal na nilalaman.
- Mas kaunting code — "tamad na senior dev" na YAGNI: pinakamaliit na gumaganang pagbabago, walang hindi hiniling na scaffolding.
- Ponytail (tamad na senior dev) — umakyat sa YAGNI ladder, ayusin ang ugat na sanhi, pinakamaliit na gumaganang diff.
- May ADHD ako (aksyon muna) — unahin ang susunod na aksyon, lagyan ng numero ang mga hakbang, isang kongkretong susunod na hakbang, walang pambungad.
- Maikling CJK (文言) — napakaikling istilong klasikal na Chinese (nakalaan sa locale na
zh).
- 🎯 Adaptive na budget ng konteksto (ang dial) — sa halip na iisang on/off na threshold ng token, i-escalate lamang ang pinakamura at pinakakaunting nawawalang impormasyong mga engine hanggang sa kinakailangang antas upang magkasya sa context window ng modelo. Patakaran:
reserve-output(default, batay sa modelo) ·percentage·absolute. Mode:floor(ginagarantiya ang pagkakasya) ·replace-autotrigger(nangingibabaw ang tahasan mong pinili) ·off(legacy na threshold). - 🎛️ Kung saan pinagpapasyahan ang compression (pagkakasunud-sunod ng priyoridad, mataas → mababa) — per-request na
x-omniroute-compressionheader › routing-combo override › aktibong pinangalanang profile › adaptive / auto-trigger › default ng panel › off. Ibinabalik ang inilapat na plano saX-OmniRoute-Compression: <mode>; source=<source>response header.
Mag-auto-trigger ayon sa threshold ng token, i-on ang adaptive dial, i-pin ang pinangalanang profile, magtakda ng minsanang opsyon sa bawat request, o magtalaga ng pipeline sa bawat routing combo — alinman ang angkop sa workload. Sinusukat ng opt-in at offline na eval harness (npm run eval:compression) ang fidelity laban sa matitipid sa isang naka-pin na corpus bago mo i-promote ang pagbabago.
📖 COMPRESSION_GUIDE.md · RTK_COMPRESSION.md · COMPRESSION_ENGINES.md
⚡ Mabilisang Pagsisimula
1) I-install at patakbuhin
npm install -g omniroute
omniroute
💡 Nakikita ang
npm warn ERESOLVEo mga babala sa peer dependency? Hindi nakasasama ang mga iyon. Gumagamit ng npm 11 o mas bago? Maaaring harangin ng npm ang mga package lifecycle script maliban kung pinahihintulutan ang mga ito. Kinakailangan angpostinstall(node scripts/build/postinstall.mjs) ng OmniRoute upang maihanda ang mga native runtime file nito. Kapag nag-i-install nang globally, payagan ang mga package na pinangalanan sa babala ng npm. Para sa package set na iniulat ng OmniRoute 3.8.51:npm install -g --allow-scripts=omniroute,keytar,onnxruntime-node,@parcel/watcher,@swc/core,protobufjs,esbuild omnirouteUpang magamit muli ang allowlist na ito para sa mga susunod na global install, i-configure ito nang isang beses, pagkatapos ay mag-install gaya ng karaniwan:
npm config set allow-scripts=omniroute,keytar,onnxruntime-node,@parcel/watcher,@swc/core,protobufjs,esbuild --location=user npm install -g omnirouteMaaaring magbago ang listahan ng dependency sa bawat release; kung ibang listahan ang iniulat ng npm, gamitin ang mga pangalan ng package mula sa babalang iyon. Ang pagpapahintulot sa isang package ay nagbibigay-daan sa pagpapatakbo ng mga install script nito. Gumagamit ng Gemini Web o ibang provider na gumagamit ng web cookie? Kasama sa npm package ang Playwright ngunit hindi ang Chromium binary nito. Tingnan ang tala tungkol sa pag-setup ng Playwright Chromium bago gawin ang unang request sa web provider.
Dashboard sa http://localhost:20128 · API sa http://localhost:20128/v1.
2) Ikonekta ang kwalipikadong provider gamit ang sarili mong account
Dashboard → Mga Provider → pumili ng provider na ang kasalukuyang mga tuntunin at quota ay angkop sa iyong use case → idagdag ang API key nito o kumpletuhin ang account flow nito. Maaaring mangailangan ang mga libreng tier ng pagpaparehistro, pag-apruba, o paraan ng pagbabayad. Suriin ang Gabay sa Mga Libreng Tier; hindi garantisado ang availability na walang key, at ang mga provider na may markang tos: avoid ay hindi isinasama sa auto bilang default.
3) Ituro ang iyong coding tool
Base URL: http://localhost:20128/v1
API Key: [copy from Dashboard → Endpoints]
Model: auto (routes among eligible connections — or choose provider/model)
4) Tiyaking gumagana ito
curl http://localhost:20128/v1/models -H "Authorization: Bearer YOUR_KEY"
Dapat mong makita sa listahan ang mga nakakonekta mong modelo. 🎉 Iyon lang — magsimula nang mag-code, at awtomatikong magru-route at magfa-fallback ang OmniRoute para sa iyo.
Kung hindi makapagpadala ng mga custom header ang iyong client, nagbibigay din ang OmniRoute ng mga tokenized compatibility alias:
OpenAI catalog: http://localhost:20128/vscode/YOUR_KEY/
OpenAI models: http://localhost:20128/vscode/YOUR_KEY/models
OpenAI chat: http://localhost:20128/vscode/YOUR_KEY/chat/completions
OpenAI responses: http://localhost:20128/vscode/YOUR_KEY/responses
Ollama chat: http://localhost:20128/vscode/YOUR_KEY/api/chat
Ollama tags: http://localhost:20128/vscode/YOUR_KEY/api/tags
Gamitin lamang ang mga ito para sa mga client na hindi makapag-attach ng Authorization: Bearer .... Nananatiling mas gustong mode ang header authentication.
📦 Higit pang paraan ng pag-install — Docker, source, pnpm, Arch
🐳 Docker
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
-p 127.0.0.1:20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
Sinusundan ng :latest ang pinakamataas na na-publish na stable na SemVer. Hindi nito sinusubaybayan ang git main. I-pin ang :X.Y.Z para sa GitOps. Tingnan ang Mga Channel ng Release ng Docker. Naka-pin sa image ang OMNIROUTE_MEMORY_MB=1024. Sapat iyon para sa dashboard at magaan na chat. Nangangailangan ang mga coding agent (POST /v1/responses mula sa Claude Code, Codex, Grok, …) ng mas malaking V8 heap, kung hindi ay magkakaroon ng FATAL ERROR ang proseso sa ~12 GiB kapag may dalawang magkapatong na mahabang context. Maglaan sa container ng higit sa laki ng heap (nasa labas ng V8 ang mga native buffer):
| Workload | Heap (-e OMNIROUTE_MEMORY_MB) |
Container (--memory) |
|---|---|---|
| Dashboard / magaan na chat | 1024 (default ng image) |
≥2 g |
| Isang coding agent | 8192 |
≥10 g |
Dalawang sabay na mahabang /v1/responses |
10240–12288 |
≥12–16 g |
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
-e OMNIROUTE_MEMORY_MB=8192 --memory=10g \
-p 127.0.0.1:20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
Buong talahanayan: Gabay sa Docker — runtime RAM.
Pre-release na channel ng Docker: Sinusundan ng
diegosouzapw/omniroute:nextatdiegosouzapw/omniroute:next-webang kasalukuyang default na branch narelease/v*. Ang mga nababagong tag na ito ay inilaan lamang para sa pagsubok ng mga hindi pa nailalabas na pag-aayos at hindi sinusuportahan para sa production. Tingnan ang Mga Channel ng Release ng Docker.
🥟 Bun
Sinusuportahan ang karaniwang bun install at global na pag-install (bun install -g omniroute) sa pamamagitan ng pagtukoy sa Bun runtime:
- Built-in na
bun:sqlite: Ginagamit ng OmniRoute ang built-in nabun:sqlitedriver ng Bun kapag tumatakbo sa Bun, at bumabalik sabetter-sqlite3sa Node.js osql.js. - Awtomatikong pagpili ng Webpack bundler sa dev: Awtomatikong tinutukoy ng development (
bun run dev) ang Bun at dini-disable ang Turbopack pabor sa Webpack upang maiwasan ang mga incompatibility sa native V8 binding. Eksaktong sinusunod ng mga production build (bun run build) angOMNIROUTE_USE_TURBOPACKgaya sa Node: Turbopack bilang default,OMNIROUTE_USE_TURBOPACK=0upang mag-build gamit ang Webpack (inilalantad ito ngDockerfile.bunbilang--build-arg). - Nakalaang Bun Dockerfile: Multi-stage na
Dockerfile.bunpara sa mga native na Bun production deployment (docker build -f Dockerfile.bun -t omniroute:bun .).
# Mag-install at patakbuhin gamit ang Bun
bun install
bun run dev
🛠️ Mula sa source
cp .env.example .env && npm install
PORT=20128 npm run dev
📦 pnpm
pnpm add -g omniroute@latest --allow-build=better-sqlite3 --allow-build=@swc/core && omniroute
🐧 Arch Linux (AUR)
yay -S omniroute-bin && systemctl --user enable --now omniroute.service
🔧 Nix (Flake)
# Gamit ang mga Nix flake
nix develop
npm run dev
# O gamit ang devbox
devbox run npm run dev
📖 Gabay sa Docker — Mga Compose profile, Caddy HTTPS, mga Cloudflare tunnel.
🦭 Podman
# 1. Ihanda ang bind-mounted na data directory
mkdir -p data
# 2. Para lamang sa Linux + lokal na rootless Podman (huwag kailanman sa remote na Podman Machine client):
podman unshare chown 1000:1000 ./data
# 3. Itakda ang runtime hint, buuin ang lokal na Compose image, at simulan
echo "CONTAINER_HOST=podman" >> .env
podman compose --profile base up -d --build
Sa macOS o Windows, gumagamit ang Podman ng remote na Podman Machine: laktawan ang podman unshare at
sundin ang gabay sa data directory na partikular sa topology.
📖 Gabay sa Podman — Mga Compose build, Podman Machine, at pag-setup ng Linux/systemd Quadlet.
⚡ Mas mabilis / mas magaan na pag-install (laktawan ang native build)
Ang native na SQLite engine (better-sqlite3) ay isang opsyonal na dependency, kaya ang global na
pag-install ay hindi kailanman mahahadlangan ng pag-compile mula sa source: gumagamit ito ng prebuilt binary kapag may tumutugma
sa iyong platform/Node, at kung wala ay awtomatikong bumabalik sa isang pure-JS engine
(node:sqlite sa Node 22+, o kung hindi ay ang kasamang sql.js WASM) — walang kinakailangang build tool.
Upang ganap na laktawan ang native warm-up pagkatapos ng pag-install (CI, headless, o mababagal na machine):
OMNIROUTE_SKIP_POSTINSTALL=1 npm install -g omniroute # Nilalaktawan din ito ng CI=1
Para sa pinakamabilis na pag-install, piliin ang pnpm (content-addressed store + mga hard link — tingnan sa itaas).
Para sa headless runtime na walang dashboard, gamitin ang Docker base profile (sa itaas) o ang
gabay sa Termux. Inihahatid ng iisang proseso sa iisang port ang CLI at web dashboard,
kaya walang hiwalay na CLI-only package sa kasalukuyan.
🎬 Aktuwal na Paggamit sa OmniRoute
📹 Mga Gabay sa Video
Snapshot ng dashboard noong 2026-10-18 · Hilaw na katalogo: YT 1.352 | TT 334 | IG 290 · Pagiging bago (mga araw): YT 5 | TT 48 | IG 49
Kumpletong ranggo (mga na-deduplicate na canonical URL, v > 0, pinakamalawak na abot):
| #1 | #2 | #3 | #4 | #5 |
|---|---|---|---|---|
| nick_saraev — Instagram — 3,042,474 | nnapier7 — Instagram — 1,454,535 | Amidia AI & Tech — YouTube — 794,974 | theopenstack — Instagram — 692,419 | migue.baena — TikTok — 685,788 |
| #6 | #7 | #8 | #9 | #10 |
|---|---|---|---|---|
| milesreevesai — TikTok — 620,400 | nikothetech — TikTok — 610,803 | Vaibhav Sisinty — YouTube — 509,281 | buildwithai.club — Instagram — 347,652 | nivedan.ai — Instagram — 331,973 |
Mga canonical na sukatan noong 2026-10-18: 1.976 natatanging video · 20.220.289 kilalang panonood (v > 0) · 1.210 channel/profile ayon sa network. Naglalaman ang hilaw na dashboard ng 1.976 linya (YouTube 1.352 = 740 mahahabang video + 612 Shorts · TikTok 334 · Instagram 290); walang natirang duplicate pagkatapos ng normalisasyon ayon sa canonical URL, na nagpapanatili ng pinakamataas na bilang para sa bawat video. Naka-freeze ang pangongolekta mula sa YouTube noong 2026-10-13 (naubos ang quota ng API mula 14 hanggang 18/10), at ang TikTok/Instagram naman mula 2026-09-02 (walang credit para sa pangongolekta); 76 na video ang wala pa ring bilang ng panonood.
🎬 Gumawa ka ba ng video tungkol sa OmniRoute? Magbukas ng issue o discussion na may kasamang link — itatampok namin ito rito.
📧 Komunidad at Tulong
Lahat ay nasa iisang lugar — sundan ang maintainer, makipag-chat sa komunidad, o magbukas ng issue.
| Channel | Saan / paano |
|---|---|
| 💼 LinkedIn — sundan ang maintainer | linkedin.com/in/diegosouzapw |
| 🐙 GitHub — sundan para sa mga release at tip | @diegosouzapw |
| 💬 Discord | discord.gg/U47eFqAXCn |
| ✈️ Telegram | t.me/omnirouteOficial |
| 🟢 WhatsApp — 🌍 Pandaigdigan | sumali sa grupo |
| 🟢 WhatsApp — 🇧🇷 Brazil | sumali sa grupo |
| 🌍 Website | omniroute.online |
| 🌍 🌍Komunidad ng StHub OmniRoute (libre) | portal ng StHub |
| 📦 Source code | github.com/diegosouzapw/OmniRoute |
| 🐛 Mag-ulat ng bug | magbukas ng issue — ilakip ang output ng npm run system-info |
| 🤝 Mag-ambag | CONTRIBUTING.md · Modelo ng Branching at Release · pumili ng good first issue |
| 💚 Suportahan ang proyekto | Mga paraan upang sumuporta ↑ · GitHub Sponsors |
🛠️ Teknolohikal na Stack
| Layer | Teknolohiya |
|---|---|
| Runtime | Node.js 22.x / 24.x LTS — >=22.22.2 <23 || >=24.0.0 <27 |
| Wika | TypeScript 6.0 — 100% TypeScript sa buong src/ at open-sse/ (walang any sa core mula noong v2.0) |
| Framework | Next.js 16 + React 19 + Tailwind CSS 4 |
| Database | better-sqlite3 (SQLite, WAL journaling) + LowDB (legacy na JSON) — 147 domain module, 209 migration |
| Memory | SQLite FTS5 full-text + int8-quantized vector embedding, typed decay |
| Mga Schema | Zod 4 — pagpapatunay ng I/O ng MCP tool + mga kontrata ng API |
| Mga Protocol | MCP (stdio / HTTP / SSE) + A2A v0.3 (JSON-RPC 2.0 + SSE) |
| Streaming | Server-Sent Events (SSE) + WebSocket bridge (/v1/ws) |
| Compression | 12-engine pipeline — RTK, Caveman, LLMLingua-2 (MobileBERT ONNX), GCF, OmniGlyph |
| Awtorisasyon at seguridad | OAuth 2.0 (PKCE) + JWT + API Keys + MCP scoped auth · AES-256-GCM para sa nakaimbak na data · DOMPurify |
| Stealth | wreq-js — pagpapanggap bilang JA3 / JA4 TLS fingerprint, 3-level proxy |
| Katatagan | Circuit breaker, exponential backoff, anti-thundering-herd, auto-combo self-healing |
| Pag-log | pino — mga structured JSON log na may konteksto ng request |
| Pagsubok | Node.js test runner + Vitest — 56,000+ static na deklarasyon ng pagsubok sa 7,800+ sinusubaybayang test file (unit, integration, E2E, seguridad, ecosystem) |
| Mga Platform | Desktop (Electron) · Android (Termux) · PWA (anumang browser) |
| CI/CD | GitHub Actions — awtomatikong pag-publish sa npm + Docker Hub sa pag-release |
| Mga Link | Website · npm · Docker Hub |
📖 Dokumentasyon
📘 Pagsisimula
| Dokumento | Paglalarawan |
|---|---|
| Gabay sa Gumagamit | Mga provider, combo, integrasyon sa CLI, deployment |
| Gabay sa Pag-setup | Mga kumpletong paraan ng pag-install, configuration ng mga CLI tool, pag-setup ng protocol, pagsasaayos ng timeout |
| Gabay sa mga CLI Tool | Pag-setup para sa bawat tool para sa Claude Code, Codex, Cursor, Cline, OpenClaw, Kilo, Copilot |
| Remote Mode | Kontrolin ang isang remote na OmniRoute (VPS) mula sa CLI ng iyong laptop gamit ang mga access token na may limitadong saklaw |
| Configuration ng Claude Code | Ikonekta ang Claude Code sa OmniRoute (lokal/remote) gamit ang launch + mga profile para sa bawat modelo |
| Mabilisang Pagsisimula | 3 hakbang na pag-install → pagkonekta → pag-configure |
🔧 Operasyon at Deployment
| Dokumento | Paglalarawan |
|---|---|
| Gabay sa Docker | Docker run, mga profile ng Compose, Caddy HTTPS, mga tunnel, mga tag ng image |
| Gabay sa Podman | Integrasyon ng Quadlet systemd, podman-compose, SELinux |
| Deployment sa VM | Kumpletong gabay: pag-setup ng VM + nginx + Cloudflare |
| Deployment sa Fly.io | Mag-deploy sa Fly.io gamit ang persistent storage |
| Gabay sa Termux | Patakbuhin ang OmniRoute sa Android sa pamamagitan ng Termux |
| Gabay sa PWA | Pag-install, caching, at arkitektura ng Progressive Web App |
| Gabay sa Pag-uninstall | Malinis na pag-aalis para sa lahat ng paraan ng pag-install |
| Configuration ng Environment | Mga kumpletong variable at sanggunian ng .env |
🧠 Mga Feature at Arkitektura
| Dokumento | Paglalarawan |
|---|---|
| Arkitektura | Arkitektura ng system, daloy ng data, at mga panloob na bahagi |
| Gabay sa Compression | Pipeline na may 7 opsyon: naka-off / lite / standard / aggressive / ultra / RTK / stacked |
| RTK Compression | Compression ng output ng command, mga filter, pagtitiwala, pag-verify, pagbawi ng raw na output |
| Mga Compression Engine | Caveman, RTK, mga stacked pipeline, mga interface ng dashboard/API/MCP |
| Format ng mga Panuntunan sa Compression | Mga schema ng JSON rule-pack para sa mga filter ng Caveman at RTK |
| Mga Language Pack ng Compression | Pag-detect ng wika at paggawa ng Caveman rule-pack |
| Gabay sa Resilience | Mga circuit breaker, cooldown, queue, pag-iwas sa thundering herd, TLS spoofing |
| Auto-Combo Engine | Pagmamarka batay sa 16 na salik, mga mode pack, sariling pag-aayos |
| Gabay sa Proxy | 3-level na proxy system, 1proxy marketplace, registry CRUD |
| Mga Libreng Tier | Pinagsama-samang direktoryo: 34 na nakadokumentong umuulit na pool / 467 nakatalogong entry sa libreng tier |
| Galeriya ng mga Feature | Biswal na paglilibot sa dashboard na may mga screenshot |
| Dokumentasyon ng Codebase | Madaling sundang paglilibot sa codebase para sa mga baguhan |
🤖 Mga Protocol at API
| Dokumento | Paglalarawan |
|---|---|
| Sanggunian ng API | Lahat ng endpoint na may mga halimbawa |
| OpenAPI Spec | Espesipikasyon ng OpenAPI 3.0 |
| MCP Server | 110 MCP tool, mga configuration ng IDE, mga Python/TS/Go client |
| Gabay sa MCP Server | Pag-install ng MCP, mga transport, at sanggunian ng tool |
| A2A Server | JSON-RPC 2.0 protocol, mga skill, streaming, pamamahala ng gawain |
| Gabay sa A2A Server | A2A agent card, mga gawain, skill, at streaming |
📋 Proyekto at Kalidad
| Dokumento | Paglalarawan |
|---|---|
| Pag-aambag | Pagse-set up at mga alituntunin sa development |
| Modelo ng Branching at Release | Kung saan naka-target ang mga PR (release/*), at kung ano ang ibig sabihin ng main at mga tag |
| Talaan ng mga Pagbabago | Kumpletong kasaysayan ng release para sa bawat bersyon |
| Patakaran sa Seguridad | Pag-uulat ng mga kahinaan at mga kasanayan sa seguridad |
| Gabay sa i18n | Suporta para sa 67 wika, daloy ng trabaho sa pagsasalin, RTL |
| Checklist ng Release | Mga hakbang sa pagpapatunay bago ang release |
| Plano sa Coverage | Estratehiya sa test coverage para sa 56,000+ static na deklarasyon ng test sa 7,800+ sinusubaybayang test file |
⭐ Mga Nangungunang Contributor
Ang OmniRoute ay hinuhubog ng isang masigasig na open-source community. Ang mga indibidwal na ito ay gumawa ng mga pambihirang kontribusyong direktang nakaaapekto sa kalidad, katatagan, at abot ng proyekto. Maraming salamat.
Mga external contributor ayon sa mga na-merge na pull request
| Ranggo | Contributor | Mga Na-merge na PR | ~Mga nabagong linya |
|---|---|---|---|
| 1 | maxmad64bis | 371 | 25,326,561 |
| 2 | HouMinXi | 269 | 13,456,272 |
| 3 | backryun | 210 | 270,562 |
| 4 | oyi77 | 190 | 411,243 |
| 5 | pacocartones | 174 | 78,276 |
| 6 | JxnLexn | 151 | 3,562,936 |
| 6 | KooshaPari | 151 | 5,972,314 |
| 8 | rdself | 145 | 80,663 |
| 9 | RaviTharuma | 123 | 500,065 |
| 10 | herjarsa | 88 | 230,872 |
| 11 | hartmark | 84 | 2,849,554 |
| 12 | jonlwheat2-gif | 67 | 68,548 |
| 13 | artickc | 62 | 43,502 |
| 14 | chirag127 | 52 | 6,661 |
| 15 | xz-dev | 50 | 245,976 |
| 16 | xiaoyaner0201 | 47 | 33,626 |
| 17 | woodsonl | 46 | 809,391 |
| 18 | rqzbeh | 44 | 147,896 |
| 19 | QuangBlue | 43 | 13,112 |
| 20 | MumuTW | 40 | 26,093 |
Kinuha ang census noong 2026-10-18 15:09:09 UTC gamit ang kasalukuyang tip ng release/v3.8.52 na 656f01cb43. Ang may pagination na census ng GitHub GraphQL ay naglalaman ng 9,191 na na-merge na PR: 3,834 mula sa may-ari ng repository, 229 mula sa Dependabot, 6 mula sa iba pang mga bot/app, at 5,122 external na PR mula sa 835 natatanging contributor. Ang “Mga nabagong linya” ay ang mga pagdaragdag + pagbubura sa GitHub at kasama rito ang mga generated file, lockfile, catalog, pagsasalin, at dokumentasyon; sinusukat nito ang dami ng pagbabago, hindi ang LOC na isinulat. May 49 na PR na nag-uulat ng mga diff sa GitHub na lampas sa 500,000 linya (halimbawa, ang #13399, na nagdagdag ng iisang provider, ay naglilista ng 2,347 nabagong file), na nagpapalaki sa ilan sa mga kabuuang bilang sa itaas. Magkakapareho ang ranggo kapag tabla.
Mga commit na iniugnay ng GitHub
|
Dizzle 🥇 367 commit na iniugnay ng GitHub |
Bob.Hou 🥈 269 na commit na iniugnay ng GitHub |
Paijo 🥉 229 na commit na iniugnay ng GitHub |
backryun 🏅 202 commit na iniugnay ng GitHub |
Paco Cartones 🏅 174 na commit na iniugnay ng GitHub |
Ravi Tharuma 🏅 126 na commit na iniugnay ng GitHub |
|
Markus Hartung 🏅 114 na commit na iniugnay ng GitHub |
Randi 🏅 108 commit na iniugnay ng GitHub |
Jan Leon 🏅 87 commit na iniugnay ng GitHub |
Chris 🏅 70 commit na iniugnay ng GitHub |
Koosha Paridehpour 🏅 68 commit na iniugnay ng GitHub |
Muling sinuri noong 2026-10-18 14:44:45 UTC: mga commit na iniugnay ng GitHub na iniulat ng Contributors API ng repository para sa default na branch na release/v3.8.52. Nagbalik ang API ng 849 na pagkakakilanlan (429 na user, 2 bot, 418 anonymous); hindi kasama sa talahanayang ito ang maintainer, mga bot, at mga anonymous na pagkakakilanlan, at pinananatili nito ang mga tabla sa ranggo. Hiwalay ito sa ranggo ng mga na-merge na PR sa itaas at sa census ng Git metadata sa ibaba.
🙏 Ang mga feature, pag-aayos ng bug, at pagpapahusay sa imprastraktura ng mga contributor na ito ay isang mahalagang bahagi ng dahilan kung bakit maaasahan at hitik sa mga feature ang OmniRoute. Mahalaga ang bawat pull request, bawat test case, at bawat file ng pagsasalin ng i18n. Ang open source ay binubuo ng mga taong tulad nila.
💖 Mga Sponsor
Taos-pusong pasasalamat sa mga taong nagpopondo sa OmniRoute mula sa sarili nilang bulsa — ang bawat ambag ay tumutulong upang manatiling libre, independiyente, at patuloy na umuunlad ang proyekto.
![]() Andrew 💛 Aktibong buwanang sponsor |
![]() Vlad I 💛 Aktibong buwanang sponsor |
![]() 小妍儿 💛 Aktibong buwanang sponsor |
![]() Guilherme Costa 💛 Aktibong minsanang sponsor |
![]() Henrique Iurkiv 💛 Aktibong minsanang sponsor |
![]() Somesh Ghaturle 💛 Aktibong minsanang sponsor |
![]() Kolonie AI 💛 Dating minsanang tagasuporta |
![]() Prof. Igor Morais 💛 Dating minsanang tagasuporta |
![]() Pixma 💛 Dating minsanang tagasuporta |
![]() Paco Cartones 💛 Dating minsanang tagasuporta |
![]() longtao 💛 Dating minsanang tagasuporta |
… at sa iba pang mas gustong manatiling pribado 💛
Muling napatunayan ang mga pampublikong GitHub Sponsor noong 2026-10-18 sa pamamagitan ng GitHub Sponsors GraphQL API: 11 pampublikong sponsorship (6 na aktibo, 5 ang nakaraan) mula sa kabuuang 14. Ang status na isActive ng GitHub ang batayan ng mga aktibong label sa itaas; patuloy na pinasasalamatan ang mga dating pampublikong minsanang tagasuporta, at nananatiling hindi pinapangalanan ang mga pribadong sponsor. Hindi nakalista ang mga donasyon sa Ko-fi, Buy Me a Coffee, Liberapay, PIX, at crypto dahil wala silang pampublikong rekord ng sponsor.
💖 Maging sponsor → — bawat dolyar ay tumutulong upang manatiling libre at independiyente ang OmniRoute.
👥 900+ Kontribyutor
Na-audit noong 2026-10-18 sa pinakabagong commit na ad160ab2d1 ng live na release/v3.8.52 (6,826 commit): 993 na-normalize na pagkakakilanlan ng mga tao sa Git — 707 ang lumilitaw bilang mga may-akda ng commit (kabilang ang tagapanatili) at 286 ang nasa tahasang mga trailer na Co-authored-by lamang. Inilalapat ng sensus ang .mailmap, inihahambing ang mga e-mail address nang hindi isinasaalang-alang ang laki o liit ng titik, pinagsasama ang mga numeriko at karaniwang GitHub noreply address kapag nag-encode lamang ang mga ito ng parehong handle, ibinubukod ang 26 na pagkakakilanlan ng bot/agent/serbisyo/placeholder, at hindi pinagsasama ang mga karaniwang e-mail address dahil lamang magkatugma ang kanilang mga display name. Ang audit noong 2026-08-24 ay nag-ulat ng 639; ang muling pagpapatakbo ng paraang ito sa base ng audit na iyon na ac02c5b42f ay nagbibigay ng 619, kaya ang pagtaas ay nagmula sa mga bagong kontribyutor, hindi sa mas maluwag na paraan.
Paano Mag-ambag
- I-fork ang repository
- Gumawa ng branch mula sa pinakabagong commit ng aktibong
release/vX.Y.Z(hindi samain) — tingnan ang Modelo ng Pagba-branch at Pag-release - Gumawa ng iyong feature branch (
git checkout -b feat/amazing-feature) - I-commit ang iyong mga pagbabago (
git commit -m 'feat: add amazing feature') - I-push sa branch (
git push origin feat/amazing-feature) - Magbukas ng Pull Request na may base = ang branch na
release/vX.Y.Zna iyon
Tingnan ang CONTRIBUTING.md para sa mga detalyadong alituntunin.
Pag-release ng Bagong Bersyon
# Gumawa ng release — awtomatikong nagaganap ang npm publish
VERSION=x.y.z
gh release create "v${VERSION}" --title "v${VERSION}" --generate-notes
📊 Mga Star
🙏 Mga Pasasalamat
Nakatayo ang OmniRoute sa mga balikat ng mga higante. Nagsimula ito bilang fork ng 9router at TypeScript port ng Go project na CLIProxyAPI — at mula roon, ang bawat subsystem sa ibaba ay binigyang-inspirasyon ng isang open-source project na naunang nakarating doon. Ang bawat isa ay humubog sa isang konkretong bahagi ng OmniRoute. Ito ang aming pasasalamat sa kanilang lahat. 🙏
⭐ na-verify ang mga bilang ng star mula sa REST API ng GitHub noong Oktubre 18, 2026 — bigyan ninyo ng star ang mga proyektong ito. Ang mga bilang ay eksaktong snapshot na may petsa at likas na magbabago sa paglipas ng panahon.
🧬 Pinagmulan at gateway
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| 9router | 31,004 | Ang orihinal na proyektong pinagbabatayan ng fork na ito — pinalawak dito gamit ang mga multi-modal API at isang ganap na muling pagsulat sa TypeScript. |
| CLIProxyAPI | 55,591 | Ang implementasyon sa Go na nagbigay-inspirasyon sa JavaScript / TypeScript port na ito. |
| LiteLLM | 61,482 | Ang AI gateway na ang pampublikong dataset ng pagpepresyo ang pinagmumulan ng aming cost-tracking sync at ang modelo nito para sa pag-normalize ng provider ang humubog sa aming routing. |
| codex-chatgpt-web | 14,526 | MIT source na inangkop sa naka-vendor na ChatGPT Web → Codex Responses bridge, kabilang ang mga adapter para sa browser session, response framing, paggamit, at web search. |
| free-claude-code | 61,430 | Mga pattern na na-port sa stream recovery, mga no-thinking alias, fallback na web search, sliding-window limit, pag-redact ng log, at mga pinatibay na daloy ng launcher. |
| composer-api | 346 | Mga pattern ng tool choice, output constraint, at tool commit ng Cursor Composer na inangkop sa native na Cursor executor. |
| codex-multi-auth | 553 | Mga pattern ng bagong pag-login at pag-rotate ng refresh token na na-port sa muling pagpapatotoo ng Codex OAuth. |
| opencode-anthropic-auth | 558 | Mga default ng transform na compatible sa Claude Code at gawi ng billing header na ginawang pangkalahatan sa config-driven bridge ng OmniRoute. |
| grok2api-merged | 2 | Ang mga mapping nito para sa Grok model, fake-TypeError Statsig generator, mga default ng request at device, at NDJSON response processor ay malaking bahagi ng inangkop sa Grok Web executor ng OmniRoute. |
| TQZHR/grok2api | 706 | Ang pangunahing transitive na pinagmulan ng code sa likod ng grok2api-merged; pinanatili sa pinagmulan ng Grok Web ang mga implementasyon nito para sa model, header, payload, Statsig, at processor. |
| chenyme/grok2api | 7,819 | Ang pinagbabatayang MIT source para sa mga default ng Grok payload at device, ang Statsig generator, at ang result.response processor na ipinasa sa pamamagitan ng TQZHR at grok2api-merged. |
| grok2api-pro | 27 | Isang transitive na source na kinilala ng grok2api-merged para sa proxy-pool layer nito; pinananatili ng OmniRoute ang pabatid tungkol sa pinagmulang iyon ngunit hindi nito inaangkin na nag-port ito ng proxy pool sa saklaw nitong Grok Web executor. |
| GrokProxy | 51 | Ang Grok proxy nitong pinatotohanan gamit ang cookie at ang result.response.token streaming pattern nito ang humubog sa Grok Web transport ng OmniRoute. |
| GrokBridge | 5 | Sinangguni ng orihinal na implementasyon ng Grok Web ang upstream design nito para sa HTTP/browser; nagmula sa GrokProxy ang direktang HTTP path nito, kaya walang inaangking hiwalay na pag-port ng code. |
🗜️ Pag-compress ng context at token — mga engine
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| Caveman | 113,396 | Ang viral na proyektong "bakit gumamit maraming token kung kaunting token sapat na" — ang pilosopiya nitong pananalitang-taong-kuweba ang nagpapatakbo sa aming karaniwang compression mode at mahigit 30 panuntunan sa pag-aalis ng filler at pagkokondensa. |
| RTK – Rust Token Killer | 83,835 | Mataas-na-pagganap na compression ng command output — nagbigay-inspirasyon sa aming RTK engine, JSON filter DSL, pagbawi ng raw output, at sa pinagsalansang na RTK → Caveman pipeline. |
| headroom | 75,741 | Nababaligtad na context compression (SmartCrusher) — nagbigay-inspirasyon sa aming headroom engine at sa retrieve-marker pattern na ccr. |
| LLMLingua | 6,757 | Pananaliksik sa prompt compression (LLMLingua / LLMLingua-2) — nagbigay-inspirasyon sa aming asynchronous, ligtas-sa-code, at fail-open na llmlingua engine. |
| llmlingua-2-js | 32 | Ang JS/ONNX port (MobileBERT / XLM-RoBERTa) na ginagamit bilang worker-thread backend para sa aming LLMLingua engine. |
| Troglodita | 50 | PT-BR token compression — nagpapatakbo sa aming pt-BR language pack: pagbabawas ng pleonasm at pag-aalis ng filler na iniangkop para sa gramatika ng Brazilian Portuguese. |
| ponytail | 166,731 | Ang viral na YAGNI-coder skill ng "tamad na senior dev" — nagbigay-inspirasyon sa aming less-code Output Style: paggabay tungo sa pinakamaliit na gumaganang pagbabago na nagpapabawas sa _nabubuong_ code (ang kapatid sa output axis ng maikling prosa ng Caveman). |
| i-have-adhd | 57,628 | Ang istilo nitong inuuna ang aksiyon at madaling sundan ng mga may ADHD ay iniangkop sa maikling output style ng OmniRoute sa limang wika. |
🧩 Mga compact na format, pananaliksik sa token, at tooling na may kamalayan sa code
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| TOON | 25,509 | Token-Oriented Object Notation — ang columnar na modelo nitong header-plus-rows ang humubog sa aming yugto ng tabular compaction. |
| GCF – Graph Compact Format | 59 | Ang compact graph format at generic-profile design nito ang nagsilbing batayan ng tabular compaction ng OmniRoute at ng format ng Headroom codec. |
| gcf-typescript | 4 | Ang MIT TypeScript implementation na direktang isinama at pinalawak bilang generic-profile codec ng Headroom. |
| token-optimizer-mcp | 551 | Brotli/SQLite cache + per-session context delta — nagbigay-inspirasyon sa aming session-dedup engine. |
| token-savior | 1,182 | Bash-output compaction + MCP profiles — nagbigay-inspirasyon sa aming disiplinadong paghinto sa compression at pagbabawas ng MCP tool manifest. |
| token-saver | 154 | Compression ng output ayon sa uri ng file at may kamalayan sa nilalaman, kasama ang paghinto kapag may pagkabigo — pinagtibay nito ang aming dispatch ayon sa uri at paglaktaw kapag kulang ang pakinabang. |
| token-optimizer | 2,595 | "Hanapin ang mga ghost token" — ang pattern nitong offload + recoverable handle ang nagsilbing batayan ng aming pag-iisip tungkol sa CCR offload. |
| TokenMizer | 33 | Isang blueprint ng session graph + cross-turn line dedup na nagsilbing batayan ng aming session-dedup design. |
| OmniCompress | 3 | Rust columnar JSON + content-addressed retrieve + cross-message dedup — pinagtibay nito ang disenyo ng aming headroom/ccr/session-dedup engine at ang cache-stable na invariant na "ang compressed form ay hindi nakadepende sa posisyon." |
| mcp-compressor | 133 | Compression ng MCP tool schema/paglalarawan — nagsilbing batayan ng aming pagbabawas sa cardinality ng MCP tool manifest. |
| RepoMapper | 217 | Aider-style na pagraranggo ng repo map — nagsilbing batayan ng aming paggalugad sa repo map / retrieval ranking. |
| quiet-shell-mcp | 4 | Deklaratibong pagbabawas ng shell output sa pamamagitan ng MCP — pinagtibay nito ang aming deklaratibong bash-output compaction. |
| ts-morph | 6,205 | TypeScript Compiler API toolkit — nagbigay-inspirasyon sa aming parser-based na pag-aalis ng komento na pinananatili ang mga string, template, at regex literal. |
🧠 Memorya at RAG
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| Mem0 | 67,385 | Universal na memory layer — hinubog ng modelo nitong proxy-bilang-hangganan-ng-pagsulat/pagbasa ang aming arkitektura ng memory. |
| Letta (MemGPT) | 25,179 | Mga stateful agent na may nakaantas na memory — nagbigay-inspirasyon sa aming nakaantas na modelo ng Context Control & Recovery (CCR). |
| WFGY | 1,800 | Ang ProblemMap taxonomy ng 16 na paulit-ulit na failure mode ng RAG/LLM — ang magkakatulad na bokabularyo sa aming gabay sa pag-troubleshoot. |
🛰️ Inspeksiyon ng trapiko, MITM at transparent proxy
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| llm-interceptor | 79 | Ang MITM interception/pagsusuri ng trapiko sa pagitan ng coding-assistant ↔ LLM ang nagbigay-hugis sa mga paunang kinakailangan ng Traffic Inspector. Apat na dating hinangong module — SSE merging, conversation normalization, secret masking at header sanitization — ang napalitan na ng mga independiyenteng clean-room implementation batay sa mga pampublikong pamantayan ng protocol. Ang dalawang host-passthrough surface (passthrough.ts at _internal/bypass.cjs) ay nananatiling mga panloob na implementation ng OmniRoute na hiwalay na inuri; hindi muling isinulat ang mga ito bilang bahagi ng pagpapalit na iyon. |
| ProxyBridge | 6,814 | Transparent na per-process proxy routing — nagbigay-inspirasyon sa aming crash-safe na MITM teardown, mga socket idle-timeout, /proc process attribution at TPROXY capture. |
📚 Data ng modelo, observability at UI
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| models.dev | 7,286 | Bukas na database ng mga detalye, presyo at kakayahan ng AI model — katutubong naka-sync sa aming katalogo ng modelo. |
| React Flow / xyflow | 38,705 | Ang node-based graph library na nagpapatakbo sa aming real-time na Compression Studio at Combo/Routing Studio. |
| LangGraph | 43,443 | Ang live na visualization ng workflow graph ng LangGraph Studio ang nagbigay-inspirasyon sa real-time na cascade view ng aming mga Studio. |
| Langfuse | 35,990 | Hinubog ng trace → span → generation na modelo nito para sa observability ang waterfall ng aming Compression Studio. |
| Kiali | 3,645 | Observability para sa Istio service mesh — nagbigay-inspirasyon sa aming mga circuit-breaker badge at error-edge visual sa Routing/Combo Studio. |
| lobe-icons | 2,615 | Mga logo ng AI/LLM brand na nagre-render ng mga icon ng provider sa kabuuan ng aming dashboard. |
| flag-icons | 12,473 | Nagbibigay ng mga SVG flag na lisensiyado sa ilalim ng MIT at ginagamit ng tagapili ng wika sa README. |
🛡️ Seguridad
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| awesome-secure-defaults | 722 | Isang piniling listahan ng mga secure-by-default na library na gumagabay sa aming mga pasya sa seguridad (Helmet.js, DOMPurify, ssrf-req-filter, safe-regex, Google Tink). |
🧭 Mga komplementaryong tool
| Proyekto | ⭐ | Paano nito binigyang-inspirasyon ang OmniRoute |
|---|---|---|
| ClawRouter | 6,628 | Nagbigay-inspirasyon sa request deduplication, emergency na fallback na walang gastos, mga pluggable na estratehiya ng Auto-Combo at multilingual na pag-uuri ng layunin. |
| Antigravity-Manager | 32,333 | Ang account-aware na model remapping, validation ng executable path at gawi ng plan label nito ang nagbigay-hugis sa Antigravity runtime ng OmniRoute. |
| vscode-antigravity-cockpit | 4,850 | Ang compact na format nito para sa countdown ng pag-reset ng quota ang nagbigay-inspirasyon sa kaukulang pagpapakita ng limitasyon ng provider sa OmniRoute. |
| AionUi | 33,611 | Ang mga ACP integration nito ang nagbigay-inspirasyon sa awtomatikong pagtukoy ng OmniRoute sa mga naka-install na CLI agent. |
| CodexBar | 22,616 | Tinukoy nito ang Grok Build quota surface; pagkatapos ay independiyenteng bineberipika at itinama ng OmniRoute ang live wire format. |
📄 Lisensya
Lisensyang MIT - tingnan ang LICENSE para sa mga detalye.
⬆ Bumalik sa itaas · Binuo nang may ❤️ para sa open-source na komunidad ng AI.
OmniRoute v3.8.52 · Node ≥22.22.2 · Lisensyang MIT · omniroute.online










