Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
C
docs: eight families, in all four READMEs, and a contract so it stays true (#1287)
Vincenzo Fornarofe516fc035ca
diff --git a/README.it.md b/README.it.mdindex 93efeae3..fd40e4b4 100644--- a/README.it.md+++ b/README.it.md@@ -12,8 +12,10 @@ miliardi a 2,8 mila miliardi di parametri** — su hardware consumer ed eterogenin C puro e senza dipendenze del motore, trattando storage, RAM e VRAM comeun'unica gerarchia di inferenza.-Oggi girano sei famiglie: **GLM-5.2** (744B), **Inkling** (975B), **Kimi K3**-(2,8T), **DeepSeek V4 Flash** (284B), **Qwen3.6** (35B-A3B) e **OLMoE** (7B) — un+Oggi girano otto famiglie: **GLM-5.2** (744B), **GLM-5.3-Flash** (321B, con+vision), **Inkling** (975B), **Kimi K3** (2,8T), **DeepSeek V4 Flash** (284B),+**Qwen3.8-Flash-Next** (125B + 51B n-gram), **Qwen3.6** (35B-A3B) e+**OLMoE** (7B) — unfile C ciascuna, la stessa interfaccia `coli chat` / `coli serve` / `coli web`. [Elenco completo](README.md#other-supported-models)> **Colibrì è un motore di inferenza che puoi usare oggi, e una piattaforma di@@ -336,10 +338,10 @@ e per il gateway API opzionale.end-to-end, revisionati e sviluppati apertamente.- **Più modelli aperti.** L'algoritmo di tiering è indipendente dal modello:qualsiasi MoE con expert instradati può essere organizzato allo stesso modo.- Sette famiglie funzionano già (GLM-5.2, GLM-5.3-Flash con la vision,- Inkling, Kimi K3, DeepSeek V4 Flash, Qwen3.6, OLMoE); altre famiglie- open-weight, **MiniMax** tra le candidate, si guadagnano un engine come le- prime sette: quando qualcuno le misura end-to-end.+ Otto famiglie funzionano già (GLM-5.2, GLM-5.3-Flash con la vision,+ Inkling, Kimi K3, DeepSeek V4 Flash, Qwen3.8-Flash-Next, Qwen3.6, OLMoE);+ altre famiglie open-weight, **MiniMax** tra le candidate, si guadagnano un+ engine come le prime otto: quando qualcuno le misura end-to-end.## Sostenere il progettodiff --git a/README.md b/README.mdindex a1dc96a4..cfd89be5 100644--- a/README.md+++ b/README.md@@ -583,10 +583,11 @@ checkpoint validation, and the generated tiny independent oracle.lower cost per useful token. Everything lands the way this project works:measured end to end, reviewed, and developed in the open.- **More open models.** The tiering algorithm is model-agnostic: any MoE with- routed experts can be staged the same way. Seven families run today (GLM-5.2,- Inkling, Kimi K3, DeepSeek V4 Flash, Qwen3.8-Flash-Next, Qwen3.6, OLMoE); further open-weight- families — **MiniMax** among the candidates — earn an engine the way the- first seven did: when someone measures one end to end.+ routed experts can be staged the same way. Eight families run today (GLM-5.2,+ GLM-5.3-Flash, Inkling, Kimi K3, DeepSeek V4 Flash, Qwen3.8-Flash-Next,+ Qwen3.6, OLMoE); further open-weight families — **MiniMax** among the+ candidates — earn an engine the way the first eight did: when someone+ measures one end to end.## Supporting the projectdiff --git a/README.zh-CN.md b/README.zh-CN.mdindex 6289a805..4b7bfc74 100644--- a/README.zh-CN.md+++ b/README.zh-CN.md@@ -10,9 +10,9 @@**小巧引擎,庞大模型。**在消费级与异构硬件上运行**前沿 MoE 模型——从 744B 到2.8T 参数**——以引擎零依赖的纯 C 实现,将存储、RAM 与 VRAM 视为统一的推理层级。-目前可运行七个模型家族:**GLM-5.2**(744B)、**GLM-5.3-Flash**(321B,含视觉)、+目前可运行八个模型家族:**GLM-5.2**(744B)、**GLM-5.3-Flash**(321B,含视觉)、**Inkling**(975B)、**Kimi K3**(2.8T)、**DeepSeek V4 Flash**(284B)、-**Qwen3.6**(35B-A3B)与 **OLMoE**(7B)+**Qwen3.8-Flash-Next**(125B + 51B n-gram)、**Qwen3.6**(35B-A3B)与 **OLMoE**(7B)——各自一个 C 文件,共用同一套 `coli chat` / `coli serve` / `coli web` 前端。[完整列表](README.md#other-supported-models)> **Colibrì 既是今天就能运行的推理引擎,也是一个开放的研究平台。**它的首要目标是在@@ -311,8 +311,8 @@ oracle 说明,请参阅[中文版 DeepSeek V4 文档](docs/deepseek-v4.zh-CN.m放置、调度、I/O、CPU/GPU 内核、异构重叠、KV 状态与路由感知推测。目标是降低硬件要求和每个有效 token 的成本,所有成果都以端到端测量为准、经审查并公开开发。- **支持更多开放模型。**层级算法与模型无关,任何带路由专家的 MoE 都能用相同方式分层。- 目前已有七个模型家族可用(GLM-5.2、GLM-5.3-Flash、Inkling、Kimi K3、DeepSeek V4 Flash、- Qwen3.6、OLMoE);更多开放权重家族(候选包括 **MiniMax**)将沿用同样的+ 目前已有八个模型家族可用(GLM-5.2、GLM-5.3-Flash、Inkling、Kimi K3、DeepSeek V4 Flash、+ Qwen3.8-Flash-Next、Qwen3.6、OLMoE);更多开放权重家族(候选包括 **MiniMax**)将沿用同样的规则获得引擎支持:有人完成端到端实测之后。## 支持项目diff --git a/README.zh-TW.md b/README.zh-TW.mdindex a975fd9e..e66317cf 100644--- a/README.zh-TW.md+++ b/README.zh-TW.md@@ -10,9 +10,9 @@**小巧引擎,龐大模型。**在消費級與異質硬體上執行**前沿 MoE 模型——從 744B 到2.8T 參數**——以引擎零相依套件的純 C 實作,將儲存、RAM 與 VRAM 視為統一的推論階層。-目前可執行七個模型家族:**GLM-5.2**(744B)、**GLM-5.3-Flash**(321B,含視覺)、+目前可執行八個模型家族:**GLM-5.2**(744B)、**GLM-5.3-Flash**(321B,含視覺)、**Inkling**(975B)、**Kimi K3**(2.8T)、**DeepSeek V4 Flash**(284B)、-**Qwen3.6**(35B-A3B)與 **OLMoE**(7B)+**Qwen3.8-Flash-Next**(125B + 51B n-gram)、**Qwen3.6**(35B-A3B)與 **OLMoE**(7B)——各自一個 C 檔案,共用同一套 `coli chat` / `coli serve` / `coli web` 前端。[完整清單](README.md#other-supported-models)> **Colibrì 既是今天就能執行的推論引擎,也是一個開放的研究平台。**它的首要目標是在@@ -291,8 +291,8 @@ COLI_MODEL=/nvme/glm52_i4 ./coli doctor # 唯讀就緒檢查配置、排程、I/O、CPU/GPU 核心、異質重疊、KV 狀態與路由感知推測。目標是降低硬體要求和每個有效 token 的成本,所有成果都以端到端測量為準、經審查並公開開發。- **支援更多開放模型。**階層演算法與模型無關,任何帶路由專家的 MoE 都能用相同方式分層。- 目前已有七個模型家族可用(GLM-5.2、GLM-5.3-Flash、Inkling、Kimi K3、DeepSeek V4 Flash、- Qwen3.6、OLMoE);更多開放權重家族(候選包括 **MiniMax**)將沿用同樣的+ 目前已有八個模型家族可用(GLM-5.2、GLM-5.3-Flash、Inkling、Kimi K3、DeepSeek V4 Flash、+ Qwen3.8-Flash-Next、Qwen3.6、OLMoE);更多開放權重家族(候選包括 **MiniMax**)將沿用同樣的規則獲得引擎支援:有人完成端到端實測之後。## 支持專案diff --git a/c/tests/test_family_registry.py b/c/tests/test_family_registry.pyindex c56e1b4d..e48ab6bc 100644--- a/c/tests/test_family_registry.py+++ b/c/tests/test_family_registry.py@@ -1120,6 +1120,48 @@ class FamilyRegistryTest(unittest.TestCase):f"non-interactive default ({family.limits.default_max_output}) -- "f"reasoning can consume it before the answer starts")+ def test_every_readme_names_every_family(self):+ """Ogni README, tradotto compreso, deve nominare ogni famiglia.++ E' la terza volta oggi che un conteggio ripetuto in due posti diverge:+ release.yml costruiva sei motori e ne copiava sette, i contatori degli+ adapter dicevano 7 con 8 famiglie registrate, e i README dichiaravano+ sei, sette e otto famiglie contemporaneamente -- l'inglese si+ contraddiceva da solo fra riga 21 e riga 586.++ Il nome della famiglia e' il controllo giusto, non il numerale: sono+ quattro lingue e il numerale si scrive in quattro modi, mentre+ `Qwen3.8-Flash-Next` si scrive uguale ovunque. Chi aggiunge una famiglia+ e dimentica le traduzioni lo scopre qui invece che da un utente che+ legge la sua lingua e non trova il modello.+ """+ repo = Path(__file__).resolve().parents[2]+ readmes = ["README.md", "README.it.md", "README.zh-CN.md", "README.zh-TW.md"]+ for name in readmes:+ path = repo / name+ if not path.exists():+ continue+ text = path.read_text(encoding="utf-8")+ for family in FAMILIES:+ # Il nome senza il suffisso di taglia: i README scrivono+ # "**Qwen3.6** (35B-A3B)", non "Qwen3.6-35B-A3B", perche' la+ # dimensione sta fra parentesi. Cercare il display_name intero+ # fallirebbe su una differenza di formattazione invece che su+ # una famiglia mancante, che e' quello che qui interessa.+ parts = []+ for piece in family.display_name.split("-"):+ if re.fullmatch(r"A?\d+(\.\d+)?B", piece):+ break+ parts.append(piece)+ token = "-".join(parts) or family.display_name+ # assertTrue e non assertIn: assertIn stampa il README intero+ # nel messaggio di errore, e mille righe di markdown nascondono+ # la riga che dice cosa manca.+ self.assertTrue(token in text,+ f"{name}: does not mention {family.display_name} "+ f"({family.id}); a reader in that language cannot "+ f"tell the family is supported")+def test_build_install_ci_and_release_cover_registered_engines(self):repo = Path(__file__).resolve().parents[2]makefile = (repo / "c" / "Makefile").read_text(encoding="utf-8")