Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
C
fix(release): build glm53, and make the contract test say so
JustVuggb780008f657a
diff --git a/.github/workflows/release.yml b/.github/workflows/release.ymlindex 703f92da..a38a3cc1 100644--- a/.github/workflows/release.yml+++ b/.github/workflows/release.yml@@ -62,10 +62,10 @@ jobs:- name: Build enginesrun: |cd c- for t in colibri inkling kimi_k3 olmoe qwen36; do+ for t in colibri glm53 inkling kimi_k3 olmoe qwen36; domake $t ${{ matrix.make_args }}done- ls -lh colibri${{ matrix.ext }} inkling${{ matrix.ext }} kimi_k3${{ matrix.ext }} olmoe${{ matrix.ext }} qwen36${{ matrix.ext }}+ ls -lh colibri${{ matrix.ext }} glm53${{ matrix.ext }} inkling${{ matrix.ext }} kimi_k3${{ matrix.ext }} olmoe${{ matrix.ext }} qwen36${{ matrix.ext }}# DeepSeek V4 has its own Makefile and its own target name (`deepseek-v4`,# producing `deepseek_v4`), so it never joined the loop above -- and #858 isdiff --git a/README.it.md b/README.it.mdindex b9010f18..93efeae3 100644--- a/README.it.md+++ b/README.it.md@@ -336,10 +336,10 @@ e per il gateway API opzionale.end-to-end, revisionati e sviluppati apertamente.- **Più modelli aperti.** L'algoritmo di tiering è indipendente dal modello:qualsiasi MoE con expert instradati può essere organizzato allo stesso modo.- Sei famiglie funzionano già (GLM-5.2, Inkling, Kimi K3, DeepSeek V4 Flash,- Qwen3.6, OLMoE); altre famiglie open-weight, **MiniMax** tra le candidate,- si guadagnano un engine come le prime sei: quando qualcuno le misura- end-to-end.+ Sette famiglie funzionano già (GLM-5.2, GLM-5.3-Flash con la vision,+ Inkling, Kimi K3, DeepSeek V4 Flash, Qwen3.6, OLMoE); altre famiglie+ open-weight, **MiniMax** tra le candidate, si guadagnano un engine come le+ prime sette: quando qualcuno le misura end-to-end.## Sostenere il progettodiff --git a/README.zh-CN.md b/README.zh-CN.mdindex 87a147a1..6289a805 100644--- a/README.zh-CN.md+++ b/README.zh-CN.md@@ -10,8 +10,9 @@**小巧引擎,庞大模型。**在消费级与异构硬件上运行**前沿 MoE 模型——从 744B 到2.8T 参数**——以引擎零依赖的纯 C 实现,将存储、RAM 与 VRAM 视为统一的推理层级。-目前可运行六个模型家族:**GLM-5.2**(744B)、**Inkling**(975B)、**Kimi K3**-(2.8T)、**DeepSeek V4 Flash**(284B)、**Qwen3.6**(35B-A3B)与 **OLMoE**(7B)+目前可运行七个模型家族:**GLM-5.2**(744B)、**GLM-5.3-Flash**(321B,含视觉)、+**Inkling**(975B)、**Kimi K3**(2.8T)、**DeepSeek V4 Flash**(284B)、+**Qwen3.6**(35B-A3B)与 **OLMoE**(7B)——各自一个 C 文件,共用同一套 `coli chat` / `coli serve` / `coli web` 前端。[完整列表](README.md#other-supported-models)> **Colibrì 既是今天就能运行的推理引擎,也是一个开放的研究平台。**它的首要目标是在@@ -310,7 +311,7 @@ oracle 说明,请参阅[中文版 DeepSeek V4 文档](docs/deepseek-v4.zh-CN.m放置、调度、I/O、CPU/GPU 内核、异构重叠、KV 状态与路由感知推测。目标是降低硬件要求和每个有效 token 的成本,所有成果都以端到端测量为准、经审查并公开开发。- **支持更多开放模型。**层级算法与模型无关,任何带路由专家的 MoE 都能用相同方式分层。- 目前已有六个模型家族可用(GLM-5.2、Inkling、Kimi K3、DeepSeek V4 Flash、+ 目前已有七个模型家族可用(GLM-5.2、GLM-5.3-Flash、Inkling、Kimi K3、DeepSeek V4 Flash、Qwen3.6、OLMoE);更多开放权重家族(候选包括 **MiniMax**)将沿用同样的规则获得引擎支持:有人完成端到端实测之后。diff --git a/README.zh-TW.md b/README.zh-TW.mdindex 6e115bf6..a975fd9e 100644--- a/README.zh-TW.md+++ b/README.zh-TW.md@@ -10,8 +10,9 @@**小巧引擎,龐大模型。**在消費級與異質硬體上執行**前沿 MoE 模型——從 744B 到2.8T 參數**——以引擎零相依套件的純 C 實作,將儲存、RAM 與 VRAM 視為統一的推論階層。-目前可執行六個模型家族:**GLM-5.2**(744B)、**Inkling**(975B)、**Kimi K3**-(2.8T)、**DeepSeek V4 Flash**(284B)、**Qwen3.6**(35B-A3B)與 **OLMoE**(7B)+目前可執行七個模型家族:**GLM-5.2**(744B)、**GLM-5.3-Flash**(321B,含視覺)、+**Inkling**(975B)、**Kimi K3**(2.8T)、**DeepSeek V4 Flash**(284B)、+**Qwen3.6**(35B-A3B)與 **OLMoE**(7B)——各自一個 C 檔案,共用同一套 `coli chat` / `coli serve` / `coli web` 前端。[完整清單](README.md#other-supported-models)> **Colibrì 既是今天就能執行的推論引擎,也是一個開放的研究平台。**它的首要目標是在@@ -290,7 +291,7 @@ COLI_MODEL=/nvme/glm52_i4 ./coli doctor # 唯讀就緒檢查配置、排程、I/O、CPU/GPU 核心、異質重疊、KV 狀態與路由感知推測。目標是降低硬體要求和每個有效 token 的成本,所有成果都以端到端測量為準、經審查並公開開發。- **支援更多開放模型。**階層演算法與模型無關,任何帶路由專家的 MoE 都能用相同方式分層。- 目前已有六個模型家族可用(GLM-5.2、Inkling、Kimi K3、DeepSeek V4 Flash、+ 目前已有七個模型家族可用(GLM-5.2、GLM-5.3-Flash、Inkling、Kimi K3、DeepSeek V4 Flash、Qwen3.6、OLMoE);更多開放權重家族(候選包括 **MiniMax**)將沿用同樣的規則獲得引擎支援:有人完成端到端實測之後。diff --git a/c/tests/test_family_registry.py b/c/tests/test_family_registry.pyindex acdb314b..872cabea 100644--- a/c/tests/test_family_registry.py+++ b/c/tests/test_family_registry.py@@ -923,6 +923,19 @@ class FamilyRegistryTest(unittest.TestCase):self.assertIn(family.build_target,re.search(r'ENGINES="([^"]+)"', ci).group(1).split())self.assertIn(f"cp c/{family.engine_artifact}", release)+ # Copiarlo non basta: va anche COSTRUITO. Il contratto+ # verificava solo meta', e con quella meta' la v1.9.0 e'+ # uscita col nome di GLM-5.3-Flash e senza il suo binario,+ # esattamente come la v1.5.0 con DeepSeek V4 (#858). Un+ # `cp` di un file che nessuno ha compilato fallisce a+ # release gia' pubblicata, cioe' nel momento peggiore.+ build_step = re.search(r"for t in ([a-z0-9_ ]+); do",+ release)+ self.assertIsNotNone(build_step,+ "release.yml: build loop not found")+ self.assertIn(family.build_target, build_step.group(1).split(),+ f"{family.id}: release.yml copies "+ f"c/{family.engine_artifact} but never builds it")self.assertIn(f"$(LIBEXECDIR)/{family.engine_artifact}", makefile)else:self.assertIn("deepseek-v4", ci)