Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
C
test(glm53): say which command builds the fixture instead of throwing
JustVugg5593ec0368ed
diff --git a/c/tests/test_glm53_multimodal_tiny.py b/c/tests/test_glm53_multimodal_tiny.pyindex 76ef1fbc..bf2ae6db 100644--- a/c/tests/test_glm53_multimodal_tiny.py+++ b/c/tests/test_glm53_multimodal_tiny.py@@ -43,6 +43,13 @@ def main() -> int:help="precisione dei densi; 32 e' il confronto ""con l'oracolo, il resto e' una misura")arguments = parser.parse_args()+ if not (arguments.fixture / "ref.json").exists():+ # Un traceback su un file che manca fa sembrare rotto il+ # motore; chi arriva per la prima volta non puo' distinguere+ # le due cose. Il generatore vuole transformers 5.16.1.+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")+ return 0# Vedi test_glm53_tiny.py: in f32 si prova che il motore implementa il# modello, a bit ridotti che la quantizzazione conserva i token.diff --git a/c/tests/test_glm53_serve.py b/c/tests/test_glm53_serve.pyindex d8330fac..66adbaea 100644--- a/c/tests/test_glm53_serve.py+++ b/c/tests/test_glm53_serve.py@@ -109,6 +109,13 @@ def main() -> int:parser.add_argument("--binary", required=True)parser.add_argument("--fixture", type=Path, required=True)arguments = parser.parse_args()+ if not (arguments.fixture / "ref.json").exists():+ # Un traceback su un file che manca fa sembrare rotto il+ # motore; chi arriva per la prima volta non puo' distinguere+ # le due cose. Il generatore vuole transformers 5.16.1.+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")+ return 0binary = os.path.abspath(arguments.binary)prompt, tokens = "gu", 4diff --git a/c/tests/test_glm53_streaming.py b/c/tests/test_glm53_streaming.pyindex 5473903c..ec91856c 100644--- a/c/tests/test_glm53_streaming.py+++ b/c/tests/test_glm53_streaming.py@@ -55,6 +55,13 @@ def main() -> int:parser.add_argument("--dequantized", type=Path, required=True,help="fixture con quegli stessi valori in f32")arguments = parser.parse_args()+ if not (arguments.quantized / "ref.json").exists():+ # Un traceback su un file che manca fa sembrare rotto il+ # motore; chi arriva per la prima volta non puo' distinguere+ # le due cose. Il generatore vuole transformers 5.16.1.+ print(f"SKIP: manca {arguments.quantized}; generalo con\n"+ f" python3 tools/make_glm53_streaming_pair.py --fixture <mm> --output <dir>")+ return 0reference = json.loads((arguments.quantized / "ref.json").read_text())grid_h, grid_w = reference.get("grid", (0, 0))diff --git a/c/tests/test_glm53_tiny.py b/c/tests/test_glm53_tiny.pyindex dd7da562..45a6878d 100644--- a/c/tests/test_glm53_tiny.py+++ b/c/tests/test_glm53_tiny.py@@ -1,5 +1,11 @@#!/usr/bin/env python3-"""Il motore GLM-5.3 contro l'oracolo tiny generato da transformers.+"""Il motore GLM-5.3 contro un oracolo tiny di solo testo, generato da fuori.++Il fixture NON e' prodotto da questo repository: e' un secondo parere, scritto+da qualcun altro a partire dallo stesso transformers, e vale esattamente perche'+non l'abbiamo scritto noi. Chi non ce l'ha si vede un SKIP; la stessa copertura,+riproducibile qui, e' in tests/test_glm53_multimodal_tiny.py, il cui fixture lo+genera tools/make_glm53_multimodal_tiny.py.Confronta cio' che un utente vede davvero -- i token -- e non solo i numeriinterni: teacher forcing su ogni posizione, generazione greedy, e i logit@@ -49,6 +55,16 @@ def main() -> int:if arguments.logit_tolerance is None:arguments.logit_tolerance = LOGIT_TOLERANCE.get(bits, 5e-1)+ if not (arguments.fixture / "ref.json").exists():+ # Questo fixture arriva da fuori: e' un oracolo generato+ # indipendentemente dal nostro, e vale proprio perche' non l'abbiamo+ # scritto noi. Chi non ce l'ha non ha verificato niente, e dirlo e'+ # meglio di un traceback che sembra un difetto del motore.+ print(f"SKIP: manca {arguments.fixture}/ref.json; questo oracolo non e' "+ f"generato dal repository. Per la stessa copertura, riproducibile, "+ f"usa tools/make_glm53_multimodal_tiny.py e "+ f"tests/test_glm53_multimodal_tiny.py")+ return 0reference = json.loads((arguments.fixture / "ref.json").read_text())prompt = ",".join(str(token) for token in reference["prompt_ids"])expected_forcing = reference["teacher_forcing_ids"]diff --git a/c/tests/test_glm53_vision_serve.py b/c/tests/test_glm53_vision_serve.pyindex 9a2d8750..7e3ca7a7 100644--- a/c/tests/test_glm53_vision_serve.py+++ b/c/tests/test_glm53_vision_serve.py@@ -71,6 +71,13 @@ def main() -> int:parser.add_argument("--binary", required=True)parser.add_argument("--fixture", type=Path, required=True)arguments = parser.parse_args()+ if not (arguments.fixture / "ref.json").exists():+ # Un traceback su un file che manca fa sembrare rotto il+ # motore; chi arriva per la prima volta non puo' distinguere+ # le due cose. Il generatore vuole transformers 5.16.1.+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")+ return 0try:import numpydiff --git a/c/tests/test_glm53_vulkan.py b/c/tests/test_glm53_vulkan.pyindex a71ca7a6..1ddda245 100644--- a/c/tests/test_glm53_vulkan.py+++ b/c/tests/test_glm53_vulkan.py@@ -58,6 +58,13 @@ def main() -> int:parser.add_argument("--shaders", type=Path,default=Path(__file__).resolve().parents[1] / "shaders")arguments = parser.parse_args()+ if not (arguments.fixture / "ref.json").exists():+ # Un traceback su un file che manca fa sembrare rotto il+ # motore; chi arriva per la prima volta non puo' distinguere+ # le due cose. Il generatore vuole transformers 5.16.1.+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")+ return 0binary = os.path.abspath(arguments.binary)reference = json.loads((arguments.fixture / "ref.json").read_text())