Skip to content

Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

C

test(glm53): say which command builds the fixture instead of throwing

JustVugg5593ec0368ed
diff --git a/c/tests/test_glm53_multimodal_tiny.py b/c/tests/test_glm53_multimodal_tiny.py
index 76ef1fbc..bf2ae6db 100644
--- a/c/tests/test_glm53_multimodal_tiny.py
+++ b/c/tests/test_glm53_multimodal_tiny.py
@@ -43,6 +43,13 @@ def main() -> int:
help="precisione dei densi; 32 e' il confronto "
"con l'oracolo, il resto e' una misura")
arguments = parser.parse_args()
+ if not (arguments.fixture / "ref.json").exists():
+ # Un traceback su un file che manca fa sembrare rotto il
+ # motore; chi arriva per la prima volta non puo' distinguere
+ # le due cose. Il generatore vuole transformers 5.16.1.
+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"
+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")
+ return 0
# Vedi test_glm53_tiny.py: in f32 si prova che il motore implementa il
# modello, a bit ridotti che la quantizzazione conserva i token.
diff --git a/c/tests/test_glm53_serve.py b/c/tests/test_glm53_serve.py
index d8330fac..66adbaea 100644
--- a/c/tests/test_glm53_serve.py
+++ b/c/tests/test_glm53_serve.py
@@ -109,6 +109,13 @@ def main() -> int:
parser.add_argument("--binary", required=True)
parser.add_argument("--fixture", type=Path, required=True)
arguments = parser.parse_args()
+ if not (arguments.fixture / "ref.json").exists():
+ # Un traceback su un file che manca fa sembrare rotto il
+ # motore; chi arriva per la prima volta non puo' distinguere
+ # le due cose. Il generatore vuole transformers 5.16.1.
+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"
+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")
+ return 0
binary = os.path.abspath(arguments.binary)
prompt, tokens = "gu", 4
diff --git a/c/tests/test_glm53_streaming.py b/c/tests/test_glm53_streaming.py
index 5473903c..ec91856c 100644
--- a/c/tests/test_glm53_streaming.py
+++ b/c/tests/test_glm53_streaming.py
@@ -55,6 +55,13 @@ def main() -> int:
parser.add_argument("--dequantized", type=Path, required=True,
help="fixture con quegli stessi valori in f32")
arguments = parser.parse_args()
+ if not (arguments.quantized / "ref.json").exists():
+ # Un traceback su un file che manca fa sembrare rotto il
+ # motore; chi arriva per la prima volta non puo' distinguere
+ # le due cose. Il generatore vuole transformers 5.16.1.
+ print(f"SKIP: manca {arguments.quantized}; generalo con\n"
+ f" python3 tools/make_glm53_streaming_pair.py --fixture <mm> --output <dir>")
+ return 0
reference = json.loads((arguments.quantized / "ref.json").read_text())
grid_h, grid_w = reference.get("grid", (0, 0))
diff --git a/c/tests/test_glm53_tiny.py b/c/tests/test_glm53_tiny.py
index dd7da562..45a6878d 100644
--- a/c/tests/test_glm53_tiny.py
+++ b/c/tests/test_glm53_tiny.py
@@ -1,5 +1,11 @@
#!/usr/bin/env python3
-"""Il motore GLM-5.3 contro l'oracolo tiny generato da transformers.
+"""Il motore GLM-5.3 contro un oracolo tiny di solo testo, generato da fuori.
+
+Il fixture NON e' prodotto da questo repository: e' un secondo parere, scritto
+da qualcun altro a partire dallo stesso transformers, e vale esattamente perche'
+non l'abbiamo scritto noi. Chi non ce l'ha si vede un SKIP; la stessa copertura,
+riproducibile qui, e' in tests/test_glm53_multimodal_tiny.py, il cui fixture lo
+genera tools/make_glm53_multimodal_tiny.py.
Confronta cio' che un utente vede davvero -- i token -- e non solo i numeri
interni: teacher forcing su ogni posizione, generazione greedy, e i logit
@@ -49,6 +55,16 @@ def main() -> int:
if arguments.logit_tolerance is None:
arguments.logit_tolerance = LOGIT_TOLERANCE.get(bits, 5e-1)
+ if not (arguments.fixture / "ref.json").exists():
+ # Questo fixture arriva da fuori: e' un oracolo generato
+ # indipendentemente dal nostro, e vale proprio perche' non l'abbiamo
+ # scritto noi. Chi non ce l'ha non ha verificato niente, e dirlo e'
+ # meglio di un traceback che sembra un difetto del motore.
+ print(f"SKIP: manca {arguments.fixture}/ref.json; questo oracolo non e' "
+ f"generato dal repository. Per la stessa copertura, riproducibile, "
+ f"usa tools/make_glm53_multimodal_tiny.py e "
+ f"tests/test_glm53_multimodal_tiny.py")
+ return 0
reference = json.loads((arguments.fixture / "ref.json").read_text())
prompt = ",".join(str(token) for token in reference["prompt_ids"])
expected_forcing = reference["teacher_forcing_ids"]
diff --git a/c/tests/test_glm53_vision_serve.py b/c/tests/test_glm53_vision_serve.py
index 9a2d8750..7e3ca7a7 100644
--- a/c/tests/test_glm53_vision_serve.py
+++ b/c/tests/test_glm53_vision_serve.py
@@ -71,6 +71,13 @@ def main() -> int:
parser.add_argument("--binary", required=True)
parser.add_argument("--fixture", type=Path, required=True)
arguments = parser.parse_args()
+ if not (arguments.fixture / "ref.json").exists():
+ # Un traceback su un file che manca fa sembrare rotto il
+ # motore; chi arriva per la prima volta non puo' distinguere
+ # le due cose. Il generatore vuole transformers 5.16.1.
+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"
+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")
+ return 0
try:
import numpy
diff --git a/c/tests/test_glm53_vulkan.py b/c/tests/test_glm53_vulkan.py
index a71ca7a6..1ddda245 100644
--- a/c/tests/test_glm53_vulkan.py
+++ b/c/tests/test_glm53_vulkan.py
@@ -58,6 +58,13 @@ def main() -> int:
parser.add_argument("--shaders", type=Path,
default=Path(__file__).resolve().parents[1] / "shaders")
arguments = parser.parse_args()
+ if not (arguments.fixture / "ref.json").exists():
+ # Un traceback su un file che manca fa sembrare rotto il
+ # motore; chi arriva per la prima volta non puo' distinguere
+ # le due cose. Il generatore vuole transformers 5.16.1.
+ print(f"SKIP: manca {arguments.fixture}; generalo con\n"
+ f" python3 tools/make_glm53_multimodal_tiny.py --output <dir>")
+ return 0
binary = os.path.abspath(arguments.binary)
reference = json.loads((arguments.fixture / "ref.json").read_text())