37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cpp on all 13 models compared in Q4_K_M. LLMs bigger than your RAM, pure C, CPU or GPU.
C avx2ccpu-inferenceggufinference-enginelinuxllmlocal-llmmixture-of-expertsmoenvmequantizationqwen3simdspeculative-decodingvulkan
/* SPDX-License-Identifier: GPL-3.0-or-later
Copyright (C) 2026 Maurizio Cammalleri */
/*
* env_names.c - the variables of the environment Janas reads (see
* env_names.h).
*/
#include "common/env_names.h"
#include <stdio.h>
#include <string.h>
#include "common/words.h"
extern char **environ;
const char *const JANAS_ENV_NAMES[] = {"JANAS_ALPHAVANTAGE_KEY",
"JANAS_API_KEY",
"JANAS_ANA_COARSE",
"JANAS_ANA_FRAC",
"JANAS_ANA_FRAMES",
"JANAS_ANA_FRAMES_MAX",
"JANAS_ANA_GRADE",
"JANAS_ANA_GULOW",
"JANAS_ANA_MODE",
"JANAS_ANA_STATS",
"JANAS_ANA_XSTATS",
"JANAS_ARENA_HUGE",
"JANAS_ATTN",
"JANAS_ATTN_FUSE",
"JANAS_ATTN_SKIPSTAT",
"JANAS_AVIATIONSTACK_KEY",
"JANAS_BLOCK_THREADS",
"JANAS_DRAFTS_ON",
"JANAS_DRAFT_VOCAB",
"JANAS_EXPERT_BITS",
"JANAS_EXPERTS",
"JANAS_MISS_SKIP",
"JANAS_EXPTRACE",
"JANAS_FLIGHTS_CONFIG",
"JANAS_GPU",
"JANAS_GPU_ACT_FLOAT",
"JANAS_GPU_ALLOC",
"JANAS_GPU_ALWAYS",
"JANAS_GPU_ATT_SG",
"JANAS_GPU_BLOCK",
"JANAS_GPU_BLOCKWAIT",
"JANAS_GPU_COPY",
"JANAS_GPU_DEVICE",
"JANAS_GPU_EXPERTS",
"JANAS_GPU_FULL_N",
"JANAS_GPU_HUGE",
"JANAS_GPU_SHORT",
"JANAS_GPU_NV",
"JANAS_GPU_KEEPALIVE_US",
"JANAS_GPU_LONG",
"JANAS_GPU_MIN_N",
"JANAS_GPU_FAST_PROMPT",
"JANAS_GPU_MOE",
"JANAS_GPU_MV",
"JANAS_GPU_MVD",
"JANAS_GPU_MVID",
"JANAS_GPU_GPLAN",
"JANAS_GPU_ARENA_INPLACE",
"JANAS_GPU_EXPERT_MIN",
"JANAS_GPU_EXPERT_SHARE",
"JANAS_GPU_FMA_N",
"JANAS_GPU_NO_ROW",
"JANAS_GPU_NOSPIN",
"JANAS_GPU_Q16",
"JANAS_GPU_TILES_EXACT",
"JANAS_GPU_REPACK",
"JANAS_GPU_REPEATABLE",
"JANAS_GPU_ROW_NV",
"JANAS_GPU_SELFCHECK",
"JANAS_GPU_SG",
"JANAS_GPU_TIER",
"JANAS_GPU_TIER_MB",
"JANAS_GPU_TOKEN",
"JANAS_GPU_TOKEN_PROFILE",
"JANAS_GPU_TOK_HOSTBUF",
"JANAS_GPU_TOK_MIRROR",
"JANAS_GPU_VERBOSE",
"JANAS_GPU_WHOLE",
"JANAS_GPU_XCOH",
"JANAS_GPU_XFMA",
"JANAS_HC_MIX",
"JANAS_HEAD_BITS",
"JANAS_IMAGE_MAX_TOKENS",
"JANAS_JANET_FFN",
"JANAS_JANET_REC",
"JANAS_JANET_REC_LAYERS",
"JANAS_KERNELS",
"JANAS_ROW_PIECE_KB",
"JANAS_CPU_TILES",
"JANAS_KV",
"JANAS_LOCATION",
"JANAS_METRICS",
"JANAS_METRICS_EVERY",
"JANAS_MODELS",
"JANAS_NEURON_LEVELS",
"JANAS_NOMINATIM_URL",
"JANAS_NPU",
"JANAS_NPU_A8",
"JANAS_NPU_A8_CALIB",
"JANAS_NPU_A8_SITES",
"JANAS_NPU_ALWAYS",
"JANAS_NPU_AWAKE_US",
"JANAS_NPU_CACHE",
"JANAS_NPU_CHECK",
"JANAS_NPU_LAYERS",
"JANAS_NPU_LAYERS_MB",
"JANAS_NPU_LOADER",
"JANAS_NPU_MAX_MB",
"JANAS_NPU_MIN_N",
"JANAS_NPU_SPIN",
"JANAS_NPU_STATS",
"JANAS_NPU_TURBO",
"JANAS_OSRM_URL",
"JANAS_OVERPASS_URL",
"JANAS_OVERPASS_URL2",
"JANAS_PHOTON_URL",
"JANAS_PLE_RAM",
"JANAS_POOLTRACE",
"JANAS_PREFETCH",
"JANAS_PREFETCH_PREFILL",
"JANAS_PREFILL_BLOCK",
"JANAS_PROGRESS",
"JANAS_PROMPT_ON",
"JANAS_REPLY_ON",
"JANAS_SHA256_C",
"JANAS_SWA_RING",
"JANAS_TRACE",
"JANAS_TRANSITOUS_URL",
"JANAS_TUNE",
"JANAS_TUNE_THREADS",
"JANAS_TUNE_TRACE",
"JANAS_URING",
"JANAS_URING_BATCH",
"JANAS_URING_DEEP",
"JANAS_VALHALLA_URL",
"JANAS_VMAP",
"JANAS_WARM"};
const size_t JANAS_N_ENV_NAMES =
sizeof JANAS_ENV_NAMES / sizeof *JANAS_ENV_NAMES;
int janas_env_check(const char *prog)
{
int n = 0;
for (char **e = environ; e && *e; e++) {
if (strncmp(*e, "JANAS_", 6) != 0)
continue;
char name[96];
size_t k = strcspn(*e, "=");
if (k >= sizeof name)
k = sizeof name - 1;
memcpy(name, *e, k);
name[k] = 0;
int known = 0;
for (size_t i = 0; i < JANAS_N_ENV_NAMES && !known; i++)
known = strcmp(name, JANAS_ENV_NAMES[i]) == 0;
if (known)
continue;
char why[240];
janas_unknown_word(why, sizeof why, name, "a variable of Janas",
JANAS_ENV_NAMES, JANAS_N_ENV_NAMES);
fprintf(stderr, "%s: %s: it does nothing\n", prog, why);
n++;
}
return n;
}