Consider it done. The open-source AI agent that works out of the box · 想到,就能做到。开源、开箱即用的 AI Agent。
TypeScript agentai-agentai-assistantandroidclaude-codecodexelectroniosllmmacosreact-nativetypescriptwindows
feat(models): 补齐大内存本地候选并更新推荐证据 (#5039)
Dash235c3953e3af
diff --git a/apps/desktop/src/renderer/i18n/locales/en/common.json b/apps/desktop/src/renderer/i18n/locales/en/common.jsonindex 1e75de1510..8e0e435232 100644--- a/apps/desktop/src/renderer/i18n/locales/en/common.json+++ b/apps/desktop/src/renderer/i18n/locales/en/common.json@@ -2442,6 +2442,7 @@"alsoCoding": "Speed alternative","packaging": {"mxfp8": "MXFP8",+ "nvfp4": "NVFP4","mlx": "MLX","q4": "Q4"},diff --git a/apps/desktop/src/renderer/i18n/locales/ja/common.json b/apps/desktop/src/renderer/i18n/locales/ja/common.jsonindex 49644daa2f..8f4f4d761b 100644--- a/apps/desktop/src/renderer/i18n/locales/ja/common.json+++ b/apps/desktop/src/renderer/i18n/locales/ja/common.json@@ -2441,6 +2441,7 @@"alsoCoding": "速度の候補","packaging": {"mxfp8": "MXFP8",+ "nvfp4": "NVFP4","mlx": "MLX","q4": "Q4"},diff --git a/apps/desktop/src/renderer/i18n/locales/ko/common.json b/apps/desktop/src/renderer/i18n/locales/ko/common.jsonindex d0e621d9af..65bbf31039 100644--- a/apps/desktop/src/renderer/i18n/locales/ko/common.json+++ b/apps/desktop/src/renderer/i18n/locales/ko/common.json@@ -2441,6 +2441,7 @@"alsoCoding": "속도 대안","packaging": {"mxfp8": "MXFP8",+ "nvfp4": "NVFP4","mlx": "MLX","q4": "Q4"},diff --git a/apps/desktop/src/renderer/i18n/locales/zh-CN/common.json b/apps/desktop/src/renderer/i18n/locales/zh-CN/common.jsonindex b3c1320367..a60aa41193 100644--- a/apps/desktop/src/renderer/i18n/locales/zh-CN/common.json+++ b/apps/desktop/src/renderer/i18n/locales/zh-CN/common.json@@ -2441,6 +2441,7 @@"alsoCoding": "速度备选","packaging": {"mxfp8": "MXFP8",+ "nvfp4": "NVFP4","mlx": "MLX","q4": "Q4"},diff --git a/apps/desktop/src/renderer/i18n/locales/zh-TW/common.json b/apps/desktop/src/renderer/i18n/locales/zh-TW/common.jsonindex 62860a8ca9..b39f0ae94e 100644--- a/apps/desktop/src/renderer/i18n/locales/zh-TW/common.json+++ b/apps/desktop/src/renderer/i18n/locales/zh-TW/common.json@@ -2441,6 +2441,7 @@"alsoCoding": "速度備選","packaging": {"mxfp8": "MXFP8",+ "nvfp4": "NVFP4","mlx": "MLX","q4": "Q4"},diff --git a/apps/desktop/src/shared/__tests__/localModelRuntime.test.ts b/apps/desktop/src/shared/__tests__/localModelRuntime.test.tsindex 04c1533555..b6fbe99a60 100644--- a/apps/desktop/src/shared/__tests__/localModelRuntime.test.ts+++ b/apps/desktop/src/shared/__tests__/localModelRuntime.test.ts@@ -34,6 +34,13 @@ describe('localModelRuntime', () => {expect(detectOllamaPackaging('qwen3.8:27b-mlx')).toBe('mlx');expect(detectOllamaPackaging('gemma4:e4b-mlx')).toBe('mlx');expect(detectOllamaPackaging('qwen3.8:27b')).toBe('q4');+ expect(detectOllamaPackaging('laguna-s-2.1:nvfp4')).toBe('nvfp4');+ expect(detectOllamaPackaging('laguna-s-2.1:q4_K_M')).toBe('q4');+ expect(detectOllamaPackaging('qwen3.8-flash-next:125b-a6b-q4_K_M')).toBe('q4');+ expect(detectOllamaPackaging('qwen3.8-flash-next:125b-a6b-nvfp4')).toBe('nvfp4');+ expect(detectOllamaPackaging('laguna-s-2.1:q8_0')).toBeNull();+ expect(detectOllamaPackaging('unknown:nvfp40')).toBeNull();+ expect(detectOllamaPackaging('unknown:q40')).toBeNull();expect(detectOllamaPackaging('qwen3-coder:30b')).toBeNull();});@@ -103,7 +110,7 @@ describe('localModelRuntime', () => {const host = { platform: 'darwin' as const, arch: 'arm64', totalmemBytes: 128 * 1024 ** 3 };const catalog = resolveCuratedOllamaCatalog(host);expect(pickFeaturedOllamaModels(host).map((model) => model.id)).toEqual(['qwen38-27b']);- expect(catalog).toHaveLength(7);+ expect(catalog).toHaveLength(8);expect(filterCuratedOllamaModels(catalog, '通义').map((model) => model.id)).toContain('qwen38-27b',);@@ -141,7 +148,7 @@ describe('localModelRuntime', () => {);});- it('uses platform-specific download sizes and excludes Apple-only candidates elsewhere', () => {+ it('uses platform-specific downloads for large candidates without promoting them', () => {const host = { platform: 'darwin' as const, arch: 'arm64', totalmemBytes: 256 * 1024 ** 3 };const apple = resolveCuratedOllamaCatalog(host);const windows = resolveCuratedOllamaCatalog({ ...host, platform: 'win32', arch: 'x64' });@@ -155,8 +162,25 @@ describe('localModelRuntime', () => {sizeBytes: 6594474236,appleSiliconOnly: false,});- expect(windows.some((model) => model.id === 'qwen38-flash-next')).toBe(false);- expect(apple.some((model) => model.id === 'qwen38-flash-next')).toBe(true);+ expect(windows.find((model) => model.id === 'qwen38-flash-next')).toMatchObject({+ libraryName: 'qwen3.8-flash-next:125b-a6b-q4_K_M',+ appleSiliconOnly: false,+ });+ expect(apple.find((model) => model.id === 'qwen38-flash-next')).toMatchObject({+ libraryName: 'qwen3.8-flash-next:125b-mlx',+ appleSiliconOnly: true,+ });+ expect(apple.find((model) => model.id === 'laguna-s21-118b')).toMatchObject({+ libraryName: 'laguna-s-2.1:nvfp4',+ appleSiliconOnly: true,+ minUnifiedMemoryGb: 128,+ });+ expect(windows.find((model) => model.id === 'laguna-s21-118b')).toMatchObject({+ libraryName: 'laguna-s-2.1:q4_K_M',+ appleSiliconOnly: false,+ minUnifiedMemoryGb: 192,+ });+ expect(pickFeaturedOllamaModels(host).map((model) => model.id)).toEqual(['qwen38-27b']);});it('rejects invalid platform metadata and preserves bundled fallback', () => {diff --git a/apps/desktop/src/shared/localModelRuntime.ts b/apps/desktop/src/shared/localModelRuntime.tsindex 26f1e92666..1ddd03f58d 100644--- a/apps/desktop/src/shared/localModelRuntime.ts+++ b/apps/desktop/src/shared/localModelRuntime.ts@@ -137,14 +137,16 @@ export interface CuratedOllamaModel extends RecommendedLocalModel {runtimeProfile?: LocalCatalogModel['runtimeProfile'];}-export type OllamaPackaging = 'mxfp8' | 'mlx' | 'q4';+export type OllamaPackaging = 'mxfp8' | 'nvfp4' | 'mlx' | 'q4';-/** 从库名读出用户能看见的封装,MXFP8 / MLX / 官方 Q4。 */+/** 从库名读出用户能看见的封装,MXFP8 / NVFP4 / MLX / 官方 Q4。 */export function detectOllamaPackaging(libraryName: string): OllamaPackaging | null {const lowered = libraryName.trim().toLowerCase();const tag = lowered.includes(':') ? lowered.slice(lowered.lastIndexOf(':') + 1) : lowered;if (tag.includes('mxfp8')) return 'mxfp8';+ if (/(?:^|[-_.])nvfp4(?:$|[-_.])/.test(tag)) return 'nvfp4';if (/(?:^|[-_.])mlx(?:$|[-_.])/.test(tag)) return 'mlx';+ if (/(?:^|[-_.])q4(?:$|[-_.])/.test(tag)) return 'q4';if (lowered === 'qwen3.8:27b') return 'q4';return null;}diff --git a/docs/dev-rules/model-catalog-maintenance.md b/docs/dev-rules/model-catalog-maintenance.mdindex a3855edfc8..855dd48f80 100644--- a/docs/dev-rules/model-catalog-maintenance.md+++ b/docs/dev-rules/model-catalog-maintenance.md@@ -17,7 +17,10 @@ Mobile / device-link 使用执行端目录;本地安装状态来自执行机### 配置包含什么-Server 正本是 `model-access-server/catalog/providers.json`。客户端离线文件分别是+Server 正本现为 `model-access-server/catalog/source/` 分片,由+`model-access-server/scripts/generateCatalog.mjs` 组装成 `catalog/generated/providers.json`。+本地域编辑 `source/registry/local-models.json`,revision 编辑 `source/catalog.json`;+不要直接编辑生成文件。客户端离线文件分别是[`catalog/providers.json`](../../packages/model-providers/catalog/providers.json)(providers / presets)和[`catalog/model-registry.json`](../../packages/model-providers/catalog/model-registry.json)(Registry)。逻辑结构如下;具体字段及修改位置见下表:@@ -87,7 +90,7 @@ localModels 整域缺失才用随包本地域,显式空不兜底。2. **修改责任侧**:在授权范围内先维护 Server 正本,再协调客户端离线 Registry。遇到尚未上线的协议配套,分别记录工作分支、已合并和已部署状态,不混成“已支持”。3. **整表同步**:将审阅后的 Server `modelRegistry` 整体同步到客户端 `catalog/model-registry.json`,保持同 updatedAt、同内容。不要复制 Server 整份 providers.json,也不能只复制 localModels 造成悬空引用。新 revision 必须递增且不可变;价格 effectiveFrom / verifiedAt 保留其真实日期。4. **先验证兼容再发布**:完整结构过 parseModelRegistry / parseCatalog;确认旧客户端投影。尤其先读 [媒体扩展发布前置条件](../model-registry-v4-media.md#发布前置条件):同为 V4 并不证明认识新增媒体字段。LKG/内置回退不能代替兼容方案。-5. **核对真实下发**:检查可选 MODEL_CATALOG_URL 是否覆盖随包基线;部署后读取 `/api/model-catalog/catalog`,核对目标与旧版响应、ETag 和有效 revision。仅改文件、合并 PR、通过 CI 不算下发完成。+5. **核对真实下发**:当前 Server 源码仅加载制品内生成目录,已不读取 MODEL_CATALOG_URL;须核对目标环境版本。部署后读取 `/api/model-catalog/catalog`,核对目标与旧版响应、ETag 和有效 revision。仅改文件、合并 PR、通过 CI 不算下发完成。同步回归须核对原有直连 route 与历史参考价区间未丢失;覆盖标准/Fast、缓存读写、长输入分档。离线默认档与已发布 Server 有差异时逐项披露。原生协议校验须遍历全部 route 和活动目录中的订阅 wire 别名,不能仅统计字段填写率;不能从供应商兼容 API 反推未知型号的原生协议。diff --git a/docs/local-model-audit-2026-09-24.md b/docs/local-model-audit-2026-09-24.mdnew file mode 100644index 0000000000..56c6207e14--- /dev/null+++ b/docs/local-model-audit-2026-09-24.md@@ -0,0 +1,114 @@+# 本地模型复核:2026-09-24++## 本轮结论++目标是补齐 128–256 GB 的可选模型,尤其是 Apple Silicon 256 GB,而不是按参数量扩张名单。+本轮从 7 个逻辑模型增加到 8 个:增加 Laguna S 2.1 118B A8B 编程候选,给+Qwen3.8 Flash-Next 增加官方跨平台 Q4 包装,并更新全部既有条目的证据核对日期。+`featuredIds` 仍只有 Qwen3.8 27B;网页研究没有补齐对应 Ollama 包装的同机比较,+不能声称新增模型已通过本地推荐验收。Flash-Next 是 256 GB 机器的优先试用候选,+Laguna S 是较小下载体积的编程比较对象。未下载权重、未自动切换用户模型。++数据编辑在 `model-access-server/catalog/source/registry/local-models.json`;+公共名称在 `registry/base-models/07.json`;revision 在 `source/catalog.json`。+由生成器组装完整 Registry 后同步客户端离线副本,不编辑 generated 文件。++## 能力证据:同版本复核++访问日期均为 2026-09-24。以下是 Artificial Analysis **v4.3.2** 页面展示值,+不是本地量化版得分;API 输出速度没有用于 Mac 速度排序。页面未明确给出全部+推理预算、服务版本和权重精度,因此这些字段仍为未验证。旧文档 v4.2 的 42/46+不得与本表混算,也不能把跨版本分数下降解释成模型能力退步。++| 模型 / 页面配置 | 指数 | 证据状态与决定 |+| --- | ---: | --- |+| [Qwen3.8 Flash-Next,reasoning](https://artificialanalysis.ai/models/qwen3-8-flash-next) | 40 | 页面不再标 estimated;上游能力证据更新为 measured,Ollama 包装仍未验证 |+| [Qwen3.8 27B,xhigh](https://artificialanalysis.ai/models/qwen3-8-27b) | 34 | 保留现有能力推荐;不宣称 MXFP8/MLX 已复现该分数 |+| [Qwen3.6 35B A3B,reasoning](https://artificialanalysis.ai/models/qwen3-6-35b-a3b) | 18 | 页面不再标 estimated;保留速度候选,没有用 API tokens/s 证明 Mac 优势 |+| [Muse Glimmer,high](https://artificialanalysis.ai/models/muse-glimmer) | 17 | 本轮不加入;缺少对现有候选的同机能力、速度、内存优势证据 |+| [Qwen3.5 122B A10B,reasoning](https://artificialanalysis.ai/models/qwen3-5-122b-a10b) | 16 | 本轮不加入;参数更大不足以构成对 27B 的能力升级 |+| [Mistral Medium 3.5,reasoning](https://artificialanalysis.ai/models/mistral-medium-3-5) | 14 | 本轮不加入;未找到足以增加大内存推荐位的优势 |+| [Nemotron 3.5 Lightning,reasoning](https://artificialanalysis.ai/models/nemotron-3-5-lightning) | 13 | 页面不再标 estimated;保留速度候选,尚未证明被其他本地配置全面超过 |+| [Qwen3.5 4B](https://artificialanalysis.ai/models/qwen3-5-4b) | 13 estimated | 保留低内存候选,不自动推荐 |+| [Qwen3.5 9B](https://artificialanalysis.ai/models/qwen3-5-9b) / [Gemma 4 12B](https://artificialanalysis.ai/models/gemma-4-12b) | 各 14 estimated | 保留两名低内存比较候选,不依据估计值决出胜者 |++`evidence.status` 描述链接中的证据,不是整个本地条目的认证状态。Ollama 标签页+证明包装存在,不能证明性能,因此该链接标 pending;厂商自报也不标成独立实测。++## 192–256 GB:Flash-Next++[发布者模型卡](https://huggingface.co/Qwen/Qwen3.8-Flash-Next)说明它是实验性架构:+125B 主体、每 token 激活 6B,另有约 51B n-gram embedding。不能用 6B 激活量估计内存。+官方模型卡的编程与工具调用成绩属于上游自报,不作为本地量化版已胜出的证明。++[Ollama 标签](https://ollama.com/library/qwen3.8-flash-next/tags)已包含 GGUF Q4。+本轮保留 Apple Silicon 首选 `125b-mlx`,新增 `125b-a6b-q4_K_M` 跨平台候选,+两者的候选内存提示均为 192 GB。非 Apple 平台的系统内存不代表显存,也不承诺 GPU 速度。+不加入 189 GB Q8 和 355/360 GB BF16:前者缺少额外精度收益与峰值证据,后者超出本轮机器的容量。++[Rapid-MLX 原始测试](https://huggingface.co/rapid-mlx/Qwen3.8-Flash-Next-4bit):+M3 Ultra 256 GB、Rapid 0.13.2、权重 revision `dcf657e4`,单请求、冷前缀缓存、+256 输出 tokens、三次中位数。32K 输入时 TTFT 44.659 秒、预填充 732.9 tokens/s、+生成 21.72 tokens/s;MLX active 约 102.8–103.8 GB,allocator 历史峰值 148.1 GB。+这些不是系统总占用,也不是 Ollama NVFP4 包装的测量;不能据此降低门槛到 128 GB。+报告还提供与 27B 4-bit 同条件的小样本能力比较,结果有胜有负,不能认定全面替代。+测量的完整请求耗时、波动和 swap 在本轮摘录中未验证;M5 Ultra 的对应配置也未验证。++## 128–256 GB:Laguna S 2.1++[发布者模型卡](https://huggingface.co/poolside/Laguna-S-2.1):118B 总参数、8B 激活,+纯文本、原生推理与工具调用;2026-07-21 的厂商报告为 Terminal-Bench 2.1 70.2%、+SWE-bench Multilingual 78.5%。不把不同 harness 的成绩直接与 Flash-Next 排名。+思考历史保留会影响多轮效果,Cindy/Ollama 的完整工具循环仍待验证。++[Ollama 标签](https://ollama.com/library/laguna-s-2.1/tags)明确区分 Apple MLX NVFP4+与 GGUF Q4。候选只加入 NVFP4(128 GB 提示)和 Q4(192 GB 提示),不自动选择+136 GB MXFP8、235/237 GB BF16 或 DFlash 包装。这些门槛是给权重、缓存、系统留空间的+保守估计,不是运行峰值实测,也不承诺在 1M 上下文满载运行。++[独立测试项目](https://github.com/tanishq-dubey/macos-laguna-s2.1/blob/main/BENCHMARK_RESULTS.md)+提供 2026-07-21/22、M5 Max 128 GB、Python 3.13.12、MLX 0.32.0、mlx-vlm 0.6.6、+MLX-LM 0.31.3、greedy/固定种子/无提示缓存的配置。它比较的是社区量化,而非这里的+Ollama NVFP4;小规模功能套件得分不能冒充通用能力评测。仅支持继续比较的候选资格,+不转录其 tokens/s 为产品性能承诺。Ollama 的 TTFT、生成速度、完整耗时、冷/热启动、+重复波动、加载峰值、系统运行峰值、KV 精度及 swap 均未验证。++## 其余重点排查++| 模型 / 来源 | 本轮处理与理由 |+| --- | --- |+| [DeepSeek V4.1 Flash / V4 Flash、GLM 5.3 / Flash、Kimi K3、MiniMax M3:Ollama 目录](https://ollama.com/library?sort=newest) | 对应官方条目标 cloud,不能当作可下载本地模型加入。此判断只限该通道,不意味着没有开放权重或社区运行时 |+| [DeepSeek V4.1 Flash 社区 MLX](https://github.com/PipeNetwork/deepseek-v41-mlx) | 有独立实现,但需专用运行时/量化;没有验证其与 Cindy 托管 Ollama 的兼容性。本轮不引入新执行协议 |+| [Inkling-Small MLX](https://huggingface.co/mlx-community/Inkling-Small-mlx-4bit) | 有 4-bit 转换及专用 loader,但模型卡峰值仍待测;没有核实官方 Ollama 本地标签。不把 Hugging Face MLX URL 填进 Ollama 下载目录 |+| [Laguna XS 2.1](https://ollama.com/library/laguna-xs-2.1) | 官方仍提示 macOS/Metal 聊天可能空输出,保留在研究记录而不加入候选。不能把 raw generate 绕过当作正常工具调用已可用;该警告不自动推断到 S 2.1 |+| [Ornith 1.5](https://ollama.com/library/ornith-1.5) | 包装存在,但没有补齐同机取代现有档位的优势;不恢复之前移出的推荐位 |+| [Granite 4.2](https://ollama.com/library?sort=newest) | 目录可发现,详情页本轮抓取失败;不据搜索摘要填写参数或增加推荐 |++这是一轮面向可部署配置的筛选,不声称穷尽全部开放权重模型;没有足够证据的型号允许留在研究记录中。++## 包装核验与后续验收++2026-09-24 对原有 14 个标签和本轮新增 3 个标签逐一读取+`https://registry.ollama.ai/v2/library/<name>/manifests/<tag>`,全部返回有效 manifest。+`sizeBytes` 是 manifest 的 layers 大小之和,沿用既有目录口径;它不是加载或运行内存。+原有 14 个大小未变。新增值:++| 标签 | layers bytes | config digest |+| --- | ---: | --- |+| `qwen3.8-flash-next:125b-a6b-q4_K_M` | 120058268208 | `sha256:4634fd1a9e1fa11fbdd6558552755189f3db28463b46f661e191815f460e3e53` |+| `laguna-s-2.1:nvfp4` | 66189691080 | `sha256:72d6c829e9f983adc1665c60c532dd0e844ab9774ae46390159684c2b1a8b2fe` |+| `laguna-s-2.1:q4_K_M` | 96031832391 | `sha256:5bdc3aaf1e3505f44b1634d778c8d6bc97fef119578b2edcf85892e37182657a` |++以上 digest 标识配置 blob,不是完整权重的固定 revision。标签仍可能被上游更新。+正式晋升前应固定完整 manifest/权重 digest,在同一 M5 Ultra 256 GB、同一 Ollama+版本、相同思考预算下比较 27B MXFP8、Flash-Next MLX 与 Laguna NVFP4;至少覆盖+短输入/32K/128K、冷/热启动、工具多轮和可执行编程结果,并记录 TTFT、预填充、+生成速度、请求总耗时、系统峰值、swap、三次中位数与波动。本轮未下载或加载权重,没有本机推理证据。++## 发布边界++本地基线 Server `42977cb` 的完整 Registry 与客户端离线副本逐项一致,原 revision+为 `2026-09-23T00:00:00.005Z`。本轮 revision 为 `2026-09-24T10:51:31.000Z`。+调研时 Global 公共 V5 + media 接口仍为 `2026-09-23T00:00:00.003Z`,本轮文件更新+不代表上线。冻结 legacy 文件不修改;发布需服务端先行,再验证 V4/V5 media 响应、+旧版冻结投影与客户端刷新。实际部署状态以目标环境接口响应为准。diff --git a/docs/model-catalog-history.md b/docs/model-catalog-history.mdindex 49cd7cffa0..1e195e17fe 100644--- a/docs/model-catalog-history.md+++ b/docs/model-catalog-history.md@@ -219,6 +219,13 @@ low / medium / high / max,实际能力仍以实报为准,不把兼容 medium尚无本轮可确认、适用于现有 schema 的完整公共档位。网关实报不替代公共型号证据;DeepSeek 搜索摘要与实际打开的当前 API 型号列表不一致,因此未据摘要补实验型号。+## 本地模型复核(2026-09-24)++本轮从 7 个逻辑模型扩展到 8 个,新增 Laguna S 2.1 编程候选和 Flash-Next 的跨平台+Q4 包装,复核 AA v4.3.2 与全部 17 个下载标签。正式推荐仍保留 Qwen3.8 27B,+未将其他运行时实测冒充 Ollama 本机证据。完整来源、取舍、门槛和发布边界见+[2026-09-24 调研记录](local-model-audit-2026-09-24.md)。+## 本地模型配置与证据快照(2026-09-05)本轮由 9 个内置条目收敛到 7 个逻辑模型。正式推荐保留 Qwen3.8 27B;其他diff --git a/docs/product-rules/local-model-selection.md b/docs/product-rules/local-model-selection.mdindex 589a44796b..c0ce22f9d5 100644--- a/docs/product-rules/local-model-selection.md+++ b/docs/product-rules/local-model-selection.md@@ -35,12 +35,14 @@当前候选、推荐和门槛读取活动 Registry;不要根据文档中的旧型号表重建名单。2026-09-05 的型号取舍、量化标签、性能来源和未验证项保留在[历史证据快照](../model-catalog-history.md),它不是今天的推荐清单。+最近一轮网页研究、包装核验及未验证项见+[2026-09-24 复核](../local-model-audit-2026-09-24.md)。架构、代码导航和完整发布步骤见 [模型配置与下发](../dev-rules/model-catalog-maintenance.md)。## 实现边界与以后更新-- 数据正本:Server 的 `model-access-server/catalog/providers.json` 中- `modelRegistry.localModels`;客户端离线副本位于+- 数据正本:Server 的 `model-access-server/catalog/source/registry/local-models.json`+ 分片(由 `scripts/generateCatalog.mjs` 组装为 `modelRegistry.localModels`);客户端离线副本位于`packages/model-providers/catalog/model-registry.json` 的 `localModels`。算法入口仍为 `apps/desktop/src/shared/localModelRuntime.ts`。`featuredIds` 按能力、速度顺序列推荐;`models` 中的候选不会自动补位。@@ -59,7 +61,7 @@以下是双方需满足的协议合同,是否已部署按 [发布验收](../dev-rules/model-catalog-maintenance.md#release) 核对。-- 复用现有匿名目录接口,客户端请求 `registrySchemaVersion=4`,本地域为+- 复用现有匿名目录接口,当前客户端请求 `registrySchemaVersion=5®istryMedia=1`,本地域为`modelRegistry.localModels = { version: 1, models, featuredIds }`。共享 Registry的 `updatedAt`、校验、缓存与刷新事件,不另建请求或持久化层。- 服务端下发名称、搜索别名、具体包装、内存提示、五语简介、证据链接及推荐顺序。@@ -68,14 +70,16 @@的三个 Qwen3.8 27B 标签,远程数据不能提供命令、路径或任意下载 URL。- 明确的空 `models` / `featuredIds` 分别撤下目录 / 推荐;字段缺失表示旧服务端,使用随包本地域。网络失败、非法数据和 revision 冲突沿用已有合法快照。-- 发布顺序为服务端先行、客户端随后。旧客户端默认收到 Registry V2;显式请求- V1/V2/V3 时剥离新字段。各响应版本有独立内容 ETag,不能跨版本误命中 304。+- 发布顺序为服务端先行、客户端随后。未声明 media 能力的旧客户端收到冻结目录;+ 默认为 Registry V2,显式请求 V1/V2/V3 时剥离本地域。声明 media 能力的 V4/V5+ 响应才包含本轮更新。各响应版本有独立内容 ETag,不能跨版本误命中 304。- 每次先在 Server 正本更新取舍记录和本地域,增加整个 Registry 的 `updatedAt`,再把完整 Registry(含 `baseModels` 与 `modelRef`)同步到客户端离线副本,核对同 revision、同内容。同步不改写用户显式档位或供应商实报默认档;历次同步状态见历史记录,不能当作生产发布证据。后续服务端 revision 必须高于已发布版本,禁止只复制本地域或使用相同 revision 发布不同内容。- 本地与云端接入可用 `modelRef` 引用同一公共型号;量化包装、内存与推荐证据独立留在本地域。用户文件可覆盖推荐及单项资料,优先级见 [模型资料优先级](model-metadata-precedence.md)。-- 若生产配置了 `MODEL_CATALOG_URL`,还须同步该覆盖源;只修改制品内置目录不能证明- 线上生效。部署后核对 V4 响应、旧版响应与新客户端刷新;离线首次启动核对随包兜底。+- 当前 Server 源码从分片生成并仅加载制品内目录,已不读取 `MODEL_CATALOG_URL`;+ 这不证明目标环境已部署该版本。部署后核对带 media 能力的 V4/V5 响应、旧版冻结响应+ 与新客户端刷新;离线首次启动核对随包兜底。- 目录撤下或调整顺序不卸载、切换用户模型,也不修改已有供应商和执行中的配置。diff --git a/packages/model-providers/catalog/model-registry.json b/packages/model-providers/catalog/model-registry.jsonindex c9d1dee162..5479d52765 100644--- a/packages/model-providers/catalog/model-registry.json+++ b/packages/model-providers/catalog/model-registry.json@@ -1,6 +1,6 @@{"schemaVersion": 5,- "updatedAt": "2026-09-23T00:00:00.005Z",+ "updatedAt": "2026-09-24T10:51:31.000Z","models": [{"id": "openai/gpt-6-sol",@@ -2402,8 +2402,13 @@"evidence": [{"url": "https://artificialanalysis.ai/models/qwen3-8-27b",- "verifiedAt": "2026-09-05",+ "verifiedAt": "2026-09-24","status": "measured"+ },+ {+ "url": "https://ollama.com/library/qwen3.8/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"}],"modelRef": "qwen/qwen3.8-27b"@@ -2435,8 +2440,13 @@"evidence": [{"url": "https://artificialanalysis.ai/models/qwen3-5-4b",- "verifiedAt": "2026-09-05",+ "verifiedAt": "2026-09-24","status": "estimated"+ },+ {+ "url": "https://ollama.com/library/qwen3.5/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"}],"modelRef": "qwen/qwen3.5-4b"@@ -2468,8 +2478,13 @@"evidence": [{"url": "https://artificialanalysis.ai/models/qwen3-5-9b",- "verifiedAt": "2026-09-05",+ "verifiedAt": "2026-09-24","status": "estimated"+ },+ {+ "url": "https://ollama.com/library/qwen3.5/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"}],"modelRef": "qwen/qwen3.5-9b"@@ -2501,8 +2516,13 @@"evidence": [{"url": "https://artificialanalysis.ai/models/gemma-4-12b",- "verifiedAt": "2026-09-05",+ "verifiedAt": "2026-09-24","status": "estimated"+ },+ {+ "url": "https://ollama.com/library/gemma4/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"}],"modelRef": "google/gemma-4-12b"@@ -2534,8 +2554,13 @@"evidence": [{"url": "https://artificialanalysis.ai/models/qwen3-6-35b-a3b",- "verifiedAt": "2026-09-05",- "status": "estimated"+ "verifiedAt": "2026-09-24",+ "status": "measured"+ },+ {+ "url": "https://ollama.com/library/qwen3.6/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"}],"modelRef": "qwen/qwen36-35b"@@ -2567,8 +2592,13 @@"evidence": [{"url": "https://artificialanalysis.ai/models/nemotron-3-5-lightning",- "verifiedAt": "2026-09-05",- "status": "estimated"+ "verifiedAt": "2026-09-24",+ "status": "measured"+ },+ {+ "url": "https://ollama.com/library/nemotron-3.5-lightning/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"}],"modelRef": "nvidia/nemotron-3.5-lightning"@@ -2583,23 +2613,81 @@"sizeBytes": 104852025885,"minUnifiedMemoryGb": 192,"appleSiliconOnly": true+ },+ {+ "libraryName": "qwen3.8-flash-next:125b-a6b-q4_K_M",+ "sizeBytes": 120058268208,+ "minUnifiedMemoryGb": 192}],"descriptions": {- "en": "High-memory candidate; local peak memory and performance still need validation.",- "zh-CN": "大内存候选,仍需验证本机峰值内存与性能。",- "zh-TW": "大記憶體候選,仍需驗證本機峰值記憶體與效能。",- "ja": "大容量メモリ向け候補。本機でのピークメモリと性能は未検証。",- "ko": "대용량 메모리 후보. 로컬 최대 메모리와 성능 검증이 필요합니다."+ "en": "High-memory capability candidate for 192–256 GB machines. Ollama speed and peak memory are unverified; other MLX runtimes have published tests.",+ "zh-CN": "192–256 GB 大内存能力候选。已有其他 MLX 运行时实测,Ollama 的速度与峰值内存仍待验证。",+ "zh-TW": "192–256 GB 大記憶體能力候選。已有其他 MLX 執行環境實測,Ollama 的速度與峰值記憶體仍待驗證。",+ "ja": "192〜256 GB 向けの性能重視の候補。他の MLX 実行環境では実測あり。Ollama の速度とピークメモリは未検証です。",+ "ko": "192–256 GB 대용량 메모리용 성능 후보. 다른 MLX 런타임의 실측은 있으나 Ollama 속도와 최대 메모리는 미검증입니다."},"evidence": [{"url": "https://artificialanalysis.ai/models/qwen3-8-flash-next",- "verifiedAt": "2026-09-05",- "status": "estimated"+ "verifiedAt": "2026-09-24",+ "status": "measured"+ },+ {+ "url": "https://ollama.com/library/qwen3.8-flash-next/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"+ },+ {+ "url": "https://huggingface.co/rapid-mlx/Qwen3.8-Flash-Next-4bit",+ "verifiedAt": "2026-09-24",+ "status": "measured"}],"modelRef": "qwen/qwen3.8-flash-next"+ },+ {+ "id": "laguna-s21-118b",+ "modelRef": "poolside/laguna-s-2.1",+ "name": "Laguna S 2.1 118B A8B",+ "aliases": ["laguna", "poolside", "laguna-s-2.1", "118b", "moe"],+ "variants": [+ {+ "libraryName": "laguna-s-2.1:nvfp4",+ "sizeBytes": 66189691080,+ "minUnifiedMemoryGb": 128,+ "appleSiliconOnly": true+ },+ {+ "libraryName": "laguna-s-2.1:q4_K_M",+ "sizeBytes": 96031832391,+ "minUnifiedMemoryGb": 192+ }+ ],+ "descriptions": {+ "en": "Coding candidate with a smaller Mac download than Flash-Next. Memory thresholds are estimates; Ollama tool use, speed and peak memory are unverified.",+ "zh-CN": "Mac 下载体积小于 Flash-Next 的编程候选。内存门槛为估计,Ollama 工具调用、速度与峰值内存仍待验证。",+ "zh-TW": "Mac 下載體積小於 Flash-Next 的程式設計候選。記憶體門檻為估計,Ollama 工具呼叫、速度與峰值記憶體仍待驗證。",+ "ja": "Mac 用のダウンロードが Flash-Next より小さいコーディング候補。メモリ要件は推定値。Ollama のツール呼び出し、速度、ピークメモリは未検証です。",+ "ko": "Mac 다운로드 크기가 Flash-Next보다 작은 코딩 후보. 메모리 기준은 추정치이며 Ollama 도구 호출, 속도, 최대 메모리는 미검증입니다."+ },+ "evidence": [+ {+ "url": "https://huggingface.co/poolside/Laguna-S-2.1",+ "verifiedAt": "2026-09-24",+ "status": "pending"+ },+ {+ "url": "https://ollama.com/library/laguna-s-2.1/tags",+ "verifiedAt": "2026-09-24",+ "status": "pending"+ },+ {+ "url": "https://github.com/tanishq-dubey/macos-laguna-s2.1/blob/main/BENCHMARK_RESULTS.md",+ "verifiedAt": "2026-09-24",+ "status": "measured"+ }+ ]}]},@@ -6218,6 +6306,13 @@]}]+ },+ {+ "id": "poolside/laguna-s-2.1",+ "aliases": [],+ "defaults": {+ "name": "Laguna S 2.1 118B A8B"+ }}]}