DeepSeek-V4.1-Flash-1017

DeepSeek-V4.1-Flash 的 10-17 小版本更新（README 原文「a minor update to DeepSeek-V4.1-Flash」，推理/编码/Agent/视觉基准全面提升 + 任务运行时间与输出长度缩短）——**B-064 日期核清（2026-11-09）改判开源**：原闭源表标「日期未核（1017 即 10/17 推断）」，本轮一手源双核到：DeepSeek 官方 API 文档 news 页（api-docs.deepseek.com/zh-cn/news/news261017/，2026-10-17 发布，**底部「模型开源」节直接给出 HF/ModelScope 权重链接**）+ hf-mirror 搜索 API（仓库 deepseek-ai/DeepSeek-V4.1-Flash-1017 createdAt 2026-10-17T02:40:38Z，295K downloads / 5414 likes / license:mit）。**MIT 许可**（README + LICENSE 双确认，比父条目口径更宽松地确认）。参数一手（**2026-11-13 B-120 纠错**）：本条目原写「HF API safetensors.total = 763,205,315,794 ≈ 763B 总参数」，那是个**字节口径误读**——763,205,315,794 是各 dtype 字节数之和，不是参数量：当前 48 个分片实测合计 **510,304,178,606 字节**（index 的 metadata.total_size = 510,286,023,000），分片 header 实测专家权重是 **FP4 打包**（I8 容器 + 每 32 元素一个 E8M0 scale），文件字节数本来就远小于按字节数反推的参数量。正确口径三条一手源对得上：**① 骨干 552B**——官方 README「552B backbone parameters」，本仓 config 复算 ≈551.4B（40 层 × 385 专家 × 3 × 5120 × 2304 = 545.1B 专家 + 注意力 5.1B + embedding 1.3B）；**② Engram 哈希 n-gram 记忆表 196.6B 参数**（config engram_num_embeddings [384006168, 384016682] × engram_head_dim 256 = 98.3B × 2；官方 README 亦作 Engram conditional memory (196B parameters)；实现里该表按 float8_e4m3fn 存，≈197G 可整块 host offload）——原写「76.8B」是错的，本轮已改；**③ 合计约 749B**（552B 骨干 + 196.6B Engram + 视觉/DSpark ~0.8B）。本站 params_b 取**骨干口径 552**（与父条目、qwen3-8-flash-next「125B 骨干 + 51.2B n-gram 表单列」同先例），Engram 表在 summary 与 vram_formula 里单列第二笔账。config 全文一手核到（hf-mirror resolve/main/config.json，model_type deepseek_v41 / DeepseekV41ForCausalLM）：text_config 40 层 / hidden 5120 / **MLA kv 1 头 head_dim 512**（q_lora 1280 / o_lora 1024 o_groups 8）/ **384 路由专家 top-6 + 1 共享**（sqrtsoftplus 评分 + noaux_tc）/ **仅 4 层存 KV**（kv_source_layer_ids [2,8,14,20]，compress_ratios 前 2 层 0 / 中间 18 层 ×2 / 后 20 层 ×1 / 尾部 3 层（MTP）0）/ index 32 头 topk 512 候选块选择 / **1M ctx（max_position_embeddings 1048576，由 65536 YaRN factor 16 外推，非真训 1M）**/ vocab 129,280（比父条目 129,280→同系）/ **3 层 MTP**（num_nextn_predict_layers 3）+ DSpark 模块（block 5 / markov rank 256 / 128 专家 top-3，目标层 37-39）/ vision 塔 32 层 hidden 1024 patch 14 downsample 3 max_image_tokens 1024（**image-text-to-text 多模态**，比父条目视觉能力更强）。MLA + 压缩注意力 + Engram 架构套不进 GQA 六字段 → arch_detail null（父条目 deepseek-v4-1-flash 先例），KV 近似 **0.0034G/4K**（官方 README 明写 global KV **890 bytes per token**、FP4 主 KV；本轮按官方参考实现 inference/model.py 逐层复算：主 KV 4 层（kv_source_layers [2,8,14,20]，head_dim 512；2/8/14 层 2:1 压缩、20 层不压缩）= 512×2.5×(0.5+1/16) = 720 B/token，indexer 键缓存 4 层（每个压缩位置 1 把共享键，index_head_dim 128）= 128×2.5×(0.5+1/32) = 170 B/token，合计 890 B/token 与官方数字逐位对上；两仓 config 与 inference 实现逐字节相同，父条目同口径；容量表标注估算）。**官方 README 推荐参数**：temperature 1.0 / top_p 1.0 / context 1M / max_tokens ≥256K；无 Jinja chat template（自带 encoding/ Python 参考实现 + deepseek-recipe Rust 库）。能力分（README 表格 vendor 口径留痕）：HLE w/o tools 42.6（文本子集 44.0）/ Terminal-Bench 4.0 42.3 / DeepSWE v1.1 77.0 / ProgramBench 29.1 / NL2Repo-Bench 68.2 / BabyVision 92.5——vs 父条目 36.8/31.2/74.2 全面提升，vs GPT-5.6 Sol（44.5/39.9/73.0）Terminal-Bench 反超。**AA 三档 33/29/19（max/high/non-reasoning，2026-11-07 快照）已链本条**（evals 三档 model_slug 补链）。显存门槛：骨干 552B（FP8 存约 552G；当前发布分片已把专家转 FP4 打包，48 片合计 510.3GB）+ Engram 196.6B 表（FP8 ≈197G）offload；社区 unsloth/DeepSeek-V4.1-Flash-1017-GGUF（1.3M downloads）实测字节 UD-IQ1_S 233.0G / UD-IQ1_M 250.4G / UD-IQ2_XXS 300.5G / UD-Q2_K_XL 334.8G / UD-IQ3_XXS 394.7G / UD-IQ3_S 423.6G / UD-Q3_K_XL 485.1G / UD-Q4_K_XL 500.7G / UD-Q8_K_XL 508.4G，另 dspark 目录 8.5G 独立（unsloth 原话「1-bit 需 128GB+ RAM 设备、3-bit 需 256GB、全精度 320GB」）——**多机/共享主机门槛条目，单卡装不下**（与父条目同款定位）。家族：父条目 deepseek-v4-1-flash（09-09 开源 552B/8B，站内已有）为本条直接前代；nvidia/DeepSeek-V4.1-Flash-1017-NVFP4 官方量化变体已在 HF。**两仓现状留痕（2026-11-13 复查）**：两个仓库当前发布的是同一套权重——config.json、inference/{config.json,model.py,kernel.py} 逐字节相同，48 个分片文件名与大小、model.safetensors.index.json 的 total 与 96,085 个张量名逐项一致，safetensors 元数据 total 也完全相同；09-09 仓 lastModified 2026-10-16、1017 仓 createdAt 2026-10-17。官方把这次小版本更新（README 原文 a minor update）另开了一个 1017 仓，两仓现在指向同一套权重，因此两条目参数口径必须一致（均为骨干 552B）。站内暂无他测速度（门槛模型，按容量表推算）。