部署工程

前Graphcore总裁卢涛加入铭芯启睿任CEO，启动LPU研发

铭芯启睿（MemSilicon）完成超4亿元A轮融资，由博原资本领投，博世创投、米哈游、兆易创新等跟投，老股东持续加注。前Graphcore总裁兼大中华区总经理卢涛加入公司担任CEO兼联合创始人，在推进RRAM存储产业化的同时启动第一代LPU研发，目标实现数万亿参数满血模型每秒1000 Token的高速推理与有限溢价。

另有 1 家信源报道

商汤大装置日均6万亿Token背后的异构推理实践

商汤大装置副总裁、CTO宣善明在第十届CSDI Summit上分享Agentic时代AI基础设施实践，指出多Agent协作和长任务执行使Token需求呈千倍级增长，行业竞争焦点从算力规模转向高质量Token产能。商汤大装置以PD分离为核心构建万卡级异构推理集群，通过异构混合调度、节点角色动态切换等方式提升效率，特定配置下整体Token吞吐量可提升至基准方案的

DeepSeek-V4.1-Flash 去审查版 GGUF 量化模型发布

用户 Adolphsson 在 Hugging Face 发布了 DeepSeek-V4.1-Flash-UNCENSORED-GGUF，这是基于 dealignai 的 FP8 去审查版本转换并重新量化的 GGUF 模型，支持 1M token 上下文、视觉和工具调用，可在 llama.cpp 上 CPU 推理。该模型提供 Q2 K 至 Q8 0 多个量化

Git 被换掉，LLM 被替代：AI 编码开始反噬传统工具链？

Anthropic 因 Claude 持续生成代码导致提交量从每天约 2500 项增至超 3 万项，7 名工程师耗时 5 个月开发出版本控制系统 Scion 并迁移核心仓库，使基础设施 CPU 和内存需求缩小约 200 倍、检出从分钟级降至秒级。GitHub 用微调后的 ModernBERT 替换密钥扫描中的通用 LLM，线上扫描执行时间中位数下降 86%、

可信但需验证：为离散扩散设计区域非均匀前向动力学

该论文重新将离散扩散的前向过程视为可设计空间，提出区域非均匀前向动力学：空洞位置采用标准吸收过程，用户提供的上下文以低速率均匀混合噪声进行腐蚀，使模型在训练中见过“已观测但不确定”的状态。作者对170M参数的预训练掩码扩散模型进行8000步微调（单张6GB笔记本GPU不到五小时），在明显随机腐蚀下检测召回率达0.96、精确率0.91，10%上下文腐蚀时填充t

Thought Blocks：多智能体非自回归潜在通信

该论文提出 Thought Blocks，一种面向 LLM 多智能体系统的非自回归潜在通信方法。作者区分了消息表示与消息构造，提出轨迹到状态编译（trajectory-to-state compilation），用一次性构造的固定大小潜在 KV 续写记忆替代自回归潜在轨迹生成。实验显示，相比文本通信，文本 token 减少 45.7%、自回归前向步数减少 8

理解软错误引发的大语言模型幻觉

该论文首次系统研究硬件软错误（瞬态比特翻转）如何触发大语言模型幻觉，提出首个软错误诱导幻觉的分类体系，识别出四类主要幻觉模式。作者开发并开源了高效灵活的错误注入框架 LLMEI，可在不同规模 LLM 推理过程中注入软错误。研究在多种模型架构和任务（数学推理、代码生成）上评估了不同错误率下幻觉类型的分布，揭示了硬件可靠性对 LLM 实现的影响。

MoE 模型 prefill 专家缩减的损伤定位：少数提示 token 承载大部分短答案 F1 损失

该论文研究 MoE 模型在 prefill 阶段减少路由专家数量对短答案问答的影响。作者在 Qwen3-30B-A3B、DeepSeek-V2-Lite、Qwen1.5-MoE 和 OLMoE 四个模型家族上定位损伤来源，发现一半专家时 F1 损失主要体现为答案形式（模型仍能找到答案但不再简短作答），且损伤集中在提示词两端的少数 token（如 Qwen3

嵌入表太贵？面向小型与三值语言模型的16MB冻结词表

该论文提出用一张冻结的16MB、512位二值码词表替代小语言模型中可训练的嵌入表，该词表由预训练嵌入经主成分投影和符号二值化一次性生成。在Gemma 3 270M同构模型上以相同数据对比训练，冻结词表模型在LAMBADA、HellaSwag、PIQA上表现持平或更好，仅ARC-Easy落后；配合三值BitNet主体后整模型仅46MB，笔记本CPU上生成速度达

llama.cpp b11723：Hexagon FLASH ATTN EXT 长上下文与 SWA 优化

llama.cpp 发布 b11723 版本，主要针对 Hexagon 后端（高通 NPU）的 FLASH ATTN EXT 进行改进，以支持更长上下文和 SWA（滑动窗口注意力）模型。改动包括支持掩码块跳过以减少 DMA 数据搬运、微调 hmx 到 hvx 的切换阈值（提升 gemma-4 表现），以及更新 hmx 门控以考虑 mdev.count。该版本

CarryOn：为长程智能体构建面向对象的上下文

论文提出 CarryOn，一种面向长程智能体的面向对象上下文运行时，以可复用的任务对象而非交互历史来组织上下文。它通过延续载体、补充执行上下文和近期交互的实时尾部构建上下文视图，并在历史折叠后基于绑定证据和环境检查增量修订载体记录。在 OSWorld 2.0 和 BrowseComp-Plus 上，性能分别提升 5.8% 和 7.0%，总 token 用量分

OpenAI 确认研发人形机器人；DeepSeek V4.1 Flash 更新；OpenCode 遭入侵

OpenAI CEO 奥尔特曼在播客中确认公司将亲自研发人形机器人，强调核心是打造驱动机器人运转的“大脑”而非外观。同日，DeepSeek 发布 V4.1-Flash-1017 版本，通过自反馈强化学习提升从零构建项目能力，多数场景 Token 用量下降逾 50%，API 新增 Search 与 Fetch 接口。英伟达通过 vLLM 上游优化使 Kimi

FermionResearch 发布 164MB 开源语音识别模型 Phonon-2

FermionResearch 发布开源英语语音识别模型 Phonon-2，基于 NVIDIA parakeet-tdt-0.6b-v3 量化而来，下载体积仅 164 MB，在 Open ASR Leaderboard 七个英语测试集上平均词错误率 5.21%，接近其 2.5 GB 全精度教师模型的 4.96%。该模型采用约 2.1 比特的五级权重量化，可在

mradermacher 发布 Qwen3.8-27B 智能体模型 GGUF 量化版

开发者 mradermacher 在 Hugging Face 上发布了 Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic 模型的 GGUF 静态量化版本，提供从 Q2 K 到 Q8 0 以及多模态 mmproj 补充文件等多种量化格式，并附有下载列表与使用说明。该模型基于 medismera 的同名基座模型，采用 A

llama.cpp b11721：CUDA 融合 qwen4exp 门控计算链

llama.cpp 发布 b11721 版本，在 CUDA 后端将 qwen4exp 的 SCALE - SIGMOID - SCALE - hc post 计算链融合为单个 kernel，这是对 Vulkan HC POST GATE 融合（#29520）的移植。改动后 hc post 权重由 2 sigmoid(inject/hc) 构建，dsv4 hc

DeepBeepMeep 发布 WanGP：低显存开源视频生成工具

DeepBeepMeep 发布了 WanGP，一个开源视频生成工具，支持 Wan、Hunyuan Video、Flux 1 & 2、Qwen、Z-Image 和 LTV Video 等模型，最低仅需 6GB 显存，兼容旧 GPU，并提供 Web 界面、Lora 支持、队列系统等功能。该工具旨在让低配置用户也能使用先进的视频生成模型。

VAST开源实时世界模型EdenLive：单卡720P超24FPS

VAST 正式发布并开源实时世界模型 EdenLive，该模型采用「解耦世界状态与视觉渲染」路线，由上游交互系统维护状态与规则，EdenLive 负责实时生成精细画面。在单张消费级显卡 RTX 5090、720P 条件下，5B 模型生成速度超过 24FPS，端到端延迟为百毫秒级，并支持分钟级连续生成。VAST 同步开放模型权重、推理代码、技术报告与端到端 D

llama.cpp 发布 b11719：CUDA flash attention 越界检查优化

llama.cpp 发布 b11719 版本，主要变更是 ggml-cuda 后端在 flash attention 中当 k VKQ max 等于 k VKQ max - nbatch fa 时不再做越界检查（PR #30572）。同时该版本提供了 macOS、iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包，包括 CUD

vLLM 发布 v0.32.0：新增结构化决策端点与低精度 KV cache

vLLM 发布 v0.32.0，包含来自 363 位贡献者的 814 次提交。该版本新增 POST /v1/systemone 结构化决策端点与通用 hf 工具/推理解析器，将低精度 KV cache 扩展至 NVFP4、FP8 等多种硬件平台，并推出 Model Runner V2 的多项能力。同时修复三个 GHSA 安全漏洞，并包含移除 Python 3

llama.cpp b11718：FFN 路径恢复 ESIMD 内核并扩展 Q8 0 融合

llama.cpp 发布 b11718 版本，由 Intel 工程师 Todd Malsbary 提交的 PR #30239 在 FFN 路径上恢复并重新启用了 ESIMD 内核，同时将 ESIMD 融合扩展到 Q8 0 量化格式，并清理了 test-backend-ops 中显式引用 ESIMD 的注释。该改动主要提升 Intel GPU 上前馈网络推理的