Ternary-Bonsai-2-27B 262k GGUF：12GB 显卡跑满上下文
开发者 CaryPalmer 在 Hugging Face 发布了 Ternary-Bonsai-2-27B-262k-GGUF，基于 PrismML 的 1.58-bit 三值量化 Bonsai 2 27B 模型，重新嫁接 MTP 草稿头并配套服务栈，使单张 12GB RTX 4070 能在 q8 0 KV 精度下跑满 262,144 token 上下文。
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3311 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
10月15日周四 · 16 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp b11622：修复 jinja tojson 浮点数输出
llama.cpp 发布 b11622 版本，修复了 jinja 模板中 tojson 输出浮点数的问题：此前通过 C++ 流打印浮点数只保留 6 位有效数字且省略 .0，导致 48.858844 变成 48.8588、1.0 变成 1，影响工具定义、工具调用参数等模板输出。现在改为像 Python json.dumps 一样输出能读回相同值的最短数字，字符
正文结构化主题已通过公开置信门槛
llama.cpp b11621：OpenCL 优化 Adreno MoE 专家排序
llama.cpp 发布 b11621 版本，主要变更是 OpenCL 后端针对 Adreno GPU 的 MoE 专家排序改用 buf+offset 替代 subbuffer（PR #30418）。同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO
正文结构化主题已通过公开置信门槛
llama.cpp b11620：修复 OpenCL q8 0 dp4a 与 Adreno 支持
llama.cpp 发布 b11620 版本，主要修复 OpenCL 后端中 q8 0 dp4a 的 mul mat id 计算问题，并针对 Adreno GPU 将 PREC F32 的 mul mat id 标记为不支持。该更新由高通工程师参与贡献，同时附带各平台预编译二进制文件。
正文结构化主题已通过公开置信门槛
Claude Code 2.1.300：新增 mod 钩子与 OpenTelemetry 属性并修复多项问题
Claude Code 发布 2.1.300 版本更新，为 mod 系统新增 virtualText 提示装饰、agentId 视图切换、RTL 文本支持及 prompt.change 等钩子，并扩展 OpenTelemetry 缓存写入与 GenAI 语义属性。同时修复了大量问题，涵盖云会话网络策略误报、worktree 与 reftable 仓库兼容、子
正文结构化主题已通过公开置信门槛
llama.cpp b11619：移除嵌入图冗余的 t embd 扩展
llama.cpp 发布 b11619 版本，主要变更是从嵌入图中移除 t embd 扩展操作（#30461）。由于这些图仅用于生成嵌入，且 build pooling() 已为每种池化类型扩展输出，模型图末尾的扩展属于冗余。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
正文结构化主题已通过公开置信门槛
武汉AI芯片龙头黑芝麻智能拿下3亿元AI服务器大单
武汉车规级AI芯片公司黑芝麻智能宣布与一家A股上市公司签署AI计算服务器销售框架合同及技术合作协议，总金额约3亿元，其中一年内预计采购以黑芝麻智能高性能AI芯片为核心的服务器整机产品约2.5亿元。这是黑芝麻智能AI计算服务器业务的首批订单，标志其自研AI算力产品正式规模化切入AI计算服务器赛道。公司称该合作有助于拓宽收入场景、优化业务结构，并推动国产AI计算
正文结构化主题已通过公开置信门槛
Software Mansion 发布 React Native ExecuTorch 版 Qwen-3 模型
Software Mansion 在 Hugging Face 上发布了 qwen-3 模型仓库，将 Qwen-3 导出为 ExecuTorch 的 .pte 程序，供 React Native ExecuTorch 库在设备端运行。仓库提供 0.6B、1.7B、4B 三种规模，分别有 mlx（int8/int4）和 xnnpack（8da4w）两种后端变体
正文结构化主题已通过公开置信门槛
React Native ExecuTorch 发布端侧 Qwen-2.5 量化模型
Software Mansion 在 Hugging Face 上发布了为 React Native ExecuTorch 库导出的 Qwen-2.5 模型，提供 0.5B、1.5B、3B 三种规模，并分别以 mlx（int4）和 xnnpack（8da4w）两种后端量化，可直接在设备端运行。这些 .pte 程序面向 ExecuTorch v1.4.1 运行
正文结构化主题已通过公开置信门槛
Anthropic Java SDK v2.72.0 发布：新增遥测与 OpenTelemetry 支持
Anthropic 发布 Java SDK v2.72.0，新增 Managed Agents 的 execution identity 字段、Admin API 的遥测目标管理端点，以及客户端 followRedirects 选项。客户端默认集成 OpenTelemetry，为 API 调用、流式响应和工具运行生成 span，并新增 io.opentele
正文结构化主题已通过公开置信门槛
Anthropic TypeScript SDK 发布 google-cloud-sdk-v0.1.0
Anthropic 发布 TypeScript SDK 的 google-cloud-sdk-v0.1.0 版本。该版本为 Managed Agents 的 agents 增加了 execution identity 字段，并为 API 调用添加了 OpenTelemetry 追踪 span。此外还包含发布包中附带许可证文件、从发布类型中移除 @intern
正文结构化主题已通过公开置信门槛
Anthropic TypeScript SDK v0.134.0 发布：新增遥测与 OpenTelemetry 支持
Anthropic 发布 TypeScript SDK v0.134.0，新增 Managed Agents 的 execution identity、Admin API 的遥测目标管理及测试端点，并默认对 API 调用、流和工具运行发出 OpenTelemetry span，可通过配置关闭。同时修复了流式处理中未知事件类型、事件顺序异常及重定向、代理授权头
正文结构化主题已通过公开置信门槛
Anthropic Python SDK v1.14.0 发布：新增 OpenTelemetry 追踪与遥测目标
Anthropic 发布 Python SDK v1.14.0，为 API 调用、流式传输和工具运行新增 OpenTelemetry 追踪，并在 Admin API 中加入遥测目标与测试端点。同时为 Managed Agents 增加 execution identity，修复流式处理中未知事件类型和事件顺序报错等问题，并更新相关文档。
正文结构化主题已通过公开置信门槛
NVIDIA 发布 DeepSeek-V4.1-Flash NVFP4 量化模型
NVIDIA 在 Hugging Face 上发布了 DeepSeek-V4.1-Flash-NVFP4，这是对 DeepSeek AI 的 DeepSeek-V4.1-Flash 模型进行 NVFP4 量化后的版本，使用 NVIDIA Model Optimizer（v0.47.0rc0）完成。该模型为原生多模态 MoE 架构，总参数 552B，prefi
正文结构化主题已通过公开置信门槛
OpenAI 据称今年将发布至少一款模型，旗舰模型仍需对齐工作
据 The Information 报道，OpenAI 员工称公司可能在年底前发布一到两款新模型，但正在开发的旗舰模型仍需完成对齐工作并完善测试基础设施。该旗舰模型采用与 Astra 相同的循环 Transformer 技术（内部称 Recurrent Depth），可提升数学与编码表现并降低成本，但会把部分推理移入不可读的内部数值表示，削弱思维链监控。此外
正文结构化主题已通过公开置信门槛
LangGraph CLI 发布 0.4.35，支持私有仓库部署
LangGraph 发布 langgraph-cli 0.4.35 版本。本次更新新增 --image-pull-secret 参数以支持通过私有镜像仓库部署，并支持使用控制面返回的仓库用户名登录，同时修复了部署构建失败时日志丢失的问题，另含依赖升级。
10月14日周三 · 4 条
正文结构化主题已通过公开置信门槛
Anthropic 警告自我复制 AI 蠕虫，专家称确有依据
Anthropic 发布研究警告称，小型 AI 模型可能只需数月就能获得自我复制能力。其实验将 Google Gemma 4 拆分运行在 15 台 Android 电视盒上，并在模拟网络中测试 AI 蠕虫传播，只有 Z.ai 的 GLM-5.2 成功扩散至整个网络。Anthropic 呼吁加强设备安全，但外界也质疑其存在渲染恐慌、为封闭模型站台的公关动机。
正文结构化主题已通过公开置信门槛
VideoJev：面向视频理解与交互的 System One 模型
研究团队提出 VideoJev，一个基于 System One 范式的视频理解与交互模型系列（4B 和 35B-A3B）。该模型用共享打分头替代自回归答案解码，统一了时间定位与多选视频问答，并支持缓存推理与联合推理以复用视觉计算。在三个时间定位基准上，平均 mIoU 相比 Qwen 主干分别提升 6.7 和 10.8 点，推理加速 2.8-3.1 倍；在四个
正文结构化主题已通过公开置信门槛
用 Amazon SageMaker JumpStart 部署与评估模型
AWS 官方博客介绍如何使用 Amazon SageMaker JumpStart 部署和评估预训练模型。文章给出可复用的 Python 脚本流程：从 JumpStart 目录发现并部署模型、用示例提示词测量延迟与生成速率、测试完成后删除端点。2026 年 JumpStart 新增 Model Hub 浏览体验、面向低成本/低延迟/通用场景的预配置端点部署选
正文结构化主题已通过公开置信门槛
Jeva：从第一性原理构建 System One 决策模型
该论文提出 Jeva，一种面向 System One 决策的决策原生架构，旨在同时满足四项结构要求：null 感知、排列不变性、选项可扩展性和可缓存性。Jeva 通过共享编码器独立表示请求与每个选项，并用紧凑决策栈仅针对请求状态进行精炼，从而统一 Choice、Noul 和 Score 输出。其 4B 模型支持 2048 个候选，在测试排列下无决策翻转，并借