2026年11月11日 周三 · 今天值得看的 AI 动态
蚂蚁灵波开源了面向灵巧操作的触觉预训练基础模型LingBot-Touch，可统一处理压阻式、视触觉、磁触觉等不同传感器信号并编码为可复用的触觉Token。该模型用4983小时真实触觉数据自监督预训练，在Sharpa Wave和XHand1两款灵巧手、四种策略模型上完成26项真机任务，平均成功率普遍提升，其中LingBot-VLA在Sharpa Wave上从4
另有 2 家信源报道
推荐理由蚂蚁灵波把压阻、视触觉、磁触觉三类信号统一编码为触觉Token，对做灵巧手且苦于换硬件就要重采数据的团队，可直接复用预训练表征、只训下游策略；26项真机任务中LingBot-VLA成功率从45.60%升至72.51%。不过测试仅覆盖两款灵巧手和四种策略，且XHand1的磁触觉传感器型号未出现在预训练数据中，跨更多硬件的泛化仍待验证。
DSPy 发布 3.5.0 版本，将 RLM、Flex、GEPA 从实验模块转为正式核心模块，ReActV2 取代 ReAct，并默认启用 XMLAdapter 与自动 API 路由。该版本引入轻量 lm15 引擎，使 LiteLLM 和 OpenAI Python 库变为可选依赖，默认安装体积从 206.7 MiB 降至 30.9 MiB，依赖数从 65
推荐理由DSPy 3.5 把 LiteLLM 和 OpenAI 库改为可选依赖，默认安装体积从 206.7 MiB 降到 30.9 MiB，冷启动导入从 1.01 秒降到 0.49 秒，对在意镜像体积和启动延迟的部署方直接有用；同时 XMLAdapter 成为默认适配器，即使 Signature 不变，提示词和输出契约也会改变，升级前需按迁移指南重跑已优化程序。不过体积与导入数据来自开发快照，且未给出 lm15 与 LiteLLM 在各供应商上的兼容性评测。
llama.cpp 发布 b12250 版本，为 Vulkan 后端新增分块转置 concat 着色器，针对 Qwen 模型的 delta-net 卷积状态路径优化 ggml transpose 直接写入 dim-0 concat 的场景。该优化通过共享内存 32x32 分块使读写合并访问，并严格限定触发条件，其余情况回退原内核。在 gfx1151/RADV
推荐理由该版本为 Vulkan 后端新增分块转置 concat 着色器，把 Qwen 模型 delta-net 路径中 ggml_transpose 直接写入 dim-0 concat 的读写改为经共享内存 32x32 分块合并访问，触发条件限定为 dim 0、2D、4 字节未量化且 src1 确为转置，其余回退原内核。对在 Vulkan 上跑 Qwen3.6-35B-A3B 的用户，实测 CONCAT 从 11877 微秒降至 957 微秒，pp2048 从 1224 提升至 1628 t/s，生成文本不变。不过该数据仅来自 gfx1151/RADV 单一平台，其他 Vulkan 设备上的收益尚未验证。
蚂蚁灵波开源触觉预训练基础模型LingBot-Touch，通过将磁触觉、视触觉、压阻式触觉等异构传感器信号统一编码为触觉Token，解决原始触觉数据稀疏、噪声大导致动作模型成功率下降的问题。实验显示，接入该模型后π0.5在拉拉链任务成功率从15%升至59%，XHand上6项任务平均成功率从48%升至74.17%，且仅增加0.13%-0.16%参数量。该模型与
另有 2 家信源报道
推荐理由该模型把磁触觉、视触觉、压阻式三类异构信号统一编码为触觉Token，直接解决原始触觉读数稀疏、噪声大导致动作模型成功率反降的问题，对做灵巧手操作、手上已有多种传感器的团队最有用。不过其真机评测只覆盖两款灵巧手和四种动作模型，跨更多本体与传感器布局的泛化性尚未验证。
NVIDIA 发布开源组件 NVIDIA Snapshot，作为 DSX AI Factory 平台的一部分，为 Kubernetes 上的 GPU 工作负载提供检查点与恢复能力。它可将已初始化的推理工作负载（含 CPU 与 GPU 内存状态）保存为可移植产物，并在同型号 GPU 节点上秒级恢复，跳过权重加载、编译与图捕获等冷启动步骤。在 vLLM、SGLa
推荐理由NVIDIA Snapshot 把已初始化的推理工作负载连同 CPU 与 GPU 内存状态存成可移植产物，在同型号 GPU 节点上秒级恢复，跳过权重加载、编译与图捕获，对需要快速扩容或故障恢复的 Kubernetes 推理平台团队直接有用。不过恢复依赖相同 GPU 型号与驱动，且基础设施供给和镜像加载不计入恢复耗时，端到端收益需按自身环境验证。
Hugging Face 发布 LeRobot v0.7.0，支持直接从 Hub、Storage Bucket 或 LanceDB 流式训练近 300TB 开放机器人数据，无需先下载。新版本重建训练栈以支持 5-20B 参数的世界动作模型，并引入交互式 rollout，可在机器人运行时通过文本指令切换子任务、提问或自动导航。同时集成 NVIDIA、Black
推荐理由LeRobot v0.7.0 让训练可以直接从 Hub、Storage Bucket 或 LanceDB 流式读取近 300TB 开放机器人数据，省去先下载的步骤，对受限于本地存储的团队最直接；交互式 rollout 支持在机器人运行时用文本切换子任务、提问或自动导航。不过 /vqa 和 /autosteer 依赖能生成文本的策略或外部 VLM 规划器，正文未给出这些交互在真实机器人上的成功率或延迟数据，实际可用性仍需自行验证。
Haystack 发布 v3.5.0-rc1，新增三个基于 OpenAI Decisions API 的组件，用于文本路由、图像路由和文档分类，无需编写提示词即可完成分类与分流。Agent 新增 StructuredOutputHook，可按 Pydantic 模型或 JSON Schema 校验最终回复并在失败时重试，同时引入 StepBudgetRemi
推荐理由这版把分类路由做成无需写提示词的组件，文本、图像和文档分类都能直接按标签分流，对需要快速搭建分流逻辑的 RAG 与客服场景省去提示词调试；Agent 的 StructuredOutputHook 还能按 Pydantic 模型校验回复并失败重试。不过多向量检索只是第一步，产出多向量嵌入的 embedder 仍在集成仓库的 PR 中，尚不可用，MaxSimRanker 的实际检索效果也缺少评测数据。
llama.cpp 发布 b12191 版本，为 MoE 缓存引入 CPU 分担机制：通过 --moe-cache-cpu-share 参数，将部分未命中专家在 CPU 上计算而非上传至设备，并新增 moe-cache-tune.py 调优脚本自动推荐缓存大小与 CPU 分担比例。该改动还调整了调度器与图构建逻辑，使 CPU 部分可异步执行、不阻塞设备计算，
推荐理由该版本为 MoE 缓存新增 --moe-cache-cpu-share 参数，把部分未命中专家放到 CPU 上计算而非上传至设备，并让 CPU 部分异步执行、不阻塞设备，对显存紧张、跑 MoE 模型的本地部署用户可直接降低显存占用与传输开销；配套的 moe-cache-tune.py 通过两次缓存大小、三种 CPU 分担比例的实测来推荐参数。不过推荐值依赖该脚本对路由的重放预测，发布说明未给出与纯 GPU 路径的吞吐对比，实际收益需自行验证。
llama.cpp 发布 b12202 版本，核心改动是让 llama 与 mtmd 遵循 ggml prec set acc 调用的参考精度：GLM4 系列的下投影与输出投影、MiMoVL 视觉矩阵乘、Qwen3-TTS 说话人编码器 conv1d 改为 GGML PREC BF16，而 DeepSeek V4/V4.1 路由器和 MiniMax-M3 索
推荐理由该版本让 GLM4 系列的下投影与输出投影、MiMoVL 视觉矩阵乘、Qwen3-TTS 说话人编码器 conv1d 改用 BF16 累加，与参考实现对齐，对跑这几类模型的用户可减少精度偏差；同时 CUDA、Vulkan 等后端对 MUL_MAT_ID 的 src1 拒绝 BF16，flash attention 测试新增 BF16 覆盖。但发布说明未给出 BF16 与 F32 的精度或速度对比数据，实际影响需自行验证。
llama.cpp 发布 b12208 版本，主要更新 ggml 的 CUDA/Metal radix Top-K 实现，使阈值处并列候选的选择结果确定化，输出在不同运行间字节一致。Metal 端用 simdgroup 扫描替代原子计数器压缩，在 M5 Ultra 上 top-k 耗时降低约 20-45%，并启用 Metal 与 ROCm 的确定性自检。
推荐理由该版本把 CUDA/Metal 的 radix Top-K 在阈值并列时的选择改为确定化，输出跨运行字节一致，对需要可复现采样结果的本地推理用户直接有用；Metal 端改用 simdgroup 扫描后，M5 Ultra 上 top-k 耗时降低约 20-45%。但提速数据仅来自 M5 Ultra 单机，且正文提到 M2 Ultra 上曾出现 1.5-2.4 倍回退，其他芯片的实际表现仍需自行验证。
LiteLLM 发布 v1.110.0-dev.2 开发版本，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit hash 和 release tag 的两种验证方式。该版本包含大量修复与功能更新，涉及路由重试记录、按 key/team 关闭 prompt 存储、Azure AI 新增 Cohere 重排模型、Gemini 2
推荐理由该版本为所有 Docker 镜像提供 cosign 签名，并给出按 commit hash 校验的方式，对需要满足供应链审计的部署方来说，多了一条可自行执行的验证路径；同时新增按 key 或 team 关闭 prompt 存储、单请求头开启流式 usage.cost 等开关。不过这是 dev.2 预发布版，正文未附任何回归测试或性能数据，生产环境升级前仍需自行验证。
llama.cpp 发布 b12180 版本，新增对 Kimi-K3.1-Pro 文本模型的支持。该模型在 93 层中将 24 层全注意力 MLA 替换为 DSA（带 lightning indexer，32 头×128，top k 2048，无 rope），KDA 线性注意力层及 K3 骨架其余部分保持不变，因此复用 K3 计算图与转换器并新增 index
推荐理由该版本让 llama.cpp 能直接加载 Kimi-K3.1-Pro 文本模型：93 层中 24 层全注意力 MLA 换成带 lightning indexer 的 DSA，其余 K3 骨架复用原计算图与转换器，转换器还断言层列表恰好覆盖全注意力层，indexer 的 q_b、k、proj 被排除在量化之外。对想在本地跑该模型的用户，省去了自行改图的工作；但验证仅在 8 层切片上对照 HF checkpoint 完成，全模型精度与速度未给出，且视觉塔与 mm_projector 被跳过，目前只支持文本。
llama.cpp 发布 v0.9.0，新增 OCP FP8 E4M3 量化支持、提升多序列推理统一 KV 缓存效率的 flash attn ext rows 算子，以及通用批量张量拷贝 API。该版本新增 Clover、Limite、Metis-1.6、Mistral Large 4 四种架构支持，扩展 Chatterbox TTS、Nemotron 3.
推荐理由该版本新增 OCP FP8 E4M3 量化类型与 flash_attn_ext_rows 算子，前者让本地部署可直接加载 FP8 权重，后者针对多序列推理恢复统一 KV 缓存的 prefill 性能，对跑批量并发请求的服务端用户最直接。但发布说明只给出 Gemma 4 E2B/E4B 的 prefill 优化定性描述，未附具体吞吐对比数据，实际提升幅度需自行实测。
Ray 发布 2.60.0 版本，将 shuffle v2 设为 join 和聚合的默认策略，并让 Parquet 读取基于行组元数据精确打包读取任务。Ray Serve 新增 max surge percent 滚动更新参数，并在新副本持续失败时保留旧副本可路由。安全方面，Ray Data 在所有反序列化外部 Arrow 数据的读取器中拒绝 pickle
推荐理由Ray 2.60.0 把 shuffle v2 设为 join 和聚合的默认策略，并让 Parquet 读取按行组元数据精确打包任务，对依赖 Ray Data 做大表连接和扫描的团队可直接受益；Serve 新增 max_surge_percent 且新副本持续失败时保留旧副本可路由，降低了滚动更新期间容量骤降的风险。不过发布说明未给出 shuffle v2 与旧策略的基准对比，切换后的实际性能变化仍需在自有负载上验证。