SAFESHIELD:小语言模型部署时安全的决策组织框架
该论文提出 SAFESHIELD,一个面向小语言模型部署时安全的决策组织框架。作者将部署时安全形式化为决策组织问题,包含面向责任的决策分解与显式协调两个维度,并实例化了准入、路由、证据、发布四类决策职责,通过可审计的 Decision Trace 记录决策。实验表明,移除准入门控会显著增加错误发布,而阻断上游证据会使发布准确率从 96.0% 降至 69.5%
技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 3313 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
该论文提出 SAFESHIELD,一个面向小语言模型部署时安全的决策组织框架。作者将部署时安全形式化为决策组织问题,包含面向责任的决策分解与显式协调两个维度,并实例化了准入、路由、证据、发布四类决策职责,通过可审计的 Decision Trace 记录决策。实验表明,移除准入门控会显著增加错误发布,而阻断上游证据会使发布准确率从 96.0% 降至 69.5%
该论文提出「视觉编排税」概念,指出在智能体式 VLM 流水线中,同一静态图像证据会被多个专家智能体反复重建为图像条件请求,造成编排层冗余。作者开发了从测量到认证的框架:审计侧用指标统计视觉证据触碰次数与结构冗余,在 SeeingEye 和 MAMMQA 等任务上发现 66.8%–75.6% 的触碰冗余;认证侧提出 SharedVisCache,按图像内容、预
该论文提出 NavTree,一种仅使用叶节点的分层检索器,在长文档问答中不依赖 LLM 生成摘要,而是用确定性平衡段树作为导航结构。在匹配成本评估中,NavTree 在分层检索器中表现最强,并在多跳问答上显著优于 BM25,且索引阶段零 LLM 调用。研究还发现,摘要树的主要收益来自导航而非摘要内容本身,摘要节点在多块预算下反而会挤占不同子树的叶节点。
该论文提出一种名为 Proxy Confidence 的黑盒 LLM Agent 审计方法:由于前沿聊天 API 隐藏 token 概率且模型近乎确定性导致自一致性失效,作者用一个低成本开源权重代理模型并行读取相同上下文、schema 和候选动作,通过 teacher forcing、request-PMI、判别式判定和工具选择竞争等互补读出方式,从代理模型
Google 在 arXiv 发布论文,介绍其部署于内部开发工具 Critique 和 Cider 的 AI 智能体 AutoRepair,用于在持续集成系统的 pre-submit 阶段自动修复测试失败。AutoRepair 采用 ReAct 风格的生成-验证循环,并加入执行前后弃权过滤器,以满足严格的低延迟要求。论文称这是首个面向 pre-submit
该论文提出零样本可视化(ZSV)任务,允许用户用自然语言指定概念轴,将文本语料映射到对应概念坐标上进行可视化探索。作者构建了基准,比较嵌入相似度、直接语义判断和条件似然估计三类打分方法,发现基于下一词概率的打分在语义忠实度、分数保真度和计算成本间取得最佳权衡。研究还发现离题文档存在组合情感偏差,并给出构建端到端ZSV基线的实践指南。
该论文提出 S1-MAS 框架,将多智能体系统中的协调决策与推理任务解耦:由轻量级 System One 控制器(Laya)负责任务选择、角色分配和终止判断,轻量级读取器(Qwen3-0.6B)检索证据,而强 LLM 仅负责开放式推理。在七个基准上对比 AgentVerse、DyLAN 和 SelfOrg,S1-MAS 将 GPT-4o token 消耗降低
该论文提出 DuoMatching,一种用于少步视频生成的分布匹配框架,在现有联合分布匹配基础上引入来自图像生成器的帧级边缘匹配监督,并设计 LatentBridge 解决视频学生模型与图像教师模型之间的潜表示不匹配问题,Latent Variation Sampling 则将帧级监督分散到不同时间段以减少冗余。实验表明该方法提升了视觉质量、构图和语义对齐,
Hugging Face 上发布了 litert-community/Ministral-3-3B-Instruct-2512 的 LiteRT-LM 量化版本,将 Mistral 的 Ministral-3-3B-Instruct 模型转换为 Google LiteRT 端侧运行时格式(blockwise int4 量化,约 2.3GB),并移除了 Pix
Anthropic 发布 Claude Haiku 5.5,称其为迄今最便宜、最快且能力最强的小模型,面向高并发、成本敏感型任务。同时,Max 和 Team 订阅计划新增每月 API 额度,可用于在 Claude 平台上运行自有应用和智能体,需在设置中关联 Claude Console 组织后领取,将在数日内逐步推出。
Vercel AI SDK 发布 @ai-sdk/xai@5.0.16 补丁版本,新增可移植的 max 推理等级并映射到各原生提供商,同时加入兼容性强制转换与基于预算的回退支持。该变更扩展了 LanguageModelV4CallOptions 的 reasoning 类型,要求第三方提供商处理 max ,并调整了 Amazon Bedrock 与 Fire
Vercel AI SDK 发布 ai@7.0.129 补丁版本,主要新增可移植的 max 推理等级并映射到各原生提供商,同时引入带稳定代码的去重弃用警告。该版本还修复了 V2 提供商上报 token 保留、流恢复错误发布、工具消息选项保留、WebKit 网络错误识别等问题,并升级到 TypeScript 6。由于 max 扩展了 ReasoningLeve
llama.cpp 发布 b11456 版本,主要变更为 ggml-cuda 后端在 buffer 初始化 padding memset 时改用 per-thread stream,并在 CI 中为 ROCm 重新启用 test-backend-ops 的 -j 并行测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及
llama.cpp 发布 b11455 版本,为 PLaMo-3 分词器实现了预分段(pre-segmentation)功能。该实现通过在 Unigram 动态规划前插入硬边界,处理 形式的文本、至少 4 个相同字符的连续串以及连续两个空格,并新增了 "plamo3" 词表类型。若不这样做,llama.cpp 对代码缩进和重复标点的分词结果会与参考实现不一致
Musubi 发布了一款名为 PolicyLM-1.7B 的轻量级决策模型,专为实时内容审核设计,并开放权重。该模型可将用自然语言写成的政策在 50 毫秒内应用于消息,且政策变更时无需重新训练。此举正值决策模型成为行业热点,Musubi 希望借此推动内容审核领域对决策模型的关注。
Mistral 发布 Mistral Large 4 预览版,这是一个 1 万亿参数、490 亿激活参数的模型,使用其自有的 3800 块 NVIDIA Grace Blackwell GPU 集群训练。该预览版通过 Mistral API 提供,官方承诺月底发布开放权重版本。模型仅支持 none 和 high 两档推理级别,在 Artificial Ana
Google 发布图像生成与编辑模型 Nano Banana 2.1,取代 2026 年 2 月推出的 Nano Banana 2,官方称其在视觉质量、文字渲染、角色一致性、全景图和图表信息图等方面全面提升。新模型价格约为上一代的一半,1K 图像从 6.70 美分降至 3.36 美分,4K 从 15.10 降至 7.56 美分。该模型以 Flash 级速度运
llama.cpp 发布 b11451 版本,主要修复了 OpenCL 后端在 Adreno GPU 上 xmem GEMM 的越界读取问题(#30041)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后
Simon Willison 在 Show HN 上发现新的可观测性平台 Parseable,它有 AGPL 许可的 Rust 开源实现(单个约 180MB 二进制文件)、企业版和云托管选项。由于 Datasette 1.0a41 新增了 OpenTelemetry 支持,他使用 Codex 研究如何运行 Parseable 并将 Datasette 的追踪
NVIDIA 发布 DOCA GPUNetIO,一个以 GPU 为中心的网络 SDK 层,让 CUDA 内核直接驱动以太网、RDMA、Verbs 和 DMA 操作,将 CPU 移出应用关键路径。该框架已从单一实现演变为统一的 GDA-KI 基础,被 NVSHMEM、NCCL、Aerial 5G SDK、UCX/NIXL、DeepEP/HybridEP 等集成