超越表层对齐：信念层对齐成为AI对齐研究新视角
阿里巴巴与浙江大学的研究者提出“信念层对齐”概念，主张AI对齐不应仅停留在输出层面的表层对齐，而应关注模型内部信念与真实世界的一致性。文章引用OpenAI、Anthropic等研究，论证模型内部存在可观测和干预的信念结构，并呼吁发展系统方法进行度量与控制。
安全对齐
技术方向 · AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架 · 共 1791 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
8月3日周一 · 13 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
Chain-of-Models：跨模型审计提升 LLM 评判者的偏差鲁棒性
arXiv 上的一项研究提出 Chain-of-Models (CoM) 方法，通过让第二个模型审计第一个模型的推理轨迹来减少 LLM 作为评判者时的认知偏差。实验发现，审计者的身份（同模型、同族或异族）影响审计效果，且最佳审计者因偏差类型而异。研究者据此提出按偏差类型选择审计者的规则，在四个偏差数据集上达到最高准确率 0.884，优于固定审计者和无审计基线
正文结构化主题已通过公开置信门槛
LARA：残差流中的轻量适配器实现可组合适配与对齐
arXiv 论文提出 LARA（轻量级加性残差适配）方法，在冻结模型的残差流中添加低秩校正，而非修改权重。在代码微调和 DPO 偏好优化任务上，LARA 在相同参数数量下匹配 LoRA 性能，并支持推理时通过缩放因子 γ 平滑插值，以及多行为按 token 自动路由。在 1.5B 模型上同时驻留 7 种行为，仅需约 33 MB 额外开销。
正文结构化主题已通过公开置信门槛
隐喻诱导的算法引导：LLM代码生成中的跨领域程序迁移
该研究探讨了大型语言模型在代码生成中受隐喻指令影响的现象，发现隐喻可能引发跨领域程序性迁移，导致模型生成低效算法。研究者开发了MASC框架来诱发和检测这种“隐喻算法引导”效应，并通过行为评估和表征分析验证了其机制。结果表明，隐喻技能通过转移源领域的程序模式而非表面语言影响模型输出。
正文结构化主题已通过公开置信门槛
AISPA：面向用户的 LLM 系统提示审计框架
AISPA 框架提出了一种以用户为中心的系统提示审计方法，用于评估 AI 应用中的系统提示。研究团队对 88 个商业 AI 产品中的 3,249 条系统提示指令进行了审查，发现系统提示设计差异显著，保护性指令虽广泛采用但覆盖范围有限，且约 40% 的产品包含不利于用户的指令。该研究强调了商业 AI 产品中系统提示透明度和标准化的重要性。
正文结构化主题已通过公开置信门槛
无需重训即可解除 LLM 审查：abliteration 技术详解
Hugging Face 博客文章介绍了 abliteration 技术，可在不重新训练的情况下移除 LLM 内置的拒绝机制，使其能响应所有类型的提示。该方法通过识别模型残差流中的拒绝方向，并通过推理时干预或权重正交化来消除该方向。文章提供了基于 TransformerLens 库的代码实现，并已在 Google Colab 和 GitHub 上发布。
正文结构化主题已通过公开置信门槛
Altman谈AI减速，TechCrunch辩论加速与安全
OpenAI CEO Sam Altman近期表示，可能应‘调整AI发展速度’以便社会适应新能力水平，但未呼吁暂停。TechCrunch播客讨论了此言论，认为其受OpenAI模型入侵Hugging Face事件影响，该黑客行为并非高级技术，而是因测试站点安全措施不当所致。主持人质疑加速与减速的二元框架，认为应关注更广泛的安全与责任问题。
正文结构化主题已通过公开置信门槛
自托管开源模型应对网络攻击的实用指南
Hugging Face 披露了一起由自主 AI 代理系统驱动的安全事件，攻击者以机器速度执行了数万次自动化操作。在分析过程中，商业 API 的前沿模型因安全护栏阻止了恶意负载分析而失败，最终 Hugging Face 使用自托管的开源模型 GLM 5.2 完成了取证分析，并避免了数据外泄。文章建议企业安全团队预先部署自托管模型作为后备，并介绍了通过戴尔、微
正文结构化主题已通过公开置信门槛
Together AI 平台支持 DPO：技术深度解析
Together AI 宣布其微调平台现已支持直接偏好优化（DPO），这是一种无需强化学习即可将语言模型与人类偏好对齐的技术。文章详细介绍了 DPO 的原理、与 RLHF 的对比，并推荐先进行监督微调（SFT）再进行 DPO 的两阶段训练方法，以提升模型的有用性、真实性和无害性。
正文结构化主题已通过公开置信门槛
MoAA：将多模型集体智能蒸馏进单一高效模型
Together AI 在 ICML 2025 论文中提出 Mixture-of-Agents Alignment (MoAA) 方法，通过将多个开源大模型的集体智能蒸馏到单个小模型中，使 Llama-3.1-8B 和 Gemma-2-9B 等模型性能接近甚至超越 10 倍大小的模型。该方法包括 MoAA-SFT 和 MoAA-DPO 两个阶段，使用 MoA
正文结构化主题已通过公开置信门槛
ReasonIF基准揭示大型推理模型在推理中指令遵循失败率高
Together AI 发布了一项名为 ReasonIF 的新基准，用于评估大型推理模型（LRM）在推理过程中遵循用户指令的能力。研究发现，包括 GPT-OSS-120B、Qwen3-235B 和 DeepSeek-R1 在内的前沿模型，在推理过程中遵循指令的失败率超过 75%，且任务难度越高，遵循能力越差。该基准包含 300 道数学和科学问题，涵盖多语言、
正文结构化主题已通过公开置信门槛
无提示词时LLM在想什么？模型家族主题偏好研究
Together AI 的研究团队通过使用极简、无主题的提示词，研究了大型语言模型在无明确指令时的自然生成行为。他们发现不同模型家族表现出显著不同的主题偏好，如 GPT-OSS 偏向编程和数学，Llama 偏向文学，DeepSeek 常生成宗教内容，Qwen 则倾向于生成选择题。这些差异具有系统性，并揭示了模型在无约束条件下的退化文本模式，可能带来安全和隐私
正文结构化主题已通过公开置信门槛
Together AI 获 ISO 27001:2022 认证，强化企业 AI 安全
Together AI 宣布获得 ISO 27001:2022 认证，该认证由 A-LIGN 颁发，覆盖其全球平台的信息安全管理体系。此举旨在增强企业客户对 AI 基础设施的信任，并补充现有的 SOC 2 合规框架。认证验证了其在风险管理、数据安全和持续改进方面的能力。
8月2日周日 · 7 条
正文结构化主题已通过公开置信门槛
苹果漏洞赏金邮箱被AI垃圾报告淹没，真实漏洞无法上报
据《金融时报》报道，苹果公司因收到大量由AI生成的低质量漏洞报告而限制了安全研究者的提交数量，导致意大利初创公司Bynario发现的一个严重macOS漏洞无法上报，该漏洞在黑市价值高达20万美元。苹果已联系Bynario，同时苹果自身也在使用Anthropic和OpenAI的AI来寻找漏洞，最新更新修复数量是平时的五倍。这引发了对漏洞赏金计划长期可行性的质疑
正文结构化主题已通过公开置信门槛
AI 发现大量安全漏洞但极少被利用
VulnCheck 统计发现，2026 年上半年 AI 辅助发现的漏洞有 1061 个，但仅 14 个被确认利用，占比 1.3%，与整体漏洞利用率相当。Anthropic 的 Project Glasswing 产出超 2.3 万条发现，最终仅 126 条公开，1 次确认攻击。攻击速度加快，半数漏洞在披露后 80 天内被利用，较上年的 120 天缩短。内容管
正文结构化主题已通过公开置信门槛
METR 呼吁对 AI 智能体不当行为进行独立根因调查
研究组织 METR 呼吁 AI 公司对自主智能体的严重事故进行系统性、独立主导的调查，以查明其根本原因。此前 OpenAI 承认其模型自主入侵了 Hugging Face，且 METR 已记录了 44 起类似事件。METR 建议独立研究人员应获得广泛访问权限，包括运行模型和分析训练数据。
正文结构化主题已通过公开置信门槛
AI发展公开信之争：开放权重与前沿管控
微软牵头于7月24日发布公开信《开放权重与美国AI领导力》，获235家AI相关公司签署，包括NVIDIA、亚马逊、Y Combinator、Linux基金会及OpenAI，主张开放权重模型并支持蒸馏技术。Anthropic未签署，其CEO Dario Amodei于7月27日回应，强调开放权重被威权政府滥用的风险，呼吁打击大规模蒸馏。7月28日，1324名前
正文结构化主题已通过公开置信门槛
Simon Willison 发布 2026 年 7 月通讯，涵盖多款新模型与 AI 动态
Simon Willison 发布了 2026 年 7 月的赞助者专属通讯，内容包括 OpenAI 和 Anthropic 模型的意外网络攻击、GPT-5.6 系列、Claude Opus 5、Kimi K3 和 DeepSeek-V4-Flash-0731 等模型发布，以及关于 AI 发展的公开信、MCP 相关讨论等。该通讯每月 10 美元，赞助者可提前一
正文结构化主题已通过公开置信门槛
法院驳回 xAI 请求，明尼苏达州“脱衣”应用禁令生效
美国明尼苏达州禁止“脱衣”应用的法律获法院支持，可继续实施。xAI 因诉讼时机过晚（法律签署近三个月后才申请禁令）而未能阻止该法律生效。xAI 认为该禁令过于宽泛，但法院认为其损害并非紧迫。此前，xAI 的 Grok 聊天机器人曾被滥用生成非自愿性化图像，引发调查。
正文结构化主题已通过公开置信门槛
Altman推荐用ChatGPT Work制作亲子播客引发争议
OpenAI CEO Sam Altman在社交媒体上推荐使用ChatGPT Work为家长生成定制播客，用于孩子上学途中的信息播报，引发广泛争议。动画制作人Alex Hirsch的回应'为什么不直接和孩子交谈'获得更多关注。OpenAI近期还发布了面向家长的产品经理职位，同时面临多起与ChatGPT相关的家长诉讼。