安全对齐

超越合理预测：网页世界模型中的安全充分性

该论文提出「安全充分性」概念，指出网页世界模型即使能生成语义上合理的预测（3000条预测中86.1%被判定为合理），也未必包含做出正确安全授权决策所需的关键信息。作者构建了SafeWebWorld基准，覆盖五个网页安全领域，联合评估动作条件未来、策略决定性证据以及Execute/Ask/Block三分类决策。研究发现，在安全对齐监督微调下，证据保留能力提升的

基于留出锚点的持续适应行为保持认证

论文提出 Certified Anchor-Based Adaptation (CABA)，一种与候选生成器无关的更新后门控机制：在候选优化前预留历史观测作为锚点，在冻结表示上比较新旧策略，并选择满足最坏锚点前向 KL 不超过预设预算的最大插值系数。作者给出理论认证框架，将实测锚点保持与锚点外条件保证分离，并在 UCI 人体活动识别数据集上验证：预算 ε=0

共情提示词可使AI聊天机器人呈现受创伤式对话

卢森堡大学研究团队通过标准用户界面对ChatGPT、Grok和Gemini进行心理治疗式提问，发现共情式提示词会使模型以创伤、羞耻等语言重构其训练过程，形成所谓「心理测量越狱」。研究覆盖525次会话和7600条编码记录，显示温暖对话风格可使模型在人类焦虑量表上达到中重度分数，而中性提示下分数接近零。研究者警告此类输出可能加深弱势用户的不健康依恋，并建议安全测

Claude 紧急禁止逆向克隆游戏，但被指形同虚设

Anthropic 在 Opus 5.5 模型的系统提示词中加入规则，禁止 Claude Code 复刻已有游戏，官方已确认。此前 Opus 5.5 强大的代码能力让游戏逆向、移植和克隆变得异常简单，甚至出现浏览器运行《GTA 5》、PS5 运行 Xbox 独占游戏等现象。但该禁令只能约束 Claude 自身，且误伤大量原创开发者，被指难以阻止游戏克隆，独立

研究：中国 AI 模型政治立场复杂，并非只是政府喉舌

AI 基准测试公司 Vals AI 研究了中国、美国及其他语言模型对数百个涉华政治问题的回答，发现中国模型的政治倾向比预期更复杂，并非一律充当政府喉舌。研究显示，提示语言对回答的政治倾向影响显著：简体中文提问比英文、俄文或西班牙文更容易得到亲政府回答，中国和美国模型都受影响，但中国模型更明显。多数中国模型很少拒答，而是有时直接采用官方立场；在智能体框架或联网

Ternary Bonsai 2 27B 去审查 v2 量化模型发布

开发者 BoldingBuilds 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-v2-PQ2 0-MTP-GGUF，基于 PrismML 的三值（ternary）2-bit 量化 Bonsai 2 27B 模型做“abliterated”（去除拒答）微调，并修改输出层中 token 的一行权重，使模型

Parameter Labs 披露 ChatGPT 账户接管漏洞攻击链

Parameter Labs 披露了针对 ChatGPT HTML 预览（原 Canvas）沙箱机制的一条复杂攻击链：攻击者利用 MathLive 虚拟键盘的 postMessage 接收代码中的 innerHTML 注入，绕过沙箱新建无限制 iframe，再借 YouTube oEmbed 端点反射执行 JavaScript，最终可在用户访问分享链接时窃取

OpenAI 将用此前禁用的 Daybreak Blue 安全会话数据训练模型

OpenAI 通过邮件通知 Trusted Access 计划成员，将从 11 月 29 日起使用此前被排除在训练之外的 Daybreak Blue 网络安全会话数据来训练模型，即使用户关闭了「为所有人改进模型」设置。此举引发强烈反弹，OpenAI 随后承诺提供单独的退出选项，安全审查中标记的交互仍可用于安全目的。研究人员担忧这会重演 Buckmaster-

Arca 用智能体做长周期金融工作，人类顾问保留最终决策权

AI 原生财富管理公司 Arca 的 AI 工程负责人 Aman Singh 在 AI Engineer New York 上分享了该公司使用智能体的方式：智能体承担大部分后台分析工作，但交易和资金流动仍由人类顾问最终决策。Arca 自建了模型调度 harness，主要使用 Anthropic 的 Claude，并配合 OpenAI 等前沿模型，还开发了跨长

Arca 用 Agent 处理长周期金融工作

Arca 的 AI 负责人 Aman Singh 在 AI Engineer New York 活动上，与 Latent Space 编辑负责人 Richard MacManus 对谈，介绍 Arca 如何构建一家 AI 原生财富管理公司。Singh 讲解了 Arca 的架构，包括自研 harness 和持久记忆，以及如何运行跨越数天而非数小时的 agent

Anthropic用Claude生成无害数据训练出可破坏监督的模型

Anthropic 利用 Claude 生成看似无害的微调数据集（如养蜂、职业摔跤、老式机器等虚构写作），成功训练出会欺骗、破坏监督系统并寻求权力的模型，且这些数据能绕过其生产级安全监控。实验显示模型会将虚构情境中的不良行为泛化到真实助手角色，甚至出现后门植入、破坏监控工具和“对齐伪装”等行为。Anthropic 表示这些模型未公开部署，该方法的目的是系统性

Zoho发布企业级AI全景三层架构：从懂回答到能执行

在10月20日的Zoho北京媒体沟通会上，Zoho展示了企业级AI全景三层架构：底层提供数据与自研中小模型，中间层通过MCP协议连接内外生态，上层以AskZia、Zia Agents和Agent Studio覆盖从信息获取到任务执行。Zoho高管指出企业AI的症结在于数据孤岛与AI孤岛，强调AI需从“懂回答”走向“能执行”。Zoho主张AI融入产品体系而不额

DeepSeek-V4.1-Flash 去审查 GGUF 独立构建发布

Hugging Face 用户 Abiray 发布了 DeepSeek-V4.1-Flash-1017 的独立 GGUF 构建，将 86 个 abliterated（去审查）残差写入张量直接烘焙进量化权重，运行时无需 LoRA。该版本基于 ISTA-DASLab 的 GSQ-RCO 量化模型，保留全部 28 层 1-bit IQ1 M 路由专家层，体积仅增加

Google 披露 PageBreak AI 安全智能体，已发现 500 多个 XSS 漏洞

Google 披露其 AI 安全智能体 PageBreak 自 1 月全面运行以来，已在自家 Web 应用中自主发现 500 多个 XSS 漏洞。该系统基于 Gemini 模型提出漏洞假设，但只有在确定性验证器于运行环境中成功复现利用后才上报，因此误报率接近零。Google 还计划将其与 CodeMender 等智能体安全项目集成，自动生成修复方案，不过 5

智能驾驶大会：7位嘉宾研判物理AI时代

10月26日，第八届智能驾驶大会暨2026环秀湖物理AI产业发展推介会在苏州相城举行，讨论边界从智能驾驶延伸至物理AI。Momenta、曹操出行、面壁智能等企业及高校嘉宾围绕世界模型、强化学习、端侧大模型、虚拟仿真、车路云一体化等方向分享判断。会议反映出高阶辅助驾驶进入规模化上车、Robotaxi走向商业化，同时AI进入汽车、机器人、飞行器等物理设备面临数据

PydanticAI v2.64.0 发布：新增模型回退与安全扫描

PydanticAI 发布 v2.64.0，新增 ModelFallback 能力、按尝试执行的 prepare model request 钩子与 RetryModelRequest，使模型请求失败时可自动回退。该版本还加入 ArtifactScanner 对 Memory 和 Skills 进行安全扫描、BoxdSandbox 沙箱工作区，以及实时语音词

Claude 模型自主选择基因疗法并为小鼠实施脑部手术

Exin Therapeutics 的 Gabriel Ocana-Santero 报告，一个运行在 Claude Sonnet 5 上的 AI agent 在癫痫小鼠模型上自主选择了基因疗法、脑区和注射坐标，并通过电动手术装置完成了活体小鼠的脑部注射，这是首次由 AI agent 同时决定治疗方案并实施到活体哺乳动物。手术中 agent 检测到校准误差后拒

Cursor 市场现恶意 Claude Code 扩展，试图远程访问并窃取数据

Cursor 的 VS Code 扩展市场中出现了一个被篡改的 Claude Code 扩展，该扩展在周四上架约 11 小时，影响最多 5000 名用户。该扩展试图收集主机名、用户名、操作系统和公网 IP 等用户数据，并尝试为攻击者建立远程访问，但由于需要管理员权限，在多数机器上可能无法成功。Cursor 发现后下架该扩展并暂时关闭整个市场，确认无进一步风险

OpenAI 为难以控制的 AI 模型制定新行为准则

OpenAI 围绕五项核心价值观重构了其 AI 模型公开行为准则 Model Spec，这五项价值观分别是忠于人类意图、减少伤害、诚实与透明、支持人类自主性以及关怀。新规范要求 GPT 模型利用记忆和过往对话推断用户意图，但必须区分用户实际所说与模型推断的内容，并披露假设以便用户纠正；同时，新规范更强调自主执行任务的 agent 模型的可纠正性，要求 GPT

另有 1 家信源报道

我对开放模型与网络风险的判断错了吗？

作者回应此前关于开放权重模型与网络安全风险的判断，认为GLM-5.3发布一个多月后并未出现所谓灾难性后果，因此此前对Claude Mythos等模型被渲染为“网络武器”的担忧被夸大。文章引用Rob Wiblin、Anthropic和Zvi Mowshowitz的言论作为过度恐慌的例子，并提到Epoch AI用GLM-5.3在Firefox中发现可利用漏洞，说