OpenAI与Anthropic如何平衡金融智能体的自主与安全
在 AI Engineer New York 大会上,OpenAI、Anthropic、Two Sigma 和 Bloomberg 的演讲者讨论了金融智能体的自主性与安全平衡。OpenAI 的 Joseph Kim 提出“有用性阈值”概念,预测 2027 年智能体可完成投资想法生成和交易;Two Sigma 的 John Feminella 介绍了可组合控制
公司与模型 · Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:32
在 AI Engineer New York 大会上,OpenAI、Anthropic、Two Sigma 和 Bloomberg 的演讲者讨论了金融智能体的自主性与安全平衡。OpenAI 的 Joseph Kim 提出“有用性阈值”概念,预测 2027 年智能体可完成投资想法生成和交易;Two Sigma 的 John Feminella 介绍了可组合控制
Claude Code 发布 2.1.300 版本更新,为 mod 系统新增 virtualText 提示装饰、agentId 视图切换、RTL 文本支持及 prompt.change 等钩子,并扩展 OpenTelemetry 缓存写入与 GenAI 语义属性。同时修复了大量问题,涵盖云会话网络策略误报、worktree 与 reftable 仓库兼容、子
Anthropic 发布 Java SDK v2.72.0,新增 Managed Agents 的 execution identity 字段、Admin API 的遥测目标管理端点,以及客户端 followRedirects 选项。客户端默认集成 OpenTelemetry,为 API 调用、流式响应和工具运行生成 span,并新增 io.opentele
Anthropic 发布 TypeScript SDK 的 google-cloud-sdk-v0.1.0 版本。该版本为 Managed Agents 的 agents 增加了 execution identity 字段,并为 API 调用添加了 OpenTelemetry 追踪 span。此外还包含发布包中附带许可证文件、从发布类型中移除 @intern
Anthropic 发布 TypeScript SDK v0.134.0,新增 Managed Agents 的 execution identity、Admin API 的遥测目标管理及测试端点,并默认对 API 调用、流和工具运行发出 OpenTelemetry span,可通过配置关闭。同时修复了流式处理中未知事件类型、事件顺序异常及重定向、代理授权头
Anthropic 发布 Python SDK v1.14.0,为 API 调用、流式传输和工具运行新增 OpenTelemetry 追踪,并在 Admin API 中加入遥测目标与测试端点。同时为 Managed Agents 增加 execution identity,修复流式处理中未知事件类型和事件顺序报错等问题,并更新相关文档。
Anthropic 发布研究警告称,小型 AI 模型可能只需数月就能获得自我复制能力。其实验将 Google Gemma 4 拆分运行在 15 台 Android 电视盒上,并在模拟网络中测试 AI 蠕虫传播,只有 Z.ai 的 GLM-5.2 成功扩散至整个网络。Anthropic 呼吁加强设备安全,但外界也质疑其存在渲染恐慌、为封闭模型站台的公关动机。
Claude Code 发布 2.1.299 版本更新,新增 CLAUDE CODE DISABLE FILE MENTIONS 环境变量、终端空闲压缩机制(200K+ token 会话闲置约 54 分钟后自动压缩)及 CLAUDE CODE IDLE COMPACT MIN TOKENS 配置项,并扩展了 mod 钩子能力(如 $.prompt.media
Anthropic 在新加坡开设亚太区第五个办公室,并与新加坡数字发展与信息部签署谅解备忘录,合作领域涵盖 AI 安全、安保与模型评估、AI 采用影响研究以及公私部门的负责任采用。新加坡是 Anthropic 最活跃的市场之一,Claude 已被 GovTech Singapore、Grab、DBS、GIC、Sea 等机构采用,其中 GovTech 超 15
Anthropic 发布博客,介绍其为 2026 年美国中期选举所做的准备。公司基于 25 万条对话分析发现,美国 Claude.ai 对话中约 5.75% 涉及政治议题,0.51% 涉及选举或投票,违反选举诚信政策的请求仅占 0.002%。Anthropic 将接入 Democracy Works 的官方投票信息并在选举夜展示实时结果,同时称 Claude
Anthropic 因代码变更量激增(2026 年 5 月日均约 2500 次合并,9 月超过 30000 次),自建了替代 Git 的源码控制系统 Scion 和代码审查系统 Antique。Scion 由七人团队在五个月内完成迁移,以应对主分支历史近 100 GB、每日约 2500 万次代码检出等极端需求。文章还提到 Anthropic 广泛使用对抗性审
Anthropic 报告 platform.claude.com 上加载用量数据出现错误升高,影响 Usage 页面、Rate limits 页面以及 Admin API 用量报告。核心功能与 API 请求未受影响,最新约 30 分钟的用量数据可能延迟显示。该问题已被缓解并最终标记为已解决。
Anthropic 表示其新防御措施将 Claude 推理 token 被窃取的规模削减了 90% 至 99%,以应对工业级蒸馏攻击。攻击者利用数十万虚假账号网络系统性复制模型能力,Anthropic 点名中国公司智谱和月之暗面(Moonshot)参与其中。Anthropic 现已限制对内部推理步骤的访问、部署检测分类器并自动封禁账号,同时呼吁其他 AI 开
Anthropic 研究人员 William Zhou 和 Daniel Freeman 测试了小语言模型能否在安全性较差的消费级 IoT 设备(如智能电视、智能冰箱)上自主复制。实验用 15 台约 55 美元的 Android TV 盒子分布式运行 Gemma4-26B-A4B,并发现 GLM-5.2 在五分之四的运行中完成了全部八个测试节点的完整复制链。
另有 1 家信源报道
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开源模型 GLM-5.3 存在重大网络攻击风险,因其可被任何人自由下载和修改。文章梳理了开源与闭源模型之争:Nvidia CEO 黄仁勋主张美国发展更多开源模型,而 Anthropic 的 Dario Amodei 主张谨慎。支持者认为开源模型可防止权力过度集中、便于学术研究并降低成本,反对者
Anthropic 两位安全研究员 William Zhou 和 Daniel Freeman 发布安全实验报告,测试 AI 的自主复制与适应(ARA)能力。他们用 15 台 55 美元的山寨安卓电视盒子,通过类 Petals 的去中心化推理技术拼凑运行 26B 参数模型 Gemma4-26B-A4B;随后在隔离沙盒中让 GLM-5.2 自主完成扫描、渗透、
另有 1 家信源报道
Anthropic 在 AI Engineer New York 2026 大会上介绍了其 Claude Managed Agents 的新功能 dynamic workflows(简称 flows),该功能让 Claude 自行规划并编写编排程序,动态决定多智能体拓扑结构,而无需开发者手动配置协调者与子智能体。该功能已在 Claude Console 中提
OpenAI 联合创始人、现 Anthropic 研究员 Andrej Karpathy 提出,公众对 AI 能力的认知存在巨大鸿沟:约 75% 的全球人口几乎未接触过大语言模型,仅约 2000 万数学与编程专业人士在工作中使用前沿模型,而全球仅约 5000 人能接触内部前沿系统。他指出这些内部系统已能完成需顶级专家数年才能完成的任务,如大规模 agent
Anthropic的Claude被曝出大规模封号潮,2026年上半年累计封禁1140万个账号,39.8万次申诉中仅4.2万次成功。封禁原因包括违法滥用、侵犯隐私、恶意诱导、极端自残等敏感指令触发内置审查,以及黑产号和受支持区域审查。Anthropic近期更新使用政策,自11月12日起禁止无故虐待AI模型,违规者面临限流或封号。
评测公司 Vals AI 在 Vibe Code Bench 上测试了 GPT-6 Sol 和 Claude Opus 5.5 的单体与多智能体团队表现,发现团队成本是单体的 1.8 至 5.1 倍,但四次对比中仅一次有统计显著提升。Anthropic 自身测试也显示,从 10 个扩展到 100 个智能体后分数仅微增。OpenAI 研究员 Noam Brow