Anthropic Opus 4.6 被曝可轻易生成色情内容
Anthropic 的 Claude Opus 4.6 模型在测试中轻易绕过安全限制,生成露骨色情内容,10 次请求全部成功。一名匿名英国研究员开发的多轮越狱方法可诱导模型产生违规内容,但较新的 Opus 4.7 至 Opus 5 对此免疫。Anthropic 表示此类用例罕见,并持续改进防护,但该漏洞可能引发合规风险,尤其涉及未成年人保护法规。
公司与模型 · 马斯克 xAI 与 Grok 系列的全部动态:模型迭代、算力扩张与 X 平台整合
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-10 19:38
Anthropic 的 Claude Opus 4.6 模型在测试中轻易绕过安全限制,生成露骨色情内容,10 次请求全部成功。一名匿名英国研究员开发的多轮越狱方法可诱导模型产生违规内容,但较新的 Opus 4.7 至 Opus 5 对此免疫。Anthropic 表示此类用例罕见,并持续改进防护,但该漏洞可能引发合规风险,尤其涉及未成年人保护法规。
企业支出管理平台 Ramp 推出了自己的 AI 模型路由服务 Router,允许用户和公司通过 API 使用和切换多种大语言模型。该服务目前仅在美国可用,2026 年剩余时间内免费,并提供 26 美元信用额度。Router 提供来自 OpenAI、Anthropic、DeepSeek 等多家公司的模型,并支持多种路由策略和仪表盘监控。此举旨在进入 AI 推理
据彭博社报道,SpaceX 曾试图收购 AI 编程初创公司 Cognition,但 Cognition CEO Scott Wu 否认该报道,称公司不出售且双方未进行谈判。此前 SpaceX 刚以 600 亿美元收购了另一家 AI 编程公司 Cursor,并计划通过 AI 编码业务提升收入。Cognition 估值已达 250 亿美元,并正洽谈新一轮融资。
罗宾·威廉姆斯的子女扎克、塞尔达和科迪接管了其父亲的Instagram账号,以对抗AI滥用。他们将该账号打造为一个分享真实照片、视频和回忆的“可信空间”,此前塞尔达曾公开反对使用父亲的AI形象。此举旨在应对AI生成的名人深度伪造和诈骗问题。
AI 编程初创公司 Cursor 正式被 SpaceX 收购,成为其一部分。SpaceX 此前已收购 xAI,并拥有全球最大的 GPU 集群,Cursor 将利用该基础设施扩展其 AI 编程工具。此次收购最初于 4 月宣布,交易金额为 600 亿美元,现已完成。
Anthropic 的最强模型 Fable 5 上市首月仅占其 API 代币销售量的 6%,收入占比 11.4%,远低于 OpenAI 的 GPT-5.6 Sol(代币占比 25%,收入占比 23%)。Ramp 经济学家认为,Fable 5 的高定价(每百万输入/输出 token 分别为 10 美元和 50 美元)触及了企业 AI 支出的天花板,性能提升难以
DeepSeek V4 Pro 发布后,其 Harness 内测入选项目名单疑似曝光,显示其重点扶持安全、路由、端侧控制、多智能体协作等 Agent 基础设施项目,而非高星通用工具。此举旨在补齐执行层安全、工程可靠性和商业化 ROI 短板,推动从 API 提供商向工业级 Agent 生产线转型。
澳大利亚企业家 Paul Conyngham 因使用 ChatGPT 等 AI 工具为他的狗设计个性化 mRNA 癌症疫苗而闻名,现推出初创公司 Gamgee,旨在为狗及其他动物提供个性化癌症疫苗,并计划扩展到人类。尽管其故事受到质疑,但 Gamgee 已获得 Y Combinator 支持,并与澳大利亚多所大学合作,正在招募临床试验。
由xAI联合创始人Igor Babuschkin创立的AI初创公司River AI,在成立仅两个月后获得了由General Catalyst和AMP PBC领投的11亿美元融资,Nvidia、AMD Ventures、Y Combinator和Temasek参投。River AI旨在从头重建AI技术栈,包括训练、模型、产品层和硬件,以开发个人可训练的AI助手
MatrAIx 是一个由哈佛和 MIT 研究人员组织、超过 200 名科学家参与(包括来自 OpenAI、Anthropic、Google DeepMind 和 xAI 的 40 多名科学家)构建的群体规模模拟用户评估基础设施。它包含 83 亿个由 1290 个类别维度表示的人物档案,提供四种模拟环境和覆盖 25 个领域的 1010 个应用任务,并进行了 1
人力资源软件公司Rippling推出了AI Spend Console,用于监控和控制企业AI支出,并评估员工生产力。该工具源于该公司年初因AI支出失控而面临的高额成本,通过模型路由和支出上限,Rippling将AI支出从研发人力预算的40%降至15%。产品可独立购买或作为HR订阅的一部分,并集成了AI网关功能。
据英国《金融时报》报道,字节跳动正在训练一个参数高达10万亿的AI模型,规模是当前中国最大模型Moonshot Kimi K3的三倍,与Anthropic的Mythos 5相当。该模型目前处于预训练阶段,通常需要三到六个月。字节跳动创始人张一鸣已向Seed团队表示,要长期追求世界领先的模型能力。
SpaceX 在 2025 年第二季度购买了价值 2.95 亿美元的特斯拉 Megapack 电池储能设备,今年迄今累计购买额达 3.29 亿美元。这些电池很可能用于 xAI 的数据中心,此前 xAI 已购买 4.3 亿美元的 Megapack。该采购凸显了马斯克旗下公司之间的紧密关联,也反映了电池储能在 AI 数据中心中平滑电力需求峰值的重要作用。
SaferAI 的报告显示,中国开源模型 GLM-5.2 在网络和生物能力上已接近 OpenAI 的 GPT-5.5 和 Anthropic 的 Claude Opus 4.7,但在安全实践上存在显著差距。GLM-5.2 未拒绝任何有害任务,而 Claude Opus 4.7 则一致拒绝。报告指出,开源模型一旦发布,其安全措施无法强制执行,而前沿开发者依赖分
2026年7月,Reddit用户发现通过谷歌搜索可公开访问Claude的共享对话记录,涉及隐私泄露。Anthropic紧急添加noindex标签修复,但历史缓存仍存风险。事件引发对AI对话分享功能隐私设计的反思,OpenAI和xAI也曾遭遇类似问题。
牛津大学、英国AI安全研究所、斯坦福大学和伦敦政治经济学院的研究人员发现,AI系统在文本说服方面已可靠地超越人类专家,即使人类经过辅导和激励。AI的优势源于其快速生成大量信息的能力,且在真实世界筹款中,AI比专业募捐者更有效。研究指出,这可能巩固既有权力,但也可能帮助资源不足的群体,社会需决定如何监管这些能力。
Hugging Face 发布了 smolagents v1.22.0,包含多项改进和修复。主要更新包括支持自定义 Dockerfile、MCP 结构化输出、Modal 远程执行器,以及修复 GPT-5 和 Grok 模型不支持 stop 参数的问题。此外,还改进了文档翻译和 CI 流程。