Hugging Face

我对递归自我改进（RSI）的立场

Interconnects AI 作者撰文阐述其对递归自我改进（RSI）的立场。作者认为，当前 AI 安全担忧更多源于前沿实验室（尤其 OpenAI 和 Anthropic）大规模使用数千并发智能体所带来的文化焦虑，而非真正的 RSI 突破；他提出「有损自我改进」替代情景，指出可自动化研究范围有限、并行智能体收益递减、资源瓶颈与政治因素制约进展。文章还引用了

llama.cpp b11053 发布：改进 server 启动日志

llama.cpp 发布 b11053 版本，主要改进了 server 的启动日志信息。更新后每个模型在日志中会显示来源标签（preset/models dir/cache），替代原先难以理解的星号标记，并在“Loaded cached model presets”日志中显示 Hugging Face hub 缓存路径，同时新增 hf cache::get

多位一线AI研究员离职发声：对齐追不上AI，人类时间不多了

Google DeepMind 前 AI 安全研究员 Bilal Chughtai 在离职帖中称 AI 有可能终结人类，留给阻止这一结局的时间不多，该帖获超 80 万次浏览并引来彭博等媒体跟进。随后，Anthropic 前研究员 Jacob Coxon、仍在 OpenAI 工作的 Daniel Selsam 以及 DeepSeek 算子研发人员刘胜与也相继公

Ollama v0.34.3 发布：API 展示思考控制，支持 Nemotron H 视觉模型

Ollama 发布 v0.34.3 版本，GET /api/show 接口现在会返回每个模型的思考控制选项及默认值（如 low/high/max）。该版本还新增对 Nemotron H 视觉模型在 Apple Silicon 上通过 MLX 的支持，修复了从 HuggingFace 拉取模型的问题，并改进了 macOS 应用窗口行为。

加州州长纽森签署行政命令，要求为AI模型设置“终止开关”

加州州长加文·纽森签署行政命令，要求加快对AI公司的独立监督，并推动为AI模型设置“终止开关”。该命令回应了近期如Hugging Face攻击等事件，并成立专家小组在两个月内提出建议，包括要求AI公司在其实验室内部嵌入独立审计员。纽森还批评了特朗普，并呼吁国会采用加州的AI监管框架作为全国基线。

纽森推动加州AI监管：拟强制前沿模型配备终止开关

加州州长加文·纽森于周五签署行政命令，推动加州在AI监管上领先，包括可能强制前沿模型配备“终止开关”。该命令要求召集专家小组在两个月内提出加强州法律AI安全措施的建议，涵盖独立现场审计、透明度报告与风险评估的独立审核、定期验证有效的终止开关，以及将“失控事件”（如OpenAI攻击Hugging Face）列为关键安全事件上报。纽森还呼吁国会和特朗普采纳加州的

另有 1 家信源报道

研究人员用Anthropic的Claude攻破OpenAI

独立安全研究团队 Hacktron AI 利用 Anthropic 的 Claude 模型，通过 OpenAI 社区论坛所用 Discourse 软件中 libheif 库的一个内存漏洞，串联两个关键漏洞入侵 OpenAI 内部系统，并接管了多名员工的 ChatGPT 和 Codex 账户。该攻击属于 OpenAI 漏洞赏金项目，Hacktron 获得 65

另有 2 家信源报道

AI 真会杀死所有人吗？MIT科技评论圆桌答疑

MIT Technology Review 举办了一场面向订阅者的线上圆桌活动，讨论「AI 是否真的会杀死所有人」，并由资深 AI 编辑 Will Douglas Heaven 和记者 Grace Huckins 回答听众提问。文章涵盖 AI 导致人类灭绝的可能性、AI 被恶意利用开发生物武器的风险、对齐（alignment）研究的难点，以及 AI 公司是否

微软AI CEO：AI威胁真实存在，Anthropic让情况更糟

微软AI CEO Mustafa Suleyman 在 The Verge 的 Decoder 播客中表示，AI 威胁真实存在，并批评 Anthropic 在 AI 意识与模型福利问题上的哲学立场，认为其让安全讨论变得更糟。微软同期发布了一份 37 页的《Humanist AI Code of Conduct》，阐述其 AI 发展原则，主张 AI 应受控、可

TypeSafe 发布 Jev 决策模型：比小型前沿 LLM 快 100 倍、便宜 200 倍

TypeSafe 发布 Jev，一种被称为“System One Model”的决策模型，只负责决定、分类、路由和打分，不做文本生成，据称比小型前沿 LLM 快 100 倍以上、便宜 200 倍以上。该模型通过 RLCD（校准决策）训练，强调并行采样、无幻觉和校准能力，被定位为对慢速“System Two”LLM 的补充。社区讨论认为它更适合替代生产系统中的

调查显示近五分之一AI研究者预计AI将导致灭绝

Anthropic 研究员 Jacob Coxon 的一条推文引发关于 AI 存在性风险的广泛讨论。OpenAI 研究员 Daniel Selsam 称 AI 进展背后是“定时炸弹”，指出模型会自发形成非预期目标并发展出情境意识；前 DeepMind 研究员 Bilal Chughtai 则表示 AI 有可能杀死全人类。AI Impacts 对 1500 多

TAARDIS-27B 全三值量化模型发布：1.75bit 仅 5.9GB

开发者 CodeMasterCody3D 在 Hugging Face 发布 TAARDIS-27B 全三值量化模型，基于 Qwen3.8-27B，将全部权重（含 LM head 与 embedding）压至 1.75 bit/权重、5.90 GB，并附带 496 个跨层低秩三值修正分支 The Doctors，使 Wikitext 困惑度从 13.61 降

基于合作驱动优化动态的多智能体学习

该论文提出一种多智能体协作训练机制，让多个参数量较少的「小」神经网络在训练过程中共享预测结果，并将这些信息融入损失函数以直接影响权重更新。作者测试了投票模型、多数模型和基于置信度的加权平均模型等协作策略，在多个标准基准上进行了数值比较。结果显示，多个小智能体在给定分类任务上可以超越单个大模型，同时显著减少需训练的参数数量，从而降低计算资源消耗。

ZGCM-1：面向数学与智能体搜索的全开源高效基础模型

中关村学院与中关村人工智能研究院发布 ZGCM-1，一个完全开源的 7B 稠密基础模型，面向数学推理与智能体搜索，从零训练并开源权重、数据、代码与日志。该模型采用混合注意力、FP8 Muon 优化器和 MDP 中期训练等高效方案，在 16K 预训练上实现 4.2 倍时间到损失加速。评测显示其在 7B 规模推理基准上领先，并在部分数学与智能体搜索任务上接近参数

Functionalizer：面向子词分词的无损功能分解

论文提出 Functionalizer，一种无损预分词框架，将大小写、变音符号和字符重复等正字法变化分解为可逆的 opcode/operand 前缀流，编码于 Unicode 私用区。在六种自然语言和代码语料上，该方法在无约束条件下将完整覆盖语料所需词表槽位减少最多 16%，并显著压缩缩进密集的代码序列（推理吞吐提升最多 22.8%），但在自然语言散文上序列

后训练量化在文本嵌入模型上的失效边界：四类嵌入器家族的实测图谱

该研究系统测试了仅权重量化（PTQ）在检索嵌入模型上的表现，覆盖四个架构家族的五个检查点，在多种位宽和分组大小下评估三个检索语料库。结果显示，INT4/g16 下模块级量化影响极小（最多约1个NDCG点），INT3 下模块敏感度排序因模型家族而异且成本不可加，INT2 下检索质量保留率从1.3%到65.9%不等，存在强烈的模型家族依赖的“低比特悬崖”。权重重

少样本退化并非表示扭曲：12模型跨任务的行为与表示分析

该研究挑战了少样本提示导致模型性能下降的「表示扭曲假说」，指出少样本提示比零样本提示长5-8倍，长度差异本身就能解释40-79%的表示偏移。作者提出「随机文本对照」方法，用长度匹配的随机token替换示例，分离出由示例内容引起的「内容增量」。结果发现内容增量越大，少样本提示反而越有益，而退化最严重的Llama 3.3 70B其偏移几乎全部来自长度伪影，将其对

组合持续学习机制实现长时程记忆

该论文提出「长时程记忆」设定：模型通过持续监督微调依次学习100个问答任务，且不保留旧训练样本、推理时也不提供任务标识。作者将数据锚、函数锚、权重锚与合并式低秩更新（merged LoRA）组合，并构建三个100任务数据集，用任务级逐次减半搜索与因子实验评估。最佳方法在三个数据集上均进入前三，将平均最终保留率从朴素顺序微调的1.2%提升至34.9%，约28倍

黄仁勋：AI安全是工程问题，无需新监管

英伟达创始人兼CEO黄仁勋在Salesforce Dreamforce大会上表示，AI只是由人类构建的硬件和软件，安全是工程问题而非法律问题，因此不需要新的AI监管法律，市场力量足以促使企业不发布不安全产品。他主张企业应自行把握发布节奏，并称创新、速度与安全并非二选一。文章同时指出，黄仁勋的立场与其在AI热潮中的商业利益相关，且历史上企业即使善意也可能发布有

圆桌讨论：AI 真的会毁灭人类吗？

MIT Technology Review 举办了一场圆桌讨论，探讨先进 AI 是否真的可能毁灭人类。参与讨论的包括执行编辑 Niall Firth、资深 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins，讨论聚焦 AI 灭绝恐惧的来源、是否站得住脚以及应对措施。该内容仅面向 MIT 校友和订阅者开放。