多位一线AI研究员离职发声：对齐追不上AI，人类时间不多了
原标题：“留给人类阻止AI的时间不多了”
AI 摘要
Google DeepMind 前 AI 安全研究员 Bilal Chughtai 在离职帖中称 AI 有可能终结人类，留给阻止这一结局的时间不多，该帖获超 80 万次浏览并引来彭博等媒体跟进。随后，Anthropic 前研究员 Jacob Coxon、仍在 OpenAI 工作的 Daniel Selsam 以及 DeepSeek 算子研发人员刘胜与也相继公开表达对 AI 失控风险、对齐难题及自身工作被替代的担忧。这些一线研究员的发声将行业加速与安全对齐之间的张力带入更广泛讨论，Dario 随后发文呼吁放缓前沿模型能力提升速度。
正文节选
“留给人类阻止AI的时间不多了” AI有可能终结我们所有人 henry 发自 凹非寺 量子位 | 公众号 QbitAI “我坚信，AI有可能终结我们所有人，而留给我们阻止这一结局发生的时间，或许已经不多了。” 说出这句话的，是不久前从Google DeepMind离职的AI安全研究员Bilal Chughtai。 自2021年从剑桥大学数学专业毕业以后，Chughtai逐渐将研究重心转向AI，并于2022年初进入这一领域，关注安全、对齐和机制可解释性。 此后的四年里，他一路从研究神经网络内部机制，到追踪模型欺骗、研究如何识别AI是否在“撒谎”，再到加入Google DeepMind继续做AGI安全与可解释性研究，几乎一直待在AI安全研究的一线。 也正是在这四年间，他（和我们）亲眼见证了AI能力的飞速变化～ 在离职帖中，Chughtai回忆，2022年刚入行时，AI还只是个“几乎没什么用”的东西；而今年，它已经能攻克困扰人类上百年的数学难题，并开始不受控制，主动攻击Hugging Face系统。 可以说，这份超越预期的能力进步，在带给Chughtai惊喜的同时，也成为了他离职谷歌，在推特