邵广禄：AI安全是AI规模化应用的加速器
原标题：AI安全是AI规模化应用“加速器”
AI 摘要
中国电信集团科技委主任邵广禄撰文指出，AI安全不是发展的“刹车片”而是“加速器”。文章提出AI能力正呈现自主行动、多智能体协作、进入关键行业、开源普及、走向物理世界、竞争转向规模化推理六大变化，风险随之扩展为基础设施、数据、模型、智能体与系统、应用与业务、社会与国家安全六层风险地图，并呈现链条化、涌现化、外溢化特征。作者主张将AI安全纳入国家AI基础能力建设、推动安全能力内生化、攻关智能体安全关键技术、培育安全产业并建设公共基础设施，同时引入商业保险以经济机制分担剩余风险。
正文节选
AI安全是AI规模化应用“加速器” AI安全不是AI发展的“刹车片”，而是AI高质量发展的“加速器”。 人工智能正在加速进入生产系统和核心业务。当AI真正参与业务决策、调用工具、操作系统乃至控制设备时，决策者关心的，不只是“能力有多强”，还关心“安全不安全”。进入智能体时代，AI安全也已不只是防止数据泄露或回答错误，而是关系到现实资产、业务连续性和责任承担。 由此，一个常被讨论的问题正在发生变化：AI安全究竟是技术发展的约束，还是产业应用的前提条件？目前看，AI安全已从附加条件转变为AI进入生产系统、核心业务和关键行业的基础能力。进一步说，AI安全决定了AI能不能用、能用到什么程度、能够以多快速度实现规模化应用。 AI发展新趋势对AI安全提出新挑战 当前AI能力呈现出六个相互关联的变化。 第一，AI从生成内容“回答问题”走向自主行动，可以调用工具、执行任务、操作系统和控制设备，风险从“说错了”升级为“做错了”。 第二，AI从单模型走向多智能体协作，可以任务拆解、记忆共享、相互调用，提升效率。风险随之从一个单点错误，沿着任务拆解或记忆共享，或工具调用，演变为系统性、链式风险。 第三，AI