返回全部动态

Aegis:代理 AI 运行时治理系统实现行动边界控制

原标题:Runtime Governance for Agentic AI: Action-Boundary Control with Trusted Provenance and Fail-Closed Execution

arXiv cs.AI一手来源研究质量 84

AI 摘要

SPQR Technologies 提出 Aegis 运行时治理系统,将模型输出视为行动提案,在工具执行前通过可信决策层进行调解,实现行动边界控制。在包含 6300 行的沙盒语料库评估中,Aegis 治理的 2100 行记录显示零治理风险副作用完成,而提示策略条件化产生 79 行风险泄漏。该系统采用服务器端溯源解析、失败关闭机制和基于法定人数的 Senate 式结算路径,旨在防止代理 AI 的运营性副作用。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

∎11institutetext: SPQR Technologies Inc. 22institutetext: https://spqrtech.ai 22email: adam@spqrtech.ai Runtime Governance for Agentic AI: Action-Boundary Control with Trusted Provenance and Fail-Closed Execution Abstract Agentic AI systems request tool actions that can modify files, send messages, launch jobs, or change workflow state. This shifts the safety problem from harmful text generation to harmful operational side effects. Prompt-level governance can shape model behavior, but it does n


发布时间:2026-08-19 12:00
抓取时间:2026-08-19 12:05
来源机构:arXiv
阅读原文arxiv.org