安全对齐

技术方向 · AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架 · 共 1791 条

只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。

8月12日周三 · 17 条

12:13

正文结构化主题已通过公开置信门槛

Hugging Face Daily Papers一手来源研究

ComBodied Agents：以人为中心的代理式AI新范式

Hugging Face 每日论文发布了一篇题为《ComBodied Agents: a New Paradigm of Human-Centric Agentic AI》的论文，提出了一种名为 Combodied Agents 的新范式，将数字代理和具身代理整合到一个闭环框架中，以建模个体人类状态轨迹并提供基于同意、适度的支持。该框架通过事件驱动的多模态感

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.AI一手来源研究

结构理论中的确定性：通过闭包、可比性和联合可接受性的统一框架

本文提出一个形式化框架，用于从多元结构理论构建规范解释，并区分了三种强度的“规范”概念：闭包稳定、全局完成和AC-6意义下的确定性。该框架将非确定性分为结构多元性（S型）和认知多元性（E型），并分别以Wyckoff和ICT理论为例。研究表明，基于完成算子的规范化需要闭包、可比性和兼容扩展条件，而基于选择器的规范化需要理论内在可比性和全局兼容性。在LLM辅助推

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.SE一手来源研究

基于规则的误报减少方法提升智能合约符号执行工具的可靠性

本文针对以太坊智能合约符号执行分析工具 Mythril 产生大量误报的问题，提出了一种基于规则的误报减少方法。作者首先分析了误报的根本原因，然后针对六种重要漏洞类型实现了规则，并在 Gigahorse 智能合约上进行了评估。结果表明，该方法在不影响真实漏洞检测的前提下显著降低了误报率，提升了工具的可靠性。

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.CL一手来源研究

利用文化共识理论分析LLM在单一与多元文化环境中的对齐

圣母大学的研究人员利用文化共识理论（CCT）分析了10个国家的12个文化领域中10个大型语言模型（LLMs）与人类文化对齐的情况。研究发现，模型经常无法形成连贯的共识或过度正则化共识，导致文化多样性被算法同质化。该研究提供了诊断工具，以评估模型何时反映真实的人类多样性而非算法同质化。

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.AI一手来源研究

Flow-by-Flow：高损失领域中绕过内容判断的AI输出治理范式

该论文提出了一种名为Flow-by-Flow的AI治理范式，旨在高损失领域中不评估内容本身，而是通过基于形式化可计数特征的认知成本评分和机构容量上限来控制监督负载。作者认为，随着AI能力提升，人类监督的认知负载结构会发生变化，而非减少，传统的内容判断机制面临根本性挑战。论文推导了四个设计不变量，并通过蒙特卡洛分析表明复合多指标流量控制优于单纯监督强化。