自主智能体主动观测新突破:零误接受认证状态恢复,大幅减少传感器读取!
Certified Task-Conditioned Active Observability
arXiv ML (stat.ML) 重要 #主动学习#可观测性#安全决策 🕐 今天 12:00

📖 AI 总结

本文提出“任务条件主动可观测性”这一新框架,研究自主智能体在作用于不可观测物理系统前,如何判断哪些潜在差异会影响下游任务、需要多少次主动干预才能加以确认,以及何时应当放弃以避免灾难性错误。作者将经典可观测性从无条件的二元判定推广为受任务约束的复杂度度量,即在校验误差与安全弃权保证下识别任务相关状态所需的最小最坏情况期望交互成本。理论证明任务预测等价诱导出唯一的最小充分商,可在保持复杂度不变的同时剔除无关区分;确定性情形由最优自适应区分树与贝尔曼递归刻画,噪声情形则服从停止转录相对熵下界与自适应鞅证书。作者还构建了带分阶段恢复的认证观察器,实验显示其在高维系统中实现零误接受,并显著减少传感器读取与模型步数。

🔑 关键词速览

任务条件主动可观测性复杂度在认证误差和安全弃权保证下,识别任务相关状态所需的最小最坏情况期望交互代价。
最小充分商 $\mathcal{H}/\!\sim_\tau$由任务预测等价诱导的唯一最小充分划分,消除任务无关区分而不影响可观测性复杂度。
自适应区分树确定性情形下刻画最优主动观测策略的决策树,通过自适应选择干预来区分任务相关状态。
停止转录相对熵下界噪声情形下主动可观测性复杂度的信息论下界,基于停止转录的相对熵度量。
自适应鞅证书无需独立性假设即可组合的鞅过程,用于提供噪声环境下认证观测的风险保证。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅