机器学习感知出错也不怕！两步校正策略让73%危险场景恢复安全，仅多花2.8%时间
Correcting Learning-based Perception for Safety
📖 AI 总结
本文针对基于机器学习的感知模块在自动驾驶等安全关键系统中边界不明确、易导致不安全或过度保守控制的问题，提出了一种两步纠正策略。首先通过离线计算，利用感知契约的原像刻画机器学习状态估计所产生的不确定性；随后在运行时采用风险启发式方法，从不确定估计中选取特定状态来驱动控制决策。作者在多种天气与道路场景下，对基于视觉的自适应巡航控制模块进行了大量仿真评估。结果显示，在Yolo与LaneNet导致安全违规的45个场景中，该运行时纠正策略在73%的场景中保持了安全性，未能恢复的27%源于感知契约原像构造不完全一致。同时该方法并不过度保守，纠正场景下平均完成时间仅增加2.8%，干预程度轻微。
🔑 关键词速览
| 感知契约 | 一种形式化规范，用于描述感知模块在特定条件下的输入输出行为及其保证。 |
| 原像 | 在数学中，指函数输出值对应的所有输入值的集合；此处指感知契约输出对应的可能输入状态集合。 |
| 自适应巡航控制 | 一种车辆控制系统，能自动调整车速以保持与前车的安全距离。 |
| Yolo | 一种流行的实时目标检测算法，常用于自动驾驶中的物体识别。 |
| LaneNet | 一种用于车道线检测的深度学习模型，常用于自动驾驶中的车道保持。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅