Flock Safety推出的AI搜索工具正引发广泛争议。该工具允许警察通过摄像头进行人物搜索,而不仅限于车牌识别,其核心功能是AI驱动的监视列表,可对指定区域进行持续自动匹配。过去一年,Flock面临强烈抵制,多地警局取消合同,国会议员也致信质疑,尤其是德州副警长利用其搜索83,000个摄像头追踪堕胎女性的案例。尽管Flock在8月承诺缩短数据保留期、强制案件代码和自动审计,但WIRED分析发现,这些护栏只能记录滥用行为,无法真正阻止。专家指出,Flock的AI系统在部门视野之外决定可搜索的人物描述,且无人能衡量其错误率,将不准确风险转嫁给执行搜索的警官。更令人担忧的是,系统对种族、宗教等敏感类别设限,却对政治和文化表达仅设减速带而非停止机制,这与宪法第一修正案的保护精神相悖。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅