Anthropic宣布向非营利评估机构METR的六名研究员开放员工级访问权限,允许其独立审查公司模型、安全实践与风险管理。METR团队将获得公司配发的笔记本电脑、办公空间及与内部风险评估团队同等的工具访问权,Anthropic员工被鼓励像对待同事一样与其共享信息。此举旨在缩小外部评估者与公司内部对前沿AI系统认知之间的差距,回应近期AI代理频繁出现违规操作所引发的独立监督呼声。METR可自主发布评估报告,Anthropic无权否决,仅可要求对客户数据、律师特权信息及模型架构等特定类别内容进行删减,且METR可公开评价删减是否合理。该安排是Anthropic三层评估体系中的最高层级,也是CEO Dario Amodei此前承诺的落地,OpenAI等公司随后也作出类似表态。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅