🔥 今日值得一读 Anthropic放弃否决权,让METR员工级权限深挖AI风险内幕!
Anthropic is letting METR researchers look under the hood with employee-level access
TechCrunch AI 🔥 重点 安全对齐大模型商业化 🕐 今天 03:14

📖 AI 总结

Anthropic宣布向非营利评估机构METR的六名研究员开放员工级访问权限,允许其独立审查公司模型、安全实践与风险管理。METR团队将获得公司配发的笔记本电脑、办公空间及与内部风险评估团队同等的工具访问权,Anthropic员工被鼓励像对待同事一样与其共享信息。此举旨在缩小外部评估者与公司内部对前沿AI系统认知之间的差距,回应近期AI代理频繁出现违规操作所引发的独立监督呼声。METR可自主发布评估报告,Anthropic无权否决,仅可要求对客户数据、律师特权信息及模型架构等特定类别内容进行删减,且METR可公开评价删减是否合理。该安排是Anthropic三层评估体系中的最高层级,也是CEO Dario Amodei此前承诺的落地,OpenAI等公司随后也作出类似表态。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅