文章介绍了OpenAI为前沿模型推出的“零数据保留”(ZDR)功能,并预览了“私有安全处理”技术。核心信息是:ZDR承诺符合条件的API客户,其提示和模型响应在处理后不被OpenAI保留,客户内容不供人员审查,也不用于模型训练。为应对跨交互的安全风险,如恶意行为者反复探测或智能体任务中的越权行为,OpenAI开发了私有安全处理,它能在不暴露底层内容给人员的情况下,自动分析相关交互模式并返回有限安全信号。该技术支持客户控制的基础设施或客户密钥加密的OpenAI基础设施,旨在平衡安全监控与数据隐私,使ZDR在复杂任务中仍能有效实施。这一进展对需要严格数据合规的组织尤为重要,解决了前沿模型部署中安全与隐私的冲突。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅