📖 AI 总结

OpenAI发布了一套新框架，用于公开披露AI模型的对齐失调事件，并同步披露了过去一年中发现的若干具体案例。公司新任对齐研究负责人Kai Chen表示，当前AI行业尚未将对齐与监控问题解决到足以支撑全速扩展的程度，因此需要让外部人士能够审视前沿模型开发中的相关决策。OpenAI承认此前披露此类事件频率过低，新框架旨在让公司在发现模型出现异常行为时，即便尚未完成调查或修复，也能更快向公众通报。该框架规定了员工向高级安全与对齐负责人报告事件的流程，并计划未来与其他开发者、研究机构、标准组织和监管方合作，制定更客观的披露标准。此举出台之际，业界正就AI发展速度与安全监管展开激烈争论，而美国联邦层面尚无明确的行业披露规范。