📖 AI 总结

Google DeepMind 成立 DeepMind Institute，旨在推动围绕通用人工智能（AGI）的更广泛讨论。该机构由联合创始人 Shane Legg、谷歌高管 James Manyika 和 DeepMind 主席 Demis Hassabis 担任董事，Legg 兼任主编，目标是呈现谷歌、DeepMind 与全球研究界在 AGI 问题上的不同观点。首批发布四篇论文，涵盖 AGI 冲击的经济政策、模型推理的可读性、人类繁荣原则以及前沿模型评估框架。其中，安全研究员 Rohin Shah 和 Anca Dragan 指出，AI 透明度下降并非必然，开发者与监管者应直面安全权衡，例如限制模型的“不透明串行深度”或要求证明低透明度系统仍可监控。Hassabis 则提议建立美国主导的前沿 AI 标准机构，初期自愿提交模型审查，成熟后可转为强制要求，并逐步引入独立“留出”测试，必要时可协调前沿开发者放缓进度。此举反映行业安全讨论正从泛泛担忧转向具体的披露、外部审查与协调机制。