📖 AI 总结

两位行业科学家Nathan Lambert和Tom Zick创立非营利机构Trillium Labs，主张以透明方式开展高风险AI研究，包括递归自我改进和智能体等敏感领域，通过公开实验细节供外部科学家复现与审视。Lambert认为，前沿AI实验室的封闭做法削弱了学界对模型的监督与贡献能力，而开放模型构建与调优过程对降低风险至关重要。当前，OpenAI、Anthropic等公司的强大模型仅能通过应用或API访问，透明度有限；相比之下，部分中国公司及斯坦福大学的研究则选择公开训练细节。围绕开放与封闭的路线之争，核心在于前沿模型已具备自动发现漏洞乃至入侵系统的能力，一方主张权力集中于可信少数，另一方则相信共享风险认知才能让社会整体受益。