📖 AI 总结

OpenAI新成立的战略期货团队推出了博客“AI Futures”，旨在探讨一个核心问题：自由社会应如何重构，以在适应变革性AI出现的同时保障个人权利和自主权。文章指出，现代国家的权力基础历来依赖于大规模的人力合作与同意，包括军事力量、税收和官僚体系。然而，随着自主系统和机器智能的进步，国家可能不再需要依赖人力来维持权力——从军事投射到收入收集再到行政运作均可自动化。这可能导致权力无需社会契约即可持续，使普通民众在谈判中失去席位，从而威胁人类自由。团队认为，这种权力集中风险是AI安全领域中最重大且最具概念挑战性的问题，其解决对维护自由至关重要。