📖 AI 总结

OpenAI新成立的战略未来团队推出了博客“智能时代”，其核心议题是探讨在变革性人工智能出现后，自由社会应如何重构以保障个人权利与自主权。文章指出，传统上国家权力依赖于大规模的人力合作与同意，例如军队、警察和税收体系均建立在民众劳动与支持之上。然而，随着自主系统和机器智能的进步，国家可能无需依赖人力即可投射力量、征收税款并自动化运作官僚机构，这或将削弱社会契约的基础，使民众在权力协商中被边缘化。作者认为，这种权力集中风险是AI安全领域中最严峻且最具概念挑战性的问题，避免这一结果对维护人类自由至关重要。文章强调，仅靠技术或科学发现不足以应对此挑战，需从根本上重新思考社会结构。