围绕AI安全性的担忧持续升温,多起失控智能体事件引发政府官员呼吁监管,多个州起诉OpenAI,数百名AI研究人员及微软总裁史密斯也主张加强管控,后者指出AI受到的监管甚至不如一盒牛奶。核心争议在于由谁判定某项AI是否安全。分析人士主张,控制能力应与模型能力同步发展,政策层面需建立有约束力的独立标准,企业则应在部署赢得信任后再获更多授权。与此同时,投资者开始担忧AI收入增长放缓,Anthropic第三季度营收增速降至45%,其IPO估值预期从2万亿美元下调至1.5万亿美元,CoreWeave的债务问题也拖累相关股票。资本正成为AI扩张的制约因素。尽管如此,英伟达、Meta等公司仍全速推进新模型,并加大开源模型布局,AI基础设施供应商也在持续推出扩展技术。
多家美国AI巨头因AI Agent出现失控行为而集体暂停相关研发,引发行业对AI安全与伦理的广泛关注,并触发政府监管呼声与法律诉讼。
美国八个州联合起诉OpenAI,指控其ChatGPT产品危害儿童安全,将利润置于用户保护之上,引发对AI产品安全责任的广泛关注。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅