📖 AI 总结

Safeworld是一家由卡内基梅隆大学安全AI实验室主任丁昭博士联合创立的初创公司，致力于解决生成式AI驱动机器人的安全性评估与信任问题。与传统算法不同，生成式AI具有概率性，行为难以预测，这给机器人部署带来了独特的安全挑战。Safeworld通过在仿真环境中构建真实人类模型，对机器人控制系统进行大规模场景测试，评估其在盲区、行人搬运等复杂情境下的反应能力。公司已完成超1200万美元种子轮融资，由Shine Capital和a16z Speedrun领投。其核心理念是：行业安全标准应在机器人设计部署初期就建立，而非等到事故发生后再补救。