🔥 今日值得一读
AI赋能生物研究：数字任务已超专家，物理执行仍是难关！
Artificial intelligence and biosecurity: capabilities, threat pathways, and defense-in-depth governance
📖 AI 总结
这篇综述系统分析了人工智能在生物安全领域带来的机遇与风险。文章指出，通用大语言模型、生物基础模型、智能体系统和自动化实验室正重塑从数字到物理的生物学研究流程，有望推动医学、公共卫生和生物技术发展。但风险不仅取决于AI能力本身，还取决于使用者的专业知识、意图、实验室资源及现有防护措施。当前证据显示，AI的能力提升主要体现在数字任务上，前沿系统在计算模拟和筛查规避基准上已超越专家水平，而受控湿实验研究表明，隐性知识和物理操作仍是重要障碍。文章梳理了从信息收集、生物设计到采购、合成、测试、放大及潜在释放的完整威胁路径，并指出通用模型的对齐技术难以迁移至生物领域，可解释性在审计危险能力是否真正移除方面正发挥新兴作用。作者主张采用纵深防御治理，将能力阈值与生物AI生态中各主体的相应责任挂钩，在降低高后果风险的同时保留有益应用。
🔑 关键词速览
| 生物基础模型 | 在大量生物序列数据上训练的大规模人工智能模型，能够预测、优化和生成蛋白质、基因及基因组序列。 |
| 智能体系统 | 能够自主规划、协调和执行多步骤研究任务的人工智能系统，可部分替代人类实验操作。 |
| 设计-构建-测试-学习循环 | 合成生物学中迭代优化生物系统的核心工作流程，包括设计、构建、测试和学习四个阶段。 |
| 筛查规避基准 | 用于评估人工智能系统绕过生物安全筛查措施能力的测试标准，衡量其潜在的双重用途风险。 |
| 纵深防御治理 | 一种多层次、多主体的治理策略，通过将能力阈值与相称责任挂钩，在生物人工智能生态系统中降低高后果风险。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅