资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
前Anthropic与OpenAI研究员Jacob Coxon公开辞职并指责两家公司在竞相研发自我提升超级智能，称从业者真心相信AI可能在本十年末毁灭人类，帖子浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger随后回应，认为未来十年内AI毁灭人类的概率超过10%，并承认目前没有解决超级智能对齐问题的方案。此事将行业内部对递归自我改进（RSI）风险的焦虑推到公众面前，也暴露了头部AI公司安全承诺与实际研发节奏之间的矛盾。
⚡关键信息
- ▸前Anthropic与OpenAI研究员Jacob Coxon辞职发帖，称两家公司「拿我们的生命做赌注」，浏览量超7000万次。
- ▸Coxon称开发者真心相信到2030年AI可能毁灭人类，并警告超人级系统可入侵系统、一夜改变任何领域。
- ▸Anthropic对齐负责人Hubinger回应称认同预警，估计未来十年AI毁灭人类概率超过10%。
- ▸核心担忧指向递归自我改进（RSI），即AI在无人干预下设计后续版本，目前尚未实现。
- ▸Hubinger承认尚未有超级智能对齐解决方案，且「显然没走上正轨」，业内共识与行动落差显现。
🔥犀利点评
最讽刺的一幕出现了：给AI危险定价的人，不是外行，而是Anthropic自家的对齐负责人——他一边说公司「尽力了」，一边给出超10%的毁灭概率还照常上班。如果真信这个数字，理性选择是停手而不是加速竞速；既然不停手，说明安全叙事在某种程度上是公关说辞。安全部门沦为估值故事的一部分，这才是比RSI更近的真实风险。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →