资讯
AI可能毁灭人类？专家接连警告
📋总体概括
Anthropic研究员Jacob Coxon周二辞职，公开指责Anthropic与OpenAI在竞相研发递归自我改进（RSI）的超级智能，称开发者真心相信2030年前AI可能毁灭人类，其帖子浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger随后回应称认同这一预警，个人估计未来十年内AI毁灭人类的概率超过10%，并表示业界尚未解决超级智能对齐问题，AI安全焦虑正从边缘议题走向行业内部公开决裂。
⚡关键信息
- ▸曾任职Anthropic和OpenAI的研究员Jacob Coxon辞职，指责两家公司「拿我们的生命做赌注」。
- ▸Coxon称开发者真心相信2030年前AI可能毁灭人类，警告超人系统能入侵任何系统并获取真实权力。
- ▸争议核心是递归自我改进（RSI）：AI在无人干预下设计后续版本，目前尚未实现但被多家公司警告风险。
- ▸Anthropic对齐负责人Hubinger回应称认同预警，估计未来十年AI毁灭人类概率超过10%。
- ▸Coxon帖子浏览量超7000万次，引发业界对AI失控风险的广泛共鸣与讨论。
🔥犀利点评
最讽刺的一幕出现了：亲手造AI的人一边喊着「可能毁灭人类、概率超10%」，一边继续打卡上班搞研发。如果真信自己说的是赌命，负责任的做法是辞职后推动监管而非只发推文收割7000万流量。说白了，「毁灭论」既是安全学家的真诚忧虑，也成了头部公司抬高壁垒、吓退竞争者的叙事工具——恐慌本身已经是一门生意。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 凤凰网 阅读全文 →