资讯
AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！
📋总体概括
财联社9月9日报道，Anthropic现年27岁的资深研究员Jacob Coxon于周二宣布辞职并退出AI行业，因其不愿参与全行业盲目冲刺「自我演进型AI」的赛跑，担忧递归式自我改进（RSI）系统失控将给人类带来灾难性后果。他称到明年年底局势可能失控，且在巨头竞争与中国新锐企业夹击下，牺牲安全性已成普遍筹码。此前OpenAI首席科学家亦发文呼吁放慢开发，安全危机正在顶级AI企业内部蔓延。
⚡关键信息
- ▸Anthropic 27岁研究员Jacob Coxon于周二辞职，宣布退出AI行业，明确反对冲刺自我演进型AI
- ▸RSI指AI以自身改进结果为输入持续优化自身并修改架构的闭环，被视为通向AGI的关键路径
- ▸Coxon称同行圈内流行用「决战时刻」「终局之战」描述AI自主迭代轨迹，并预言明年年底局势可能失控
- ▸此前OpenAI于9月6日首次公开披露内部RSI进展，其首席科学家也已发文呼吁放慢AI开发
- ▸Coxon指出在巨头互搏与中国新锐企业夹击的竞争下，牺牲安全性几乎成不可避免的选择
🔥犀利点评
研究员用脚投票，比任何论文都更有说服力：连造AI的人都不敢赌了。更讽刺的是，Anthropic本是以安全为卖点立身的公司，如今连它的人都喊失控，行业的「安全叙事」基本破产。RSI本质是效率的军备竞赛，一旦OpenAI公开秀肌肉，无人敢踩刹车。Coxon辞职救不了任何人，但说明一个残酷现实：刹车者只能下车，油门从来不由他们控制。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →