资讯
‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
📋总体概括
Anthropic研究员Jacob Coxon因担忧AI灭绝风险宣布离职，并公开警告自我改进型AI的危险。他将其比喻为「拿我们的生命赌博」，呼吁各AI实验室之间达成节奏协议，放慢能力递归提升的步伐。这一事件将前沿实验室内部安全分歧摆上台面：研发自我改进AI的机构自身员工开始用离职方式表达抗议，凸显安全承诺与商业竞速之间的张力。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon正式辞职，直接原因是担忧AI带来灭绝性风险
- ▸他警告自我改进AI的危险，称这是在「拿我们的生命赌博」
- ▸他呼吁各前沿AI实验室之间建立节奏协议，协调放慢开发速度
- ▸事件发生在Anthropic内部，说明安全分歧已出现在最以安全自居的实验室之中
🔥犀利点评
最有意思的不是辞职本身，而是辞职发生在Anthropic——一家把安全写进名字和使命的实验室。员工宁可用离职发出警报而不是留在内部推动改变，说明他判断内部机制已挡不住竞速惯性。所谓节奏协议听着理性，实则要求所有玩家同时刹车，在商业博弈里几乎不可能自发达成。这类出走更像道德表态而非有效制动，但它至少撕开一个事实：自我改进AI的军备竞赛，实验室里自己人都不信能被安全管住。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →