资讯
Worried Anthropic researchers warn that AI ‘could kill all humans’
📋总体概括
Anthropic内部安全团队再现裂痕：一名资深安全研究员公开警告，本十年末前AI「可能杀死全人类」的概率超过10%；而就在几小时前，其同事因担忧Anthropic及同行在无法控制的「超人系统」上草率竞赛而宣布辞职。两条事件叠加，凸显前沿AI实验室内部对自身研发路线失控风险的深刻分歧，也把「安全研究与商业化竞速」的矛盾推向台前。
⚡关键信息
- ▸Anthropic资深安全研究员估计，AI在本十年末前「可能杀死全人类」的概率超过10%。
- ▸警告发布仅数小时前，另一名研究员因安全担忧从Anthropic辞职。
- ▸辞职者指责AI实验室及其竞争对手正草率竞逐无法控制的「超人系统」。
- ▸事件暴露前沿AI公司内部安全立场与研发竞速之间的直接冲突。
🔥犀利点评
自家安全研究员一边预测10%的灭绝概率，一边公司继续烧钱冲AGI，这本身就是最大的讽刺。10%不是学术数字，是重大风险，任何正常行业早该停工了。Anthropic用「安全公司」人设融资，如今人设被自己人拆台——要么警告是危言耸听，要么继续竞赛就是在赌全人类的命，两者必居其一。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 The Verge 阅读全文 →