资讯
Anthropic研究员因“失控”AI担忧辞职，安全隐忧蔓延顶级实验室
📋总体概括
Anthropic研究员Jacob Coxon以担心人类失去对AI控制为由宣布离职，成为该公司首批因安全顾虑出走的员工之一。他警告最快到明年底局面可能失控，认为缺乏政府干预或行业协调减速时，没有公司能负责任地开发AGI。同日，OpenAI首席科学家Jakub Pachocki发文呼吁全球协调推进行业减速并寻求政府介入，OpenAI还宣布AI自动化研究员正式入职并公开递归自我改进（RSI）关键里程碑数据。安全担忧与竞速氛围叠加，令顶级实验室的风险评估问题再度升温。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon离职，理由是不愿参与可能导致AI系统失控的行业竞赛
- ▸他警告最快到明年底AI局面可能已失控，担忧自主迭代的AI能提升到拒绝执行人类指令
- ▸他从OpenAI转投Anthropic正是看中其安全声誉，但最终认为没有公司能单独负责任地开发AGI
- ▸OpenAI首席科学家Jakub Pachocki发文《一个异星心智》，呼吁全球协调减速并寻求政府介入
- ▸OpenAI宣布AI自动化研究员正式入职，公开递归自我改进RSI的关键里程碑数据
🔥犀利点评
最讽刺的一幕出现了：以安全立身的Anthropic也留不住安全研究员，而OpenAI一边喊着要减速求监管，一边把自动化研究员请进大门、公开RSI里程碑——嘴上是刹车，脚下是油门。当离职者的警示与竞速里程碑同天出现，说明安全叙事已彻底沦为公关外衣。Coxon那句关于MacBook与曼哈顿计划的对比，点破了整个行业的真相：人类命运的决策权，正掌握在一小撮工程师的私企服务器里。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →