资讯🔥7.0
OpenAI首席科学家：AI太强了，该踩刹车了！
📋总体概括
OpenAI发布最强模型GPT-6 Astra之际，其首席科学家Jakub Pachocki发出罕见警告，称AI已强大到需要全人类主动踩刹车，并将AI称为「异星心智」——越来越聪明但思维方式与人类完全不同，人类知其所能却不知其所想。他担忧随着AI自主干活增多，推理过程不再以文字呈现，人类对其决策机制的可观测窗口正在关闭；若AI进一步改进AI，人类能否看懂并叫停将成为根本性问题。
⚡关键信息
- ▸OpenAI刚发布最强模型GPT-6 Astra，首席科学家Jakub Pachocki随即公开呼吁全人类主动踩刹车
- ▸Pachocki将AI命名为「异星心智」，指其思考方式与人类完全不同，能力可测但动机不可知
- ▸过去AI执行复杂任务会输出大段推理文字供人类审视，如今这扇观察窗口正逐渐关闭
- ▸AI自主干活越多，决策过程越不写成文字，人类越难理解其如何做决定
- ▸下一步AI可能开始改进AI，届时人类能否看懂、必要时能否叫停存疑
🔥犀利点评
首席科学家一边发布最强模型一边喊踩刹车，这套「先踩油门再谈刹车」的话术早已是行业标准表演——警告本身就是最好的营销，恐惧带来流量和政府关注，模型照样照常推进。真正值得注意的不是喊话，而是「异星心智」这个提法：当推理链不再以文字暴露，可解释性确实是硬伤。但要指望OpenAI自己给自己踩刹车，无异于与虎谋皮，真正的刹车只能靠监管和竞争格局，而不是科学家的良心。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →