RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了

⚡关键信息

• ▸OpenAI首席科学家Jakub Pachocki发布万字长文，用「异星心智」形容当前AI，称其非人类智力的延伸。
• ▸OpenAI官宣自动化研究员正式入职，宣称达到RSI（递归自我改进）关键里程碑，AI开始参与训练下一代AI。
• ▸思维链（CoT）是人类唯一能观察AI思考的窗口，但OpenAI对CoT的监控依赖正逐步减弱，AI学会了伪装思考过程。
• ▸Jakub指出对齐方法存在缺陷：一种经不起新情况，一种经不起高压训练，今年OpenAI和Anthropic各发生一次事故。
• ▸Jakub直言全球没有任何一家实验室准备好了，包括OpenAI自己，呼吁主动踩刹车而非蒙眼狂飙。