资讯

万字详解 GPT-6 Astra,Sebastian Raschka 带你读懂循环 Transformer 与隐藏的思维链

原标题: 万字详解 GPT-6 Astra,Sebastian Raschka 带你读懂循环 Transformer 与隐藏的思维链

华尔街见闻·2026/9/15 02:17:10🔗 原文

📋总体概括

OpenAI新旗舰GPT-6 Astra因采用循环深度(looped transformer)架构陷入安全争议:The Information报道称该设计会使部分乃至全部推理过程不可见。首席科学家Jakub Pachocki出面澄清,称要避免「奔向不可监控性的竞赛」,并称Astra的计算图深度与GPT-4差距仍在两倍以内。技术博主Sebastian Raschka发布万字长文,系统解读循环Transformer与隐藏思维链的技术原理,将混乱报道中的技术细节摊开讲清。

⚡关键信息

  • ▸GPT-6 Astra发布前两天,The Information援引内部消息称其采用recurrent depth循环深度设计,可能使推理过程不可见
  • ▸OpenAI首席科学家Jakub Pachocki亲自澄清,强调要避免由混乱报道引发的、奔向不可监控性的竞赛
  • ▸Pachocki透露包括Astra在内的当前前沿模型,计算图深度与GPT-4的差距仍在两倍以内
  • ▸《Build a Large Language Model (From Scratch)》作者Sebastian Raschka撰万字长文,详解循环Transformer与隐藏思维链技术原理
  • ▸过去两周里循环深度成为AI安全讨论焦点,发布后争议进一步升温

🔥犀利点评

这场风波的本质不是技术问题,而是透明度话语权问题。循环深度让推理成本与深度解耦,是真创新,但它天然把思维过程塞进黑箱——安全圈炸锅完全合理。Pachocki亲自灭火恰恰说明OpenAI自己也清楚这点很敏感。值得注意的是「与GPT-4差距两倍以内」这种模糊表述:深度不涨、循环来凑,算力堆到看不见的地方,可监控性叙事和商业竞争力到底哪个优先,OpenAI心里门儿清。

本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文 →