资讯
OpenAI首席科学家称AI或很快迈入自我进化阶段,期望业界自愿放缓开发
📋总体概括
OpenAI首席科学家Jakub Pachocki公开警告,AI演进速度极快,正变得愈发难以被人类理解和控制,并提出两条应对路径:更严格地引导AI与人类利益对齐,或在必要时放慢开发速度。他表示希望在建立共同安全门槛之前,AI实验室之间能形成自愿放缓开发的普遍做法。作为头部实验室首席科学家发出此类表态,反映前沿AI能力逼近开发者可控边界,但「自愿」机制缺乏约束力,实际落地存疑。
⚡关键信息
- ▸OpenAI首席科学家Jakub Pachocki警告AI演进极快,越来越难为人类理解和控制
- ▸他提出两条安全路径:严格引导AI与人类利益对齐,或在必要时放慢开发
- ▸他期望在建立共同安全门槛前,自愿放缓开发成为行业普遍现象
- ▸该表态以周日发文形式发出,系OpenAI高层对AI失控风险的公开预警
🔥犀利点评
首席科学家一边造车一边喊请大家慢点开车,这话听听就好。OpenAI自身融资压力、竞速Anthropic和谷歌的节奏摆在那,「自愿放缓」没有任何执行机制,本质是安全姿态表演兼为监管游说铺路。真正值得注意的不是承诺,而是连内部人都承认模型已逼近不可控边界——这比任何公关表态都更值得警惕。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 36氪快讯 阅读全文 →