“AI对齐专家”入驻OpenAI董事会，立即警告AI失控风险及灾难性后果！

⚡关键信息

• ▸OpenAI任命AI对齐权威专家Paul Christiano加入非营利基金会董事会和安全与保障委员会，与委员会主席Zico Kolter共事。
• ▸Christiano警告：若构建超级智能时缺乏更完善的协调机制，人类将永久失去对AI的控制，大多数人可能丧命。
• ▸他认为基于近期AI能力发展轨迹，短期内存在灾难性且不可逆转的控制权丧失的巨大风险。
• ▸他直言包括OpenAI在内的整个AI行业目前尚未走上将此类风险降至可接受水平的道路。
• ▸Christiano现任美国商务部CAISI高级技术顾问，2024年前曾担任OpenAI竞争对手Anthropic非营利信托成员。