美研究员发出“末日警告”：AI若失控，可能会在将来毁灭人类

📋总体概括

美国AI公司Anthropic三位研究人员公开发出警告，称失控的AI可能在本十年内毁灭人类。研究员雅各布·考克森8日在X平台宣布辞职，称其在OpenAI和Anthropic从事AI预训练研究三年间，两家公司均未承担应有责任，正押注自我改进型超级AI研发。Anthropic对齐科学团队负责人胡宾格回应称考克森说法属实，其个人估计未来十年内AI毁灭人类的可能性超过10%，但相关对齐问题尚未解决，AI发展速度远超安全研究进展。