资讯
ChatGPT和美国“杀人犯”聊天后报警了!AI有权审判我的对话框吗?
📋总体概括
美国一名前高盛分析师周某在ChatGPT对话中完整描述谋害前女友的计划,OpenAI安全系统识别高危内容后主动向FBI提交线索,当事人最终认罪获刑,一起预谋恶性案件被提前阻断。但事件引发巨大争议:用户默认AI对话属私密交流,平台却可将聊天记录递交执法机关,AI安全检测的边界、AI能否作为刑事案件证人、平台上报权限是否需要法律授权等问题被推上台面。这一案例成为检验AI隐私权益与公共安全如何平衡的标志性事件。
⚡关键信息
- ▸前高盛分析师周某向ChatGPT完整描述谋杀前女友计划,被OpenAI安全系统识别并上报FBI,当事人认罪获刑
- ▸周某21岁前女友因其反复无常、嫉妒控制欲强于今年3月电话分手,随后遭换号骚扰和定位追踪
- ▸事件核心矛盾:AI报警成功阻断恶性案件,但也打破了用户对私人对话边界的默认预期
- ▸法律层面留下悬而未决的问题:AI能否作为刑事案件证人,平台安全检测边界该划在哪里
🔥犀利点评
别急着给OpenAI鼓掌。这次拦截成功,本质上是安全系统在小概率场景下赌赢了一次,而不是一套经过法律授权的成熟机制。真正可怕的问题是:检测标准由平台单方面制定,上报动作无需司法审查,今天拦杀人计划,明天会不会上报言论审查范畴的内容?用户以为的私密树洞,实际是被平台随时调阅的证词库。美国尚无判例厘清边界,国内更是一片空白。AI安全能力越强,越需要法律先划红线,否则每次报警都是一次未经授权的监听。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 果壳-科学 阅读全文 →