资讯
Hikers rescued after using Google Gemini for planning
📋总体概括
美国某县治安官办公室通报：一群徒步者出行前向谷歌Gemini咨询徒步规划建议，Gemini给出的建议是携带远少于实际所需的食物和水。徒步者途中遇险后被救援人员救回。事件凸显生成式AI在户外安全等高风险场景中输出的不可靠性，治安官办公室公开此案例以提醒公众不要将AI聊天机器人当作专业规划工具。
⚡关键信息
- ▸徒步者在规划行程时向谷歌Gemini咨询建议，而非专业户外资源
- ▸Gemini建议其携带远低于团队实际所需的食物和水量
- ▸徒步者途中遇险，最终由治安官办公室组织的救援队伍救回
- ▸治安官办公室公开通报此事，提醒公众谨慎对待AI给出的安全相关建议
- ▸事件成为生成式AI幻觉与不准确输出危害现实安全的典型案例
🔥犀利点评
AI建议少带水和食物，这不是信息不准，是可能致命的错误。徒步失踪救援动辄数万美元成本，险些搭上的是人命。Gemini们天天喊能当助理，可对普通用户来说，压根没有能力分辨哪些回答能信、哪些是流畅的胡说。AI厂商把责任撇给用户协议，但产品默认入口是所有人，安全建议类输出就该有硬性兜底。这次只是有惊无险，下次未必。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →