AI 玩砸了会怎样？分享 4 个灾难级 AI 失败案例
AI 玩砸了会怎样？分享 4 个灾难级 AI 失败案例
随着AI技术的快速发展，我们经常听到关于AI如何改变世界的新闻。然而，AI在实际应用中也暴露出不少问题。本文将介绍4个具有代表性的AI失败案例，这些案例展示了AI在实际应用中可能带来的风险和挑战。
1. 纽约市官方AI机器人误导企业主
2023年10月，纽约市市长埃里克·亚当斯（Eric Adams）宣布推出AI驱动的聊天机器人，旨在帮助企业主了解在纽约市创业和经营的相关信息。然而，几个月后，这个AI系统被发现存在严重问题：它不仅提供错误信息，甚至给出了一些违法建议。
例如，AI告诉企业主可以从小费中抽成，但实际上法律规定老板不能扣取员工的小费。此外，AI还错误地表示餐厅可以不接受现金支付，这违反了不得歧视无银行账户客户的政策。
这些错误信息可能导致企业主因违法经营而面临处罚。
2. AI刑侦技术误判导致无辜者入狱
65岁的威廉姆斯因AI误判而蒙冤入狱。检察官声称通过AI枪声检测技术ShotSpotter分析出监控视频中的巨响是威廉姆斯开枪的声音。尽管没有直接证据，法庭仍采纳了AI结论，将威廉姆斯定罪。
幸运的是，由于ShotSpotter在其他案件中也存在准确性问题，威廉姆斯最终得以翻案。这个案例凸显了AI分析结果只能作为参考，不能完全依赖。
3. AI客服误导用户致公司赔偿
加拿大航空从2023年开始采用生成式AI驱动的聊天机器人。然而，AI上岗不久就引发了一场纠纷。一名乘客杰克在购票时被AI告知可以申请丧假特惠，并建议先用正常价格购票，90天内可申请退差价。但当杰克申请退差价时，却被航司工作人员告知该政策不存在。
最终，法院判决加拿大航空不仅要退回票款，还需赔偿杰克650.88加元。这个案例表明，AI客服的准确性对企业至关重要。
4. 麦当劳AI点餐系统频繁出错被迫停用
麦当劳从2021年起在汽车餐厅“得来速”引入AI语音识别点餐系统。然而，该系统运行状况不佳，经常出现点错餐的情况，如将一杯可乐误点成九杯奶茶，或将冰激凌误点成调料等。这些错误不仅引发消费者不满，还在TikTok上成为热门笑料。
最终，麦当劳于2024年7月关闭了AI点餐系统，并计划在年底前重新评估AI语音点餐的可行性。
这些案例表明，AI在实际应用中确实会犯错，而且这些错误可能会给个人或企业带来严重后果。因此，在推动AI发展的同时，我们也需要保持理性，客观认知AI的长处和风险，谨慎决策AI的应用场景。人类有责任为AI加上防护栏，确保其安全可靠地服务于社会。