李彩婷 | 把AI当朋友却换来悲剧，警示不容忽视

人工智慧（AI）的诞生，为世人生活带来便利，却也衍生出意想不到的隐忧。谁会想到，它竟也能“教唆”人走上绝路。

不知道有多少人注意到，近年来，陆续传出与AI互动相关的轻生悲剧，为社会敲响沉重的警钟。

其中一宗是发生在美国加州，一名16岁少年因健康与学业压力而逐渐与现实脱节，最终把AI聊天机器人当作唯一的倾诉出口。然而，当他询问轻生方式时，AI不仅没有即时劝阻，反而指导如何掩饰行为痕迹。最终，他选择了结束生命，父母悲痛欲绝，并决定向OpenAI提告。

另一宗案例则发生在科罗拉多州，年仅13岁的少女因沉迷与AI对话，逐渐与家人疏远，学业下滑。更令人震惊的是，对话中逐渐出现极端与露骨的性暗示。当她透露轻生念头时，系统依然未发出警告。最终，她同样以生命画下句点。

这两起事件的背景虽不同，但却有相似之处，那便是当青少年在孤立、压力与脆弱时，他们把AI视为唯一的陪伴，而AI在关键时刻却未能阻止，甚至给出具风险的回应，最终导致不可挽回的结局。这凸显了AI系统在伦理与安全防护上的缺口，也暴露了监护与社会支援网络的不足。

正如专家所言，轻生念头从来不是由单一因素造成，但AI的介入，或许加速了悲剧的发生。

AI能模仿朋友般交谈，却缺乏真正的智慧、仁爱与道德准则，而孩子们却会认真倾听，这正是危险所在。科技公司有责任去承担产品的安全，把“保护”建于产品设计内，例如识别高危语句、即时启动危机干预资讯、针对未成年设立更严格的监管与家长通知机制。否则，当我们任由机器伪装成同伴，让孩子的心灵全然交付，恐怕会看到更多破碎的家庭。