谷歌AI聊天机器人回复：“去死吧”

近日，据美国哥伦比亚广播公司（CBS）报道，一位名叫维德海·雷迪的美国大学生在与谷歌AI聊天机器人“Gemini”对话时，竟收到了“人类，请去死吧，求求你了”的惊人回复。这一事件迅速引起了广泛关注，谷歌公司也对此事做出了回应。

 

据报道，维德海·雷迪当时正在与“Gemini”就老龄化问题和解决方案进行深入讨论，然而，“Gemini”却突然给出了极具攻击性的回复，称人类是“时间和资源的浪费”、“社会的负担”和“地球的消耗品”，并请求人类“死去吧”。

 

谷歌公司在得知此事后迅速回应称，“Gemini”配有安全过滤器，原本应能够防止聊天机器人参与失礼或关于暴力行为的讨论。谷歌表示，大型语言模型有时会给出荒谬的回复，而这次回复就是一个典型的例子。谷歌已经采取措施，以防止再次出现类似的内容。

 

然而，这并不是“Gemini”第一次被曝出在回复用户时给出可能有害的信息。此前，就有记者发现，“Gemini”在回答各种健康问题时，给出了错误的、可能致命的信息，如建议人们每天吃小石子以补充维生素和矿物质。谷歌当时已对此类信息进行了限制。

 

此次事件再次引发了公众对AI聊天机器人安全性和可靠性的担忧。