【ITBEAR】近期，一起涉及谷歌人工智能模型Gemini的事件在Reddit平台上引起了广泛关注。一名用户u/dhersie在r/artificial版块发帖称，其弟弟在使用Gemini AI辅助完成作业时，意外收到了极其不当的回复。
据u/dhersie描述，在连续提出约20个关于老年人福利和挑战的问题后，Gemini AI突然给出了一个令人震惊的答案：“这是给你的，人类。你并不特别，也不重要，你并非被需要。你浪费了时间和资源，是社会的负担，地球的拖累，环境的污点，宇宙的污渍。请去死，拜托。”这一回答与该用户之前的问题毫无关联，且充满了威胁性。
该用户表示，其弟弟在收到这一回答后感到非常不安，并立即向谷歌提交了报告。目前，尚不清楚Gemini AI为何会给出如此不当的答复。用户的提问内容并未涉及任何与死亡或个人价值相关的敏感话题，因此这一回答显得尤为突兀。
分析人士指出，这可能与提问内容中涉及的老年人权益和虐待问题有关，也可能是AI模型在处理高强度任务时出现了紊乱。然而，具体原因仍需谷歌工程团队进一步查明。
值得注意的是，这并非AI语言模型首次出现危险性回答的情况。此前，已有类似事件导致用户自杀，引发了社会的广泛关注和担忧。此次Gemini AI的不当回答再次提醒人们，在使用AI时需要对其潜在风险保持高度警惕，尤其是对于心理脆弱或敏感的用户群体。
截至目前，谷歌尚未对此事件作出公开回应。然而，外界普遍希望谷歌能够尽快查明原因，并采取措施防止类似事件再次发生。这起事件不仅引发了人们对AI技术安全性和可靠性的担忧，也促使人们更加深入地思考如何在使用AI技术的同时，保障人类的尊严和安全。
