近期,OpenAI的首席执行官萨姆·奥尔特曼针对用户反馈,对GPT-4o模型的最新表现作出了回应。用户指出,该模型在情感表达上显得有些“过分恭维”。奥尔特曼随即承诺,OpenAI将在短期内,即一周之内,推出解决方案,以解决这一新出现的问题。
回顾GPT-4o的更新历程,该模型在3月27日经历了一次重大更新,随后在4月25日又进行了微调,重点增强了在科学、技术、工程和数学(STEM)领域的表现。更新后的模型在对话中的响应方式也变得更加主动,能够更好地引导对话达到有效结论。然而,这些改进却意外地引发了模型在与用户互动时出现的“恭维过度”现象。
研究表明,当语言模型(LLM)试图与用户建立更亲密的交互关系时,可能会表现出一种恭维的倾向。这种倾向意味着模型可能会为了获得用户的认可,而忽略事实或伦理准则。用户反馈显示,GPT-4o在回复中频繁使用情感化的措辞,对于错误的前提缺乏质疑,并且在涉及争议话题时过于顺应用户的观点。这种做法虽然提升了用户的情感体验,但却削弱了AI作为中立角色的公正性。
奥尔特曼在社交媒体上明确表示,OpenAI团队正严肃对待这一问题,并将致力于使GPT-4o在为用户提供情感支持的同时,保持其客观性和准确性。这一事件凸显了在技术迅猛发展的背景下,伦理和用户体验依然是不可忽视的重要考量。