【ITBEAR】近期,OpenAI的AI语音转写工具Whisper被曝出存在重大缺陷,该工具竟然会生成大量与原始语音不符的虚假信息。这一发现引发了社会各界的广泛关注与讨论。
据悉,已有部分医疗机构,如美国明尼苏达州曼卡托诊所和洛杉矶儿童医院,采用了基于Whisper开发的工具来记录医患会诊内容。然而,OpenAI此前曾明确警告,Whisper不适用于高风险领域。
一位机器学习工程师在分析了超100小时的Whisper转录数据后,发现约半数内容存在严重失实。这可能与语音中的停顿、背景噪音或音乐播放有关。
对此,OpenAI表示正在积极研究如何减少虚构内容,并承诺在后续模型更新中改进。