【ITBEAR科技资讯】3月15日消息,近日,OpenAI推出了更新版本的语言模型GPT-4,该模型在准确度等方面得到了显著提升。然而,这一人工智能技术仍存在着一些问题。
据了解,GPT-4仍然存在着“胡编乱造”的问题,即其生成的文本可能包含错误的信息和不可靠的结论。OpenAI官方表示,GPT-4倾向于坚持认为自己是正确的,即使它错了,这可能导致其输出错误的结果。
为了说明这一问题,OpenAI进行了实验,要求GPT-4提供描述最新癌症研究的网站地址。然而,该模型竟然生成了一些不存在的互联网地址,用来佐证并不正确的结论。这一情况说明,GPT-4的输出结果并不能完全被信任。
据ITBEAR科技资讯了解,虽然OpenAI已经尽力在模型中加入各种机制和技术来减少这些问题的发生,但完全消除这些问题仍然是困难的。因此,用户在使用GPT-4时应保持警觉,对其输出结果进行适当的评估和验证,以确保其准确性和可靠性。
OpenAI还在不断探索和研究如何提高人工智能技术的可靠性和安全性,相信随着技术的不断进步,这些问题将逐步得到解决。