【ITBEAR科技资讯】4月21日消息,近日有报道称,使用OpenAI语言模型的公司一直在承担高昂的价格,其中包括创业公司Latitude,该公司开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏,该公司首席执行官尼克·沃尔顿(Nick Walton)表示,运行该模型以及相应的购买亚马逊AWS云服务器的费用在2021年达到每月20万美元。他最终决定改用AI21 Labs支持的语言软件提供商,将公司的人工智能成本降低了一半,至每月10万美元。
SemiAnalysis首席分析师迪伦·帕特尔(Dylan Patel)表示,由于ChatGPT运行在价格昂贵的计算基础设施之上,OpenAI每天为运行ChatGPT投入的成本可能高达70万美元。他指出,ChatGPT需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。据ITBEAR科技资讯了解,帕特尔最初的估计基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT现在的运行成本可能更高。
事实上,按周来看,ChatGPT的推理成本超过了训练成本。为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片,该项目于2019年启动。在此几年前,微软与OpenAI达成了10亿美元的投资协议,要求OpenAI仅在微软的Azure云服务器上运行其模型。微软启动这一芯片项目的背后有两方面思考,一方面是意识到他们在自主芯片开发方面落后于谷歌和亚马逊,另一方面是寻找更便宜的方案去替代英伟达的GPU芯片。目前,微软大约有300多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和OpenAI内部使用。微软拒绝对此消息置评。