ITBear旗下自媒体矩阵:

ChatGPT运行成本高达70万美元,OpenAI面临巨大挑战

   时间:2023-04-21 09:24:27 来源:ITBEAR编辑:茹茹 发表评论无障碍通道

【ITBEAR科技资讯】4月21日消息,据报道,使用 OpenAI 语言模型的公司一直在承担高昂的价格。创业公司 Latitude 开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏,运行该模型的费用在2021年达到每月20万美元。该公司最终决定改用 AI21 Labs 支持的语言软件提供商以降低成本。

芯片行业研究公司 SemiAnalysis 的首席分析师迪伦·帕特尔指出,OpenAI 每天为运行 ChatGPT 投入的成本可能高达 70 万美元,主要来自于 ChatGPT 需要庞大的算力才能进行基于用户输入信息的反馈,如撰写求职信、生成教学计划等。他表示:“大部分成本都来自于昂贵的服务器。”

过去几年,使用 OpenAI 语言模型的公司也一直在承担高昂的价格。据ITBEAR科技资讯了解,微软正在开发一款代号为“雅典娜”的人工智能芯片,旨在降低生成式人工智能模型的运行成本。该项目于2019年启动,最早可能在明年发布。微软与 OpenAI 达成了 10 亿美元的投资协议,要求 OpenAI 仅在微软的 Azure 云服务器上运行其模型。微软启动这一芯片项目的背后有两方面思考,一方面是寻找更便宜的方案去替代英伟达的 GPU 芯片,另一方面是意识到他们在自主芯片开发方面落后于谷歌和亚马逊。

SemiAnalysis 的另一位分析师阿夫扎尔·艾哈迈德表示,训练 ChatGPT 背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT 的推理成本超过了训练成本。”创业公司 Latitude 的首席执行官尼克·沃尔顿表示:“我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”

标签: ChatGPT
举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version