【ITBEAR科技资讯】8月7日消息,近日有消息称,OpenAI正秘密训练GPT-5大模型,其规模将是前代产品GPT-4的10倍以上。尽管OpenAI CEO此前否认了相关传闻,但业界普遍相信该项目正在进行中。不过,GPT-5的训练成本也因此大幅增加,特别是对于用于训练AI的显卡资源而言,已经变得极为稀缺。
据业内人士推测,GPT-4可能在10000-25000张A100显卡上进行了训练,而GPT-5所需的显卡数量则尚不为人所知。一位业内专家马斯克估计,为了训练GPT-5,可能需要高达30000-50000张H100显卡,因为这些显卡性能更加强大,可以更高效地完成训练任务。
除了OpenAI,其他知名科技公司如meta、谷歌、微软、苹果、特斯拉以及马斯克本人,也都投身于各种高性能AI项目的研发。根据外界分析,这些公司对H100显卡的总需求估计高达43.2万张,总价值超过150亿美元。而这还只是针对美国科技行业的需求估算,实际上,国内市场的需求也不容小觑。虽然可能只能购买特供版的A800、H800加速卡,但这并未阻挡国内企业投身于AI大模型的研发,他们不惜加价竞购AI显卡,希望抢占先机。
在当下的市场格局中,只有NVIDIA能够满足AI显卡的需求,AMD及Intel的AI显卡不仅在性能和生态方面存在问题,而且供应量跟不上市场需求。AMD旗下大杀器MI300X显卡预计将在年底才能开始出货,而要到2024年才能进行大规模供货。