11月20-22日,英伟达GTC(GPU技术大会)在苏州举行。会上,英伟达宣布,NVIDIA Turing T4云GPU在中国落地,数家科技巨头开始使用T4推出新的产品和服务。
T4基于全新NVIDIA TuringTM架构,T4 GPU外形非常小巧,功耗只有70W,采用多精度Turing Tensor Core和新的RT Core。T4可灵活适应于标准服务器或任何开放计算项目的超大规模服务器设计。服务器设计的范围可从单个T4 GPU直至单节点中的20个GPU。
▲NVIDIA Turing T4云GPU
英伟达称,针对AI推理工作负载,配备2个T4 GPU的单个服务器最多可取代54台CPU服务器。针对AI训练,配备2个T4的单个服务器可取代9台双套接字CPU服务器。
T4在两个月前发布,据英伟达创始人兼CEO黄仁勋在会上表示,搜索、社交媒体和在线购物网站等互联网公司是T4的早期使用者,也是最大的终端客户群。英伟达曾在上周宣布,T4在仅推出2个月后,即在全球领先的计算机制造商的57种独立服务器设计中发挥重要作用。此外,谷歌云宣布谷歌云平台客户可以使用T4。
据悉,中国首批开始使用T4扩展并提升工作负载横向扩展的企业包括百度、腾讯、京东以及科大讯飞。中国领先的计算机制造商也将推出一系列基于T4的服务器,包括浪潮、联想、华为、曙光、浪潮商用机器和新华三等,各家新的服务器将在今年底前开始供货。
英伟达副总裁兼加速计算总经理Ian Buck表示,这是NVIDIA首次在中国推出针对云服务的GPU,为公共云和私有云提供所需的综合性能和能效,可大规模、更经济地运行计算密集型工作负载。