ITBear旗下自媒体矩阵:

数珩科技张继生谈AI能耗降低之路:专属化应用助力绿色发展

   时间:2024-11-11 11:41:44 来源:ITBEAR作者:赵云飞编辑:瑞雪 发表评论无障碍通道

【ITBEAR】在人工智能领域,能耗问题一直是业界关注的焦点。随着AI技术的迅猛发展,大量的计算需求带来了对电力的巨大消耗,促使众多科技巨头纷纷进军能源领域。然而,如何在保证AI技术发展的同时,降低能耗、提高效率,也成为了这些企业亟待解决的问题。

近日,《知识分子》就这一话题采访了数珩科技的创始人兼董事长张继生。数珩科技作为领先的企业级AI解决方案提供商,在降低AI应用能耗方面取得了显著成果。

张继生指出,当前AI能耗的高企主要集中在训练阶段,而非推理阶段。随着技术的不断进步,未来AI推理的单次能耗有望大幅下降。数珩科技通过自研大模型,结合模型压缩、剪枝、量化以及异构计算芯片等软硬件技术,已成功将AI大模型在实际使用中的能耗降低,为客户实现了降本增效。

张继生还提出了“专属化AI应用”的理念。他认为,与追求大规模、通用型模型的趋势不同,开发针对性强的小模型将更能满足中小企业的实际需求。这些小模型不仅训练成本和能耗较低,而且更能精准地服务于特定行业。

数珩科技正是基于这一理念,与客户紧密合作,深入了解需求,并开发出了一系列面向特定领域、参数量适中的小模型。这些模型在汽车、教育、快消和人力资源服务等行业已得到广泛应用,为用户提供了高效便捷的服务。

张继生强调,AI技术的真正价值在于与具体行业应用的深度融合,而非单纯的技术追求。数珩科技将继续致力于研发更多符合行业需求的AI应用,助力客户实现数字化转型。

在AI行业追求绿色发展的背景下,数珩科技的这些举措无疑为行业树立了新的标杆。通过降低能耗、提高效率以及开发专属化应用,数珩科技正引领着AI技术走向更加可持续的未来。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version