ITBear旗下自媒体矩阵:

百度智能云昆仑芯超节点发布:算力飞跃,企业AI应用成本大降

   时间:2025-04-25 17:41:36 来源:ITBEAR编辑:快讯团队 发表评论无障碍通道

在湖北武汉,百度AI开发者大会Create 2025盛大启幕,以“模型的世界,应用的天下”为主题,汇聚了众多业界精英与开发者。百度集团执行副总裁、百度智能云事业群总裁沈抖在会上分享了百度智能云在智能基础设施建设领域的最新进展,并发布了一系列算力、模型及应用方面的创新产品。

沈抖指出,大模型的高效落地离不开从底层算力到应用的全栈、系统级支持。百度智能云凭借多年在大模型研发与产业应用的深厚积累,打造了新一代系统级智能基础设施,旨在为企业提供最佳的大模型应用解决方案。

数据显示,百度智能云在2024年全年大模型相关中标项目数、行业覆盖数以及央国企中标项目数方面均位居榜首,尤其在能源、政务、金融三大行业的中标项目数领先所有厂商。截至目前,百度千帆平台的企业用户数量已超过40万,组件数量突破1000个,企业在平台上已开发出超过100万个应用。

沈抖强调,系统的价值不仅在于解决单一问题,更在于赋予企业创造的能力。企业可以结合自身的数据、流程和逻辑,利用百度智能云的系统级能力,打造专属的AI基础设施。

在算力方面,百度智能云通过自研的昆仑芯P800芯片及百舸大规模推理加速能力,实现了算力性能与成本的双重突破。会上,百度正式点亮了昆仑芯P800的三万卡集群。招商银行等金融机构已基于昆仑芯P800展开算力合作,在智能客服、多模态数据分析等场景实现了效能显著提升。昆仑芯P800算力已在国家电网、中国钢研等央企,以及同济大学、北京大学等高校和一批互联网企业进行了规模化部署。

为了进一步降低算力使用成本,百度智能云正式发布了昆仑芯超节点。该超节点支持将64张昆仑芯AI加速卡置于同一机柜,实现单节点的超强性能,一个机柜即可媲美过去100台机器的性能。与以往方案相比,昆仑芯超节点通过更快的机内通信替代机间通信,有效降低了带宽成本,实现了卡间互联带宽提升8倍、单机训练性能提升10倍、单卡推理性能提升13倍,并降低了95%的成本。

百度智能云还全面升级了百舸推理加速能力,通过大规模分布式推理的PD分离,支持客户根据不同场景的业务特点自适应设置PD配比,并做到token级别的PD负载均衡。针对MOE模型,百舸实现了大规模多机专家并行的极致优化,大幅降低了MOE模型推理的通信开销,并对核心链路上的每一个细节进行了系统级工程优化,大幅提升了GPU的有效利用率。

在模型服务与应用开发方面,百度千帆平台提供了超过100个模型,包括文心4.5Turbo、文心X1 Turbo等百度自研模型,以及DeepSeek、Ilama、Vidu等第三方模型。同时,千帆平台还提供了全面的模型开发工具链,支持深度思考模型、多模态模型的定制与精调。以智联招聘为例,该平台利用千帆的模型蒸馏工具链,在人岗匹配场景中实现了小参数模型效果媲美大模型,并降低了30%的成本。

在应用开发层面,千帆平台全面升级了企业级Agent开发工具链,并发布了全新推理式智能体——智能体Pro。该智能体从快问快答升级到深思熟虑,并支持企业定制专属智能体。以污水宝为例,基于千帆Agentic RAG能力,智能体能够结合企业私域数据和企业知识库,制定检索策略,大幅降低模型幻觉。同时,智能体Pro还支持Deep Research深度研究模式,能够自主完成复杂任务的步骤规划、信息筛选和整理,支持探索式知识收集、绘制图标和撰写专业报告。

百度智能云还正式发布了国内首个企业级MCP服务,首批已有超过1000个MCP Servers供企业及开发者灵活选择。开发者可以在千帆上开发自己的MCP Server,并发布到MCP广场,享受免费托管服务。百度搜索也会索引这些MCP Server,使它们被更多开发者引用。

在金融领域,民生银行与百度智能云合作,探索大模型在商业银行的落地应用,成功完成了金融领域第一个端到端涵盖算力、平台、模型、应用四层架构的项目。而在百度内部,千帆平台作为算力底座,为40万客户提供服务,上线以来推理吞吐提升20倍,推理速度提升50%以上。外部客户如招商银行、中国石化、长安汽车等也借助百舸满足了超大规模算力需求。

百度智能云还升级了两大自研AI应用产品,面向智能营销和视觉AI领域。客悦·ONE在金融营销场景中实现了高精准获客、“高情商”客服及高效的流失预警,已服务50余家金融企业,落地10余个场景。而一见5.0则在标准化高、规则清晰的任务中,仅需一句自然语言即可秒级生成专业级视觉AI应用,大幅降低了视觉AI模型训练门槛和应用成本,加速了视觉智能的规模化落地。

目前,百度智能云从算力、平台到应用的系统级能力已在多个企业场景中稳定运行。中国钢研与百度智能云联合打造的全栈智能基础设施,基于昆仑芯和百舸搭建了专属智算平台,在千帆上进行模型精调,使用大小模型结合的方式获得最佳效果,并结合一见视觉平台,快速完成了表面缺陷检测、金相分析等核心场景的应用开发。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version