9月25日,在2024百度云智大会上,百度集团践诺副总裁、百度智能云管事群总裁沈抖默示:“2024年大模子的产业落地正在加快,刻下在千帆大模子平台上,文心大模子日均调用量进步7亿次,累计匡助用户精调了3万个大模子,建造出70多万个企业级诈骗。往时一年,文心旗舰大模子降价幅度进步90%萝莉 幻塔,主力模子全面免费,最大截止责怪了企业鼎新试错的老本。”
沈抖默示,大模子以及配套的算力照看平台、模子和诈骗建造平台,正在赶快成为新一基础形态。
以中国邮政储蓄银动作例,2023年,为加快大模子诈骗落地,邮储银行新增大王人来自不同厂商的GPU资源,基于大模子为18个中枢业务系统、30多家分行的金融业务提供AI赋能。在百舸的因循下,邮储银行告成完成了不同型号GPU资源的部署、上线;同期,也杀青了GPU、CPU算力的经营重组,有劲保险了300多个大小模子、6000屡次锤真金不怕火任务。模子迭代时辰也从往时的一个半月大幅裁汰至半天,并杀青了更好的模子成果。
“百舸”是百度AI异构盘算平台,百度智能云升级发布百舸AI异构盘算平台4.0,面向万卡、十万卡集群全面升级算力照看技艺。刻下,百舸在万卡集群上杀青了有用锤真金不怕火时长占比99.5%以上,业界率先。百舸4.0预置了主流的大模子锤真金不怕火器具,将万卡集群运转准备时辰从几周缩减至1小时,极地面普及部署效劳,裁汰业务上线周期。
不仅是快,百舸还至极褂讪。百舸4.0大略自动筛查集群气象,并基于对GPU故障的精确瞻望,实时改革使命负载,责怪故障发生频次。此外,百舸专有的故障秒级感知定位、Flash Checkpoint模子任务气象回滚等工夫,大略大幅减少集群故障科罚时辰。
百度还升级了千帆大模子平台3.0。在模子调用方面,升级后的千帆平台,不但不错调用包括文心系列大模子在内的近百个国表里大模子,还因循调用语音、视觉等各式传统的小模子。
往时一年,文心旗舰大模子降价幅度进步90%、主力模子全面免费,最大截止责怪企业鼎新试错的老本。
沈抖在大会现场演示了怎么通过对话,在AI速搭平台上建造一个钞票照看诈骗。只需一句话形色对目标系统的需求,包含钞票信息、钞票入库、钞票领用、钞票维修、钞票报废等功能模块,大模子就不错光显地相识需求并生成诈骗。往时,这么一个诈骗即使用低代码面目建造也需要几天的时辰,当今只需几分钟就能完成。
南边电网数字电网策划院副总司理胡荣默示,旧年九月,南边电网发布了行业垂直范畴首个自主可控的大模子“大瓦特”。“大瓦特”既是大模子、小模子及智能体组成的模子体系,亦然绽开分享的平台与生态体系。平台上,南边电网基于百度智能云千帆平台构建了电力调治值班助手。在派遣突发事件时,电力调治值班助手不错秒级生成科罚决策,极地面增强了调治员的济急反应技艺。
文/北京后生报记者 温婧
裁剪/樊宏伟萝莉 幻塔