发布日期: 2024-12-21
“AI使用正率先正在B端产生。由企业级大模子工程平台、异构算力平台构成的新型AI根柢方法,将代替古板云企图,为大模子使用正在企业临蓐力场景中的领域落地供给枢纽支持。”11月12日,正在上海实行的百度全邦2024现场,百度集团实行副总裁、百度智能云职业群总裁沈抖说。
目前,百度智能云具有中邦最大的大模子家当落地领域,逾越六成的央企和巨额的民营企业,正正在合伙百度智能云举办AI改进。百度智能云千帆大模子平台仍然助助客户精调了3.3万个模子、开垦了77万个企业使用、文心大模子日均移用量逾越15亿次。
2024年,大模子家当落地明显提速,老手业场景笼罩广度、落地深度等方面都有明显擢升。目前,百度智能云仍然正在能源、电力、修筑、金融、交通、政务、互联网、教诲、电商等数十个行业、几百个场景中落地大模子使用。
正在能源电力行业,邦度电网正正在缠绕文心大模子、千帆平台,连系电力行业高质料数据,合伙百度共创电力行业大模子根柢底座,并正在调理、摆设、营销等六大专业规模长远寻找。目前,仍然正在电力摆设运检、供电效劳等电力行业中心场景得胜告竣使用落地。
正在餐饮行业,中邦最大的餐饮公司百胜中邦,基于文心大模子打制了AI智能客服体例,为旗下蕴涵肯德基正在内的众个品牌供给效劳。百胜中邦CTO张雷显露,目前,AI客服每天可能为百胜中邦惩罚逾越15万次消费者疏导,题目处置率高达90%;正在辅助人工方面,AI客服可能急迅总结、总结消费者诉求,辅助客服更急迅、更精准地答复,完全结果抬高10%!别的,大模子还可能及时评估客服效劳质料,助助百胜中邦进一步擢升效劳秤谌。
目前,百度智能云仍然具有中邦最大的大模子家当落地领域。已有逾越六成的央企和巨额的民营企业,正正在合伙百度智能云举办AI改进,文心大模子日均移用量逾越15亿次。
沈抖以为,AI使用正率先正在B端产生,而“企业级”AI使用巨额出现的背后,是产物效劳样子的冲破性厘革与才能的大幅拉升。
以百度智能云“曦灵”数字人平台为例,全新升级的“文生3D数字人视频”功效,可能大幅擢升电商、教诲、文旅等行业的内容创作、营销引申结果,大幅下降本钱付出。
例如,正在电商规模,过去拍摄创制真人产物引申短视频须要专业团队花费几天岁月才智告竣。而“文生3D数字人视频”只需一句话,就能天生适应区别行业场景特点的3D数字人局面和专业灵动的视频,本钱仅有古板办法的1%,职责结果擢升逾越1倍!
沈抖显露,众数的AI使用,正正在从新界说人与数字全邦、物理全邦之间的交互办法。现正在,这些使用仍然长远到企业“研产供销服”的各个症结,并成为企业擢升角逐力的枢纽因素。
古板的企业生意中,繁复的职责和使命往往太过依赖专家体味和固有流程,即职责流;即使正在数字化体例中,古板职责流摆设依然是没有“大脑”的呆滞实行,难有本色性的冲破。
大模子具备巨大的妄图通晓和泛化才能,可能满盈通晓职责流的目标与内在,相当于一颗会思虑的“大脑”;通过与企业职责流相连系,又可能有用处置大模子“幻觉”题目,加强大模子“控场才能”,保险繁复使命的决议与实行精确。二者连系,组成了智能时间企业真正须要的“数字员工”。
本次大会,百度智能云千帆大模子平台正式颁发“职责流Agent”功效,旨正在助助企业急迅开垦签名向繁复对话场景的AI使用,急迅具有专业秤谌的“数字员工”。通过进修各样企业流程与样板,职责流Agent可能顺应区别岗亭职责,急迅领域化复制,大幅擢升企业运转结果。
“咱们正在实习中觉察,行业使用要抵达更专业的效率,须要长远模子层面举办定制开垦或精调。精调模子的数目必然水准上反应了大模子与家当连系的深度。这个数目本年拉长地格外速,正在千帆大模子平台上,每天有逾越一半的移用量是来自精调后的模子。”沈抖说。
而针对数据积攒亏损,难以负责人工精标数据本钱的企业,千帆平台全新推出模子蒸馏处置计划,助助企业运用文心旗舰级大模子天生专业数据,告竣全流程的数据企图职责,加快启动模子精调职责。
大算力是大模子落地的根柢前提。为了知足企业落地大模子从集群创修、开垦实习,到模子陶冶、模子推理的全道程算力需求,百度智能云推出百舸AI异构企图平台 4.0,效劳了中邦石化、中海石油、长安汽车、上海交通大学、地平线等行业龙头企业和机构,目前已具备了成熟的10万卡集群摆设和执掌才能。
沈抖显露,为了支持大模子的进一步高速成长,百度智能云提前组织,是行业内最早打磨10万卡集群才能的厂商之一,并通过技艺改进处置了集群算力供应、跨区域摆设两大中心困难。
最先,正在算力供应方面,百舸平台兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等邦外里主流AI芯片,支柱统一智算集群中混淆行使统一厂商区别代际芯片、区别厂商芯片,最大水准上樊篱硬件之间差别,助助中邦企业离开简单芯片带来的高溢价和供应链危害。
目前,正在万卡领域集群上,百舸可能将两种芯片混淆陶冶大模子的结果折损掌握正在5%以内,抵达业界最领先的秤谌。改日,“一云众芯”将成为中邦企业的势必采选。
另一方面,10万卡领域超大集群须要盘踞大意10万平方米空间,相当于13个程序足球场;每天则要破费大约300万千瓦时的电力,相当于北京市东城区一天的住民用电量。这种对付空间和能源的强盛需求,远超古板机房摆设的承载才能,而跨区域机房摆设又会给搜集通讯带来强盛离间。
通过策画高效的搜集拓扑组织,连系模子切分优化和跨区域无堵塞高机能搜集计划,百舸可能正在横跨几十公里的众机房构成的万卡领域的集群上,将简单模子陶冶使命的机能折损掌握正在4%以内,抵达业界最领先秤谌。