金融行业首批!度小满智算收集中间抵达万卡规模

时间:2024-10-31 21:40:50 来源:仲夏阳泽网

9月5日,金融集中间抵在baidu云智大会上,行业baidu智能云散漫度小满推出《智算中间收集架构白皮书》。首批算收白皮书由baidu智能云以及度小满负责高功能收集落地的度小达万一线专家撰写 ,内容拆穿困绕了高功能收集建树的满智模方方面面  ,搜罗差距规模集群的卡规架构抉择、云平台上的金融集中间抵可视化运维工具建树、多租户的行业经营妄想妄想等,为同行提供全流程教育,首批算收让重大的度小达万高功能收集建树变患上重大 。

大模子需要大算力 ,满智模若何建树高功能收集是卡规其中最为关键的一步 。度小满往年5月正式开源了国内首个千亿参数金融大模子——“轩辕” 。金融集中间抵在金融场景中的行业使命评测中 ,轩辕周全逾越了市场上的首批算收主流开源大模子 ,赢患了150次回覆中63.33%的胜率。随着大模子的迅猛睁开 ,模子对于底层算力的需要呈指数性削减,智能算力规模的不断扩展带来的是GPU算力部署规模日益缩短 ,对于高功能收集的要求也日益削减。

随着度小满模子参数规模逾越千亿  ,为知足不断削减的算力需要  、度小满私有云方式的智算中间也在不断降级 ,低时延 、大带宽 、晃动性运行 、可运维性高的大规模智算收集正是智算中间搭建的紧张基石。在建树私有云方式的智算中间的历程中,度小满散漫baidu智能云 ,构建了一套私有云智算收集,在反对于万卡GPU规模的同时,相较于业内罕有的Dragonfly 、Tours收集拓扑 ,收集带宽更短缺 ,节点间跳步数更晃动性 ,收集延时目的延早退3微秒之内 ,具备端到真个可审核性能耐与倾向自愈能耐,无窒息 、低时延、高坚贞的收集妄想实用反对于了下层智算运用的快捷迭代以及睁开,为“轩辕”大模子的磨炼提供了晃动的收集保障 。

当初 ,度小满智算收集中间已经建树成为国内金融行业首批私有云方式下的万卡规模智算中间 ,为“轩辕”大模子的磨炼提供了晃动的收集保障。

推广

相关内容