金融行业首批!度小满智算收集中间抵达万卡规模
9月5日,金融集中间抵在baidu云智大会上,行业baidu智能云散漫度小满推出《智算中间收集架构白皮书》。首批算收白皮书由baidu智能云以及度小满负责高功能收集落地的度小达万一线专家撰写,内容拆穿困绕了高功能收集建树的满智模方方面面,搜罗差距规模集群的卡规架构抉择 、云平台上的金融集中间抵可视化运维工具建树、多租户的行业经营妄想妄想等 ,为同行提供全流程教育,首批算收让重大的度小达万高功能收集建树变患上重大。
大模子需要大算力,满智模若何建树高功能收集是卡规其中最为关键的一步 。度小满往年5月正式开源了国内首个千亿参数金融大模子——“轩辕”。金融集中间抵在金融场景中的行业使命评测中,轩辕周全逾越了市场上的首批算收主流开源大模子,赢患了150次回覆中63.33%的胜率。随着大模子的迅猛睁开 ,模子对于底层算力的需要呈指数性削减 ,智能算力规模的不断扩展带来的是GPU算力部署规模日益缩短,对于高功能收集的要求也日益削减。
随着度小满模子参数规模逾越千亿 ,为知足不断削减的算力需要、度小满私有云方式的智算中间也在不断降级,低时延 、大带宽、晃动性运行 、可运维性高的大规模智算收集正是智算中间搭建的紧张基石。在建树私有云方式的智算中间的历程中,度小满散漫baidu智能云,构建了一套私有云智算收集 ,在反对于万卡GPU规模的同时 ,相较于业内罕有的Dragonfly、Tours收集拓扑,收集带宽更短缺 ,节点间跳步数更晃动性,收集延时目的延早退3微秒之内