【群众网科技笼统报谈】4月3日，由中国电信聚集阿里云缔造的粤港澳大湾区首个“真武”万卡智算集群在韶关数据中心认真上线。算作国度“超大边界智算集群”新基建工程在大湾区的首个落地表情，该集群结束了从芯片、云平台到模子应用的全链路自主研发，记号着国内先进算力正从高端性能碎裂迈向边界化产业落地。
据先容，该集群在本事层面结束了多项关节碎裂。集群秉承新一代高性能组网架构，端到端数据传输时延低至4微秒，收集峰值期骗率进步95%，上万张芯片得以像一台超等计较机一样协同责任，默契承载千亿参数级大模子的测验与推理任务。单机性能雷同卓绝——单台“真武”工作器配备1.5T超大显存，片间互联带宽700GB/s，Qwen3.5、DeepSeek V3.2全参数版等主流开源大模子均可在单机上径直部署开动。在拓荒生态层面，“真武”芯片已全面适配主流AI框架与器用链，并提供谐和编程接口，拓荒者无需重写代码即可将已有业务平滑迁徙至国内算力平台。
在此基础上，集群提供了从IaaS、PaaS到MaaS的全栈AI云才略，用户既不错用它测验我方的专属模子，乐鱼也不错径直调用已有的大模子才略。收货于针对“真武”芯片深度优化的器用套件，模子开动环境可在秒级完成加载，单个模子的微调最快数小时即可完成，全体测验与推理效果较通用决议培育进步30%。这种“开箱即用”的阵势，让用户无需受困于底层缔造与反复调参。
当今，该集群已在诸多行业场景落地。在医疗民生边界，集群上线“全诊通”应用，面向下层医疗机构提供调治智能化工作，已在中山大学肿瘤防治中心等病院开展应用试点；在产业翻新边界，为电子信息、先进材料、生物医药、装备制造、低空经济等重心产业提供模子测验、推理与调优工作，灵验贬低翻新周期。
依托阿里全栈AI本事带来的协同优化leyu，集群单卡迷糊性能较传统部署阵势培育达9.3倍，单机每秒Token生成量结束近10倍。为进一步鼓舞算力普惠，关联资源已同步上架“广东电信算力超市”，面向中小企业提供按卡、按小时计费的算力零卖工作。同期，集群瞻望扩容至十万卡边界，助力大湾区更多科研机构、企业和政府单元以更低本钱、更高效果使用算力资源。（勃潺）
九游会j9官方网站APP下载
备案号: