9 月 6 日消息，据商汤科技官方消息，近日，商汤大装置 SenseCore 与昇腾 384 超节点率先完成全面适配，在功能、性能验证上达到预期目标。
据官方介绍，超节点（SuperPod）是一种通过高速互联技术，将多个 GPU / NPU 整合为统一计算单元的新型架构，解决 AI 大模型训练中的算力协同与通信效率问题。
昇腾 384 超节点（Atlas 900 A3 SuperPoD）是华为推出的业界最大规模超节点方案，凭借创新的“全对等架构”，实现高速互联总线的关键突破 —— 把总线从服务器内部扩展到整机柜、甚至跨机柜，最终将 CPU、NPU、DPU、存储和内存等资源全部互联和池化，形成一台“超级计算机”，实现更大的算力密度和互联带宽。
基于商汤大装置 SenseCore 与昇腾 384 超节点的特点，双方团队联合攻关，在调度优化、系统稳定性以及故障恢复等方面提出多项行业创新：
调度优化：在调度能力上，除了支持 POD 内单机和多机调度、跨 POD 多机调度、亲和性调度等基础能力，SenseCore 平台配合模型并行策略实现了逻辑超节点自动划分，使 EP / TP 等大通信策略可以充分利用灵衢网络，提升模型训练效率。
跨 POD 训练稳定性：另外 SenseCore 团队提交了多个 MR 修复多 POD 场景下 master / work 任务 rank 乱序问题，从根本上解决了跨 POD 训练任务概率性失败的问题。
多维度故障检测与恢复：在故障检测能力上覆盖了从服务器硬件、高速互联总线、RoCE 网络到任务、进程软硬件多维度检测，结合检测能力实现 Job / Pod / 进程多级恢复机制，全面提升昇腾 384 超节点在训练场景下的可靠性与容错性。
从官方新闻稿获悉，未来，双方还将探索更多应用场景，包括大模型推理加速、智能体应用部署、面向垂直行业的大模型训练与推理优化等，进一步加速基于 SenseCore 的昇腾 384 超节点在各行各业的应用落地。
本文链接：http://www.28at.com/showinfo-45-27422-0.html商汤大装置与华为昇腾 384 超节点全面适配，多项创新提升训练效率
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
