算力利用率达 97.6%,无问芯穹发布全球首个单任务千卡异构芯片混合训练平台

2024-07-06 15:59:51次浏览条评论
7 月 5 日消息,无问芯穹联合创始人兼 CEO 夏立雪昨日在世界人工智能大会 AI 基础设施论坛上发布了无问芯穹大规模模型的异构分布式混合训练系统,称千卡异构混合训练集群算力利用率最高达到了 97.6%

夏立雪还宣布无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括 AMD、华为昇腾、天数智芯、沐曦、摩尔线程、英伟达六种异构芯片在内的大模型混合训练。

无问芯穹表示:

打开水龙头前,我们不需要知道水是从哪条河里来的。同理,未来我们用各种 AI 应用时,也不会知道它调用了哪些基座模型,用到了哪种加速卡的算力 —— 这就是最好的 AI Native 基础设施

据哈迈百科此前报道,无问芯穹与摩尔线程在 5 月联合宣布,双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训,性能在同规模模型中跻身前列

Counterpoint:eSIM / iSIM 到 2030 年将占所有蜂窝通信设备的 70% 互联网之父公司安全主管:苹果牌 AI 树立隐私保护新标杆,但仍不完美
相关内容