阿里云真武超节点Day0

国内首个!阿里云真武超节点Day0适配Kimi K3:单卡吞吐提升1.8倍

国内首个!阿里云真武超节点Day0适配Kimi K3:单卡吞吐提升1.8倍

人工智能 4
快科技7月28日消息,阿里云宣布,真武M890超节点实例已Day0成功适配Kimi K3,成为国内首个跑通近3万亿参数模型的超节点。跑通Kimi K3这样2.8万亿参数的模型,需要将参数分散到几十甚至上百张高速互联的GPU卡上。普通AI集群因通信带宽局限,无法满足高吞吐、低延迟、高并发的需求。国内首个!阿里云...