当前位置:主页 > 业界 > 正文

SemiAnalysis:KimiK3降低KV传输带宽,AI网络需求不减

发布时间:2026-07-19 已有: 位 网友关注

  币界网消息,据A早期发行in 2021报道,SemiAnalysis表示,Kimi K3采用KDA技术将KV缓存传输带宽降低最多10倍,但AI网络需求不会收缩。Kimi K3拥有2.8万亿参数,每次前向计算需约1.5TB HBM带宽,仍需通过GB300 NVL72等高带宽网络连接芯片。Wideep将896个专家模型分散至多个GPU,单次前向计算需执行120次以上,大规模专家模型带来的扩展网络需求超过KDA节省的带宽。更高效的注意力机制可能推动上下文长度从100万token提升至500万token以上,效率提升将扩大AI使用规模并增加网络需求。

温馨提示:所有理财类资讯内容仅供参考,不作为投资依据。