当前位置:主页 > 要闻 > 正文

小米MiMo推出UltraSpeed推理模式:单节点突破千tokenss

发布时间:2026-06-09 已有: 位 网友关注

  币界网消息,小米Mimo团队与AI编译优化系统组Tilert宣布推出Mimo-v2.5-pro-ultraspeed推理模式。在单台标准的8卡通用GPU节点上,成功在1万亿参数的混合专家模型上实现超过1,000 tokens/s的极限生成速度,峰值可达约1,200 tokens/s。这标志着在无需采用晶圆级集成或纯片上SRAM专用芯片等非常规硬件的情况下,仅凭标准通用硬件和模型-系统协同设计首次突破1T模型千token生成速度。

温馨提示:所有理财类资讯内容仅供参考,不作为投资依据。