发布时间:2025-02-07 已有: 位 网友关注
截至发稿,DeepSeek的API服务充值仍处于暂停状态。这不禁引发外界猜测:难道是DeepSeek算力不够了?
春节期间,DeepSeek由于产品更新“光速出圈”,其用户量在短时间内飙增。
据媒体援引国内AI产品榜统计数据,DeepSeek应用上线万,DeepSeek应用上线天内,日活已超ChatGPT上线同期日活,成为全球增速最快的AI应用。
根据国泰君安证券分析师舒迪、李奇的测算,假设DeepSeek的日均访问量为1亿次、每次提问10次,每次提问的回复用到1000个token,1000个token大概对应750个英文字母,则DeepSeek每秒的推理算力需求为1.6*1019TOPs。
在这种普通推理情境下, 假设DeepSeek采用的是FP8精度的H100卡做推理,利用率50%,那么推理端H100卡的需求为16177张,A100卡的需求为51282张。
国泰君安进一步表示,在以DeepSeek为首的低成本推理模型的逐渐普及下,推理成本及价格大幅削减势必会带来应用测的繁荣,这反过来还会拉动成倍数的总算力需求提升。
有分析指出,随着用户量持续增长,DeepSeek可能难以满足日益增长的需求。如果这种情况持续下去,DeepSeek可能别无选择,只能借鉴OpenAI的做法,加大对基础设施的投资。