金山办公与NVIDIA团队合作，加速WPS AI服务

发布时间：2023-07-03 已有：位网友关注

　　金山办公与 NVIDIA 团队合作，通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率；借助 NVIDIA Triton 推理服务器的部署，成功优化 GPU 利用率，提供高推理吞吐量。相比于 CPU 其 pipeline 耗时共下降 84%；采用 NVIDIA Triton 推理服务器部署，其部署成本节省了 23% 。