2023-07-04 05:36:06 来源 : 品玩
(资料图片仅供参考)
品玩 7 月 3 日讯,金山办公官方公众号今日发文宣布与英伟达团队合作,加速 WPS AI 服务。
据介绍,金山办公与英伟达团队合作,通过英伟达 Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;借助英伟达 Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipeline 耗时共下降 84%;采用英伟达 Triton 推理服务器部署,其部署成本节省了 23%。标签: