金山办公与NVIDIA合作提升WPS AI速度

17
okx
金山办公最近与NVIDIA团队展开了合作,利用NVIDIA Tensor Core GPU和TensorRT技术来提高图像文档识别与理解的推理效率。通过借助NVIDIA Triton推理服务器进行部署,成功地优化了GPU的利用率,提供了高推理吞吐量。

与使用CPU相比,这项技术使得整个推理过程的耗时减少了84%。这意味着金山办公能够更快速地进行图像文档的识别和理解。

此外,采用NVIDIA Triton推理服务器进行部署也带来了经济上的好处。部署成本较以前相比降低了23%。金山办公能够更高效地利用硬件资源,同时节省了部署的成本。

金山办公与NVIDIA团队的合作为图像文档识别与理解领域的推理效率提升带来了重要的突破。这将进一步提升金山办公的产品性能和用户体验。

进群交流|欧易官网