首页 热点 业界 科技快讯 数码 电子消费 通信 前沿动态 电商

微软公司发布新闻稿公布了全新的Microsoft Olive工具

2023-08-23 01:48:25 来源 : 互联网


(资料图片仅供参考)

近日,微软公司发布新闻稿,公布了全新的Microsoft Olive工具,该工具最多可以让AMD旗下的GPU显卡运行模型性能提升9.9倍。

Microsoft Olive是由Python语言开发的工具,能够大幅优化AMD GPU运行大语言模型的性能。 新闻稿中提到,Radeon RX 7900 XTX GPU在启用Microsoft Olive工具后,以运行Stable Diffusion模型为例,基于文本生成图像性能明显提升。Microsoft Olive可以转换、优化、量化和自动调优模型,从而最大化性能输出。 AMD在官方测试中表示,在默认PyTorch路径上运行,AMD Radeon RX 7900 XTX每秒提供1.87次迭代;然而,开启Microsoft Olive工具优化模型后,该GPU每秒可以迭代18.59次。这一结果充分展示了Microsoft Olive工具的强大性能优化能力。

标签:

相关文章

最近更新
素描精选 2023-08-23 01:28:57
安徽突发!4人死亡! 2023-08-23 01:28:47
塞北煤城新“铝”程 2023-08-23 01:01:30
雀巢米粉甜吗 2023-08-23 00:35:32