微软从23日开始为开发者举办旗舰活动Microsoft Build。主题演讲从23日上午开始,微软CEO萨蒂亚·纳德拉等公司高管纷纷登台,阐述公司的产品战略。
与此同时,NVIDIA 还提供了针对 Microsoft 提供的 APIDirectML优化的驱动程序,并阐明通过 DirectML 使用 Stable Diffusion 时的性能将翻倍。

NVIDIA与微软合作提升Windows操作系统上的生成AI处理能力(图为搭载NVIDIA GeForce RTX 4070 Ti的显卡)
我们与NVIDIA合作,在Windows操作系统上实现了GPU的最佳利用,为微软提供的Olive工具组添加了将PyTorch模型转换为ONNX格式的功能。通过使用Olive制作的软件,开发人员能够自动将RTX的Tensor Core功能公开,从而在云端和边缘环境中利用Tensor Core加速,并同时利用PyTorch的代码资源。这样一来,处理能力得到了大幅提升。

为 DirectML 优化的新驱动程序使 Stable Diffusion 的性能翻倍(由 NVIDIA 提供)
作为一项合作计划的一部分,微软和NVIDIA正在致力于将NVIDIA GPU与微软提供的基于Windows的机器学习API DirectML进行优化。通过利用NVIDIA最新的驱动程序(版本532.03)以及针对Olive进行优化的Stable Diffusion,可以显著提高使用DirectML进行Stable Diffusion的性能。根据NVIDIA公开的资料显示,GeForce RTX 4090的性能将增加约2倍。
未来,两家公司计划在Windows操作系统上合作,以提升GPU性能。他们计划将NVIDIA推出的推理人工智能开发工具包NeMo进行Windows优化,并提供经过Olive优化的"Dolly 2.0大型语言模型"等工具。