微軟開發工具包打破NVIDIA護城河!AMD GPU可運行CUDA代碼

神马作文网 教育资讯 11

11月9日消息,長期以來,NVIDIA憑藉其強大的CUDA生態系統,在AI領域占據主導地位,而競爭對手如AMD的ROCm等相對不夠成熟,不過這一格局正迎來新的破局者微軟。

據一位「高級別」微軟員工透露,其已開發出「工具包」,能夠將NVIDIA CUDA模型轉換或轉譯為ROCm兼容代碼,使其能在AMD的GPU上運行。

此舉旨在打破CUDA的「生態鎖定」,為微軟日益增長的AI推理工作負載尋找更具成本效益的替代方案。

微軟此番行動的核心驅動力在於,他們觀察到AI推理工作負載的需求正在大幅增加,與昂貴的NVIDIA GPU相比,AMD的AI晶片在推理場景中具備更佳的性價比。

通過軟體轉換,微軟可以利用AMD的硬體優勢來降低運營成本。

據推測,該工具包可能採用類似ZLUDA的運行時兼容層技術,在不修改源代碼的情況下,將CUDA API調用實時翻譯成ROCm指令。

不過由於ROCm相對「不成熟」,部分CUDA代碼仍缺乏對應的映射,可能導致性能下降,這在大型數據中心環境中仍是一個挑戰。


抱歉,评论功能暂时关闭!