AMD宣布最新AMD ROCm 6.2开源堆叠软体现已释出,为AMD Instinct系列带来效能和效率最佳化的大幅成长。
AMD部落格文章提供关於新增功能和优势的详细资讯,包括:
- 扩展vLLM支援,以提升Instinct加速器的人工智慧(AI)推论能力。
- 全新Bitsandbytes功能可透过提升记忆体效率与效能来增强AI训练和推论。
- 全新的离线安装程式建立器可简化ROCm的安装体验。
- 全新Omnitrace与Omniperf分析工具透过效能分析和精简的开发工作流程来革新AI和高效能运算(HPC)的开发。
- 更广泛的FP8支援可在使用更少记忆体的情况下进行更具效率的训练,进而增强AI推论能力。
ROCm 6.2带来前所未有的AI加速器效能和效率提升,同时提供工具及支援,助力开发人员在AI专案中突破极限。