AMD与微软宣布Windows Server 2025及2028将支持Instinct MI350P AI加速器
AMD(股票代码:AMD)与微软(股票代码:MSFT)近日共同宣布,计划在Windows Server 2025及2028版本中支持AI加速器Instinct MI350P。17日,AMD在其官方博客中公布了这一计划,旨在通过GPU加速企业在本土服务器上运行AI模型时的推理运算。
所谓“推理”,是指已训练完成的AI模型接收输入数据并生成答案的过程。微软同日发布了Windows Server 2028的公开预览版。根据Windows Experience Blog的报道,MI350P将于2027年上半年开始在Windows Server 2025及后续版本中以预览形式提供支持。需要注意的是,操作系统的公开预览版与MI350P的支持预览版在发布进度上并不完全同步。截至18日,AMD官方产品页面列出的操作系统支持列表中仅包含Linux x86 64位系统。
应用场景与安全优势
AMD提出的主要应用场景是企业内部数据处理服务。通过在自有服务器上部署推理功能,企业可以自主管理输入文本、检索资料以及AI回答的处理位置。对于涉及敏感信息的任务,建议留在本地设施处理;而对于其他非敏感任务,则可结合使用云端模型,实现混合部署模式。
硬件规格与技术细节
单张MI350P配备144GB HBM3E内存,最大内存带宽可达每秒4TB。该芯片采用PCIe 5.0接口接入服务器,最大板载功耗为600W。不过,AMD的产品资料显示,其功耗可下调至450W。需要强调的是,这仅代表GPU本身的硬件规格,并不代表其在Windows Server环境下运行AI服务时的实际处理速度。
在支持功能方面,AMD强调了GPU分区技术和自家AI推理微服务。GPU分区技术允许将GPU计算资源分配给多个任务,从而为小型语言模型或文档搜索用的嵌入模型精准分配所需资源。推理微服务则是用于辅助部署支持模型的软件工具。
与SQL Server集成演示
此外,AMD还介绍了将SQL Server 2025的向量功能与MI350P结合的案例。在该场景中,企业数据检索及AI回答增强(RAG)过程使用了由GPU生成的嵌入向量。AMD表示,计划与微软SQL Server团队共同演示这一配置方案,目标应用包括开发者编程助手和企业内部文档搜索助手。需注意的是,这是公司公布的计划与应用场景,目前尚未提供具体的性能测试数据或实际落地案例。
微软方面正在开发适用于Windows Server的推理环境部署与配置、加速器管理以及AI模型请求分发等功能。为了支持开源权重模型和定制模型,微软正在针对Foundry Local、Windows ML、vLLM、Llama.cpp等工具进行优化工作。Windows Server 2028的安全、性能及管理功能目前已以预览版形式提供,企业内部AI功能则通过早期访问计划向部分客户开放。
历史背景与未来展望
此前,AMD曾展示过搭载MI350P的AI工作站原型机。当时的原型机是一款无需经过云服务器即可在本地运行大型AI模型的终端设备。而此次发布的计划,旨在将同一款GPU的应用范围扩展至企业的Windows Server环境。这款GPU也已纳入今年10月发布的Helion Rack的企业级配置中。
关于具体RAG配置的演示时间表,目前尚未公布。