生成式 AI 新助力:IBM 携手 AMD 明年部署推出 MI300X 加速器服务
人阅读 2024-11-19 08:57:39
11 月 19 日消息,IBM 公司昨日(11 月 18 日)发布公告,宣布和 AMD 公司达成合作,计划在 IBM Cloud 上部署 AMD Instinct™ MI300X 加速器服务(accelerators as a service)。
此项服务预计将在 2025 年上半年推出,目标是提升企业客户在生成式 AI 模型和高性能计算(HPC)应用中的性能和能效。
IBM 表示通过此合作,其 watsonx AI 与数据平台,以及 Red Hat Enterprise Linux(RHEL 发行版)的 AI 推理支持也整合 MI300X 加速器。
IBM Cloud 将提供 AMD Instinct MI300X 加速器,以支持企业客户处理计算密集型工作负载。
援引新闻稿,MI300X 加速器配备 192GB 高带宽内存(HBM3),能够支持大型模型的推理和微调,帮助客户以更少的 GPU 运行更大的模型,降低推理成本。
此外双方将利用 IBM Cloud 的安全性与合规性能力,以支持各行业的企业客户,尤其是那些受到严格监管的企业。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。