加速创新：选择英特尔® 至强® 6 处理器助推 AI 迈向成功的五大理由

加速创新：选择英特尔® 至强® 6 处理器助推 AI 迈向成功的五大理由

充分利用机头 CPU 的理想之选 ——

英特尔® 至强® 6 处理器，打造更先进的 AI 加速系统，高效运行要求严苛的 AI 工作负载。

概述

  • 1) 每个处理器提供多达 192 条 PCIe 5.0 通道，显著提升了 I/O 带宽，可加速数据卸载并提高运行效率；

  • 2) 单颗 CPU 拥有多达 128 个性能核，可为 GPU 和加速器提供更快的数据供给；

  • 3) 引入 MRDIMM，将内存带宽提升高达 2.3 倍，可显著降低时延；

  • 4) 先进的 RAS 支持，助力提高正常运行时间和运营效率；

  • 5) 具备更高灵活性，可更好地满足混合工作负载需求。

立即获取产品简介
PDF

为什么需要 AI 加速系统？

随着预测式 AI、生成式 AI (GenAI) 和科学计算工作负载的复杂性不断增加，其对性能和能效要求也随之提高。为了在这些工作负载的性能和总体拥有成本 (TCO) 之间达到理想的平衡点，一个有效的策略是采用机头 CPU 和独立 AI 加速器来构建 AI 加速系统。
 

  • 在 AI 加速系统中，机头 CPU 通过提供高效的任务管理和出色的预处理性能来优化处理性能和资源利用率。这两大要素对确保模型训练管线中数据高效供给以及维持独立 AI 处理器的理想运行状态至关重要。
  • 英特尔® 至强® 6 性能核处理器是机头 CPU 的理想之选。机头 CPU 作为 AI 加速系统的“中枢神经”，可以执行管理、优化、预处理、处理和卸载等各种任务，从而提高系统性能和能效。
  • GPU 和英特尔® Gaudi® AI 加速器则为系统提供了强大的“AI 专用算力”。这些独立 AI 加速器的并行处理能力可专门用于 GenAI 的大语言模型 (LLM) 训练以及预测式 AI 的模型训练。

为什么选择英特尔® 至强® 6 处理器作为机头 CPU？

经过全球众多 AI 加速系统的广泛基准测试，英特尔® 至强® 处理器被证明是强大 AI 加速平台的理想机头 CPU 之选1。

下文列举了选择英特尔® 至强® 6 处理器作为 AI 加速系统机头 CPU 的五大理由。

  1. 更出色的 I/O 性能

        具备更高输入/输出 (I/O) 带宽，助力加速数据卸载并提高运行效率。
 

  • 与上一代处理器相比 PCIe 通道数提升高达 20%，显著提升 I/O 带宽 (每个处理器提供多达 192 条 PCIe 5.0 通道）
     
  1. 更多内核和更高单线程性能

        具备更多 CPU 内核数和更高单线程性能，能够为GPU 和加速器提供更快的数据供给，进而缩短模型训练时间。较高的处理器最大睿频，提升了 CPU 单线程性能。
 

  • 每 CPU 配备多达 128 个性能核，与上一代处理器相比，—— 每路内核数提升多达 2 倍

 

  1. 更高内存带宽和容量

        英特尔® 至强® 6 处理器家族是英特尔首款引入 Multiplexed Rank DIMM (MRDIMM) 的处理器。这项创新的内存技术可有效提升内存敏感型 AI 和科学计算工作负载的带宽和性能，并降低时延。英特尔® 至强® 6 处理器每个内存通道支持 2 条 DIMM，可提供更大内存容量。这对需要支持 AI 模型和数据集规模都在不断增加的 AI 系统至关重要。

        英特尔® 至强® 6 处理器配备高达 504 MB 三级缓存，并支持 Compute Express Link (CXL) 技术，而 CXL 可保持 CPU 内存空间与附加设备内存之间的内存一致性。
 

  • 与上一代处理器相比，MRDIMM 可将内存带宽提升高达 2.3 倍2
  • CXL助力，实现高性能资源共享，降低软件堆栈复杂性，并降低整体系统成本。

 

  1. 专门的 RAS 支持

        英特尔更提供先进的可靠性、可用性和可维护性 (RAS) 支持，可减少大规模 AI 或科学计算系统的停机时间，从而避免高额损失。RAS 技术支持多项高级管理功能，包括遥测、平台监控、共享资源控制和实时固件更新等。RAS 功能汇聚了平台合作伙伴、ISV 和解决方案集成商的丰富专业知识与经验。
 

  • 借助英特尔® 至强® 6 处理器减少业务中断，显著提高正常运行时间和运营效率
     
  1. 更高灵活性，更好地满足混合工作负载需求

         英特尔® 至强® 6 处理器是专为支持广泛工作负载而设计的机头 CPU，具备出色的性能和能效。在某些情况下，AI 系统的机头 CPU 可能需要在数据预处理阶段支持某些 AI 功能。
 

  • 英特尔® 至强® 处理器始终是运行 AI 推理的 CPU 优选3
  • 英特尔® 高级矩阵扩展（Intel® Advanced Matrix Extensions，英特尔® AMX）新增了对 FP16 精度运算的支持，可更好地支持 AI 加速系统的数据预处理以及其他机头 CPU 任务。
     

如需了解选择英特尔® 至强® 6 处理器作为 AI 加速系统机头 CPU 的更多优势，请访问：https://www.intel.cn/content/www/cn/zh/products/details/processors/xeon.html

如需了解英特尔® 至强® 6 处理器如何优化 AI 和科学计算工作负载，请查看最新的工作负载性能指标信息：https://edc.intel.com/content/www/cn/zh/products/performance/benchmarks/intel-xeon-6/

查看产品规格并根据您的特定计算需求选择合适的处理器：https://www.intel.cn/content/www/cn/zh/ark/products/series/595/intel-xeon-processors.html

实际性能受使用情况、配置和其他因素的差异影响。更多信息请见 www.Intel.cn/PerformanceIndex。

性能测试结果基于配置信息中显示的日期进行的测试，且可能并未反映所有公开可用的安全更新。详情请参阅配置信息披露。

没有任何产品或组件是绝对安全的。

具体成本和结果可能不同。

英特尔技术可能需要启用硬件、软件或激活服务。

© 英特尔公司版权所有。英特尔、英特尔标识以及其他英特尔商标是英特尔公司或其子公司的商标。其他的名称和品牌可能是其他所有者的资产。

1224/DR/PRW/PDF 请回收利用

产品和性能信息

1基于 2024 年的 MLPerf 基准测试。详情请访问 https://mlcommons.org/。
2基于英特尔 2024 年 5 月的分析。基准配置：单节点，2 个英特尔® 至强® 铂金 8592+ 处理器，64 核，启用英特尔® 超线程技术（英特尔® HT 技术），启用英特尔® 睿频加速技术，NUMA 配置 SNC2，总内存 1,024 GB（16 插槽，64 GB DDR5，5,600 MT/s），BIOS 版本 3B07.TEL2P1，微代码 0x21000200，Ubuntu 24.04，Linux 版本 6.8.0-31-generic，截至 2024 年 5 月英特尔所做的测试。新配置：单节点，预生产平台，2 个英特尔® 至强® 6 性能核处理器，启用英特尔® 超线程技术（英特尔® HT 技术），启用英特尔® 睿频加速技术，NUMA 配置 SNC3，总内存 3,072 GB（24 插槽，128 GB MRDIMM，8,800 MT/s），BIOS 版本 BHSDCRB1.IPC.0031.D97.2404192148，微代码 0x81000200，Ubuntu 23.10，内核版本 6.5.0-28-generic。软件：NEMO v4.2.2。CMCC 提供的 ORCA025 数据集。2024 年 1 月发布的英特尔® Fortran Compiler 经典版和英特尔® MPI；英特尔® oneAPI HPC 工具套件。编译器标志“-i4 -r8 -O3 -xCORE-AVX2 -fno-alias -fp-model fast=2 -align array64byte -_mf-use-svml=true”
3详情请见以下网址的 (9A3)：intel.com/processorclaims（英特尔® 至强® 6 处理器）。结果可能不同。