释放数据的潜力

探索全新的客户案例、案例研究，以及以数据为中心的创新证言。

本手册系统介绍了英特尔专为 GenAI 和 LLM 推出的 Gaudi® 2D AI 加速器产品，凭借其完全可编程能力、具备高内存带宽/容量等多项特性，配合以 Gaudi® 软件套件为核心的端到端 AI 软件栈，全力加速 AI 模型的开发与部署流程。

文中在指出 DRAM 和 NAND 面对现代数据中心需求存在不足的同时，介绍了英特尔® 傲腾™ 固态盘 P5800X 系列的产品特点，随后通过对比分析展现出英特尔® 傲腾™ 固态盘 P5800X 系列的优势所在。

本文介绍了能够填补 DRAM 与 NAND SSD 之间的容量与性能缺口的傲腾™ 持久内存和傲腾™ 固态盘，两者都具有低时延、数据持久性、高耐用性和性能可靠等优势。

首都在线为其云平台首云引入第二代英特尔至强可扩展处理器、英特尔傲腾持久内存和傲腾固态盘，构建裸金属+托管私有云全闪存储解决方案，大幅提升云平台的计算与存储性能，已为超过 100 家企业客户提供在线服务，并受到广泛好评。

英特尔提供高性能软硬件产品和经过验证的精选解决方案，助力 CDN 提供商降本增效。

本文是英特尔® 傲腾™ 持久内存 200 系列的产品简介。文中介绍并分析了该系列产品的工作模式、产品特性和优势所在，以及为开发人员、架构师、程序员、数据中心和企业等带来的诸多益处。

第三代英特尔® 至强® 可扩展处理器是满足物联网领域应用需求的神兵利器。

英特尔® 至强® 可扩展处理器为该平台输出了更强劲的算力，对平台的深度学习推理进行调优。帮助爱奇艺大幅提升了在 AI 应用上的深度学习推理效率，降低了平台总体拥有成本（TCO），让 AI 在智能化的视频服务中展现出了更强的生产力。

中移物联网有限公司 正以公司“大连接”战略为引 导，融合边缘计算、云计算、人工智能 (Artificial Intelligence, AI) 以及 5G 等前沿技术， 打造和完善 OneNET 边缘计算平台，以加速制造业智能化创新。

在公有云存储领域获得巨大成功的百度云，实施 ABC（AI、Big Data、Cloud）战略，构建面向海量非结构化小文件的高性能存储方案。

要实施有效的 AI 战略，必须确保每个关键决策都与企业战略相符。本指南从企业 AI 的重要性、AI 决策图、战略选择、AI 管线以及数据、模型和部署各个阶段等多个方面为技术决策者提供了指导，还介绍了英特尔的 AI 解决方案。

“AI 意图指南” 和 “AI 战略影响指南” 可帮助确立符合企业战略的 AI 意图。英特尔® 至强® 和英特尔® 酷睿™ Ultra 处理器、英特尔® Gaudi® AI 加速器和英特尔锐炫™ 独立显卡等优秀产品可提供出色的解决方案。

英特尔® 至强® 6 处理器家族采用性能核和能效核两种微架构，且内置多种加速技术。能效核处理器具备更优能效，与第五代产品相比，将微服务、数据分析和媒体应用的每瓦性能分别提升了近 1.5 倍、高达 1.6 倍和高达 1.5 倍。

使用 CPU 进行 AI 推理能够平衡性能和经济性，实现更优的性价比。英特尔® 至强® 可扩展处理器得益于其卓越的硬件性能以及英特尔围绕平台特性为用户构建的 AI 加速环境，能够为用户提供强有力的大模型推理性能。

天源迪科致力于创建针对特定场景的微调版本大模型，并在实际业务中应用模型推理。其为了应对 LLM 微调及推理对于算力的要求、LLM 推理对内存带宽的需求以及实现便捷扩展，与英特尔携手，基于第四代英特尔® 至强® 可扩展处理器打造训推一体化方案。

中国电信携手英特尔，引入第五代至强® 可扩展处理器，借助其 AMX、AVX-512 等 AI 加速技术，为中国电信网络大模型推理构建基于 CPU 的算力方案，并在各个应用场景中的生成时延均小于 100 毫秒。

该加速器基于英特尔® Gaudi® 第四代高效异构架构，采用 7 纳米制程工艺，支持 FP8、BF16、FP16、TF32 和 FP32 等多种面向 AI 的高级数据类型，配备 96 GB HBM2E 内存。

拥有更多内核和更高内存带宽，英特尔® 至强® 6 能效核处理器性能和能效表现双优，可为需要较高任务并行吞吐量的工作负载带来明显优势。例如，与上一代产品相比，英特尔® 至强® 6 能效核处理器可将服务器端 Java 吞吐量每瓦性能提升近 1.5 倍。

由于创新药物的研发过程具备高度的复杂性和不确定性，因此业界一直广泛流传着 “双十定律” 的说法，即 10 年研发时间与 10 亿美元研发成本。但随着 CADD 与 AIDD 的辅助药物研发技术诞生，研发效率及精度大大提升。

在整个 2024 年巴黎奥运会期间，经人工智能优化的广播服务器将对奥林匹克广播服务公司 (OBS) 生成的 8K 直播信号进行编码和压缩，并通过开放的互联网渠道向选定的媒体版权持有者提供这些信号。

近日，英特尔分享了与国际奥林匹克委员会（IOC）的一些合作细节，并披露了其以行业需求为导向所打造的生成式 AI（GenAI）检索增强生成（RAG）解决方案。

为助力阿里妈妈提升智能推荐系统的准确性和效率，英特尔围绕第五代至强® 可扩展处理器这一算力核心，借助其内置的英特尔® AMX 技术，以及英特尔® oneDNN、算子融合等软件方案，为新方案提供面向 AI 推理的优化加速。

本文结合科学计算与 AI for Science 领域的实战方案、用例与成果，详细解析了科学计算平台实现均衡计算及强化内存子系统的重要性，并展示了集成有 HBM 的英特尔® 至强® CPU Max 平台在相关创新与应用进程中发挥的重要作用。

东云睿连在“档证通”中使用多种算法模型实现智能 OCR，并借助第四代至强可扩展处理器和 OpenVINO™ 工具套件进行优化。至强® CPU Max 处理器内置的 HBM 内存提供了高带宽，提升了大模型推理性能。

为帮助构建平台的成本挑战，高通量计算和大规模推理压力，以及大内存需求问题。英特尔启动了 AlphaFold2 方案构建及优化工作，基于至强® CPU Max 集成的 HBM 和英特尔® AMX 等软件的支持。

第五代英特尔® 至强® 可扩展处理器既能节省功耗，又能以更低成本提供加速基因组研究所需的计算性能。测试显示，博德研究所基于该处理器的基因组分析方案实现了高达 61% 的吞吐量提升，基因组分析的单位成本仅为 2.34 美元。

老电影修复工作的过程中 AI 推理任务在总修复工作中占据巨大比例，因此字节跳动电影修复团队也与英特尔展开合作，引入第四代至强® 可扩展处理器来构建推理任务的算力平台，配合 OpenVINO™ 工具套件等软硬件产品，自动调用 BF16 加速指令。

Quartus® Prime 专业版软件 v24.1 现已推出，免费支持 Agilex™ 5 FPGA E 系列, 搭配 Quartus® Prime 软件，可简化设计流程，支持嵌入式处理功能。

硬件方面，英特尔® 至强® 平台为 RAG 提供可靠的算力支持，满足 RAG 应用计算密集型需求；该处理器内置安全技术，可更好地保护数据隐私和安全性，满足 RAG 数据安全需求。

京东方基于英特尔提供的、适用于智能边缘计算平台的软硬件组合，整合产线工作负载，并通过云边协同、AI 和大数据技术实现更高效的产品缺陷检测及不良根因分析。

英特尔® Granulate™ 可使数据中心性能提升高达 60%，同时将计算成本降低多达 30%；英特尔® oneAPI 可使图像分类推理性能提升高达 16-53 倍。

使用第五代英特尔® 至强® 可扩展处理器可使服务器数量降低多达 94%，碳排放量和功耗降低多达 90%，TCO 降低多达 77%，四年内可实现高达 1482.2 兆瓦时的能源节省，减少将近 628 吨的碳排放量。

使用第五代英特尔® 至强® 可扩展处理器更新服务器可节省近 1260 兆瓦时能源，减少多达 533 吨碳排放。英特尔® oneAPI 可将图像分类推理性能提升高达 16 倍，对象检测性能提升高达 10 倍。

使用内置英特尔® AMX 的第五代英特尔® 至强® 可扩展处理器可将常见 AI 工作负载的每瓦性能提升高达 10 倍。此外，借助英特尔® oneAPI，可将 PyTorch 的图像分类性能提升高达 53 倍，将推荐系统性能提升将近 5 倍。

英特尔助力提高数据中心能效，推动可持续发展。使用内置英特尔® AMX 的第五代至强® 可扩展处理器可减少服务器数量，节省高达 1,643.6 兆瓦时的能源，减少将近 697 吨碳排放。

1）提高硬件计算效率，如升级服务器 CPU 可实现 50:3 的服务器整合、内置的英特尔® 加速器可将每瓦性能提升 9.9 倍、电源管理工具可将每瓦性能提升 1.14 倍。

启用第五代英特尔® 至强® 可扩展处理器内置的 AMX 可将 AI 每瓦性能提升 10 倍；启用 OPM 可将每瓦性能提升高达 14%；采用第五代至强® CPU 能实现高达 1482MWh 的能源节省，将二氧化碳排放量降低多达 696.77 吨。

与第四代产品相比，第五代可扩展处理器，可将实时推理性能提升高达 1.23 至 1.35 倍，可将实时推理每瓦性能提升高达 1.2 至 1.38 倍；而与第三代产品相比，本代产品则可将推理工作负载的性能提升高达 10 倍，每瓦性能提升高达 7 倍。

金山云推出搭载第四代至强® 可扩展处理器的新一代云服务器，该云服务器支持英特尔® AMX 原生 AI 加速能力，并搭载了三款针对该云服务器调优的大模型镜像能够有效提升大模型的推理性能，为客户提供卓越的计算体验与更低的入门门槛。

面向网络优化的第五代英特尔® 至强® 可扩展处理器具备更高的每核性能、更强大的内存子系统、更快的 I/O 速度，有助于 CDN 突破当前每台服务器可支持的订户数瓶颈并降低能耗要求。除了硬件升级之外，英特尔还与 ISV 合作，提高 TLS 操作效率并降

英特尔® DSA 可通过从 CPU 卸载数据传输操作来加速工作负载，从而加速存储、网络和数据分析。内置英特尔® DSA 的第五代英特尔® 至强® 可扩展处理器可将大数据包顺序读工作负载的性能提升高达 2.26 倍，每瓦性能提升高达 2.15 倍。

第五代英特尔® 至强® 可扩展处理器内置众多加速器，包括：英特尔® AMX、英特尔® VVX-512、英特尔® SGX、英特尔® TDX、英特尔® 密码操作硬件加速技术、英特尔® DSA、英特尔® QAT、英特尔® DLB。

英特尔® QAT 可从 CPU 卸载计算密集型工作负载，降低 CPU 占用率，使每个内核的 NGINX TLS 握手操作性能提升高达 2.17 倍。

英特尔® DLB 能够均衡负载，跨 CPU 内核对数据包调度进行优先排序，降低网络流量时延，为高数据包速率应用加速。

第四代和第五代英特尔® 至强® 可扩展处理器内置的英特尔® IAA 可帮助企业和机构加速数据库查询和数据分析，更快获取洞察。

第五代英特尔® 至强® 可扩展处理器内置多个安全引擎，可更好地保护使用中的数据：英特尔® SGX 可提供应用层隔离；英特尔® TDX 则提供虚拟机层隔离，可将虚拟机的整数运算、浮点运算和 BERT-large 性能提升多达 11%。

第五代至强® 可扩展处理器，内置多种加速器，助力应对存储对 CPU 提出的新挑战：QAT 可加速即时压缩、加密与身份验证，将 NGINX TLS 握手操作性能提升高达 2.17 倍；DSA 可提高数据的传输量和传输速度，实现读写与复制加速。

每路内核数量增至多达 64，内存带宽提升达 1.16 倍，三级缓存容量提升达 3 倍，每路配备多达 80 条 PCIe 5.0 通道，支持 CXL Type 1、Type 2 和 Type 3。

英特尔® AMX可将实时 NLP 推理性能提升 9.9 倍；英特尔® AVX-512 可将乘法和加法合并为单个运算；英特尔® QAT 可降低加密和压缩开销；英特尔® DSA 有助于加速数据在 CPU、内存和缓存和各种附加内存、存储和网络设备中的传输。

为进一步提升向量数据库的性能，腾讯云与英特尔展开合作，引入第五代英特尔® 至强® 可扩展处理器等最新产品与技术，以软、硬件两方面的并行优化，为腾讯云向量数据库提供显著的性能加速， 并在双方随后开展的验证测试中得到了有效证实。

将常见 LLM 在至强® CPU 上的推理速度提升达 40x，解决了聊天场景中输入长度受限和效率低下的痛点。

腾讯材料计算模拟平台 TEFS 为高校和企业的材料研究人员提供了科学计算等能力，使基于计算模拟方式的材料研发更具效率。这一过程中，第四代至强® 可扩展处理器和英特尔® oneAPI HPC 工具套件的加入，让平台的计算性能得到了显著提升。

28 个常见科学计算工作负载可从中受益，性能提升平均高达 1.56 倍；VASP 性能提升多达 1.61 倍。

第五代英特尔® 至强® 处理器可帮助企业加速 AI 部署。首先，它的每个内核均集成 AI 加速技术，可更高效地处理要求严苛的 AI 工作负载。此外，它还具有能效管理功能和更高的每瓦性能，可帮助企业降低总体拥有成本。

英特尔® QAT 加速加密操作并释放 CPU 周期，满足多种网络功能需求。英特尔® DLB 帮助防止性能瓶颈并实现控制平面工作负载的低时延。英特尔® DSA 优化数据复制和转换操作，提升网络中处理器和其他资源之间的数据传输速度。

英特尔® IAA 可加速压缩/解压缩，从而提升内存数据处理速度。英特尔® DSA 执行数据传输和转换操作任务，使数据完整性校验和去重等任务的处理速度得到提升，实现出色的内存间数据传输和存储设备间的高效读写。

英特尔® 高级矩阵扩展（英特尔® AMX）可加速基于 CPU 的深度学习推理和训练，非常适合自然语言处理、推荐系统和图像识别等工作负载。英特尔® 高级矢量扩展 512（英特尔® AVX-512）则是加速机器学习的强大利器。

第五代英特尔® 至强® 处理器采用基于英特尔® SGX 和英特尔® TDX 的机密计算技术，可保护处理中的数据，降低敏感数据遭到泄露的可能性。机密计算还可帮助企业在激活数据中价值的同时满足合规要求。

第五代英特尔® 至强® 处理器搭载内置加速器，可提高每核性能，从而满足严苛的工作负载要求，帮助企业增加收入、开展创新。它还提高了每瓦性能，并且具备能效管理功能，加上英特尔提供的云优化工具，可帮助企业降低 TCO。

开源预训练大模型 ChatGLM-6B 通过本文的三个方面可实现基于第四代英特尔® 至强® 可扩展处理器的高效微调优化。

英特尔最近推出的 BigDL-LLM 库，可助力应用开发者和研究人员在英特尔® 平台上加速优化大语言模型，解决他们在使用大语言模型开发应用时因模型的超大规模参数导致的高时延困扰。

基于英特尔® SGX/TDX 的 TEE 可为 LLM 提供更安全的运行环境，为 LLM + TEE 在多行业、多场景的融合提供完整解决方案，协同英特尔其他内置加速器与 BigDL 可在强化安全保护的同时，解决资源性能限制，优化模型整体性能。

中国联通引入英特尔至强可扩展处理器等先进软硬件产品与技术，提升其 5G MEC 边缘云平台能力，并联合合作伙伴打造 AR 可视化远程协作产品等应用方案，现已部署并应用于车辆检修、工业制造等领域，获得了良好成效。

测试结果显示，诸多 CAE 应用在第三代英特尔® 至强® 可扩展处理器上的性能都明显高于前几代处理器。

惠每科技基于第四代英特尔®至强®可扩展处理器，引入两种分别基于BigDL-LLM大模型开源库与OpenVINO™工具套件的优化加速方案，有效提升LLM-based医疗AI应用的效率和准确性，且可以直接部署在既有英特尔® 架构处理器平台，降低成本压力。

A-SOUL 团队以基于 LLM 构建的 ChatAI 对话生成模型来为 AI 羊驼-阿花产品提供 NLP 能力。

英特尔与阿里巴巴一起，携手打造全新的多重优化方案，并在后续的验证测试中取得了预期的效果，使得阿里云上的 Node.js 开发者能够以更低的成本获得更加稳定可控的 Node.js 运行环境，并使最终用户获得更佳的服务体验。

内置于第四代至强® 可扩展处理器，DSA 优化了跨 CPU、内存和缓存以及各种附加内存、存储和网络设备的数据流传输。

内置英特尔® vRAN Boost 的第四代至强® 可扩展处理器可免去外部加速卡的使用、性能出色。

电子病历 (ePA) 可提供大量便利，但由于其使用者构成复杂，数据安全是一大难点。德国医疗基金 AOK 选择了英特尔® SGX，并与一众服务提供商形成联盟实施 ePA。SGX 提供处理器级别防护，可在数据加密存储和安全处理上全方位满足严苛的安全要求。

阿里云携手英特尔，基于至强可扩展平台进行紧密技术协作，协同开发浸没式液冷服务器，并在材料兼容性、芯片电气特性、服务器系统结构设计以及产业链拓展等方面推动浸没式液冷技术在数据中心的实践与运用。

阿里云将第四代至强® 可扩展处理器引入第八代企业级 ECS 实例 g8i 中，除获得了强劲的算力支持之外，通过处理器内置的英特尔® TDX 技术，阿里云可为客户面向虚拟化实例的机密计算新方案提供坚实的技术保障。

金蝶与英特尔合作，基于第四代英特尔® 至强® 可扩展处理器全面升级金蝶云•苍穹 AI 服务云。

火山引擎引入英特尔® 数据中心 GPU Flex 系列，作为云端渲染和编码工作的核心引擎，结合自研的 RTC 产品 ByteRTC、智能调度技术等，打造了全新的火山引擎云游戏解决方案。

"面向网络优化的第四代英特尔® 至强® 处理器经过均衡升级：执行流水线更强大；内存带宽和速度提升多达 1.5 倍；I/O 速度和处理能力得到提升；改进了电源管理策略，使平台的响应能力和效率得到提升；采用更全面的遥测技术，提高网络运营问题的可见性。

面向网络优化的第四代英特尔® 至强® 处理器具备更多内核、更快 I/O 和面向负载均衡、复制转发数据操作和加解密处理的内置加速技术，与前几代处理器相比，可使内容分发网络的性能提高 1.46 倍。

英特尔® DevCloud 是一个强大的在线平台，提供多种工具和资源，可以测试和优化设计方案，用户可以使用全新的英特尔® Agilex™ 7 FPGA，利用其高性能和低功耗计算解决方案，加速 oneAPI 工作负载。

中国电信构建算力网络，并与英特尔携手打造作为算力网络核心网元的算力网关产品，引入第三代英特尔® 至强® 可扩展处理器作为其计算处理引擎，通过 IPDK 为算力网关产品提供跨平台的方案部署和性能加速。

英特尔协助合作伙伴，在构建 IT 和云基础设施、实现电信网络转型等领域进行了持续探索，积累了丰富的技术成果和实践经验。针对算力网络和云网融合技术的驱动本源和目标构想，英特尔也进行了深入研究，在云网架构演进和软硬件实现等方面总结思考并提出建议。

采用内置英特尔® AMX 的第四代至强® 助 AlphaFold2 实现端到端优化，使通量获得出色表现。

中国联通采用英特尔 BigDL Chronos 框架，结合 5GC 等业务特有的性能和质量指标，面向部署在通信云资源池中的 5GC 网元资源，推出占用率预测创新方案，大幅提升预测准确率，达成预期目标。

更早地发现影响时序收敛的问题，更快地缩短编译时间。

全新英特尔® Agilex™ 7 FPGA 和 SoC 配备全新内核芯片，内含 400 万个逻辑单元、335 Mbit M20K 模块和两个嵌入式 SRAM 以及 4 个高性能 200G 加解密模块。

英特尔® Agilex™ 7 FPGA 采用异构多芯片架构，在单个设备内即可实现之前多台设备才能实现的连接拓扑。而作为其核心的 F-Tile 将软硬核 IP 相结合，可实现高达 116 Gbps 的传输速率，为诸多领域的应用带来更大的灵活性。

面向网络优化的第四代至强® 可扩展处理器拥有多种核数与功能配置，在众多内置加速器加持下单核性能比上一代产品更出色。

英特尔® 安全引擎，构筑更强数据安全防线，释放更多数据价值，助力企业不断向前发展。

针对一级压缩，英特尔®数据保护与压缩加速技术可使内核用量减少高达95%，吞吐量提升高达2倍；针对小数据包随机读取，英特尔®数据流加速器可使IOPS提升高达1.21倍，时延降低高达18%；英特尔®存内分析加速器可使RocksDB性能提升高达3倍。

英特尔® 至强® 可扩展处理器配备六大加速引擎，覆盖 AI、安全、科学计算、网络、数据分析和存储的多种关键工作负载，无论本地、云端或边缘，皆可实现性能提升，且无需增设专用硬件，有效降低成本。

增加 CPU 内核或选择更高频率已不足以高效提升现代工作负载的效率。基于这一挑战，英特尔® 至强® 可扩展处理器通过内置加速器，可减少另行添置硬件的需求、更快完成工作负载、提高能效

阿里云以搭载了面向单路和双路的第三代至强® 可扩展处理器的第七代云服务器 ECS 为基础，为完美世界《幻塔》持续迭代更新提供了从选型到部署实施的全流程服务，进一步提升了数据的压缩和解压缩性能，使《幻塔》项目性价比显著提升。

英特尔® 动态负载均衡器作为硬件队列管理器兼负载均衡器，不仅能够降低 CPU 周期成本，更能在转发吞吐量方面较软件队列管理器实现数倍性能提升，以更出色的任务调度和负载均衡能力为应用提供支持。

本指南介绍了多种英特尔® 内置加速器。英特尔® DL Boost 可加速图像分类、语言翻译和对象检测等 AI 推理任务；英特尔® AVX 512 可用于金融分析、音视频处理、加密和数据压缩等场景；英特尔® SGX 可保护使用中的数据

英特尔® 至强® CPU Max 系列作为英特尔唯一基于 x86 架构并采用高带宽内存的 CPU 系列，凭借更多内核、先进的 I/O 与内存子系统、多种内置加速器及灵活的内存工作机制，满足科学计算和 AI 工作负载诸多要求。

第三代至强® 和以太网 800 系列网络适配器成为中兴通讯 UPF 解决方案的基石。

意图分类推理速度提升 1.56 倍，加速智能客服响应。

为了提供具备更高性能以及经济性的云游戏服务，蔚领时代与硅基大陆、英特尔合作，通过基于英特尔® 至强® 可扩展处理器的容器方案与虚拟化桌面方案，以及基于英特尔® 服务器 GPU 的安卓模拟器方案，提供高性能、低延时、低总体拥有成本的云游戏方案。

将英特尔® 技术用于云工作负载将带来性能表现、性价比和可用性等方面的显著优势。

本文介绍了面向 AI 推理的英特尔® 精选解决方案以及其如何解决 AI 推理部署的痛点，包括其中采用的软件、硬件和技术。该系列解决方案有基础和增强配置，提供灵活的可定制性，以满足不同需求。

Ice Lake 架构至强®， 扩大了 XGBoost 参数空间并实现了 1.4 倍的性能提升。