FPGAi
加速您自定义解决方案的 AI 支持。 了解 FPGAi 如何助您在自定义解决方案中启用和部署 AI,以获得更低延迟、更高能效和敏捷率,实现持续创新。
利用 Altera FPGA 引领 AI 新时代
FPGA 和 AI 的融合不仅仅是一种演变,更是一场革命。
Altera 实现的是 FPGAi 的新时代,提供高性能和融入 AI 的 FPGA 结构。我们的可编程逻辑和 AI 支持实时数据适应和自主决策,助力系统实现下一代复杂性。为什么将 FPGA 用于 AI
AI 工作负载变得越来越复杂,要求越来越高,因此选择合适的 AI 加速硬件至关重要。了解 FPGA 如何为 AI 应用提供强大而灵活的解决方案。
FPGAi 应用
边缘人工智能
FPGA 特别适合各种工业、医疗、测试和测量、航空航天、国防和广播应用中的边缘 AI。集成 Arm 处理器、Nios®V 软处理器和支持边缘各种数据的多种 IO 协议,加上确定性低延迟、低功耗和长寿命,让 FPGA 在边缘拥有额外优势。
GenAI 还是自定义
Agilex™ 7 FPGA M-系列可以用于自定义基于变换器的 LLM 推理,在功耗和尺寸方面都超越了 GPU。
它具有 32 GB HBM2E,提供 820 GBps、高达 512 GB DDR5,224 GBps,非常适合用于 LLM 和 KV 高速缓存。高速 SERDES (116 Gbps),支持 800 GbE 和 PCIe 5.0 (64 GBps),确保快速扩展和数据传输。设备的可变精度 DSP 支持 AI 推理友好的 FP16、bfloat16 和 INT8 等格式。Hyperflex™ 架构支持 500 MHz+ 运行,实现高速 AI 推理。AI 附件
在 800 GbE 支持下,可为 AI 集群创建者定制解决方案,其中 FPGA 作为 FPGA AI NIC 来减少训练或推理过程中 GPU 的数据摄入抖动和网络拥堵。支持向内扩展和向外扩展的自定义和开放式标准选项。
FPGA 非常适合 AI 预处理,即数据经过格式化和过滤,以便在 AI 训练或推理中高效使用。 FPGA 可以加速私有企业数据库,实现快速数据检索。解决方案能力:高性能 FPGA
Agilex™ 7 FPGA M-系列,具有 89 INT8 TOPS、封装内的 HBM2e 内存容量(32 GB 和 820 Gbps 带宽)和增强的 DDR5/LPDDR5 内存控制器(支持 5600 MBPs),能够缓解依靠内存的 AI 模型(如生成式 AI 基于 LLM 的转换器模型)的瓶颈问题。
Agilex™ 5 FPGA 设备拥有最多 56 个 INT8 TOP,采用第一个注入 AI 张量块的 FPGA 结构,可实现更高的计算密度。张量块可以在一个时钟周期中执行 20 个 BlockFP16 或 INT8 乘法,实现比其他 Agilex FPGA 产品组合提升 5 倍的计算密度。
开发人员可用性:对 FPGA 资源进行无缝预训练模型转换和自动优化
FPGA AI 套件提供一键使用 OpenVINO 将预训练模型转化为 AI 推理 IP 的功能。此套件的自动优化工具遍布设计空间,以实现 AI 模型的最优实施。 通过 OpenVINO 插件接口可访问 FPGA AI 套件 IP 的软件仿真,无需硬件便可以快速评估 FPGA AI 的 IP 准确性( 仅适用于 Agilex™ 5 FPGA)。 FPGA AI Suite 与 Quartus® Prime 设计软件和平台设计器集成,可简化 AI 推理 IP 的集成。应用敏捷性:实现可持续创新
工程师可以利用 FPGA 来打造和演进 AI 解决方案,通过使用设备 1 的可重新编程性、延长的产品生命周期以及能够实现持续创新和适应性的多种 I/O 选项来持续引领技术变革。 FPGA 是天然适合 AI 的。FPGA 具有数千个 DSP 模块、内存等级和广泛的 I/O 支持,可实现从头到尾的设计定制和 AI 网络建设,以实现最佳性能。 各种大小的 AI 模型可以高效实施,包括高能效的 TinyML 和边缘的中大型模型,以及数据中心的 GenAI LLM 变换器模型。![自主移动机器人图表](/content/dam/www/central-libraries/us/en/images/2024-04/autonomous-mobile-robots-diagram.png.rendition.intel.web.480.270.png)
![图像传感器处理图表](/content/dam/www/central-libraries/us/en/images/2024-04/image-sensor-processing-diagram.png.rendition.intel.web.480.270.png)
![临床系统图表](/content/dam/www/central-libraries/us/en/images/2024-04/clinical-system-diagram.png.rendition.intel.web.480.270.png)