Intel® FPGA SDK for OpenCL™ Pro Edition: 最佳实践实践指南

下载 PDF
ID 683521
日期 9/26/2022
Public
文档目录
文档目录 x
产品终止通知 1. Intel® FPGA SDK for OpenCL™ Pro Edition最佳实践指南介绍 2. 查看您Kernel的report.html文件 3. OpenCL内核设计概念 4. OpenCL内核设计最佳实践 5. 分析（Profiling）您的内核来识别性能瓶颈 6. 提高单个Work-Item内核性能的策略 7. 提高NDRange内核数据处理效率的策略 8. 提高存储器访问效率的策略 9. 优化FPGA面积使用的策略 10. 优化英特尔 Stratix 10 OpenCL设计的策略 11. 提高主机应用程序性能的策略 12. Intel® FPGA SDK for OpenCL™ Pro版最佳实践指南存档 A. Intel® FPGA SDK for OpenCL™ Pro版最佳实践指南修订历史
1. Intel® FPGA SDK for OpenCL™ Pro Edition最佳实践指南介绍 x
1.1. FPGA概述 1.2. 流水线 1.3. 单个work-item Kernel与NDRange Kernel
2. 查看您Kernel的report.html文件 x
2.1. 高层次设计报告布局 2.2. 查看Summary Report 2.3. 查看设计中吞吐量瓶颈 2.4. 使用视图 2.5. 分析吞吐量 2.6. 查看区域信息 2.7. 基于HTML Report中的信息优化OpenCL设计实例 2.8. 访问JSON格式的HLD FPGA报告
2.4. 使用视图 x
2.4.1. System Viewer的功能 2.4.2. Kernel Memory Viewer的功能 Kernel Memory List（内核存储器清单） Kernel Memory Viewer（内核存储器查看器） Code View（代码视图） Details（详细信息） 2.4.3. 调度Viewer的功能
2.4.1. System Viewer的功能 x
2.4.1.1. 查看系统信息 2.4.1.2. 查看全局存储器信息 2.4.1.3. 查看块信息 2.4.1.4. 查看集群信息
2.5. 分析吞吐量 x
2.5.1. 查看循环信息
2.6. 查看区域信息 x
2.6.1. 板级接口的区域报告消息 2.6.2. 针对功能开销的区域报告消息 2.6.3. 针对状态（State）的区域报告消息 2.6.4. 区域报告消息中的反馈 2.6.5. Area Report Message中的Private Variable Storage
2.6.5. Area Report Message中的Private Variable Storage x
2.6.5.1. 针对Constant Memory的Area Report Message
3. OpenCL内核设计概念 x
3.1. 内核 3.2. 全局存储互连 3.3. 局部存储器 3.4. 单个Work-Item内核中的循环 3.5. 通道 3.6. Load-Store Units
3.3. 局部存储器 x
3.3.1. 更改存储器访问模式的实例
3.4. 单个Work-Item内核中的循环 x
3.4.1. 启动间隔与最大频率之间的权衡 3.4.2. 循环携带的依赖项影响了循环的启动间隔 3.4.3. 嵌套循环 3.4.4. 循环推测 3.4.5. 循环融合（Loop Fusion） 3.4.6. 循环瓶颈（Loop Bottleneck）
3.4.3. 嵌套循环 x
3.4.3.1. 使用loop_coalesce减少嵌套循环占用的面积
3.6. Load-Store Units x
3.6.1. Load-Store Unit类型 3.6.2. Load-Store Unit修改程序 3.6.3. 控制Load-Store Units 3.6.4. 何时使用各种LSU
4. OpenCL内核设计最佳实践 x
4.1. 通过 Intel® FPGA SDK for OpenCL™ 通道或OpenCL管道传输数据 4.2. 展开循环 4.3. 优化浮点操作 4.4. 分配对齐的存储器 4.5. 使用/不使用填充来对齐结构体 4.6. 矢量类型单元保持相似的结构 4.7. 避免指针别名 4.8. 避免昂贵的函数 4.9. 避免Work-Item ID依赖的向后分支
4.1. 通过 Intel® FPGA SDK for OpenCL™ 通道或OpenCL管道传输数据 x
4.1.1. 通道和管道的表征 4.1.2. 通道和管道的执行顺序 4.1.3. 优化通道或管道的缓冲推断 4.1.4. 通道和管道的最佳实践
4.3. 优化浮点操作 x
4.3.1. 浮点与定点表示
5. 分析（Profiling）您的内核来识别性能瓶颈 x
5.1. 分析您内核的最佳实践 5.2. 使用Performance Counters (-profile)设施注入（instrument）Kernel Pipeline 5.3. 获取运行期间分析数据 5.4. 减少分析时的面积资源使用 5.5. 时间（Temporal）性能集合 5.6. 性能数据类型 5.7. 解释分析信息 5.8. 示例OpenCL设计场景的Profiler分析 5.9. Intel® FPGA Dynamic Profiler for OpenCL™ 限制
5.3. 获取运行期间分析数据 x
5.3.1. 调用Profiler Runtime Wrapper 5.3.2. 使用Intel® VTune™ Profiler查看分析数据
5.3.1. 调用Profiler Runtime Wrapper x
5.3.1.1. 拆分执行和数据后处理
5.5. 时间（Temporal）性能集合 x
5.5.1. 分析（Profiling）Autorun内核
5.7. 解释分析信息 x
5.7.1. 停顿、占用率、带宽 5.7.2. 停顿通道 5.7.3. 通道深度
5.8. 示例OpenCL设计场景的Profiler分析 x
5.8.1. 高停顿百分比 5.8.2. 较低的占用量百分比 5.8.3. 高停顿和高占用量百分比 5.8.4. 无停顿、低占用量百分比和低带宽 5.8.5. 无停顿、高占用量百分比和低带宽 5.8.6. 高停顿和低占用量百分比
6. 提高单个Work-Item内核性能的策略 x
6.1. 根据优化报告反馈解决单个Work-Item内核依赖项 6.2. 单个Work-Item内核的良好设计实践
6.1. 根据优化报告反馈解决单个Work-Item内核依赖项 x
6.1.1. 删除循环携带的依赖项 6.1.2. 松弛循环携带的依赖性 6.1.3. 将循环携带的依赖项转移到局部存储器 6.1.4. 通过推断移位寄存器来松弛循环携带的依赖项 6.1.5. 移除由于对存储器阵列的访问而引起的循环依赖
7. 提高NDRange内核数据处理效率的策略 x
7.1. 指定最大工作组大小或者需要的工作组大小 7.2. 内核矢量化 7.3. 多个计算单元 7.4. 计算单元复制与内核SIMD矢量化合并 7.5. 在HTML报告中查看内核属性和循环展开状态
7.3. 多个计算单元 x
7.3.1. 计算单元复制与内核SIMD向量化
8. 提高存储器访问效率的策略 x
8.1. 优化存储器访问的常规指导 8.2. 优化全局存储器访问 8.3. 使用常量、局部或专用存储器执行内核计算 8.4. 通过Banking（储存）局部存储器来提高内核性能 8.5. 通过控制存储器赋值因子来优化对局部存储器的访问 8.6. 最小化循环流水线的存储器依赖 8.7. 静态存储器合并
8.2. 优化全局存储器访问 x
8.2.1. Contiguous Memory Access（连续存储访问） 8.2.2. 全局存储器手动分区 8.2.3. 优化全局存储器的一个或多个Bank
8.2.2. 全局存储器手动分区 x
8.2.2.1. 异构存储器缓冲区
8.3. 使用常量、局部或专用存储器执行内核计算 x
8.3.1. 常量缓存存储器 8.3.2. 将数据预加载到局部存储器 8.3.3. 在专用存储器中存储可变量和数组
8.4. 通过Banking（储存）局部存储器来提高内核性能 x
8.4.1. 基于数组索引优化局部存储器Bank的几何配置
9. 优化FPGA面积使用的策略 x
9.1. 编译考量 9.2. 电路板变体选择考量 9.3. 存储器访问考量 9.4. 算法操作考量 9.5. 数据类型选择考量
10. 优化英特尔 Stratix 10 OpenCL设计的策略 x
10.1. 减少通道开销 10.2. 优化循环控制 10.3. 简化对局部存储器的存储访问 10.4. 重复使用数据的片上存储 10.5. 优化数据路径控制 10.6. 创建RTL模块
10.1. 减少通道开销 x
10.1.1. 减少内核数量 10.1.2. 使用单个内核来描述脉动阵列 10.1.3. 使用非阻塞通道（Non-Blocking）通道
10.2. 优化循环控制 x
10.2.1. 简化英特尔 Stratix 10 OpenCL设计中的循环携带依赖性
10.6. 创建RTL模块 x
10.6.1. 复位建议
11. 提高主机应用程序性能的策略 x
11.1. 多线程主机应用程序 11.2. 使用硬件内核调用队列
11.2. 使用硬件内核调用队列 x
11.2.1. 双缓冲主机应用程序利用内核调用队列
产品终止通知
1. Intel® FPGA SDK for OpenCL™ Pro Edition最佳实践指南介绍
2. 查看您Kernel的report.html文件
3. OpenCL内核设计概念
4. OpenCL内核设计最佳实践
5. 分析（Profiling）您的内核来识别性能瓶颈
6. 提高单个Work-Item内核性能的策略
7. 提高NDRange内核数据处理效率的策略
8. 提高存储器访问效率的策略
9. 优化FPGA面积使用的策略
10. 优化英特尔 Stratix 10 OpenCL设计的策略
11. 提高主机应用程序性能的策略
12. Intel® FPGA SDK for OpenCL™ Pro版最佳实践指南存档
A. Intel® FPGA SDK for OpenCL™ Pro版最佳实践指南修订历史

2.4.2. Kernel Memory Viewer的功能

数据移动是许多算法中的瓶颈。High Level Design Report (report.html)中的Kernel Memory Viewer向您展示了 Intel® FPGA SDK for OpenCL™ Offline Compiler如何解释数据连接并综合您内核的存储器。使用Kernel Memory Viewer有助于识别您内核设计中的数据移动瓶颈。

存储器接入中的某些模式可能会导致load-store units (LSUs)中出现不希望出现的仲裁，这就可能会影响您内核的吞吐量性能。使用Kernel Memory Viewer来识别LSU中不需要的仲裁。

点击System Viewers > Kernel Memory Viewer，访问Kernel Memory Viewer。

下图说明Kernel Memory Viewer的布局：

图 19. Kernel Memory Viewer的布局

Kernel Memory Viewer有如下窗格：

Kernel Memory List（内核存储器清单）
罗列出您设计中的所有存储器。选择存储器名称后，您可以在Kernel Memory Viewer窗格中查看其图形表示。
Kernel Memory Viewer（内核存储器查看器）
显示在Kernel Memory List窗格中选择的存储器系统或者存储器bank的图形表示。
Code View（代码视图）
显示所生成报告的源代码文件。
Details（详细信息）
显示在Kernel Memory List窗格中选择的存储器系统或存储器bank的详细信息。

Kernel Memory List（内核存储器清单）

Kernel Memory List窗格显示内核的层次结构，以及包含在该内核中已综合和优化的存储器（RAM，ROM和寄存器）。

图 20. Kernel Memory List窗格的功能特点和详细信息

下表描述上图中以编号突出显示的每个功能：

表 1.  Kernel Memory List窗口图标和标签
  图标或标签 名称 说明
1 Kernel name 您内核中存储器的列表可以展开或收起。不属于任何内核的存储器显示在(Other)下。
2 RAM

RAM是至少有一次写入的存储器。RAM存储器的名称与您设计中的名称相同。

当您选择存储器名称时，可以在Kernel Memory Viewer窗格中查看RAM的逻辑表示。默认情况下，仅显示存储器系统中的第一个bank。

要选择您希望在Kernel Memory Viewer窗格中显示的bank：

  1. 请展开存储器名称。
  2. 取消选择存储器名称复选框，以收起视图中的所有存储器bank。
  3. 选择存储器名称复选框，以在视图中显示所有存储器bank。
3 ROM

ROM是一个只读存储器。The name of the ROM存储器名称与其在您设计中的名称相同。

当您选择存储器名称时，可以在Kernel Memory Viewer窗格中查看ROM的逻辑表示。默认情况下，仅显示存储器系统中的第一个bank。

要选择您希望在Kernel Memory Viewer窗格中显示的bank：

  1. 请展开存储器名称。
  2. 取消选择存储器名称复选框，以收起视图中的所有存储器bank。
  3. 选择存储器名称复选框，以在视图中显示所有存储器bank。
4 Bank #num Bank

始终与RAM或者ROM相关联的存储器bank。每个bank被命名为Bank #num，其中#num是存储器bank的ID，并从0开始。

  • 在Kernel Memory Viewer窗格中，点击需要在bank视图中显示的bank名称，该窗格中显示bank和其所有复制（replicates）和专用副本（private copies） 的图形表示。该视图有助于您专注于复杂存储器设计的特定存储器bank。
  • 取消选择存储器bank名称的复选框，可收起存储器逻辑表示中的bank。
  • 勾选存储器bank名称复选框，以在存储器逻辑表示中显示需要的bank。
5 Register

寄存器是内核变量，该内核变量通过寄存器中的流水线携带（而非存储在RAM或ROM中）。该寄存器的名称与其在您设计中的名称相同。

您可以专门在FF或者FF组合，以及基于RAM的FIFO中实现寄存器变量。
6 text label Optimized Away

内核变量可以被优化掉（optimized away），因为您的设计中并未使用该变量，或者编译器优化已经改变了变量的所有用途，因而就不必要了。被优化掉的变量的名称与其在您的设计中的名称相同。
7 Filter

使用Kernel Memory List过滤器选择性查看设计中RAM，ROM，寄存器和被优化掉的变量的列表。

当您取消选择过滤器中某个项相关的复选框时，会将该项从整个Kernel Memory List中隐藏。过滤您的Kernel Memory List有助于您关注于设计中特定类型的存储器。

Kernel Memory Viewer（内核存储器查看器）

在Kernel Memory Viewer窗格中，您可以查看加载与储存到存储器系统中Bank上特定逻辑端口的连接。您还可以查看针对您的存储器系统中每个bank创建的复制（replicates）和专用副本（private copies）的数量。您可在Kernel Memory Viewer窗格中查看的节点类型如下，（取决于内核存储器系统和您在Kernel Memory List窗格中的选择）：

表 2.  Kernel Memory Viewer窗格中观察到的节点类型
节点类型 说明
Memory node（存储器节点） 您的设计中给定变量的存储器系统。
Bank node（Bank节点） 存储器系统中的bank。存储器系统至少包含一个bank。存储器bank能够连接到一个或者多个端口节点。仅显示在Kernel Memory List窗格中选择的bank。
Replication node（复制节点） 复制节点显示的存储器bank复制是为了有效支持多次访问局部存储器而创建的。该bank包含至少一个复制。您只有在Kernel Memory List窗格中单击该存储器bank名称进行查看时才能看到其复制节点。
Private-copy node（专用副本节点） 专用副本节点显示的是复制内的专用副本，而该复制是为了允许同时执行多次循环迭代而创建的。一个复制至少包含一个专用副本。您只有在Kernel Memory List窗格中单击该存储器bank名称进行查看时才能看到其专用副本节点
Port node（端口节点）

对局部存储器的每次读取或者写入都被映射到一个端口。bank的逻辑端口。有三种类型的端口：

  • R：只读端口
  • W：只写端口
  • RW：读写端口
LSU node 通过端口节点连接到存储器的存储（ST）或者加载（LD）节点。
Arbitration node（仲裁节点） 仲裁（ARB）节点显示LSU竞争访问共享端口节点，从而可能导致停顿。
Port-sharing node（共享端口的节点） 共享端口的节点（SHARE）表明LSU对共享节点的互斥访问权限，因此加载-储存单元就不会停顿。

您可以在Kernel Memory View窗格的存储器图形表示中执行如下操作：

  • 将鼠标光标悬停在任意节点上就能查看该节点的属性。
  • 将鼠标光标悬停在LSU节点上来突出显示从LSU节点到LSU连接的所有端口的路径。
  • 鼠标光标悬停在端口节点上来突出显示从端口节点到读/写端口节点的所有LSU的路径。
  • 单击选择一个节点，在Details窗格中显示节点属性。

下图以实例说明您将在Kernel Memory Viewer中看到的内容：

图 21. Kernel Memory Viewer窗格中的存储器逻辑表示
图 22. Kernel Memory Viewer窗格中存储器Bank的Bank视图

Code View（代码视图）

Code View窗格显示您的源代码。当您在Kernel Memory Viewer窗格中选择存储器或者bank时，Code View窗格突出显示您声明的存储器的代码行。

Details（详细信息）

Details窗格显示您在Kernel Memory Viewer窗格中选择的节点的属性。例如，您选择一个内核中的存储器后，Details窗格显示如下信息：
  • 存储器bank的宽度和深度
  • 存储器布局
  • 地址位映射
  • 您的源代码中指定的存储器属性

您在Kernel Memory Viewer窗格中重新选择不同节点之前，Details窗格中一直保持内容不变。

二级标题