在英特尔® CPU 上优化和运行 LLaMA2

下载
791610
2023-10-24
Public

说明

在本白皮书中，我们将演示如何执行特定于硬件平台的优化，以提高在英特尔® CPU 平台上运行的 llama.cpp（一种开源 LLaMA 模型推理软件）上的 LLaMA2 LLM 模型的推理速度。