一API深度神經網絡庫介紹與實踐指南

目录：

一API频道

1.介绍

2.获取oneDNN代码

2.1 从GitHub获取源代码

2.2 获取特定架构的源代码

3.学习教程和示例

3.1 在Dev-Cloud上尝试

3.2 使用Jupyter Notebook运行示例

4.基本概念

4.1 输入和输出的数据结构

4.2 权重作为输入数据

4.3 图层操作和性能优化

4.4 流式处理和引擎

4.5 使用DNNL命名空间

5.实例演示

5.1 构建一个RELU操作的实现

5.2 使用vTune分析器进行性能跟踪和调试

6.了解更多

6.1 文档和进一步信息

6.2 与设计团队交流和提供反馈

一API频道 - oneDNN介绍与实践指南 👨‍💻

欢迎回到一API频道！在上一个视频中，第十集，我们讨论了oneDNN（oneAPI深度神经网络库）。我们已经了解到您可以在oneAPI基础工具包中获取oneDNN的可执行文件，当然还可以在GitHub上寻找源代码。只需搜索"git oneDNN"，您就可以找到源代码。例如，对于CPU，例如，在x64架构上，您可以在这里找到库函数或原语的实际实现。您还可以在这里找到示例、教程和代码片段，这是学习的好方式。

试试最简单的方法，甚至可以在英特尔的新硬件上试用，就是使用dev-cloud。搜索它，申请，只需几个点击。一旦您收到含有链接的电子邮件，您就可以完全访问了。只需打开一个Linux终端，开始在示例上运行基准测试。无需安装任何东西，一切已准备就绪。只需开始编码！

另一种方法是浏览oneAPI-Samples / libraries / oneDNN / tutorials，并为“入门教程”打开一个Jupyter Notebook。只需按照说明逐步获取内容，并运行示例。也许通过一个例子是介绍编程模型的最好方式。因此，让我们逐步构建一个实现。

首先，我们需要一个输入和输出的结构。内存类型将对它们进行定义。在许多情况下，我们还需要将权重作为输入数据。这是实际的操作，原语是一个真正的数学或逻辑函数来执行。我们可以创建它，希望只需要创建一次以保存开销，然后根据需要执行多次并销毁它。

通过使用后操作，您可以连接或融合特定操作，从而显然可以提高性能。形成了所谓的流式处理，该流式处理在引擎上工作。引擎是执行流式处理的设备，它可以是英特尔CPU、nVidia GPU或其他设备。让我们看看入门示例。我们正在使用DNNL命名空间，首先定义引擎，即目标设备，然后定义将在我的引擎上运行的流。这是内存描述，包括数据布局、格式等。我们使用此格式来定义输入、输出以及如有必要的权重。现在，我们已经准备好了内存结构，我们正在执行RELU操作，因此对于权重没有真正的需求，对于此示例，我们将输入数据写入源，这是一幅图像，现在进行操作本身。我们定义了一个RELU操作和一个RELU原语描述符，它是针对特定引擎和特定目标设备的实际RELU实现。我们创建该原语并执行流，其中仅包含一个原语，但可以容纳许多个。现在，我们只需要等待流执行完成，然后将结果读入输出缓冲区。

oneDNN还拥有更多功能，在文档中您可以阅读到这方面的所有信息，例如与vTune分析器的连接。vTune自动检测oneDNN的JIT代码，它可以识别原语并为您提供所有跟踪和调试性能所需的统计信息。我们已经了解了oneDNN的编程模型和概念，知道了从哪里获取代码，并探索了入门示例。您可以在GitHub上与设计团队进行沟通，提出问题、请求增强功能或提供反馈。欲了解更多信息，请访问下方链接。祝您好运！🚀

亮点：

• 了解oneAPI深度神经网络库（oneDNN）的基本概念和编程模型
• 在oneAPI基础工具包或GitHub上获取oneDNN的代码
• 通过Dev-Cloud或Jupyter Notebook运行示例来学习和测试oneDNN
• 使用RELU操作作为例子来逐步构建一个实现
• 使用vTune分析器进行性能跟踪和调试
• 通过与设计团队的沟通和反馈，深入了解oneDNN的功能和用法

常见问题解答：

1. oneDNN可以在哪些设备上运行？ oneDNN可以在多种设备上运行，包括英特尔CPU，nVidia GPU等。

2. 如何获取oneDNN的源代码？ 您可以从oneAPI基础工具包或在GitHub上搜索"git oneDNN"来获取oneDNN的源代码。

3. 如何在Dev-Cloud上尝试oneDNN？ 您可以搜索并申请使用Dev-Cloud，一旦获得链接的电子邮件，您就可以在那里使用oneDNN示例进行尝试，无需安装任何东西。

4. 如何使用Jupyter Notebook运行oneDNN示例？ 您可以浏览oneAPI-Samples/libraries/oneDNN/tutorials，并打开一个Jupyter Notebook来运行入门教程中的示例。

5. oneDNN支持哪些操作？ oneDNN支持包括RELU在内的多种操作，您可以在文档中找到更多详细信息。

资源：

• oneAPI基础工具包
• oneDNN GitHub
• vTune分析器