DPC++ auf Nvidia-GPUs - Demo Schritt-für-Schritt-Anleitung

Table of Contents

1. Einführung zum DPC++-Projekt
2. Systemanforderungen
3. Installation von Docker und dem NVIDIA Container Toolkit
4. Beispiel 1: Implementierung eines grundlegenden Vektoraddierers
5. Beispiel 2: Verwendung von KUBlAS im Zyklenprojekt
6. Beispiel 3: Einbindung von CUDA-Kernen in das Sickle-Projekt
7. Übung 1: Anpassung des Sickle-Codes für die Verwendung von "sgmv" anstelle von "sgm"
8. Abschlussbemerkungen
9. Häufig gestellte Fragen (FAQs)

Einführung zum DPC++-Projekt

Hallo zusammen! In dieser praktischen Übung für DPC++ möchte ich Ihnen einige Beispiele und Übungen vorstellen, die wir im Rahmen des DPC++-Projekts entwickelt haben. Mein Name ist Stuart Adams und ich bin ein Mitarbeiter und Softwareingenieur bei Codeplay Software. Bevor wir starten, möchte ich klarstellen, dass diese Übungen nur auf Linux-Maschinen mit NVIDIA-GPUs funktionieren. Sie werden nicht unter Windows oder dem Windows-Subsystem für Linux funktionieren. Wenn Sie während dieser Übung mitmachen möchten, müssen Sie daher in eine Linux-Umgebung mit einer installierten NVIDIA-GPU wechseln. Es wird außerdem empfohlen, mit der Programmiersprache C++ vertraut zu sein, um diese Materialien nutzen zu können.

Systemanforderungen

Um die Beispiele und Übungen erfolgreich durchführen zu können, empfehlen wir die Installation von Docker und dem NVIDIA Container Toolkit. Mit diesen Tools können Sie einen Container ausführen, der alle erforderlichen Bibliotheken und Umgebungsvariablen enthält, um DPC++ nutzen zu können. Falls Sie Docker und das Toolkit noch nicht installiert haben, finden Sie einen Link zu einer Installationsanleitung, die Ihnen dabei hilft. Diese Installation dauert nur etwa fünf Minuten und erleichtert Ihnen den Umgang mit DPC++ erheblich.

Beispiel 1: Implementierung eines grundlegenden Vektoraddierers

Das erste Beispiel bietet eine Implementierung eines grundlegenden Vektoraddierers sowohl für Sickle als auch für CUDA. Dieses Beispiel vermittelt einen sehr guten Eindruck von den Unterschieden zwischen den beiden APIs. Um dieses Beispiel auszuführen, empfehlen wir Ihnen, ein neues Build-Verzeichnis zu erstellen und anschließend CMake auszuführen, wobei der Pfad zum Sickle-Verzeichnis angegeben werden muss. Dadurch wird der Build-Prozess vereinfacht. Anschließend können Sie make ausführen und feststellen, dass zwei Anwendungen erstellt wurden - eine für CUDA und eine für Sickle.

• Pro: Gute Möglichkeit, die Unterschiede zwischen Sickle und CUDA zu verstehen
• Con: Nur für Linux-Maschinen mit NVIDIA-GPUs geeignet

Beispiel 2: Verwendung von KUBlAS im Zyklenprojekt

Das zweite Beispiel zeigt, wie man aus einem Sickle-Projekt heraus eine bestehende CUDA-API, nämlich KUBlAS, aufruft. KUBlAS ist eine lineare Algebra-Bibliothek, die auf CUDA aufbaut. Es werden zwei Programme bereitgestellt, eines für den Aufruf von KUBlAS aus CUDA und eines für den Aufruf von KUBlAS aus Sickle. Das Sickle-Beispiel nutzt dabei einige neue Interrupt-Funktionen, die im Rahmen des DPC++-Projekts entwickelt wurden. Um dieses Beispiel zu erstellen, erstellen Sie erneut ein neues Build-Verzeichnis und führen Sie CMake aus. Anschließend führen Sie make aus, um die beiden Anwendungen zu erstellen.

• Pro: Veranschaulicht die Nutzung von Interrupt-Funktionen in Sickle
• Con: Erfordert Verständnis der CUDA-API

Beispiel 3: Einbindung von CUDA-Kernen in das Sickle-Projekt

Das dritte Beispiel ist ähnlich wie Beispiel 1, jedoch mit einer Besonderheit. Statt Sickle-Kerneln verwenden wir hier CUDA-Kernel. Der Sickle-Code kümmert sich weiterhin um die Einrichtung und Verwendung von Ressourcen mithilfe der Sickle-API, ruft jedoch den CUDA-Kernel über eine Interrupt-Aufgabe auf. Führen Sie einfach make aus, um den Build-Vorgang abzuschließen und die beiden Anwendungen zu erstellen.

• Pro: Zeigt die nahtlose Integration von CUDA-Kernen in ein Sickle-Projekt
• Con: Einschränkungen beim Ändern des CUDA-Compilers durch CMake

Übung 1: Anpassung des Sickle-Codes für die Verwendung von "sgmv" anstelle von "sgm"

Nachdem Sie sich mit den Beispielen vertraut gemacht haben, fordert Sie Übung 1 dazu auf, einen ähnlichen Ansatz wie in Beispiel 2 zu verfolgen. Hierbei sollen Sie eine Sickle-Anwendung schreiben, die die "sgmv"-Funktion aus KUBlAS aufruft, anstelle der "sgm"-Funktion. Hierzu stellen wir eine CUDA-Anwendung bereit, die genau dasselbe tut. Ihre Aufgabe besteht darin, den Sickle-Code entsprechend anzupassen, um sgmv anstelle von sgm aufzurufen. Orientieren Sie sich dazu an Beispiel 2 und passen Sie den Code entsprechend an.

Jetzt sollten Sie mit den drei Beispielen und der Übung einen besseren Überblick über die DPC++-Programmierung und die Möglichkeiten der Interoperabilität zwischen Sickle und CUDA-Projekten haben. Wenn Sie Fragen haben, stehen wir im Devmash Discord Server zur Verfügung, um sowohl die Übungen als auch die Entwicklung von DPC++ zu besprechen. Wir haben auch eine aufgezeichnete Durchführung der Übungen, die wir Ihnen zur Verfügung stellen. Sie finden einen Link zu einem YouTube-Video, das Ihnen erlaubt, die Schritte in Ihrem eigenen Tempo nachzuvollziehen.

Abschlussbemerkungen

Vielen Dank für Ihre Aufmerksamkeit! Ich hoffe, dass Sie durch diese Übung mehr über DPC++ gelernt haben und sich nun besser mit den Möglichkeiten der Programmierung damit auskennen.

Häufig gestellte Fragen (FAQs)

Frage: Welche Systemanforderungen gelten für die Durchführung der Beispiele und Übungen? Antwort: Sie benötigen ein Linux-System mit einer NVIDIA-GPU, Docker und dem NVIDIA Container Toolkit, um die Übungen erfolgreich durchzuführen.

Frage: Wo finde ich die Beispiele und Übungen? Antwort: Sie finden die Codebeispiele und Übungen im GitHub-Repository von Codeplay Software unter dem Namen "sickle-for-cuda-examples".

Frage: Kann ich die Übungen auch auf einem Windows-System durchführen? Antwort: Nein, die Übungen sind nur auf Linux-Maschinen mit NVIDIA-GPUs möglich.

Frage: Gibt es eine Möglichkeit, den CUDA-Compiler in den CMake-Einstellungen anzupassen? Antwort: Derzeit bietet CMake keine Möglichkeit, den CUDA-Compiler zu ändern. Deshalb verwenden wir in bestimmten Beispielen die Make-Befehle statt CMake.

Frage: Wo kann ich weitere Hilfe oder Unterstützung bekommen? Antwort: Bei Fragen oder Problemen stehen wir Ihnen im Devmash Discord Server gerne zur Verfügung.