NVIDIA – LLM-Inferenz mit TensorRT LLM auf Last und Speicher abstimmen

Kursüberblick

Untersuchen Sie die Leistung eines Sprachmodells unter realistischen Anfragegrößen. Sie vergleichen Präzision, KV-Cache und Parallelisierung und entwickeln eine Betriebsgrenze, die Antwortzeit und Speicherverbrauch gemeinsam berücksichtigt.

Dauer: 2 Tage.

Ihre Lernziele

  • LLM-Lasten anhand von Kontext und Nebenläufigkeit beschreiben.
  • Speicherverbrauch und Antwortqualität gemeinsam bewerten.
  • Eine belastbare Inferenzkonfiguration aus Messdaten ableiten.

Inhalte im Detail

  • Modellunterstützung, Hardware und Ausführungsweg für TensorRT LLM prüfen.
  • Kontextlänge, Ausgabelänge und Parallelität in ein Lastprofil übersetzen.
  • Quantisierung und geeignete Präzision anhand eigener Qualitätsfragen bewerten.
  • KV-Cache und Scheduling hinsichtlich Speichergrenzen untersuchen.
  • Tensor- und Pipelineparallelität nach Modellgröße und Labortopologie einordnen.
  • Streaming, Time to First Token und Durchsatz mit vergleichbaren Messbedingungen erfassen.

Praktische Übungen

  • Messen Sie kurze und lange Anfragen an ein vereinbartes Sprachmodell und zerlegen Sie Wartezeit, Vorverarbeitung und Tokenausgabe.
  • Vergleichen Sie zwei geeignete Präzisionseinstellungen anhand derselben Qualitätsfragen und dokumentieren Sie erkennbare Abweichungen.
  • Erhöhen Sie kontrolliert die Nebenläufigkeit und bestimmen Sie eine Betriebsgrenze ohne unkontrollierten Speicherausfall.

Zielgruppe

LLM-Engineers und erfahrene Inferenzbetreiber.

Voraussetzungen

GPU-Inferenz, Container und Grundlagen von Transformer-Modellen.

Software und Übungsumgebung

Getrennte GPU-Laborumgebung mit Testdaten. Hardwaregeneration, Treiber, Softwarestand, Modellrechte und gegebenenfalls benötigte NVIDIA-Lizenzen werden vorab auf die Übungen abgestimmt; Zugang erfolgt lokal oder per Fernzugriff.

Teilnahmebestätigung

Sie erhalten eine Teilnahmebestätigung von SCN.

Einordnung des Seminars

Der Einstieg richtet sich nach den genannten Voraussetzungen. Die Lernziele werden an eigenen Aufgaben in einer getrennten Testumgebung bearbeitet.

Ansprechpartner

Ihre Berater für das Training NVIDIA – LLM-Inferenz mit TensorRT LLM auf Last und Speicher abstimmen

Vorbereitung Ihres Trainings

Besprechen Sie Ihre Lernziele vorab mit dem Trainer. Unsere Ansprechpartner unterstützen Sie bei individuellen Themen und Firmenschulungen.

Buchung

Buchung


Das Seminar wurde auf die Merkliste gesetzt


Das von Ihnen gewählte Seminar wurde bereits auf die Merkliste gesetzt


Bitte wählen Sie einen freien Termin aus


Bitte geben Sie Ihren Wunschtermin im Format tt.mm.jjjj ein


Bitte wählen Sie einen freien Termin aus


Bitte geben Sie den gewünschten Termin im Format tt.mm.jjjj der Schulung ein

Dauer 2 Tage, ca. 6h/Tag
1.Tag: 10:00 Uhr, weitere ab 09:00 Uhr
Preis € 1.780,00 zzgl. MwSt.
pro Teilnehmenden
Leistungen Live Durchführung durch einen bei uns fest angestellten Trainer, Schulungsunterlagen als PDF wahlweise in deutscher oder englischer Sprache, Teilnahmebestätigung, Laborumgebung für die praktischen Übungen, Verpflegung.
Sprache Deutsch - bei Firmenseminaren ist auch Englisch möglich
Seminarunterlagen Ausführliche Schulungs- und Begleitmaterialien in deutscher Sprache oder wahlweise in englischer Sprache als PDF
Teilnahmezertifikat ja, selbstverständlich
Barriere freier Zugang an den meisten Standorten verfügbar
Verpflegung Kalt- / Warmgetränke, Mittagessen (wahlweise vegetarisch) - nicht bei Firmen- und Online Seminaren
Support 3 Anrufe im Seminarpreis enthalten
Methoden Vortrag, Demonstration, praktische Übungen am System
Seminararten Mit Trainer vor Ort: Öffentlich oder Inhaus - Alternativ als Online Training bestellbar
Durchführungsgarantie ja, ab 2 Teilnehmern, max. 8 Teilnehmer, Details

Wählen Sie einen freien Termin für Bregenz aus



























Dauer 2 Tage, ca. 6h/Tag
1.Tag: 10:00 Uhr, weitere ab 09:00 Uhr
Preis € 2.900,00 zzgl. MwSt.
gilt für bis zu 8 Teilnehmende bei einer Online-Durchführung. Ggf. kommen Kosten für die Schulungsumgebung hinzu.
Leistungen Live und online Durchführung durch einen bei uns fest angestellten Trainer, Schulungsunterlagen als PDF wahlweise in deutscher oder englischer Sprache, Teilnahmebestätigung, Optional: Laborumgebung für die praktischen Übungen und Reisespesen.
Sprache Deutsch - bei Firmenseminaren ist auch Englisch möglich
Seminarunterlagen Ausführliche Schulungs- und Begleitmaterialien in deutscher Sprache oder wahlweise in englischer Sprache als PDF
Teilnahmezertifikat ja, selbstverständlich
Barriere freier Zugang an den meisten Standorten verfügbar
Verpflegung Kalt- / Warmgetränke, Mittagessen (wahlweise vegetarisch) - nicht bei Firmen- und Online Seminaren
Support 3 Anrufe im Seminarpreis enthalten
Methoden Vortrag, Demonstration, praktische Übungen am System
Seminararten Mit Trainer vor Ort: Öffentlich oder Inhaus - Alternativ als Online Training bestellbar
Durchführungsgarantie ja, ab 2 Teilnehmern, max. 8 Teilnehmer, Details

Geben Sie hier Ihren Wunschtermin für Bregenz



Dauer 2 Tage, ca. 6h/Tag
1.Tag: 10:00 Uhr, weitere ab 09:00 Uhr
Preis € 1.780,00 zzgl. MwSt.
pro Teilnehmenden
Leistungen Live Durchführung durch einen bei uns fest angestellten Trainer, Schulungsunterlagen als PDF wahlweise in deutscher oder englischer Sprache, Teilnahmebestätigung, Laborumgebung für die praktischen Übungen.
Sprache Deutsch - bei Firmenseminaren ist auch Englisch möglich
Seminarunterlagen Ausführliche Schulungs- und Begleitmaterialien in deutscher Sprache oder wahlweise in englischer Sprache als PDF
Teilnahmezertifikat ja, selbstverständlich
Barriere freier Zugang an den meisten Standorten verfügbar
Verpflegung Kalt- / Warmgetränke, Mittagessen (wahlweise vegetarisch) - nicht bei Firmen- und Online Seminaren
Support 3 Anrufe im Seminarpreis enthalten
Methoden Vortrag, Demonstration, praktische Übungen am System
Seminararten Mit Trainer vor Ort: Öffentlich oder Inhaus - Alternativ als Online Training bestellbar
Durchführungsgarantie ja, ab 2 Teilnehmern, max. 8 Teilnehmer, Details

Wählen Sie bitte einen freien Termin aus



























© 2026 SCN GmbH. All rights reserved.