KServe Schulung: Model Serving auf Kubernetes
Bring dein Modell mit KServe kontrolliert in den Kubernetes-Betrieb, inklusive Canary-Releases, Autoscaling und Monitoring
- KServe-Installation im Cluster
- InferenceServices produktionsnah definieren
- Canary-Deployments und Rollbacks
- 3 Tage
- Aufbau
- Online
- Zufriedenheitsgarantie Risikofrei für dich
- Online Live per Videokonferenz
- max. 8 Teilnehmerinnen und Teilnehmer pro Gruppe
- Keine Vorkasse Rechnung nach dem Seminar
Das nimmst du mit
- KServe-Installation im Cluster
- InferenceServices produktionsnah definieren
- Canary-Deployments und Rollbacks
- Autoscaling mit KPA und HPA
- GPU-Serving und Modellformate
- Monitoring und Troubleshooting
Passt das zu dir?
Damit du den Tag wirklich mitnimmst, lohnt sich ein kurzer Abgleich.
Richtig für dich, wenn
- MLOps-Engineerinnen und MLOps-Engineers mit Kubernetes-Bezug
- DevOps-Engineerinnen und DevOps-Engineers für KI-Inferenz
- Data-Scientistinnen und Data-Scientists mit Deployment-Aufgaben
- SRE-Teams für KI-Inferenz-Plattformen
Das bringst du mit
- Grundlagen in Kubernetes-Ressourcen wie Pods, Services und Deployments
- Erfahrung mit Container-Images, zum Beispiel aus dem Linux Container Workshop
- Grobe Einordnung von Modellartefakten und Inferenz-Endpunkten
Dein Lernweg
Tag 1: KServe installieren und InferenceServices starten
Der erste Tag legt die technische Basis für KServe im Kubernetes-Cluster. Die Teilnehmerinnen und Teilnehmer richten die benötigten Komponenten ein, prüfen Custom Resources und veröffentlichen erste Modelle als InferenceServices.
- KServe-Installation mit CRDs und Controllern
- Knative Serving und Gateway-Anbindung
- Erste InferenceServices mit Beispielmodellen
- Container-Images und Modell-Storage
Tag 2: Releases, Autoscaling und GPU-Nutzung
Der zweite Tag vertieft den produktionsnahen Betrieb. Modellversionen werden kontrolliert ausgerollt, Traffic wird über Canary-Regeln verschoben und Skalierungsverhalten wird anhand konkreter Parameter untersucht.
- Canary-Deployment für Modellversionen
- Rollback-Abläufe bei fehlerhaften Releases
- Scale-to-zero und Concurrency-Steuerung
- HPA-Betrachtung für Inferenzlast
- GPU-Ressourcen und Node-Auswahl
Tag 3: Monitoring, Modellformate und Troubleshooting
Der dritte Tag verbindet Modellformate, Runtime-Auswahl und Betriebsdiagnose. Die Teilnehmerinnen und Teilnehmer prüfen Metriken, Logs und Kubernetes-Events und analysieren typische Fehler in Inferenz-Endpunkten.
- ONNX, scikit-learn und TensorFlow-Runtimes
- Prometheus-Metriken für InferenceServices
- Latenz, Fehlerquote und Verfügbarkeit
- Image-, Storage- und Runtime-Fehler
- Abschluss-Lab mit Betriebscheck
Klarheit von Anfang an
Format, Ablauf und alles, was schon enthalten ist. Keine Überraschungen, nur Fokus auf dein Ergebnis.
- Live-OnlineInteraktiv per Videokonferenz, von überall
- Montag09:00 bis 16:00 Uhr
3 Tage
Kompakt aufgebaut, damit du schnell ins Tun kommst.
max. 8
Kleine Gruppe, damit genug Raum für deine Fragen bleibt.
- Architektur-Inputs durch erfahrene Trainerinnen und Trainer
- Geführte Lab-Übungen auf vorbereiteten Kubernetes-Umgebungen
- YAML-Reviews, Fehlerbilder und Debugging-Sessions
- Release-Szenario mit Canary-Deployment und Monitoring-Auswertung
Das ist immer dabei
- Ausführliche Schulungsunterlagen und Praxisbeispiele
- Teilnahmezertifikat
- Übungsumgebungen und Beispieldaten
- Nachbetreuung per E-Mail nach dem Seminar
Sichere dir deinen Platz
Wähle den Termin, der zu dir passt. Online live dabei oder vor Ort, ganz wie es für dich passt.
- Erfahrene IT-Trainer aus der Praxis
- Keine Vorkasse, Rechnung nach dem Seminar
- Kostenfreie Umbuchung bis 14 Tage vor Start
Lieber das ganze Team?
Bring dieses Seminar zu euch ins Haus oder lass uns ein Programm bauen, das genau auf euer Unternehmen passt.
Inhouse-Schulung
Wir kommen zu dir und schulen dein Team genau auf eure Praxis.
- Komplett auf eure Use-Cases und Tools zugeschnitten
- Termin und Ort bestimmst du, vor Ort oder Live-Online
- Ein fester Pauschalpreis statt Preis pro Person
Firmen-Seminar
Ein individuelles Programm, das wir auf eure Ziele zuschneiden.
- Frei kombinierbare Module aus unserem Themenkatalog
- Skalierbar von der Kleingruppe bis zur ganzen Belegschaft
- Begleitung über mehrere Termine hinweg möglich
Deine IT-Schulungen München-Expertinnen und -Experten
Du hast Fragen zu Inhalten, Terminen oder einer passenden Lösung für dein Team? Wir beraten dich gern, bevor du buchst. Direkt, ohne Umwege.
Antwort in der Regel am selben Werktag
Dein cmt-Team München
Beratung zu IT-Weiterbildung
Fragen und Antworten zu KServe Schulung: Model Serving auf Kubernetes
Welche Kubernetes-Kenntnisse brauche ich?
Für die Teilnahme solltest du Pods, Services, Deployments und kubectl sicher einordnen. Wenn die Kubernetes-Basis fehlt, passt der Kubernetes Grundkurs als Vorbereitung.
Arbeiten wir mit eigenen Modellen?
Das Labor nutzt vorbereitete Beispielmodelle, damit Installation, Deployment, Skalierung und Fehleranalyse zuverlässig geübt werden. Eigene Artefakte werden im Architekturteil anhand ihrer Serving-Anforderungen eingeordnet.
Welche Modellformate werden behandelt?
Im Seminar werden typische Formate und Runtime-Muster betrachtet, darunter ONNX, scikit-learn und TensorFlow-Beispiele. Entscheidend ist der Weg vom Artefakt zum InferenceService mit passendem Storage-Pfad, Runtime-Image und Ressourcenprofil.
Brauche ich GPU-Hardware oder eigene Cloud-Lizenzen?
Für die Übungen steht eine vorbereitete Umgebung bereit. Das GPU-Modul behandelt Scheduling, Ressourcendefinitionen und betriebliche Anforderungen, die für reale GPU-Cluster relevant sind.
Ist die Schulung für produktive Plattform-Teams geeignet?
Ja. Das Training behandelt Release-Abläufe, Autoscaling, Monitoring und Troubleshooting entlang eines realistischen Betriebsmodells. Damit eignet es sich besonders für Teams, die KServe als Kubernetes-nativen Serving-Standard einführen.
Wie passt KServe in eine MLOps-Plattform?
KServe übernimmt den Kubernetes-nativen Serving-Teil einer MLOps-Plattform: Bereitstellung, Traffic-Steuerung, Skalierung und Betriebsdiagnose von Inferenz-Endpunkten. Für den breiteren Aufbau cloudbasierter MLOps-Pipelines eignet sich ergänzend MLOps Engineering on AWS.
Passende Schulungen
KServe Schulung: Model Serving auf Kubernetes
Nächster Termin: 28. September 2026 · Online
ab1.890 €netto