DevOps Engineer - Full Managed Cloud Stack (m/w/d)

NVIDIA's Deep Learning Frameworks (DLFW) Infrastructure team is looking for a deeply technical Senior HPC Cluster Administrator to lead the design, deployment, and reliability of our large-scale GPU compute clusters. These systems run the most demanding deep learning training, inference, and high-performance computing workloads in the industry — from DGX/HGX platforms to ground-breaking Grace Blackwell systems. You will drive architectural decisions across compute, networking, and storage, and partner closely with software, research, and product teams to keep our infrastructure ahead of the workloads it supports.

What You'll Be Doing

• Own the full lifecycle of GPU compute clusters — procurement, provisioning, configuration management, monitoring, and deprecation — across heterogeneous Linux environments (DGX, HGX, embedded systems)
• Design and scale storage solutions (NFS, Lustre, WekaFS, or equivalent) with a clear roadmap for capacity and performance growth
• Lead automation of infrastructure using modern IaC tools (Ansible, Terraform) and CI/CD pipelines (GitLab)
• Manage and optimize job scheduling via Slurm, including fair-share policies, reservation management, and MIG/GPU partitioning strategies
• Maintain and improve observability stacks (Prometheus, Grafana, DCGM) and drive proactive resolution of hardware and software incidents
• Collaborate with ML engineers and software teams to tune cluster configuration for large-scale distributed training workloads
• Evaluate and introduce new technologies — networking fabrics (InfiniBand, NVLink, EFA/RDMA), storage tiers, container runtimes — to improve performance and reliability
• Mentor junior engineers and contribute to team-wide engineering standards

What We Need To See

• BS/MS in CS, EE, CE, or equivalent hands-on experience
• 5+ years of experience deploying and administering large-scale HPC or ML training clusters
• Deep expertise in Linux systems administration at scale
• Strong scripting and automation skills in Python and/or bash
• Hands-on experience with Slurm (scheduling, accounting, cgroup configuration)
• Proficiency with configuration management and IaC (Ansible required; Terraform a plus)
• Experience with container technologies (Docker, Apptainer/Singularity, Kubernetes)
• Solid understanding of high-speed networking (InfiniBand, RoCE, RDMA, EFA)
• Experience with distributed/parallel filesystems and storage architecture
• Ability to own problems end-to-end and communicate clearly with engineering and management stakeholders

Ways To Stand Out From The Crowd

• Experience with NVIDIA GPU infrastructure tools (DCGM, nvidia-smi, MIG, NVSwitch diagnostics)
• Familiarity with cluster management platforms (Colossus, Bright Cluster Manager, xCAT, or similar)
• Experience supporting large-scale distributed deep learning workloads (PyTorch, JAX, Megatron)
• Knowledge of BMC/IPMI/Redfish for out-of-band management and hardware lifecycle
• Background in MLOps tooling or ML platform engineering

Join our team of world-class engineers and be part of the groundbreaking work we do at NVIDIA. We are committed to encouraging a collaborative and inclusive environment, where every team member has the opportunity to thrive and make a significant impact!

Your base salary will be determined based on your location, experience, and the pay of employees in similar positions. For Poland: The base salary range is 221,250 PLN - 383,500 PLN for Level 3, and 292,500 PLN - 507,000 PLN for Level 4. , , JR2015529

Zur Verstärkung unseres Teams im Großraum München suchen wir, zum nächstmöglichen Termin, engagierte Leute die Lust haben, deine bisher erworbenen IT-Kenntnisse zu erweitern und sich firmenintern zu einem DevOps Cloud Engineer (m/w/d) mit Schwerpunkt AWS Cloud ausbilden zu lassen.

Aufgaben

• Lust sich in neue Themengebiete einzuarbeiten

• Mut sich zum Spezialisten ausbilden zu lassen

• CI/CD Implementationen

• Erstellung von Infrastrucure as Code

• Consulting von Projekten im Bereich IT-Infrastruktur

• Gute Deutsch- und Englischkenntnisse

Qualifikation

Dein Profil

eine erfolgreich abgeschlossene IT-Ausbildung bzw. ein abgeschlossenes Studium der Informatik oder entsprechende Berufserfahrung

• sicherer Umgang mit Linux

• beherrschen mindestens einer Script-Sprache wie Bash oder Python

• Kenntnisse in der Administration von Netzwerken

• gute Infrastrukturkenntnisse und Coding-Skills

Wünschenswert, aber nicht zwingend erforderlich

Erfahrungen in dem Bereich von Cloud Providern – insbesondere GCP

• Know-How über Infrastruktur als Code – Cloudformation, Terraform

• Kenntnisse der Tools CI/CD, GIT, Ansible, Chef, Puppet, Jenkins

• Kenntnisse in der Administration von Netzwerken

• praktische Erfahrung mit Monitoring-Tools wie Grafana, Graphite, Prometheus sowie Logging-Tools wie ElasticSearch, lostack, Kibana

Benefits

• neben attraktiver Vergütung und abwechslungsreicher Tätigkeit, Spaß bei der Arbeit

• flache Hierarchien mit kurzen Entscheidungswegen

• ein Team dass sich gerne bei Problemen und Fragen gegenseitig unterstützt

• moderne Büroräume mit aktuellster Hard- und Software

• Team-Events

• Kostenlose Getränke im Office

BEWIRB DICH JETZT! Wir antworten in kürzester Zeit.

Sorge gemeinsam mit uns für die digitale Zukunftsfähigkeit der Bundeswehr.

Deine Aufgaben:

• 2nd Level Support für die LAMP (Linux/Apache/MySQL/PHP) - Plattformen und Applikationen in unserer eigenen Cloud
• Mitwirkung bei der automatisierten Bereitstellung von Plattformkomponenten durch CI/CD
• Erstellung, Test und Implementierung von Containerbuilds
• Bearbeitung von Störungen gemäß Spezifikation der BWI (Störungsannahme, Fehleranalyse, Fehlerbehebung)
• Identifikation von Risiken, sowie Absicherung und Behebung von Security Risiken
• Mitwirkung bei der Entwicklung von Schulungskonzepten
• Pflege und Weiterentwicklung der technischen Dokumentation

Dein Profil:

• Erfahrungen mit einem oder mehreren der folgenden Technologien: Webservern (Apache, NGINX), Linux Betriebssysteme (z.B. CentOS, SuSE, RHEL, Debian), Datenbanken (z.B.: MySQL, MariaDB, PostgreSQL), LAMP basierte Anwendungen
• Gute Kenntnisse in Kubernetes und Cloud-nativen Konzepten
• Kenntnisse von Anwendungsdeployments as Code via Helm-Charts, kustomize, k8s-Operators
• Erfahrungen mit Automatisierungswerkzeugen (z.B. GitLab-CI, Terraform, Crossplane, Ansible, ArgoCD und FluxCD)
• Erfahrungen mit Container-Builds (z.B. Docker, Buildah) und Artefaktverwaltung (Nexus, Harbor)
• Vertrautheit mit Monitoring- , Logging- und Alerting-Stacks (z.B. Prometheus, Grafana, Instana)
• Erfahrungen mit Skalierung und Ressourcenoptimierung in Container basierten Umgebungen sowie Git/Git-Ops
• Grundverständnis TCP Netze wie Firewalling, Netzstruktur, Sicherheit
• Erfahrungen mit CMDB/Asset-Managementsystemen
• ITIL Grundkenntnisse (Change/Incident/Problem-Management)
• Fließende Deutsch- und gute Englischkenntnisse

Wir bieten:

• Durch abwechslungsreiche und gesellschaftlich relevante Aufgaben gewährleisten wir den reibungslosen IT-Betrieb und die Digitalisierung der Bundeswehr
• Das Ziel eint uns. Dabei sind für uns ein wertschätzender Umgang miteinander sowie ein großer Teamgeist elementar
• Die Vergütung liegt zwischen 57.800 € und 84.680 €. Die tatsächliche Höhe wird basierend auf deinem Verantwortungsbereich sowie Erfahrungen und Kompetenzen festgelegt
• Wir bieten 30 Tage Jahresurlaub, 1 Brauchtumstag plus Optionen auf individuelle Anpassungen
• Über unsere Benefit-App erhält man ein monatliches Guthaben und kann sich zusätzlich Steuervergünstigungen auf Tickets für den ÖPNV sichern
• Wir ermöglichen Flexibilität, um Beruf und Privatleben in Einklang zu bringen, etwa durch mobiles Arbeiten oder Vertrauensarbeitszeit
• Wir unterstützen die berufliche und persönliche Weiterbildung durch individuelle Maßnahmen sowie einen kostenfreien Zugriff auf LinkedIn Learning
• Unser Jobradangebot ermöglicht das Leasing von bis zu 2 Fahrrädern

Sorge gemeinsam mit uns für die digitale Zukunftsfähigkeit der Bundeswehr.

Ihre Aufgaben:

• Betreuung und (Weiter-)Entwicklung einer Cloud-Native-Plattform für Data Analytics und KI Tools für unseren Kunden Bundeswehr
• Realisierung und Sicherstellung der Betreibbarkeit eines PaaS/SaaS auf Basis von Kubernetes mit hohem Automatisierungsgrad in der Provisionierung und Deployment in einem agil aufgestellten Team
• Automatisierte Bereitstellung von containerisierten Plattformkomponenten durch CI/CD sowie Überwachung und Optimierung der Plattform durch den gezielten Einsatz von Logging, Monitoring und Tracing
• Kontinuierliche und systematische Härtung durch die Realisierung von Anforderungen der IT-Sicherheit
• Mitwirkung an der Erstellung von code-naher technischen Dokumentationen

Ihr Profil:

• Abgeschlossenes fachbezogenes Hochschulstudium oder eine vergleichbare Ausbildung
• Etwa 2 Jahre Berufserfahrung in einem oder mehreren der folgenden Themenfelder Cloud-native Plattformen, Deployment von Microservices und/oder Automatisierung containerisierter Anwendungen
• Gute Kenntnisse in Kubernetes und den Cloud-native Konzepten, API-Gateways, Service-Mesh (z.B. Istio), Authentifizierung und Observability
• Erfahrungen im Umgang mit Automatisierungswerkzeugen und Infrastructure as Code und GitOps, z.B. mit GitLab-CI, Terraform, Crossplane oder ArgoCD
• Erfahrung im Deployment von Machine Learning Systemen (MLOps) wünschenswert
• Gute Kommunikations- und Teamfähigkeiten, ein analytisches Denkvermögen Lernbereitschaft sowie eine sorgfältige und gewissenhafte Arbeitsweise
• Verhandlungssichere Deutschkenntnisse und ein sicheres Verständnis der englischen Sprache

Wir bieten:

• Durch abwechslungsreiche und gesellschaftlich relevante Aufgaben gewährleisten wir den reibungslosen IT-Betrieb und die Digitalisierung der Bundeswehr
• Das Ziel eint uns. Dabei sind für uns ein wertschätzender Umgang miteinander sowie ein großer Teamgeist elementar
• Die Vergütung liegt zwischen 57.800 € und 84.680 €. Die tatsächliche Höhe wird basierend auf deinem Verantwortungsbereich sowie Erfahrungen und Kompetenzen festgelegt
• Wir bieten 30 Tage Jahresurlaub, 1 Brauchtumstag plus Optionen auf individuelle Anpassungen
• Über unsere Benefit-App erhält man ein monatliches Guthaben und kann sich zusätzlich Steuervergünstigungen auf Tickets für den ÖPNV sichern
• Wir ermöglichen Flexibilität, um Beruf und Privatleben in Einklang zu bringen, etwa durch mobiles Arbeiten oder Vertrauensarbeitszeit
• Wir unterstützen die berufliche und persönliche Weiterbildung durch individuelle Maßnahmen sowie einen kostenfreien Zugriff auf LinkedIn Learning
• Unser Jobradangebot ermöglicht das Leasing von bis zu 2 Fahrrädern