Lieferung, Installation und Inbetriebnahme eines NVIDIA DGX B300 Deep-Learning-Systems

Auftragsgegenstand ist die Lieferung eines NVIDIA DGX B300 Systems. Die IT-Infrastruktur für das dtec.bw-Projekt SPARTA basiert auf einem Deep-Learning-High-Performance-GPU-Cluster bestehend vor allem aus verschiedenen Hard- und Softwarekomponenten von dem Hersteller NVIDIA. Bis in das Jahr 2027 bestehen Wartungs- und Servicevereinbarungen für dieses Cluster und seine Komponenten mit dem Lieferanten und Systemintegrator des Clusters, AMBER AI & Data Science Solutions GmbH. Die UniBw M muss die vorhandene Deep-Learning-Infrastruktur nun zwingend erweitern lassen. Um die installierte und etablierte Hard- und Software, einschließlich des Trainings-Software-Frameworks, der Trainingsdaten und bereits vortrainierter neuronaler Netze, weiterverwenden zu können und eine gemeinsame und effiziente Nutzung der bisherigen Deep-Learning Workstation auch für große Datenmengen aus Bild- und Videodateien zu gewährleisten, sind weitere Systeme von NVIDIA und die entsprechende NVIDIA-Netzwerkinfrastruktur notwendig. Die UniBw M setzt ihren GPU-Cluster in dem Projekt SPARTA unter anderem für das Training von Large-Language-Modellen mit neuesten Ansätzen des Natural Language Processing (NLP) und für die großflächige Analyse von Daten aus sozialen Netzwerken ein. Das Forschungsteam hat Zugriff auf Twitters RealTime PowerTrack und Historical PowerTrack Enterprise APIs, um die riesigen Datenströme abzufangen. Um die Datenmengen verarbeiten zu können, hat das Forschungsprojekt einen großen Bedarf an sehr leistungsfähiger Recheninfrastruktur. Herkömmliche Serverstrukturen bilden die großen Datenmengen und komplexen KI-Modelle nicht zuverlässig ab. Lange Rechenzeiten, begrenzter Grafikspeicher und fehlende Skalierbarkeit würden die anspruchsvollen Auswertungen sowie das Training moderner KI-Modelle erheblich verlangsamen und damit die Zielsetzung des Projekts insgesamt gefährden. Ohne das erforderliche Update wären nicht nur die Forschungsziele von SPARTA, sondern auch andere dtec.bw-Projekte gefährdet. Um diese Lücke zu schließen, muss die UniBw M ein System beschaffen, das hohe Rechen- und Speicherlasten dauerhaft tragen kann, eine stabile, zertifizierte KI-Plattform bereitstellt und sich nahtlos in die bestehende Forschungsinfrastruktur integrieren lässt.