Lieferung, Installation und Inbetriebnahme eines LLM-GPU-Clusters mit mindestens 48 GPUs

Der anzubietende Large Language Model (LLM) GPU Cluster muss eine leistungsfähige Infrastruktur für die Lehre und Forschung darstellen und in der Lage sein moderne KI-Anwendungen zu unterstützen. Der Cluster muss den Zugriff auf fortschrittliche Sprachmodelle für Textanalysen, automatisierte Textgenerierung und weitere KI-gestützte Services ermöglichen. Der LLM GPU Cluster muss skalierbar sein und es dadurch ermöglichen, flexibel auf wachsende Anforderungen und die zunehmende Nutzung durch unterschiedliche Fachbereiche zu reagieren. Insgesamt soll der LLM Server Cluster einen wesentlichen Beitrag zur Weiterentwicklung der Lehre und Forschung leisten, indem er moderne KI-Technologien in die universitäre Praxis integriert und die wissenschaftliche Arbeit durch innovative, digitale Werkzeuge unterstützt. Leistungen des Auftragnehmers sind: - Lieferung eines LLM-GPU-Clusters mit mindestens 48 GPUs (Spezifikationen gem. 03 Leistungsverzeichnis, Tabellenblatt "GPU Knoten") - Maximal 18 Höheneinheiten - Lieferung der Geräte inkl. benötigtem Zubehör wie Netzwerkkabel, Lizenzen und Kleinmaterial (z.B. Kabelbinder, Labels, Klettbänder, Tape) - Lieferung frei Verwendungsstelle - Hardware- und Betriebssysteminstallation - Herstellung der notwendigen Verkabelung - Testen, Funktionsprüfung, Benchmarking des Gesamtsystems und Übergabe der Benchmark-Ergebnisse - Gemeinsame Abnahme des Gesamtsystems mit Auftragnehmer und Auftraggeber - Einweisung sowie Schulung am vor Ort installierten LLM-GPU-Cluster