Technische Universität Dresden - Vergabe Large Language Model (LLM)

Die Technische Universität Dresden (TU Dresden) strebt eine innovative Partnerschaft im Bereich Künstliche Intelligenz und insbesondere zur Nutzung von Large Language Models (LLM) an. Das Ziel der Partnerschaft ist es, den rechtlichen und technischen Rahmen sowie vor allem die Nutzung und Innovationspotenziale an der TU Dresden und im akademischen Kontext zu bestimmen, um die Anforderungen für eine langfristige Nutzung zu bewerten. Die Partnerschaft soll ein gemeinsames Leuchtturmprojekt für den Einsatz von künstlicher Intelligenz im akademischen Umfeld werden. Daher ist eine Kooperation mit der Industrie geplant. Als Grundlage für die Kooperation ist eine vertraglich geregelte Industrie-Partnerschaft beabsichtigt. Die Vergabe erfolgt im Wettbewerblichen Dialog mit vorgeschaltetem Teilnahmewettbewerb. Ziel ist es, für den akademischen Bereich eine hochwertige, akzeptierte und wirtschaftliche Einführung von LLM-gestützten Verfahren der künstlichen Intelligenz zu erreichen. Neben der Gewährleistung der Qualität der einzusetzenden Technologie und deren Verfügbarkeit sind auch Beratungen zur Optimierung der Nutzung für den akademischen Betrieb sowie zu Szenarien für den datenschutzkonformen Einsatz erwünscht. Folgende Funktionalitäten werden zum Start der Partnerschaft an die Technologie vorausgesetzt: - Typische Funktionen zur Sprachgenerierung (Chat, Textgenerierung und Textrevision/Übersetzung) - Literatursuche / Ideenfindung / Entwicklung wissenschaftlicher Themen mit Angabe von Quellenangaben - Bearbeitung von mehrstufigen Fragen (Lösung textbasierter Probleme, mathematische oder wissenschaftliche Berechnungen oder Generierung von Code aus der Beschreibung eines Problems) - Programmierung / Codeverbesserung / Codeüberprüfung - Bildgenerierung - Nutzungsmöglichkeit über ein Application Programming Interface (API) für Funktionsaufrufe und Werkzeugnutzung um die Integration in Anwendungen der TU Dresden zu ermöglichen. - Barrierefreiheit: Idealerweise BITV 2.0 oder ähnlich - Anbindung and das Single Sign On der TU Dresden (Shibboleth) Im Rahmen der Partnerschaft sollen eine weitergehende Optimierung stattfinden. Hierfür sollen etwa - Die Erfassung von Feedback (Communities of Practice) - Erfassung von Nutzerstatistiken (durchschnittliche Nutzung, Anzahl der Eingaben pro Person, Veränderungen in der Nutzung über die Zeit, typische Nutzer/Zielgruppen) - Best Practices für Kommunikation, Etablierung und effiziente Nutzung eines KI-Tools bestimmen - Identifikationen von Anwendungsfällen für technisch fortgeschrittene Projekte identifizieren, die RAG oder eine API zum LLM-Dienst nutzen - Klärung datenschutzrechtlicher Auflagen und Bedenken im Rahmen der Beratung adressiert werden. Hierfür ist ein Rahmenvertrag mit einer Laufzeit von vier Jahren vorgesehen. Der Höchstabruf für Leistungen aus dieser Partnerschaft beträgt 250.000 Euro netto. Ein Mindestabruf wird nicht zugesichert. Zusammengefasst soll der Auftrag soll in Bezug auf beide Phasen im Wesentlichen folgende Elemente umfassen: - Erstausstattung der TU Dresden mit KI/Large Language Model (LLM) - Soweit erforderlich: sukzessiver Austausch und/oder Ersatzbeschaffungen der erforderlichen Hardware innerhalb der Vertragslaufzeit; - Umsetzung erforderlicher Updates und Integration von innovativen Systemen ("Leuchtturmprojekte"); - Beratung und Implementierung von innovativen Technologien auf dem jeweils aktuellen Stand der Technik - Umfassende kooperative Betreuung in enger Anbindung an die jeweiligen Kompetenz- und Fachbereiche inkl. Koordinierung und logistische Umsetzung vor Ort mit den dazugehörigen Unterstützungsleistungen (u.a. Monitoring, Dokumentation, Schulung).