Promotions- und Forschungskolloquium: Quelloffene Large Language Models (LLM) in der Anwendung

Seit OpenAI im Jahre 2022 mit GPT-3 der Welt den Kopf verdreht hat, sind Anwendungen mit Künstlicher Intelligenz in aller Munde. Jeder Hersteller wirbt mit KI-gestützter Software, bei der allerdings hochsensible und schützenswerte Daten ins Ausland übertragen werden. Wer keine Daten preisgeben möchte, hat mit den sich ebenfalls explosionsartig vermehrenden, quelloffenen LLMs die Möglichkeit, seine eigene private KI-Landschaft bereitzustellen. 

Im Rahmen dieser Arbeit sollen verschiedene Verfahren zur Optimierung der domänenspezifischen Antwortgenerierung von eigenständig betriebenen Open Source Sprachmodellen untersucht werden mit dem Ziel, branchenspezifisches Fachwissen und deren Fachsprache anhand unterschiedlicher Verfahren anzueignen. Die drei gängigsten Optimierungsmöglichkeiten sind Feinabstimmung (Fine-Tuning), Prompt Engineering und Retrieval Augmented Generation (RAG). Das Ergebnis soll in einer Rangliste Aufwand und Nutzen verschiedener Optimierungsverfahren darstellen.

Alle Interessierten sind herzlich eingeladen. Eine Anmeldung ist nicht erforderlich.