KI-Chatbot Prototyp

Die Herausforderung

Kommunalverwaltungen verfügen gerade im ländlichen Raum über knappe zeitliche und personelle Ressourcen. Es stellt sich die Frage, ob diese bei Routineaufgaben mit Künstlicher Intelligenz (KI) unterstützt werden können und wie sich dies auf die Nachhaltigkeit Nachhaltigkeit Nachhaltigkeit ist das Leitprinzip einer Entwicklung, die Umwelt, Gesellschaft und Wirtschaft in ein langfristiges Gleichgewicht bringt, und dabei Gerechtigkeit innerhalb einer Generation (hier und weltweit) und zwischen den Generationen (heute und zukünftig) anstrebt. weiterlesen auswirkt.

Unser Ansatz

Im Rahmen unseres Projekts wurden zwei KI-Chatbot-Prototypen entwickelt, die Kommunen befähigen sollen, KI-Technologie passgenau und souverän einzusetzen. Beim ersten Prototypen, dem sogenannten RAG-Ki-Chatbot-Prototypen (RAG steht für Retrieval Augmented Generation), kommt neben einem Sprachmodell eine Vektordatenbank zum Einsatz, die die Kommunen gezielt mit hochwertigen Daten füllen können (Texte auf Webseiten, PDFs usw.). Der RAG-KI-Chatbot-Prototyp besteht aus Open-Source-Komponenten und kann sowohl für Bürger*innenanfragen als auch für die Suche nach Informationen innerhalb der Verwaltung verwendet werden. Dabei ist auch ein vollständig lokaler Betrieb in eigener Hand der Kommune möglich, um höchsten Datenschutzstandards gerecht zu werden.

Da gerade kleinere Kommunen oft nicht die Kapazitäten für einen Eigenbetrieb haben, wurde im Projekt noch ein zweiter KI-Chatbot-Prototyp entwickelt, der sich sehr gut für den externen Betrieb über einen technischen Dienstleister eignet. Hierfür sind die Hardware-Anforderungen deutlich geringer als beim RAG-KI-Chatbot-Prototyp. Die Anwendung funktioniert in ganz ähnlicher Weise, baut aber auf dem KI-Tool „Perplexity AI“ auf (ebenfalls datenschutzkonform). Dieser Prototyp eignet sich nur für den Anwendungsfall „Bürger*innenanfragen“ auf kommunalen Webseiten, da nur Texte von Webseiten erfasst werden können. Dies bringt den Vorteil mit sich, dass die Daten im KI-Chatbot nicht manuell aktualisiert werden müssen.

Video zum Projekt, dem RAG-KI-Chatbot-Prototypen und dem Bürger*innen-Chatbot

Das Team nachhaltige Digitalisierung hat im Dezember 2025 einen Demo-Day zu KI-Chatbots mit interessierten Kommunalverwaltungen durchgeführt. Im Nachgang wurden die fachlichen Inputs in gekürzter Form aufgenommen. Wir berichten über den Hintergrund des Projekts (Dr. Josephine Jahn), den RAG-KI-Chatbot-Prototyp (Marvin Prignitz) und den Bürger*innen-Chatbot (Dorian Zwanzig) sowie die längere Testphase mit Kommunalverwaltungen aus Brandenburg, die für 2026 geplant ist.

Kommunen, die sich noch an der Testphase ab April 2026 beteiligen möchten, sollten sich bis spätestens Ende Februar 2026 bei uns melden.

Der RAG-KI-Chatbot-Prototyp zum Testen - er beantwortet Fragen rund um InNoWest

Besonderheiten und Nachhaltigkeit der KI-Chatbot-Prototypen

Bei beiden Chatbot-Prototypen werden nur ausgewählte Informationen für die Beantwortung von Fragen verwendet. Jede Kommune kann selbst entscheiden, mit welchen Daten der Prototyp arbeiten soll. Dadurch kann eine deutlich bessere Antwortqualität erzielt werden, als über eine herkömmliche Suchmaschine oder bei generischen KI-Chatbots wie Chat-GPT. Die selbst entwickelten Chatbots spielen ihre Stärken v.a. bei spezifischen Fragen, wie z.B. zu lokalen kommunalen Gegebenheiten, aus. Neben der verbesserten Antwortqualität können die beiden KI-Chatbots auch in Fremdsprachen antworten, einfache Sprache verwenden und könnten aucch potenziell noch um eine Audio-Ausgabe ergänzt werden. Auf diese Weise werden kommunale Informationen einen größeren Kreis von Bürger*innen erreichen. Im besten Fall bringt der Chatbot somit eine Verbesserung für die Verwaltungsmitarbeitenden und die Bürger*innen mit sich.

In einer längeren Testphase wollen wir in 2026 erforschen, was sich durch den Einsatz des KI-Chatbots für Bürger*innenanfragen in der Verwaltung und für die Bürger*innen verändert. Wir werden uns auch die Energieverbräuche und finanziellen Kosten näher anschauen. Abschließend wollen wir Vor- und Nachteile auch im Hinblick auf die Nachhaltigkeit Nachhaltigkeit Nachhaltigkeit ist das Leitprinzip einer Entwicklung, die Umwelt, Gesellschaft und Wirtschaft in ein langfristiges Gleichgewicht bringt, und dabei Gerechtigkeit innerhalb einer Generation (hier und weltweit) und zwischen den Generationen (heute und zukünftig) anstrebt. weiterlesen transparent machen und in Relation setzen.

Wichtig zu erwähnen ist, dass die Kommunen vom Bürger*innen-KI-Chatbot lediglich von der Beantwortung häufig wiederkehrender, einfacher Fragen entlastet werden sollen. Die Interaktion mit dem Chatbot soll nicht den persönlichen Kontakt mit den Bürger*innen oder zwischen Kolleg*innen in der Verwaltung ersetzen.