KI wird erst durch Prüfpfade betriebstauglich
Die Antwort zuerst: Stadtwerke sollten KI nicht zuerst als Chatfenster, sondern als prüfbaren Fachprozess einführen. Der Nutzen entsteht nicht dadurch, dass ein System schnell formuliert. Er entsteht, wenn klar ist, welche Quellen genutzt wurden, welche Aufgabe erlaubt war, welche Unsicherheit bleibt und wann ein Mensch übernehmen muss. Ohne diese Prüfspur wird Automatisierung schwer steuerbar.
Das BSI beschreibt künstliche Intelligenz als Feld, in dem IT-Sicherheit für KI, IT-Sicherheit mit KI und KI-gestützte Angriffe gleichzeitig betrachtet werden müssen. Es verweist auf Anforderungen an sichere, robuste und nachvollziehbare KI sowie auf Themen wie Transparenz, Erklärbarkeit, Integrität, Fairness und Datenqualität. Die EU-Kommission beschreibt den AI Act als risikobasierten Rahmen für Entwickler und Anwender von KI. Für Stadtwerke ist daraus keine abstrakte Zukunftsdebatte abzuleiten, sondern eine sehr praktische Organisationsfrage.
KI-Systeme werden in Stadtwerken nicht im luftleeren Raum eingesetzt. Sie treffen auf Kundenservice, Marktkommunikation, Netzanschluss, Wissensmanagement, Berichtswesen und interne Assistenz. Diese Prozesse enthalten personenbezogene Daten, Fachfristen, Marktrollen, technische Informationen und gelegentlich regulatorisch sensible Aussagen. Ein System, das hier unterstützt, braucht Grenzen.
Die erste Frage lautet nicht: welches Modell?
Viele Diskussionen beginnen mit Modellnamen, Lizenzfragen oder Bedienoberflächen. Operativ wichtiger ist die Aufgabenklasse. Soll die KI Texte zusammenfassen? Soll sie interne Wissensdokumente durchsuchen? Soll sie Antwortvorschläge erzeugen? Soll sie Daten klassifizieren? Soll sie Entscheidungen vorbereiten? Jede Klasse braucht andere Leitplanken.
Eine Zusammenfassung interner Unterlagen kann hilfreich sein, wenn die Quelle erhalten bleibt und der Empfänger weiß, dass er den Ursprung prüfen muss. Ein Antwortvorschlag an Kundinnen und Kunden braucht zusätzlich Freigabe, Tonalität und Ausschlussregeln. Eine Klassifikation von Klärfällen braucht Messung der Fehlerquote und ein Verfahren für schwierige Fälle. Eine Entscheidungsvorbereitung braucht nachvollziehbare Kriterien und klare Verantwortung.
Deshalb sollte jedes KI-Vorhaben mit einem Aufgabensteckbrief beginnen. Er enthält Ziel, erlaubte Daten, verbotene Daten, Quellen, Rollen, Qualitätsprüfung, Protokollierung, Eskalationsweg und Nicht-Ziele. Dieser Steckbrief ist wichtiger als die Oberfläche. Er verhindert, dass aus einem Experiment unbemerkt ein produktiver Entscheidungsprozess wird.
Quellenbindung schlägt Sprachglätte
KI-Systeme klingen oft überzeugend. Das ist nützlich für Lesbarkeit, aber gefährlich für Fachprozesse. Im Stadtwerk zählt nicht, ob eine Antwort elegant ist, sondern ob sie belegbar ist. Eine gute KI-Routine zeigt daher nicht nur den Antworttext, sondern auch die verwendeten Quellen, den Zeitpunkt, die Unsicherheiten und die offenen Prüfaufträge.
Das gilt besonders für energiewirtschaftliche Fachprozesse. Marktkommunikation, Netzanschluss, Messwesen oder Abrechnung enthalten Begriffe, die außerhalb ihres Kontexts leicht falsch verstanden werden. Ein allgemeines Sprachmodell kann Formulierungen verbessern, aber es darf Fachverantwortung nicht ersetzen.
Eine einfache Regel hilft: Keine fachlich relevante KI-Ausgabe ohne Herkunft. Wenn keine Quelle genannt werden kann, ist die Ausgabe ein Entwurf oder eine Denkstütze, nicht das Ergebnis. Wenn Quellen widersprüchlich sind, muss das System den Konflikt markieren. Wenn Daten fehlen, muss es eine Rückfrage erzeugen statt eine Lücke zu füllen.
Agentische Systeme brauchen Stoppschilder
Agentische Automatisierung geht über einfache Antwortvorschläge hinaus. Solche Systeme können Aufgaben zerlegen, Werkzeuge aufrufen, Arbeitsschritte dokumentieren und nächste Schritte vorschlagen. Für Stadtwerke ist das attraktiv, weil viele Prozesse aus wiederkehrender Recherche, Klassifikation, Dokumentation und Nachverfolgung bestehen. Gleichzeitig steigt das Risiko, dass ein System mehr tut als beabsichtigt.
Deshalb braucht jede agentische Routine Stoppschilder. Sie darf intern vorbereiten, aber nicht ohne Freigabe verbindlich antworten. Sie darf Informationen strukturieren, aber nicht Kundendaten in falsche Kontexte verschieben. Sie darf Klärfälle vorschlagen, aber keine rechtlich oder wirtschaftlich bindende Aussage treffen. Sie darf Muster erkennen, aber keine stille Prozessänderung durchführen.
Diese Grenzen sollten nicht nur in einer Richtlinie stehen. Sie müssen technisch und organisatorisch sichtbar sein: Berechtigungen, Protokolle, Freigabeschritte, Testfälle und regelmäßige Auswertung von Fehlern.
Datenqualität bleibt die Grundlage
KI kann schlechte Daten nicht heilen. Sie kann sie höchstens schneller verbreiten. Wenn Wissensartikel veraltet sind, Stammdaten widersprüchlich gepflegt werden oder Zuständigkeiten unklar sind, erzeugt Automatisierung nur scheinbare Effizienz. Deshalb gehört Datenqualität in jedes KI-Projekt.
Ein Stadtwerk sollte vor dem Einsatz fragen: Welche Datenbasis ist autoritativ? Wer darf sie ändern? Wie wird Versionierung geführt? Welche Inhalte sind vertraulich? Welche Inhalte sind öffentlich? Welche Antworten dürfen nur aus freigegebenen Quellen entstehen? Diese Fragen wirken trocken. Sie entscheiden aber, ob ein KI-System im Alltag Vertrauen bekommt.
Praktisch bewährt sich eine dreistufige Sicht. Grün sind Aufgaben mit öffentlichen oder freigegebenen Quellen, geringer Verbindlichkeit und menschlicher Prüfung. Gelb sind Aufgaben mit internen Daten, Prozesswirkung oder erhöhtem Fehlerfolgenrisiko. Rot sind Aufgaben mit verbindlichen Zusagen, sensiblen Kundendaten, rechtlicher Bewertung oder produktiven Systemänderungen. Rot gehört nicht in autonome Automatisierung.
Kleine, prüfbare Schritte statt großer Versprechen
Die beste Einführung beginnt klein. Ein Stadtwerk kann mit interner Wissenssuche starten, bei der jede Antwort Quellen nennt. Danach folgen Zusammenfassungen von öffentlichen Dokumenten, Entwürfe für interne Briefings oder strukturierte Klärfallnotizen. Erst wenn Quellenbindung, Rollen und Fehlerauswertung funktionieren, sollten sensiblere Aufgaben folgen.
Wichtig ist eine Lernschleife. Welche Antworten waren nützlich? Welche Quellen wurden falsch gewichtet? Welche Rückfragen fehlten? Wo hat ein Mensch korrigieren müssen? Diese Auswertung macht KI nicht langsamer, sondern belastbarer.
So wird Automatisierung zu einem Fachprozess mit Prüfspur. Das ist weniger spektakulär als eine Demo. Für Stadtwerke ist es aber wertvoller: Es schafft Geschwindigkeit, ohne Nachvollziehbarkeit, Verantwortung und Vertrauen zu verlieren.