KI im Behördenumfeld: Zwischen Möglichkeit und Verantwortung

«Wenn ich mit IT-Verantwortlichen von Behörden über Künstliche Intelligenz spreche, sind mögliche Anwendungsfälle meist schnell gefunden. Schwieriger sind die Fragen dahinter: Wie lässt sich KI sicher in bestehende Fachanwendungen integrieren? Welche Daten dürfen verarbeitet werden? Wie bleiben Ergebnisse nachvollziehbar? Wer trägt am Ende die Verantwortung? Und wie verhindert man, dass aus einzelnen Pilotprojekten eine schwer kontrollierbare Tool-Landschaft entsteht?

Genau diese Fragen beschäftigen uns bei der GLAUX GROUP intensiv. Unser Anspruch ist nicht, möglichst viel KI in unsere Produkte zu integrieren, sondern dass KI dort konkreten Nutzen schafft, wo Menschen täglich mit unseren Lösungen arbeiten: kontrolliert, nachvollziehbar und eingebettet in bestehende Prozesse.

Bei KI-gestützten fachlichen Prozessen setzen wir deshalb konsequent auf Human in the Loop: Die KI kann erkennen, strukturieren, formulieren oder Vorschläge machen. Die fachliche Prüfung und die Entscheidung bleiben beim Menschen.

Was wir dabei technisch und organisatorisch gelernt haben, zeige ich anhand konkreter Beispiele.

KI muss dorthin, wo die Arbeit stattfindet

Viele Behörden wissen bereits sehr konkret, wie KI ihre Mitarbeitenden unterstützen könnte. Doch genau dort, wo täglich gearbeitet wird – in Fachapplikationen, Fallführungs- und Dossiersystemen –, fehlen entsprechende Funktionen häufig. Ein Netzwerkscan in einem Schweizer Kanton zeigte die Folge: Eine Fünfstellige Zahl User nutzt öffentliche KI-Chatdienste im Verwaltungsnetz, teils ohne Lizenz, ohne Guidance, ohne Kontrolle.

Aus unserer Sicht liegt der grösste Nutzen deshalb nicht in einem zusätzlichen KI-Tool neben den bestehenden Systemen. KI sollte dort verfügbar sein, wo die Arbeit ohnehin stattfindet – ohne Daten in ein Chatfenster kopieren zu müssen, ohne zusätzliche Logins und ohne neue Schattenprozesse.

Damit diese Integration im Behördenumfeld funktioniert, sind vier Anforderungen zentral: Integration in die Fallverwaltung, Entscheidungshoheit, Nachvollziehbarkeit, Sicherheit und Datensouveränität.

Entscheidungshoheit bleibt beim Menschen

Gerade bei behördlichen Verfahren, Fallführungen oder Entscheidungen mit Auswirkungen auf Menschen muss klar sein, wer verantwortlich ist. Ein KI-System darf unterstützen, aber nicht unbemerkt zum eigentlichen Entscheidungsträger werden. Eine Behörde brachte es auf den Punkt: Was passiert nach einem halben Jahr Betrieb, wenn Mitarbeitende aus Bequemlichkeit nur noch den KI-Empfehlungen folgen?

Ein Hinweis allein verhindert das nicht. KI-Ausgaben positionieren wir deshalb konsequent als Vorschlag oder Zweitmeinung, nie als Entscheid, und gestalten die Funktionen so, dass Mitarbeitende bewusst prüfen und übernehmen. Eine Benutzerführung, die lediglich zum schnellen «Weiter, weiter, fertig» verleitet, widerspricht diesem Anspruch.

Nachvollziehbarkeit muss mitgedacht werden

Mit zunehmender Erfahrung unserer Kund:innen werden die Fragen konkreter: Welche Informationen und welcher Kontext wurden der KI übergeben? Welches Modell und welche Parameter waren im Einsatz? Welche Antwort hat das System erzeugt? Der Hintergrund: Bei einer Beschwerde muss eine Behörde nachweisen können, auf welcher Grundlage ein Entscheid zustande kam.

Gleichzeitig ist Augenmass gefragt. Ein Protokoll, das Prompts und Kontexte festhält, enthält selbst besonders schützenswerte Daten; sein Umfang ist eine bewusste Abwägung, kein «alles loggen». Weil sich KI-Ausgaben nie exakt reproduzieren lassen, gilt als realistischer Anspruch: Eingaben, Konfiguration und Ergebnis nachvollziehbar machen, dokumentiert dort, wo für den Anwendungsfall relevant.

Wo KI heute bereits konkret helfen kann

Drei Beispiele zeigen, wo wir im Public-IT-Umfeld derzeit besonders viel Potenzial sehen.

1. Dokumente automatisch erkennen und verarbeiten

Behörden verarbeiten täglich grosse Dokumentmengen in unterschiedlichsten Formaten – Informationen müssen erkannt, erfasst und dem richtigen Fall oder Prozess zugeordnet werden.

Mit Iris, unserem KI-Modul zur automatischen Dokumentenerkennung in evidence, setzen wir genau dort an. Das System erkennt Dokumenttypen, extrahiert relevante Informationen und führt Dokumente dem vorgesehenen Prozess zu. Zu jedem Ergebnis gehört ein Konfidenzwert: Eindeutiges kann automatisiert weiterlaufen, Unsicheres wird gezielt zur Prüfung vorgelegt.

Entscheidend ist für uns, dass die KI-Funktion nicht als separates Werkzeug neben der Fachapplikation steht, sondern Teil eines durchgängigen digitalen Prozesses wird – das reduziert manuellen Aufwand und vermeidet neue Medienbrüche und Insellösungen.

2. KI auch für sichere Softwareentwicklung einsetzen

KI verändert nicht nur die Funktionen, die Anwender:innen in Software nutzen. Sie verändert auch die Softwareentwicklung selbst – und damit die Anforderungen an die Sicherheit von Anwendungen.

Besonders deutlich wird das bei autonomen KI-Agenten, die eigenständig mit Anwendungen und Schnittstellen interagieren und Aktionen auslösen: Sind Berechtigungen, APIs oder Geschäftslogiken nicht ausreichend abgesichert, entstehen neue Risiken.

Für Softwarehersteller bedeutet das: Security-by-Design muss neben klassischen Angriffen und menschlichen Nutzern zunehmend auch automatisierte und autonome Systeme berücksichtigen. Denn dieselben Werkzeuge stehen auch Angreifern zur Verfügung – Angriffe werden günstiger und ausgefeilter.

Wir nutzen KI deshalb konsequent in der eigenen Entwicklung – im Requirements Engineering, bei Code-Reviews, Refactoring und Dokumentation – und analysieren die Codebasis unserer Produkte systematisch mit KI-gestützter statischer Analyse: nicht nur neuen Code, sondern auch über Jahre gewachsene Komponenten, denn gerade in deren Zusammenspiel entstehen Schwachstellen.

3. Textassistenz für Journal, Berichte und Korrespondenz

Ein weiterer Anwendungsbereich sind textbasierte Aufgaben: Berichte, Journaleinträge oder Korrespondenzen entstehen heute häufig aus Gesprächen, Notizen und vorhandenem Fallwissen und werden manuell zusammengeführt.

Für socialweb und evidence entwickeln wir KI-Funktionen, die Fachpersonen dabei unterstützen: Aus Stichworten oder Gesprächsinhalten entsteht ein strukturierter Entwurf für einen Journaleintrag; bestehende Texte werden zusammengefasst, sprachlich überarbeitet oder zu einem Bericht zusammengeführt. Auch hier gilt: Die KI erstellt einen Vorschlag; kontrolliert, korrigiert und freigegeben wird durch die zuständige Fachperson.

Wir denken diese Praxis auch weiter: etwa zu einer Suche, die im eigenen Fallbestand ähnliche Fälle und bewährte Formulierungen findet. Der Austausch mit den Anwender:innen ist für uns zentral, denn technisch mögliche Funktionen sind nicht automatisch fachlich sinnvolle Funktionen.

Governance ist keine Bremse – sondern eine Voraussetzung

Damit solche Anwendungen nicht isoliert entstehen, haben wir ein AI-Board eingerichtet: Das interne Gremium beurteilt KI-Initiativen, entwickelt Richtlinien weiter und schafft verbindliche Rahmenbedingungen für den Einsatz.

Klare Regeln und grosse Kompetenz aus allen Bereichen ermöglichen es unserem Board, neue Ideen schneller einzuordnen und gezielt weiterzuverfolgen.

Bei einer KI-Initiative stellen wir deshalb unter anderem folgende Fragen:

• Welches konkrete Problem soll gelöst werden?

• Welche Daten werden verarbeitet, und sind darunter besonders schützenswerte oder fachlich sensible?

• Wo findet die Verarbeitung statt?

• Welcher Anbieter und welches Modell kommen zum Einsatz, und fliessen Eingaben oder Ergebnisse in dessen Training?

• Welche menschliche Kontrollinstanz ist vorgesehen, und wie wird der Einsatz dokumentiert?

• Was passiert, wenn Modell oder Anbieter gewechselt werden müssen?

Ohne einen solchen Prozess entstehen schnell parallele Lösungen, unklare Verantwortlichkeiten und Abhängigkeiten von einzelnen Anbietern. Gerade im öffentlichen Sektor ist das problematisch, wo auf Grundlage von Personen- und Falldaten weitreichende Entscheidungen getroffen werden.

Die Frage «Wo landen meine Daten?» ist deshalb keine technische Detailfrage, sondern eine Grundvoraussetzung für den Einsatz von KI.

Von Governance zur Softwarearchitektur

Governance darf jedoch nicht in einem Richtliniendokument enden. Sie muss sich auch in der Architektur und in der Benutzerführung einer Anwendung wiederfinden.

Den Massstab setzen zunehmend die Behörden selbst: Vielerorts muss ein KI-Vorhaben eine Vorabprüfung durch die Datenschutzaufsicht bestehen, bevor es mit echten Daten arbeiten darf – belegt durch dokumentierte Massnahmen, von der Human-in-the-Loop-Sicherung bis zur Protokollierung. Diese Nachweisarbeit ist kein nachgelagertes Compliance-Thema, sondern Teil des Features selbst, für die Akzeptanz mindestens so wichtig wie die Technologie.

Gleichzeitig muss die Benutzeroberfläche deutlich machen, wann ein Inhalt von einer KI erzeugt oder verändert wurde.

Genau darin sehen wir eine wesentliche Aufgabe als Softwarehersteller: nicht lediglich KI-Funktionen bereitzustellen, sondern Rahmenbedingungen zu schaffen, unter denen Behörden sie kontrolliert einsetzen können.

Datensouveränität gilt auch für KI

Über Datensouveränität wird seit Jahren bei Cloud-Infrastrukturen diskutiert. Sobald KI-Anwendungen dieselben Daten verarbeiten, stellen sich dieselben Fragen erneut, teilweise verschärft: Wo wird verarbeitet, wo gespeichert? Fliessen Inhalte in das Training eines Modells? Welche Unterauftragnehmer sind beteiligt, welchem Recht unterstehen sie? Und wie einfach lässt sich ein Modell oder Anbieter später austauschen?

Wir arbeiten deshalb an einem Betriebsmodell, bei dem KI-Services auf kontrollierter Infrastruktur laufen, etwa in Rechenzentren unseres Fusionspartners CONVOTIS, verfügbar als Model as a Service. Die Architektur ist auf Zero Retention ausgelegt: Inhalte sollen weder dauerhaft gespeichert noch für das Training des zugrunde liegenden Modells übernommen werden.

Andere Organisationen möchten ihre KI-Infrastruktur vollständig selbst betreiben: Unter dem Ansatz Bring your own AI verbinden wir deren Infrastruktur mit unseren Lösungen – und bringen unsere Erfahrungen mit KI-Hardware, Modellen, Betrieb und Integration ein.

Möglich macht beides ein einfaches Architekturprinzip: Keine unserer KI-Funktionen setzt einen fest verdrahteten Dienst voraus. Über konfigurierbare Endpoints wählt jede Organisation die Infrastruktur pro Anwendungsfall selbst, bis zur dedizierten Instanz für besonders sensible Daten.

Für Behörden sind das keine Nebenfragen: Daran entscheidet sich, ob aus einem technisch interessanten KI-Projekt eine dauerhaft tragfähige Lösung wird.

Entscheidend ist nicht, ob KI eingesetzt wird, sondern wie

Künstliche Intelligenz wird einen festen Platz in Fachanwendungen und Verwaltungsprozessen bekommen. Aus meiner Sicht ist deshalb weniger entscheidend, ob Behörden KI einsetzen, sondern unter welchen Bedingungen.

Wer Integration, menschliche Entscheidungshoheit, Nachvollziehbarkeit, Sicherheit und Datensouveränität von Anfang an mitdenkt, kann KI dort einsetzen, wo sie tatsächlich Nutzen schafft – ohne die fachliche Verantwortung an ein Modell abzugeben.

Genau darin sehen wir unsere Aufgabe: KI nicht als zusätzliches Werkzeug neben bestehenden Prozessen zu platzieren, sondern sie verantwortungsvoll dort zu integrieren, wo sie Menschen bei der täglichen Arbeit konkret unterstützt. Der Gewinn: weniger Routine – und mehr Zeit für die Arbeit, die menschliches Urteilsvermögen verlangt.

Über diese Fragen, unsere aktuellen Entwicklungen und die Erfahrungen aus laufenden Projekten sprechen wir auch an unseren Kundenevents im September.»

Über den Autor

Felix Leimbach leitet die KI-Innovationen bei der GLAUX GROUP. Er beschäftigt sich mit der technischen und organisatorischen Integration von Künstlicher Intelligenz in Fachanwendungen sowie mit Fragen rund um Governance, Sicherheit und Datensouveränität im öffentlichen Umfeld.