Generative KI als Werkzeug in der öffentlichen Verwaltung
Im November 2022 wurde ChatGPT veröffentlicht und machte plötzlich allen bewusst, welche Vorteile die künstliche Intelligenz (KI) bieten kann. Die Technologie der grossen Sprachmodelle, die hinter generativer KI steht, erlaubt es, repetitive Aufgaben zu eliminieren, menschliche Fehler zu minimieren, Zeit zu sparen und die Qualität der Arbeit und der Dienstleistungen für die Öffentlichkeit zu optimieren. KI kann das Personal der öffentlichen Verwaltung bei einer Vielzahl von Aufgaben unterstützen. Daher wird generative KI derzeit von vielen als der neue Transformationstreiber der digitalen Verwaltung angesehen.
Generative KI stellt die Verwaltungen jedoch auch vor diverse Herausforderungen. Diese betreffen insbesondere die verwaltungsinternen Regeln in Bezug auf Sicherheit, Vertraulichkeit und Wahrung der Privatsphäre, aber auch die Kompetenz und Expertise der Mitarbeitenden. Eine grossflächige Einführung dieser Werkzeuge erfordert daher eine vertiefte Auseinandersetzung mit den Zugangs- und Nutzungskriterien, die im Einzelfall anzuwenden sind.
Eine explorative und vergleichende Analyse von Fallstudien
Im Verlauf des Jahres 2023 führten wir eine explorative Studie zu den ersten regulatorischen Schritten in Bezug auf die Nutzung generativer KI in amerikanischen und europäischen Verwaltungen durch. Die USA und die Europäische Union wurden für diese Studie gewählt, weil sie rasch Regeln für ihre Organisationen aufgestellt haben und andere Staaten sich häufig auf deren Entscheidungen stützen. Im Allgemeinen werden die USA meist als dynamisches und liberales Ökosystem wahr- genommen, während die Regulierungen der Europäischen Union häufig als hinderlich für Innovation und förderlich für den Schutz der individuellen Rechte gesehen werden. Man dürfte deshalb erwarten, dass die USA und die EU gegensätzliche Ansätze in Bezug auf die Regulierung der Nutzung generativer KI in ihren Verwaltungen verfolgen. Unsere Untersuchung stützte sich auf 14 Dokumente, die wir im Verlauf des Jahres 2023 analysierten. Sie wurden von offiziellen Internetseiten heruntergeladen oder unter Ausübung des Zugangsrechts für administrative Dokumente eingeholt. Die Dokumente enthielten Angaben zur Positionierung der einzelnen Organisationen in Bezug auf die Nutzung generativer KI und erlaubten es, die Einstellung der Organisationen in Bezug auf generative KI, die Anwendungsszenarien sowie den regulatorischen Rahmen zur Nutzung generativer KI zu erheben.
Administrationen befürworten eine geregelte Öffnung gegenüber der Technologie
Die Dokumente lieferten uns einen Überblick über die Ähnlichkeiten und Unterschiede zwischen den amerik-anischen und europäischen Akteur:innen. Fokussiert man auf die Ähnlichkeiten, ergab die Analyse, dass die Behörden eine positive Einstellung in Bezug auf generative KI teilen und sich für deren Einsatz zur Unterstützung der Verwaltung aussprechen. Generell sind drei Anwendungsszenarien denkbar: Das erste sieht die Verwendung generativer KI vor, die von der Administration selbst entwickelt wurde. Das zweite sieht vor, dass die generative KI extern entwickelt wird, jedoch anhand vertraglicher Regelungen an die Bedürfnisse der Administration angepasst wird. Das dritte sieht den Einsatz generativer KI vor, die von einem privaten Unternehmen entwickelt wurde und frei zugänglich ist.
Abbildung 1. Drei Anwendungsszenarien
Abbildung: Autorin
In Bezug auf das letztgenannte Szenario zeigen sich Unterschiede zwischen den Administrationen. So verbieten die europäischen Institutionen ihren Angestellten, von privaten Unternehmen entwickelte und frei zugängliche Programme zu nutzen. In den entsprechenden Dokumenten werden unterschiedliche Risiken identifiziert im Zusammenhang mit der Sicherheit, der Vertraulichkeit und der Vertrauenswürdigkeit der generierten Informationen. In Anbetracht dieser Risiken sind die Angestellten angehalten, diverse Massnahmen einzuhalten. Daneben schreiben die Behörden Schulungen für ihr Personal vor. Man verfolgt einen präventiven Ansatz und setzt auf Risikoanalysen. Im Bemühen, ihre digitale Souveränität zu schützen, empfehlen die europäischen Institutionen in der Regel einen Versuchsbetrieb, bevor Programme innerhalb der Verwaltung breit zur Anwendung kommen. Anders ausgedrückt haben die amerikanischen und europäischen Insti- tutionen in einem ersten Schritt ähnliche Positionen eingenommen in Bezug auf die Regulierung des Einsatzes und der Nutzung generativer KI innerhalb ihrer Organisationen. In der Folge wurden in anderen amerikanischen Staaten und europäischen Organisationen ähnliche Ansätze übernommen. Aktuell werden jedoch die Massnahmen, die ursprünglich unter der Biden-Regierung ergriffen wurden, im Detail geprüft, um zu bestimmen, ob sie weiter gelten oder aufgegeben werden sollen – was die Fragilität nicht bindender Massnahmen deutlich macht.
Referenz
Weerts, S. (2025). Generative AI in public administration in light of the regulatory awakening in the US and EU. Cambridge Forum on AI: Law and Governance, 1, e3. doi:10.1017/cfl.2024.10.
Bemerkung : dieser Beitrag stammt aus dem 10. IDHEAP Policy Brief. Er wurde von Robin Stähli, DeFacto, bearbeitet.
Bild: unsplash.com
