KI in der Öffentlichkeitsbeteiligung

Ein Beitrag von Debora Kubia Meyer

Alle reden gerade über KI. Zurecht. Deswegen habe ich mich mit unserem Geschäftsführer Matthias Trénel und unserer Produktmanagerin Milena Dietrich zusammengesetzt, um ebenfalls über das Thema zu reden. Und natürlich kommt auch ChatGPT zu Wort!

Das Thema KI ist ja nicht ganz neu. Wo sind aktuell bereits künstliche Intelligenzen Bestandteil von Öffentlichkeitsbeteiligung?

Matthias: Momentan wird hauptsächlich daran geforscht. Das Vielversprechendste ist, dass die KI vor allem zur Auswertung von digitaler Bürgerbeteiligung eingesetzt werden können. Eine Richtung ist zum Beispiel das thematische Clustern von Diskussionsbeiträgen, das automatisiert ablaufen könnte. Aber auch in Sachen Online-Moderation in den digitalen Foren ist der Einsatz nicht uninteressant. Hier könnte sie zur Identifikation bestimmter Beiträge verwendet werden: Zum einen solche die gegen Dialogregeln verstoßen, und zum anderen können besonders hilfreiche Beiträge hervorgehoben werden.

Milena: Eine Richtung, in die zusätzlich geforscht und entwickelt wird, sind Prognosen und Empfehlungen. Aufgrund der Nutzer*innenverhalten können ihnen weitere interessante und verwandte Themen vorgeschlagen werden. Das kann dazu beitragen, mehr Interaktion zwischen den Teilnehmenden anzuregen und einen echten inhaltlichen Austausch fördern. Auch der Aspekt Visualisierung ist enorm wichtig: Das Aufbereiten von Informationen und Daten, um diese für die Beteiligten zugänglich und verständlich zu machen, ist eine Schlüsselkompetenz der KI, die wir uns zu Nutze machen können. Dadurch lässt sich beispielsweise durch eine KI-generierte Wortwolke, die Beiträge zusammenfasst, ein schneller Überblick über eine öffentliche Ideensammlung gewinnen. In Hinblick auf die Zugänglichkeit wird KI teilweise schon genutzt, um verständliche Zusammenfassungen von Verwaltungsdokumenten zu erstellen oder diese suchbar zu machen. Weiter auch Flächennutzungspläne in Karten zu übersetzen, die dann wiederum im Beteiligungsprozess verwendet werden können. Diese Aufbereitung der Informationen macht Prozesse über einen Expert*innenkreis hinaus auch für die Öffentlichkeit zugänglicher und verständlicher. Der Bereich mit dem wahrscheinlich meisten Potenzial ist automatisierte Übersetzung – die Mehrsprachigkeit! Das öffnet Beteiligungsräume für neue Personengruppen, vor allem wenn nicht nur die zur Verfügung gestellten Materialien mehrsprachig zur Verfügung stehen, sondern die Dialogbeiträge ebenfalls. So könnte künftig auch auf europäischer Ebene mehr Bürger*innendialog stattfinden!

Matthias: Genau! Das ist auch sehr interessant für Synchronveranstaltungen, bei denen zum Beispiel simultan übersetzt werden muss. Gerade was Language Processing angeht, ist weitere Forschung sehr wichtig.

Wie wird sich die KI in unserem Bereich voraussichtlich weiterentwickeln? Was seht ihr als nächstes kommen?

Milena: Es gibt einige Hinweise auf eine Demokratisierung von Prozessen und Entscheidungen. Dabei wäre zu hoffen, dass die Chancen der KI in Hinblick auf Gleichberechtigung und Zugänglichkeit genutzt werden. Es gibt zum Beispiel Forschung zur Auswertung von Redeanteilen auf Veranstaltungen, die auswerten, ob auch alle betroffenen Gruppen gleichmäßig gehört werden. Mehrsprachigkeit oder synchrone Redeprotokolle zum Mitlesen können ebenfalls Barrieren abbauen. Dabei müssen wir jedoch vorsichtig bleiben: Grundsätzlich sind die Übersetzungen schon gut, allerdings sollten sie vor Veröffentlichung immer noch ein Mensch kontrollieren. Ebenso was die Algorithmen zum Beispiel bei Vorschlägen oder Auswertungen angeht, damit keine Nutzergruppen bei der Zuordnung benachteiligt werden. Trotzdem ist vielen Menschen geholfen, wenn es mehrsprachige Angebote gibt und ein niederschwelliger Zugang zur Beteiligung ermöglicht wird.

Ich habe die KI ChatGPT gefragt, in welchen Bereichen Entwicklungsmöglichkeiten bestehen. Neben den vielen Aspekten, die schon genannt wurden, erklärt ChatGPT Folgendes: Eine weitere mögliche Entwicklung wäre die Verwendung von VR- und AR-Technologien, um Bürger*innen ein interaktives und immersives Erlebnis zu bieten. So könnten beispielsweise virtuelle Rundgänge durch neue Bauprojekte oder Infrastrukturmaßnahmen organisiert werden, um den Bürger*innen einen realistischen Eindruck von den geplanten Veränderungen zu vermitteln.

Matthias: Wir setzten bei Zebralog VR- und AR-Technologien in einigen Projekten ein, die vom Bundesforschungsministerium gefördert werden (https://virtus-beteiligt.de und https://www.fh-erfurt.de/xr-part). Allerdings habe ich die Entwicklung und Verschneidung virtueller und realer Räume bislang nicht im Kontext von künstlicher Intelligenz betrachtet.

Welche Chancen bringen künstliche Intelligenzen zur Unterstützung einer umfassenden Partizipation? Sowohl im staatlichen als auch im privaten Sektor?

Matthias: KI kann dazu beitragen mehr Beteiligung zu ermöglichen: Verwaltungen, Regierungen und Unternehmen schrecken vor der immensen Arbeitslast zurück, die so eine umfassende Beteiligung bedeuten kann. Genauso auch bei betriebsinternen Befragungen. Wir hatten mal eine Anfrage von einem Schweizer Waggon-Hersteller mit weltweit 22 Standorten. Mit so vielen Sprachen umzugehen, wäre ohne KI nur sehr schwer zu bewältigen gewesen. Aber auch für Länder, in denen es mehrere Muttersprachen gibt, so wie in Luxemburg, hat KI-gestützte Mehrsprachigkeit ein großes Potenzial. Durch unseren Standort dort haben wir regelmäßig damit zu tun. Zentral ist hier, dass auch Teilnehmende mit unterschiedlichen Sprachen miteinander diskutieren können. Nichtsdestotrotz stellt sich wieder die Frage der Kontrolle: Wem zeige ich was wann, damit es trotzdem einen flüssigen Austausch gibt. Das ist keineswegs trivial!

In Zusammenhang mit KI werden auch viele ethische und gesellschaftspolitische Bedenken diskutiert. Was ist zu beachten, um vor diesem Hintergrund mit KI zu arbeiten?

Matthias: Ich habe im Frühjahr an einem Workshop teilgenommen und wir haben zusammen mit den Entwickler*innen Leitsätze aufgestellt. Einer davon war, dass wir KI immer als Assistenzsystem nutzen wollen und sie nur als Hilfsmittel zu sehen ist. Grund dafür ist, dass immer die Gefahr besteht, dass die KI mit schlechten Daten gefüttert wurde. Sie ist nur so gut wie die Daten, aus denen sie besteht. Außerdem sind die künstlichen Intelligenzen noch nicht mit dem menschlichen Denken zu vergleichen: Eine Moderator*in kann zum Beispiel Zynismus in einem Kommentar oder Beitrag erkennen. Die KI nicht. Meinungen oder ihre feinen Nuancen können so verloren gehen, die Tiefe des Austausches im Verborgenen bleiben. Das Credo: Wir lassen uns assistieren!

Was können wir da tun, um dem entgegenzuwirken?

Milena: Ganz wichtig ist es, die Entstehung der Ergebnisse anzuschauen. Oft sind die Algorithmen einer KI eine Blackbox für Außenstehende. Wie kommt es zu den Entscheidungen, die eine KI trifft? Welche Daten werden verwendet, um die KI zu trainieren? Daher ist eine Kooperation mit  Hersteller*innen wichtig, um deren Arbeitsweise und Ziele zu verstehen, mögliche Biases zu antizipieren und die Anwendung gut zu testen. Gerade beim Thema der Öffentlichkeitsbeteiligung ist es wichtig, transparent und offen über den eventuellen Einsatz von KI an einzelnen Prozessschritten zu kommunizieren. Auch weil viele Menschen KI skeptisch gegenüberstehen. Priorität muss sein, das Vertrauen der Bürger*innen zu halten, mögliche Bedenken ernst zu nehmen und mit ihren Beiträgen gewissenhaft umzugehen. Ein mögliches Stützen auf KI kann daher nur nach gründlicher Abwägung in Frage kommen.

Das findet auch ChatGPT: Wenn KI-Tools als Standard für die Beteiligung eingesetzt werden, besteht die Gefahr, dass Menschen passiver bei der eigenen Meinungsbildung werden. Das Bewusstsein für politische Zusammenhänge könnte dadurch sinken und somit eine unerwünschte Abhängigkeit entstehen. Es ist wichtig, diese Bedenken ernst zu nehmen und sicherzustellen, dass die Verwendung von KI in der Partizipation unter Berücksichtigung ethischer und moralischer Fragen erfolgt. Eine umfassende Überprüfung dieser Fragen ist notwendig, um sicherzustellen, dass eine gerechte und inklusive Teilhabe für alle möglich wird.

Was heißt das für Zebralog?

Milena: Für uns stellt sich die Frage, in welchem Rahmen wir den Einsatz von KI testen können. Dabei müssen zuerst Richtlinien für den Umgang mit KI entwickelt werden.. Dazu gehört zum Beispiel weiterhin sparsam mit den Daten unserer Beteiligungen umzugehen und Transparenz zu schaffen. Weiter sollten wir uns vornehmen, Biases entgegenzuwirken. Wir können testen, wie hilfreich die Anwendungen tatsächlich sind und immer wieder mit unseren Grundsätzen abgleichen. Künstliche Intelligenz bietet die Chance Beteiligung breiter und zugänglicher zu machen. Deshalb sollten wir es, wenn auch mit größter Vorsicht, ausprobieren!

Matthias: Ich finde, das ist ein wunderbares Schlusswort! Wir werden uns konkret und aktiv damit auseinandersetzen, einen verantwortungsvollen Umgang mit künstlicher Intelligenz in der Bürgerbeteiligung finden. Für uns ist es wichtig, nicht nur darauf zu schauen, was große Konzerne auf den Markt werfen, sondern auch darauf zu achten, was verschiedene Forscher*innen für den Umgang mit KI herausfinden.

Ich danke Euch für dieses Interview und bin schon gespannt auf die Möglichkeiten, die sich Öffentlichkeitsbeteiligung dadurch eröffnen!