Der Trend zum Einsatz von Algorithmen und Formen künstlicher Intelligenz macht auch vor Amtsstuben nicht halt. Entscheidungen der öffentlichen Verwaltung werden zunehmend durch automatisierte Datenverarbeitungsvorgänge mit Hilfe einschlägiger "smarter" Verfahren vorbereitet oder sogar getroffen. Berechtigungs- oder Stimmigkeitsprüfungen im Finanzamt, bei Jobagenturen oder der Studienplatzvergabe über Prozesse zur Planung von Verkehrswegen bis hin zur Kriminalitätsvorhersage per Predictive Policing sind Beispiel solcher Verfahren.

Dieser Kurs ist den Informationsfreiheitsbeauftragten des Bundes sowie der Länder Baden-Württemberg, Berlin, Bremen, Mecklenburg-Vorpommern, Rheinland-Pfalz, Sachsen-Anhalt, Schleswig-Holstein und Thüringen nicht ganz geheuer. Deshalb haben Sie Mitte Oktober bei ihrem Treffen in Ulm ein Positionspapier beschlossen, mit dem sie eine stärkere Transparenz bei der Implementierung von Algorithmen in der Verwaltung im Interesse eines "gelebten Grundrechtsschutzes" als unabdingbar bezeichnen.

Unabhängige Kontrolleure schreiben, dass automatisierte Analyseinstrumente und KI Effizienzsteigerungen bewirken könnten und Auswertungen großer Datenmengen erleichtern beziehungsweise überhaupt erst ermöglichen. Eine hohe Verantwortung trägt die Verwaltung, derlei Werkzeuge nur rechtmäßig zu verwenden. Um das Vertrauen der Bürger zu erhalten, sei die Verwaltung den Grundwerten "in besonderer Weise verpflichtet". Die Experten unterstreichen: "Elementar sind in diesem Zusammenhang die Beachtung der Menschenwürde und des Diskriminierungsverbots".

In diesem Zusammenhang ist, laut einer Analyse, ein großes Problem, dass Algorithmen und KI derzeit "meist völlig intransparent funktionieren". In aller Regel können die Betroffenen nicht nachvollziehen mit welchen Kriterien und Wertvorstellungen die Algorithmen "gefüttert" werden und inwieweit die erzielten Ergebnisse dem Grundsatz der Gesetzmäßigkeit entsprächen. Um die Entscheidung nachvollziehen zu können, müssten die genutzten Verfahren durchsichtig gemacht werden, damit sowohl die Bürger als auch die Verwaltungsmitarbeiter das Zustandekommen verstehen.

Bei der Programmierung müssen die Transparenzanforderungen schon in die Technik eingebaut werden, plädieren die auch für den Datenschutz zuständigen Beauftragten für das Prinzip "Transparency by Design". Welcher Input oder welche Bewertungen besonders relevant für das Ergebnis gewesen seien, sollte bei den berechneten Ausgabedaten ergänzt werden. Bei selbstlernenden Systemen sei entsprechende Evaluierungswerkzeuge vor allem geboten.

Der Stadtrat von New York hat 2017 ein Gesetz verabschiedet, mit dem die automatisierte Entscheidungsfindung in Behörden zurechnungsfähiger werden soll. Die US-Metropole soll demnach nur noch auf diskriminierungsfreie Algorithmen in der Verwaltung setzen.

(hv, hannover)

(siehe auch golem.de:)

Hannover · EDV-Beratung · Linux · Novell · Microsoft · Seminar · IT-Consult · Netzwerk · LPIC · CLE