Moralische Algorithmen

Anwendung und Bewusstsein

Generell bemängelt die im Sommer 2018 von der Bundesregierung eingesetzte Kommission die Anwendung des bisher schon geltenden Rechts, vor allem der Datenschutz-Grundverordnung (DSGVO). Diese gibt dem Gesetzgeber zwar rechtliche Instrumente zur ethische Datennutzung an die Hand, die dieser aber nur ungenügend einsetzt. Darüber hinaus wünscht sich die Kommission ein verstärktes Bewusstsein der Akteure in den Behörden ob der bestehenden Möglichkeiten.

Zentrale Forderungen

Kernelement des Berichts ist ein Regulierungsansatz, der algorithmische Systeme in fünf verschiedene Risikostufen einordnet und dementsprechend Handlungsempfehlungen formuliert. Beginnend mit der ersten, risikoarmen Stufe ohne Regulierungsmaßnahmen über sukzessive Erhöhung von Kontrolle und Zulassung in den Stufen zwei, drei und vier, bis zur fünften und restriktivsten Stufe, die auch Vorbote vorsieht. Vor allem „Medienintermediäre“ wie Facebook oder YouTube sollen bei meinungsrelevanten Themen in höhere Risikobereiche eingestuft werden. Das Gleiche gilt für staatliche Akteure, vor allen in den sensiblen Bereichen der Rechtssetzung und Rechtsprechung. Hier hält die DEK eine umfassende Risikoabschätzung für algorithmische Systeme für notwendig.

Diese Einstufungen sollen in einem übergreifenden Modell eingebunden werden, welches weitere, verschiedene Elemente, wie eine Kennzeichungspflicht für algorithmische Systeme, Zugangsbestimmungen zu Informationen für Wissenschaftler*innen und Journalist*innen und eine digitale Erweiterung des Diskriminierungsgesetzes beinhaltet. Darüber hinaus schlägt die DEK Kompetenzerweiterungen im staatlichen und wirtschaftlichen Sektor in Form eines bundesweiten Kompetenzzentrums für algorithmische Systeme und Algorithmusbeauftragte für Unternehmen vor. Schließlich sollen die Maßnahmen auf EU-Ebene beschlossen und nationalstaatlich konkretisiert werden.

Reaktionen

Während Tabea Rößner und Konstantin von Notz von den Grünen wohlwollend kommentieren, dass die Vorschläge die Betreiber in die Pflicht nehmen und Verbote für vollautomatisierte Systeme nicht kategorisch ausschließen, kritisiert der Präsident des IT-Verbands Bitcom, Achim Berg, in einer Stellungnahme für das Handelsblatt den Generalverdacht gegenüber „fast allen Algorithmen“. Auch für Oliver J. Süme vom eco – Verband der Internetwirtschaft e.V. „ist die Kommission deutlich übers Ziel hinausgeschossen.“ Er warnt vor einer „Digitalisierungs-Bremse“.

Lorenz Matzat von der Organisation Algorithm Watch begrüßt die Empfehlungen der DEK, kritisiert diese allerdings als zu schwammig formuliert. Für Carla Hustedt und Falk Steiner von Algorithmenethik, einem Projekt der Bertelsmann-Stiftung, ist der Bericht „der konkreteste Entwurf eines regulatorischen Rahmens mit definierten politischen Gestaltungszielen, über den zu streiten sich lohnt.“

Über die Datenethikkommission

Die Datenethikkommission wurde im Juli 2018 von Bundesregierung ins Leben gerufen, um ethische und rechtliche Fragen im Zusammenhang mit Algorithmen, Künstlicher Intelligenz sowie den Umgang mit Daten zu beantworten. Sie besteht aus 16 Expert*innen aus den Bereichen Technik, Ethik und Recht.