Hier bin ich digital, hier darf ich Mensch sein – Buchrezension Prinzip Mensch

Einst waren mit dem Internet große demokratische Revolutionen verbunden. An die Stelle von Monologen sollten demokratische Dialoge eines herrschaftsfreien Diskurses, um mit Jürgen Habermas zu sprechen, treten. Der revolutionäre Gedanke des digitalen Zeitalters herrscht, im wahrsten Sinne des Wortes, heute mehr denn je, wenn etwa Facebook Gründer Mark Zuckerberg postuliert: „Move fast and break things“. Dieses Motto steht gleichermaßen für die Zukunftsvision einer neuen Epoche des Silicon Valley. Allerdings scheint es, als habe sich das Internet von einer Hoffnung für die Demokratie zur Bedrohung der Demokratie entwickelt.  

In ihrem Werk „Prinzip Mensch“ geben Paul Nemitz und Mathias Pfeffer einen nachdenklichen Einblick in die digitale Gedankenwelt des Silicon Valleys. Sie zeigen auf, wie und warum sich die Machtverhältnisse in demokratischen Gesellschaften von demokratisch legitimierten Akteuren immer stärker in Richtung der großen fünf Technikkonzerne verschoben haben. Die GAFAM, Google, Apple, Facebook, Amazon und Microsoft bestimmen zunehmend unser alltägliches Leben, bestimmen aber auch zunehmend die politische Debatte in der Demokratie.  

Paul Nemitz war als Direktor für Grundrechte in der EU-Kommission verantwortlich für die Arbeiten zur „Einführung der Datenschutzgrundverordnung“. Matthias Pfeffer ist freier TV- Journalist und Produzent für verschiedene TV-Formate wie „Future Trends“ dem ersten Wissenschaftsformat im Privatfernsehen. Gemeinsam geben sie eine reflektierte Antwort auf die Frage, wie digitale Zukunft nach demokratischen Prinzipen gestaltet werden kann.  

„Wenn die Hälfte der Nutzer nicht weiß, was überhaupt ein Algorithmus ist und wie er filtert und sortiert, was sie zu sehen bekommen, wie viele werden dann wissen, dass hinter jedem Algorithmus Menschen stehen, die mit dem Programm eigene Interessen verfolgen?“ 

Auf einmal erscheint die bunte Welt der GAFAM, die Wunderwelt der digitalen Technik, in einem ganz anderen Licht. War nicht das Versprechen von Google stets „Don´t be evil!“? Die Analogien zu dem Wahlspruch der Hippiebewegung „Make love not war“ sind nicht rein zufällig. Die „Kalifornische Ideologie“, wie die Autoren das Selbstverständnis des Silicon Valley beschreiben, entstammt selbst aus den Idealen der 68er.  

Entstanden waren diese aus Protesten gegen den Vietnamkrieg, der Kampf Martin Luther Kings, sowie das Aufbegehren junger Menschen für mehr persönliche Freiheiten, das Aufbrechen von Konvention, eine Ablehnung der Politik, für mehr Dezentralisierung. Viele suchten nach neuen Wegen, schlossen sich neuen Lebensgemeinschaften an. Dieser Gedanke findet sich auch in der Kalifornischen Ideologie wieder: Freiheit müsse nun durch die Befreiung von Konventionen erstritten werden. Dieser Gedanke ist stark im amerikanischen Bewusstsein verankert. Einst waren die Pioniere im Wilden Westen auf sich selbst gestellt ohne Obrigkeit nur durch eigene technischen Fähigkeiten zu überleben. Dieses Denken heißt, stets die Grenzen des Möglichen zu verschieben, undenkbares zu denken, unmögliches möglich zu machen.  

Insbesondere die aktuelle Pandemie macht deutlich, wie schwer es geworden ist, die stetig wachsenden Mengen an Informationen verarbeiten zu können. Angesichts der bewussten Streuung von Falschmeldungen, um für Verwirrung und Unsicherheiten zu sorgen, hat die Weltgesundheitsorganisation analog zu „pandemics“ bereits den Begriff der „infodemics“ geprägt. Angesichts immer größerer Informationsmengen wird es für jeden einzelnen, aber auch vor allem die Politik schwierig, richtig von falsch zu trennen, eine Orientierung bieten zu können.  

Hierin sieht das Silicon Valley jedoch keine besondere Schwierigkeit. Probleme, welche durch die Technik entstanden sind, ließen sich schließlich auch durch Technik lösen. An die Stelle von Schöpfung treten Informationen, an die Stelle von Menschen Maschinen, die diese verarbeiten. Bereits Konrad Zuse vertrat die Überlegung, der gesamte Kosmos sei ein einziger großer Computer. Gelänge es nun entsprechend leistungsfähige Rechenmaschinen zu bauen, müsste es möglich sein, die Regeln des Kosmos zu entschlüsseln. Allerdings warnte er auch davor: „Die Gefahr, dass die Computer dem Menschen ähnlich werden, ist nicht so groß, wie die Gefahr, dass die Menschen dem Computer ähnlich werden.“ 

Immer wieder steht der technische Fortschritt vor der Frage: Mensch oder Maschine? Für Technikpropheten wie den Chefentwickler von Google Ray Kurzweil ist diese Frage längst beantwortet: Mensch in Maschine. Anders ausgedrückt, können Menschen nicht mehr mit den Maschinen mithalten, so müssten diese sich nicht dem Menschen anpassen, sondern umgekehrt. Diese Vorstellung wird von drei Pfeilern getragen: der Kybernetik, des Evolutionismus sowie der neoliberalen Spieltheorie. Die Kybernetik vertritt die Auffassung, Menschen seien lediglich Datenträger und somit in ihrem Verhalten elektronisch abzubilden. Der Evolutionismus geht von der Annahme aus, eine immer exponentiellere Entwicklung werde durch die Darwinschen Gesetze Fortschritt bringen. Die neoliberale Spieltheorie schließlich versucht, menschliches Verhalten durch Algorithmen vorhersagen zu können. Der Mensch als Mensch ist darin fehlerhaft und lediglich Störfaktor. Daher muss dieser immer weiter optimiert werden. Die Debatte Mensch oder Maschine führe nicht zur Unterwerfung unter die Maschinen, sondern zur Selbstüberwindung des Menschen.   

Was düster klingen mag, mag zu einem gewissen Teil auch seine Berechtigung haben. Demokratien benötigen Innovationen, um wirtschaftlichen Wohlstand und damit das Wohlergehen der Gesellschaft zu ermöglichen. In pluralen Gesellschaften wirken viele Akteure am demokratischen Diskurs mit, versuchen diesen nach ihren Vorstellungen zu beeinflussen. Der große Verdienst des alten Griechenlands bestand darin, dass an die Stelle der Götter, Eris für Zwietracht und Philia für Eintracht, die Polis als Ort des öffentlichen Raumes, des Diskurses trat. Aber bereits damals gab es die Sophisten, welche unter dem Verdacht standen, diese öffentliche Meinung nach persönlichen Interessen statt des Gemeinwohls zu manipulieren.  

Vorfälle wie etwa der von Cambridge Analytica oder Fake News zeigen, dass sich hieran wenig verändert hat. Der Unterschied ist jedoch, so argumentieren Nemitz und Pfeffer, dass die GAFAM gar nicht darauf abzielen, die Demokratie zu beeinflussen, viel eher gelte es, diese zu überwinden. Immer wieder steht die Politik vor der schwierigen Aufgabe, Regeln und Gesetze für das „Neuland Internet“ zu finden. Die Technikkonzerne, so zeigen die Autoren auf, argumentierten, Politik stünde der Technik und ihren großen Potentialen lediglich im Weg. Diese verstünde deren Komplexitäten nicht, habe daher keinen Anspruch Regeln aufzustellen.  

Deutlich wird dies am Beispiel des neuen Contract Social, ausgerufen von John Perry Barrow, dem Gründer der Electronic Frontier Foundation. Einst plädierte Rousseau für einen Sozialvertrag, welcher eine Ordnung schaffen sollte, in der alle Menschen ihre natürliche Freiheit in einem gesellschaftlichen Zusammenleben bewahren könnten. Der moderne Contract Social nach Barrow ersetzt dabei die Natur durch Technik und die Normen des Zusammenlebens durch technische Regeln. Die Konsequenzen sind die Forderung nach einer Technokratie, in welcher Politik lediglich noch eine beratende Rolle zukommen dürfe.  

Diese Logik zeigt sich gut am Beispiel des amerikanischen Wahlkampfes. Während eine Facebook Anzeige für Donald Trump, sprich Republikaner, 8$ kostet, kostet diese für die Kandidaten der Demokraten 279$. Jene Partei, welche sich in diesem Fall einem internen demokratischen Wahlverfahren stellen muss, wird durch die Marktlogik finanziell bestraft. Eine Facebook Supreme Court beansprucht sogar die Rechtsauslegung bereits für sich selbst.  

Insbesondere in diesem Denken sehen Nemitz und Pfeffer eine große Gefahr für das einstige digitale Demokratieversprechen. Individuelle Nachrichten, persönliche Informationen und Angebote zugeschnitten auf die Bedürfnisse eines jeden einzelnen lassen den Common Ground für Dialoge und Diskussionen zu einem Common Ground Zero verkümmern. In anderen Worten ausgedrückt, eine gemeinsame Basis, ein gemeinsamer demokratischer Rahmen des Austausches und des Dialoges wird zugunsten von individuellen Bedürfnissen aufgegeben. .  

Erstaunlich ist in diesem Zusammenhang der Fund, dass die vermeintliche Öffnung der Welt durch digitale Vernetzung zu deren Verschließen geführt hat. In seinem Werk „Die offene Gesellschaft“ erläutert der Philosoph Karl Popper 1945 die Bedeutung von freien Informationsfluss für freie und aufgeklärte Gesellschaften. Allerdings so scheint es, hat der freie Informationsfluss des Internets eine Rückkehr zu alten Stammesgesellschaften bewirkt.  

Der Vorwurf des Silicon Valleys: Demokratien sind nicht mehr in der Lage Problem zu lösen. Demokratien sind fehlerhaft, das musste auch schon Winston Churchill zugeben. Jedoch betrachten sie den Menschen in seiner Einzigartigkeit als Mensch, als lernenden Subjekt auf dem Weg ein selbstbestimmtes und selbstbewusstes Wesen zu werden. Maschinen, auch wenn sie „lernen“ sind hiermit nicht vergleichbar, basieren sie doch auf probabilistischen Annahmen.  

Probabilistische Modelle der Empfehlungen für unsere Routen durch den virtuellen Raum sind rückwärtsgewandt. Algorithmen verstärken Muster, dass wir nichts Neues mehr erfahren, nur was uns gefällt. Sie bevorzugen Emotionen über Debatten, belohnen Aufmerksamkeit gegenüber Diskussion. Das Gebot von Google & CO: „Sei nicht langweilig!“  Insbesondere der Journalismus spürt diese Auswirkungen von einer kritischen Berichterstattung zu einer immer stärkeren Suche nach Skandalen für Reichweite nach der Logik der Aufmerksamkeitsökonomie.  

„Gerade die Corona Krise lehrt, dass wir unsere Entscheidungen angesichts des Nicht-Wissens der Zukunft nicht Maschinen überlassen können. Vielmehr sind gerade in der technisierten und globalisierten Welt menschliche Vernunft und Verantwortung gefordert.“ Am Ende ihres Buches zeigen die Autoren verschiedene Lösungswege auf, wie sich demokratische Gesellschaften in demokratischen Verfahren den Herausforderungen des digitalen Wandels stellen können. Analog zur Gewaltenteilung sprechen sie von einer Datenteilung, in welcher die Betreiber der Dateninfrastruktur und die Besitzer der Daten voneinander getrennt werden sollen. Datentreuhändler überwachen, dass keine der Seiten zu viel Macht erlangen kann.  

„Prinzip Mensch“ lehnt den technischen Fortschritt keineswegs ab, möchte diesen aber wieder zu seinem demokratischen Ausgangspunkt zurückführen. Politik, Recht und Technik müssen hierfür Hand in Hand miteinander arbeiten, anstelle ein reines Primates der Technik zu sehen. Hierzu gehört aber auch ein Journalismus, der dies kritisch begleitet und überwacht.  

Im abschließenden Kapitel führen Nemitz und Pfeffer vielseitige Lösungsvorschläge an, welche die Vielfalt demokratischen Handelns widerspiegeln. Allen diesen ist gemeinsam, dass sie ein kritisches Nachdenken und Abschätzen der Folgen digitaler Technologen fordern. Gesetze sollen dafür technikneutral formuliert sein, um den digitalen Dynamiken zu genügen. Wichtig ist es dabei, wie Stuart Russel fordert, dass Menschen nicht die KI fragen, was sie tun sollten, aber die KI bei ethischen Fragen immer wieder den Menschen selbst fragen muss.  

Insbesondere die aktuelle Pandemie wirft Fragen auf, wie wir als Menschen in einer Gesellschaft zukünftig miteinander leben wollen, auf welchen Werten diese gebaut sein soll. Technik kann hierauf keine Antwort liefern, sieht sie den Menschen doch nicht als Menschen, sondern als Träger von Information, als Instrument, dass es zu optimieren und überwinden gilt.  

„Die Zukunft ist offen. Um sie zu bewältigen, brauchen wir menschliche Intelligenz und menschliche Werte. Künstliche Intelligenz schafft lediglich künstliche Werte.“ Zwar enthält Prinzip Mensch einige dystopische Züge einer technokratischen Zukunft, allerdings sollte das Buch nicht als solches verstanden werden. Viel eher möchten die Autoren über die Denkweise und Weltsicht einer zunehmend digitalen Welt aufklären. Täglich begegnen wir den Errungenschaften und Wundern aus Silicon Valley. Das Buch bietet vor allem Anregungen für Kritik an einem technokratischen Verständnis, welches die demokratische Freiheiten vieler zugunsten einer bunten, bequemen Technokratie gesteuert von einigen wenigen aufgibt.

Im Mutterland des Silicon Valley heißt es: „We hold these truths to be self-evident, that all men are created equal, that they are endowed by their Creator with certain unalienable Rights, that among these are Life, Liberty and the pursuit of Happiness.” Aber um diese Rechte zu wahren, zu fördern, werden Institutionen von und für Menschen nicht durch Maschinen geschaffen. 

In diesem Sinne ist Paul Nemitz und Matthias Pfeffer ein tiefgründiges Werk gelungen, welches das „Prinzip Mensch“, den Menschen in seiner Einzigartigkeit, ins Zentrum rückt. Zusammenfassen lässt sich dieses Prinzip mit der Frage: Wie lassen sich Maschinen durch Menschen beherrschen, sodass Menschen nicht einmal durch Maschinen beherrscht werden?  

Aus der Hoffnung für die Demokratie ist eine Herausforderung für diese geworden, oder um mit den Worten von Bundespräsident Frank Walter Steinmeier zu schließen: „Nicht um die Digitalisierung der Demokratie müssen wir uns zuallererst kümmern, sondern um die Demokratisierung des Digitalen.“  

Auf ihrer Website laden die Autoren die Leserschaft zum Dialog über diese Frage ein.

Photo by Andrew Kow on Unsplash