Sozialingenieure und ihre Steuerungsinstrumente für eine „wohlwollende“ Diktatur #D2030 @FuturICT

Geo-markierte Benutzerinformationen, vollständige URL-Suchlisten, Ports, vermutlich sogar einzelne Bewegungsmuster der Computermäuse und Klickströme aller Internet-Benutzer werden von staatlichen Behörden gesammelt und ausgewertet. Dies sind genau die Arten von Daten, die von den verschiedenen digitalen Instrumenten für die so genannte „wohlwollende Diktatur“ verwendet werden sollen, warnt D2030-Beiratsmitglied Professor Dirk Helbing. Deshalb sollten wir sehr besorgt sein. Laut Murphys Gesetz, „Alles, was schief gehen kann, wird schief gehen.“ Insbesondere, wenn es eine Möglichkeit für Missbrauch gibt, werde es früher oder später passieren, so Helbing.

Stichworte wie Big Nudging oder Citizen Score sind schon längst keine Hirngespinste mehr.

Der chinesische Staatsrat hat Nudging mit Big Data verbunden und einen harmlos klingenden „Social Citizens Score“ eingeführt, der über die kommunalen Regierungsvertreter flächendeckend zur Anwendung kommen soll. Basis für die Korrektheitsberechnung ist der Sesame Credit Score der Ant Financial Services Group, einer Tochtergesellschaft von Alibaba. Neben der finanziellen Kreditwürdigkeit kommen Variablen zur Berechnung der sozialen und politischen „Kreditwürdigkeit“ in den Algorithmus des Plattform-Betreibers rein. Die Kommunistische Partei China macht das sehr transparent, so dass jedem Schäfchen des Landes klar ist, was die Parteiführung von „ihrem“ Volk erwartet. Man kann in dem „moralischen“ Dokument der KP nachlesen, was zu einem schlechten Score-Wert führt. Ähnliches hat der ehemalige Google-Chef Eric Schmidt formuliert:

„Wenn wir etwas tun, was andere nicht wissen sollten, dann sollten wir es besser nicht tun.“

Man könnte auch von einem Maschinen-Paternalismus sprechen, der indirekt Konformität und vorauseilenden Gehorsam produziert.

Es lohnt sich in diesem Zusammenhang, den Google-Chefdenker Ray Kurzweil stärker unter die Lupe zu nehmen.

Kurzweil erklärt Eingriffe in menschliche Geister für wünschenswert, weil Charakterfehler dadurch behoben und Leistungssteigerungen ermöglicht werden könnten – er hat wohl die Protokolle der Macy-Konferenzen in den 1950er Jahre gelesen. Das sei nichts anderes als eine Operation am Blinddarm oder am Herzen, meint Kurzweil. Seine erdachte singuläre Plattform herrscht über Leben und Tod. Kurzweil will Gott spielen.

„Alle Menschen verschmelzen zu einem Wesen, das keine räumliche Ausdehnung mehr kennt und optisch nicht mehr sichtbar ist. Der Cloud kommt so die Funktion eines Ersatzgottes zu. Sie birgt alles Wissen der Welt in sich, trägt alle Seelen, ist allmächtig, besitzt ein Monopol auf Sinn und Zusammenhang, stellt alle Regeln auf, sieht alles, ahnt alles und richtet alle. Kurzweil hat diese religiösen Anklänge durchaus bewusst eingeflochten. Er thematisiert sie gezielt in seinen Büchern und Vorträgen“, schreibt Christoph Keese in seinem Buch „Silicon Valley: Was aus dem mächtigsten Tal der Welt auf uns zukommt“.

Klingt irgendwie nach der Psychotherapie im Zukunftsroman „Clockwork Orange“ von Anthony Burgess. Es ist an der Zeit, solche Steuerungsheinis in der Öffentlichkeit mit einer kritischen Debatte zu konfrontieren. Helfen könnten paradoxe Interventionen: Steuerungssysteme entlarven, so dass ihre Modelle ins Leere laufen. Systeme mit unsinnigen Daten speisen (wäre eine Aufgabe für den Chaos Computer Club, aber da schreiben die Vordenker wohl lieber Kolumnen für die FAZ) – also das große Rauschen produzieren, so dass am Ende falsche Muster herausspringen. Mein eigenes Verhalten kann dafür sorgen, dass das System durch die Aufdeckung der dahinter stehenden Logik nicht mehr funktioniert. Wir sollten uns dadaistischer im Netz bewegen.

Advertisements

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s

Erstelle eine kostenlose Website oder Blog – auf WordPress.com.

Nach oben ↑

%d Bloggern gefällt das: