Digitaler Feudalismus über die Vermessung des Menschen? Debattieren wir in Berlin #D2030 @FuturICT

Von jedem von uns existiert im Netz ein digitales Double, schreibt Professor Dirk Helbing in einem lesenswerten Beitrag für PC Welt unter dem Titel „Diktatur 4.0: Schöne neue digitalisierte Welt“.
Dieses Double sei eine Art Blackbox, die mit unseren – meist ohne unser Wissen abgesaugten – persönlichen Daten gefüttert wird und – dank maschinellem Lernen – sich so ähnlich wie wir verhält. Die Betonung liegt auf „so ähnlich“.

„Man könnte mit Ihrem digitalen Double aber auch experimentieren, um herauszufinden, wie man Sie am besten austrickst, damit Sie ein bestimmtes Produkt kaufen, einen Trojaner auf Ihren PC herunterladen und ihn hackbar machen oder Ihren Kollegen, Nachbarn oder Mitmenschen hassen“, so Helbing.

Man könnte überdies herausfinden, wer demonstrieren würde, wenn man die Pressefreiheit oder die Demokratie abschaffte, und Sie vorsorglich in „Sicherheitsverwahrung“ stecken – Stichwort „Predictive Policing“.

Das Fatale dabei ist, dass die von Algorithmen gesteuerte Blackbox einen Vertrauensvorschuss genießt, obwohl diese Entscheidungsmaschine auch Vorurteile genieren kann, die wir alle in die Daten stecken.

Wenn auf dieser Basis die KI-Systeme ihre unermüdliche Arbeit aufnehmen und Entscheidungen vorbereiten oder sogar selbst treffen, kommt ziemlicher Mist dabei heraus. Kunden, die keinen Kredit mehr bekommen, Versicherte, die Prämienerhöhungen hinnehmen müssen oder gar Netzaktivisten, die als potenzielle Störenfriede der Gesellschaft aussortiert werden. Fast alle Daten, die von Blackbox-Maschinen verarbeitet werden, sind von Menschen annotiert worden.

„Wir reichern vermeintlich objektive Daten mit unseren Weltmodellen an. Das wird von keinem Algorithmus hinterfragt“, so Stefan Holtel von Brightone.

Das Ganze ist ein paradiesisches Feld für Trickser, Agitatoren, Autokraten und Machtgierige, sich hinter den Ergebnissen der KI-Maschine zu verstecken und die schmutzigen Entscheidungen auf die Algorithmen zu schieben. Etwa beim Scoring aller Bürgerinnen und Bürger in China. Die Führung der Kommunistischen Partei in Peking installiert „korrekte“ Maschinen als Hausmeister für politische Hygiene.

Nun werdet Ihr sagen, so ist sie halt, die KP China. Furchtbar. Aber bei uns nicht vorstellbar. Falsch:

„In Großbritannien heißt der Citizen Score ‚Karma Police‘ – und er wertet auch aus, welche Videos Sie im Internet anschauen und welche Radioprogramme Sie hören. Glauben Sie nur nicht, solche Scores gäbe es mittlerweile nicht überall“, erklärt Helbing.

Wie kann bei diesem Szenario ein Zielpfad aussehen, der Offenheit, Globalität und individuelles Wohlbefinden mit Nachhaltigkeit, Verteilungsgerechtigkeit und digitaler Souveränität verbindet?
Das wollen wir mit Euch auf der D2030 Zukunftskonferenz in Berlin am 6. und 7. Juli diskutieren. Jetzt schnell noch anmelden.

Mit Professor Dirk Helbing, Mitglied im D2030-Fachbereit, werden wir dazu auf der Zukunftskonferenz auch Antworten formulieren

Advertisements

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s

Bloggen auf WordPress.com.

Nach oben ↑

%d Bloggern gefällt das: