DEMOKRATISCH – LINKS

                      KRITISCHE INTERNET-ZEITUNG

RENTENANGST

Wider die Manipulation

Erstellt von DL-Redaktion am Montag 20. August 2018

Die verborgene Macht der Algorithmen, Teil I

von Danah Boyd

Algorithmen dringen derzeit immer schneller in alle Lebensbereiche vor. Diesem historischen Umbruch möchte ich mich in zwölf Schritten nähern. Im ersten geht es darum, wie sich die Aufmerksamkeitsindustrie hacken lässt. Im Jahr 2008 hatte die Paranoia über Sexualstraftäter im Internet ein Allzeithoch erreicht. Aus allen Medien dröhnte der immergleiche Alarmton: Das Internet ist für Kinder gefährlich. Ob in den USA, ob in Europa: Vor diesem Thema gab es kein Entkommen. Zuerst stand MySpace im Brennpunkt, danach Facebook. Die Botschaft war klar: Diese neumodischen und populären Onlinedienste stellen eine ernste Bedrohung für unsere Kinder dar.

In den Vereinigten Staaten reagierte der Kongress mit Gesetzentwürfen wie dem Stopping Online Predators Act. Task Forces für Internetsicherheit wurden gebildet. Für mich als Wissenschaftlerin waren das extrem ärgerliche Zeiten. Ich hatte zahllose Untersuchungen über die Gefahren, die jungen Leuten drohen können, in Berichten zusammengefasst. Ich kannte die Datenlage, konnte bis ins schmutzige Detail darstellen, welche Risiken Jugendlichen drohen und was zur Verhütung der größten Ungeheuerlichkeiten getan werden kann. Aber in der Debatte, die da entbrannte, ging es nicht um Fakten oder Belege. Es ging um Angst. Und für so manche ging es darum, zu Lasten der Vernunft Technikängste zu schüren. (Klingt das für deutsche Ohren vertraut?) Nie werde ich vergessen, wie ein Jugendschützer in den USA auf meinen Gefahrenreport reagierte: Ich sollte mich nach anderen Daten umsehen, meinte er.

Unter Teenagern war die Stimmung durchaus gemischt. Manche machten sich große Sorgen über mangelnde Sicherheit im Internet. Sie hatten die Gerüchte gehört. Sie hatten die Fernsehsendung „To Catch a Predator“ („Wie man einen Sextäter fängt“) gesehen und glaubten fest, da würden irgendwo irgendwie Kinder entführt. Sie wollten online in Sicherheit sein und wussten nicht recht, wie sie sich schützen sollten. Doch die große Mehrheit hielt sich mit dieser Moralpanik nicht lange auf und verdrehte nur die Augen. Schließlich warnen Erwachsene sie immerzu vor dieser oder jener Gefahr.

In einer Online-Community namens 4chan kam es unterdessen zu Diskussionen, wie man mit diesem Thema Erwachsene „trollen“ könne. Man muss dazu die Entstehungsgeschichte von 4chan kennen – als Produkt eines von Animes und Pornographie besessenen fünfzehnjährigen amerikanischen Jungen, der ein Werkzeug für andere Jungen seines Alters schaffen wollte. Es war diese Community, in der die meme culture entstand, und sie hatte einen Riesenspaß daran, sich über die Ängste der Erwachsenen in Sachen Netzsicherheit zu mokieren.

2008 gab es noch Oprah Winfreys tägliche Talkshow, mit der sie Millionen erreichte, besonders Frauen mittleren Alters und die Eltern vieler 4chan-Kids. Machte sie sich über irgendetwas Sorgen, dann taten es auch die Eltern – und umgekehrt. In der Sendung wurde regelmäßig über Fragen sexueller Gewalt, Jugendpraktiken und beunruhigende Internet-Storys diskutiert. Ihre Produzenten nutzten Oprahs Diskussionsforum gern dazu, sich durch die Fans auf neue Programmideen bringen zu lassen. Irgendwer in der 4chan-Welt hatte den Einfall, Drohbotschaften auf Oprahs „schwarzem Brett“ zu platzieren, um die Produzenten der Show zu trollen. Wie es weiterging, ist nicht ganz klar. Jedenfalls sagte Oprah in ihrer landesweit ausgestrahlten Sendung schließlich live: „Lassen Sie mich etwas verlesen, was jemand gepostet hat, der behauptet, Mitglied eines bekannten Pädophilennetzwerks zu sein. Es heißt da, er vergibt nicht und vergisst nichts. Seine Gruppe hat über 9000 Penisse und sie vergewaltigen Kinder. Ich möchte deshalb, dass Sie Bescheid wissen: Die sind organisiert und beschäftigen sich systematisch damit, Kindern wehzutun, und sie benutzen das Internet dazu.“

Besorgten Eltern mag es da kalt über den Rücken gelaufen sein, aber Teenager brachen in ihren Online-Netzwerken kollektiv in schallendes Gelächter aus. Denn „Over 9000“ ist eine bekannte Meme-Anspielung. Und „Wir vergeben nicht. Wir vergessen nicht“ ist das Motto eines Netzwerks namens „Anonymous“. Die Vorstellung schließlich, Online-Pädophile seien organisiert – mit einem Teddybären als Maskottchen, wie es später hieß –, erschien den Jugendlichen komisch, ja absurd.

Wer auch immer da Oprah getrollt hatte: Ihm oder ihr war es gelungen, die Aufmerksamkeitsökonomie zu hacken. Ein TV-Star konnte dazu gebracht werden, sich in einer landesweit ausgestrahlten Sendung live lächerlich zu machen. Zugleich hatte man aber auch die Fähigkeit demonstriert, Massenmedien zu manipulieren.

Wer kontrolliert die Künstliche Intelligenz?

Im zweiten Schritt geht es um Verantwortlichkeit: Viele der technischen Systeme, mit denen wir es zu tun haben, basieren auf maschinell lernenden Algorithmen. Suchmaschinen organisieren Inhalte, indem sie entscheiden, was bei jeder beliebigen Internetsuche das jeweils Wichtigste sein könnte. Zahllose Ranking- und Empfehlungssysteme wirken im Hintergrund unserer Online-Erlebnisse mit. Der Einfluss algorithmischer Systeme beschränkt sich aber nicht auf unser informationelles Ökosystem. Maschinenlernende Systeme bahnen sich ihren Weg in so unterschiedliche Gebiete wie Strafjustiz, Kreditprüfung, Wohnungsvermittlung, Versicherung, Bildung und Medizin. In einer Geschäftswelt, in der alle von Künstlicher Intelligenz (KI) schwärmen, sehen zu viele Leute in der Akkumulation von Daten die Lösung jeglichen Problems.

KI ist der Knüller. Fast jedes Start-up präsentiert sich als die KI-Lösung für irgendwas. Niemand versucht das, was da vorgeschlagen wird, erst einmal zu evaluieren. Schließlich muss sich mit all diesen Daten doch irgendeine Lösung finden – oder? Machen wir uns nichts vor: KI ist gleich „Big Data“, nur neu kostümiert. Weil zu viele Europäer zu viel Lärm über die Überwachungspraktiken von „Big Brother“ – alias „Big Data“ – geschlagen haben, spricht man lieber von KI, was den Datenhunger jeglicher Technologie, die den Namen KI verdient, scheinbar kaschiert. Andererseits verlangt es, wie ein Vorstandsmitglied einer Technologiefirma mich aufklärte, auch deshalb alle Welt nach KI, weil das Gegenteil von künstlicher Intelligenz „natürliche Dummheit“ sei. So verstanden klingt KI einfach großartig, egal woraus sie besteht!

Wenn wir aber tatsächlich alles und jedes mit KI ausrüsten wollen, fragt sich doch, wer diese Systeme kontrollieren wird. Wie sollen Verantwortlichkeit und Haftung beschaffen sein? Hier in Deutschland und in der EU werden diese wichtigen Fragen immerhin gestellt. Ein Dankeschön also an die Künstler und Journalistinnen, Wissenschaftler, Politikerinnen und Verwaltungsleute, die die Öffentlichkeit auf die Dringlichkeit dieser Themen aufmerksam machen. Zugleich möchte ich euch aber auch auf ein Manko hinweisen. Ihr denkt an institutionelle Macht – an Regierungen und Unternehmen, an Gesetze, die die Entwicklung strukturieren können. Ihr müsst euch aber auch mit denjenigen auseinandersetzen, die finsterere Absichten verfolgen – mit all den Digitalcowboys, die diese Technologie vorgeblich rechenschaftspflichtig machen, indem sie diese Systeme manipulieren. Es geht längst nicht mehr nur um so etwas wie die Möglichkeit, Oprah zu veranlassen, sich landesweit lächerlich zu machen. Es geht um schmutzige Politkampagnen, um Werbung, die sich als journalistischer Bericht tarnt, um die strategische Nutzung jedes verfügbaren Tools zur Manipulation jedes beliebigen Systems, nur um zu beweisen, dass man dazu fähig ist. Koste es, was es wolle.

Was muss geschehen, um nicht nur Staaten und Unternehmen verantwortlich machen zu können, sondern auch riesige Netzwerke von Leuten, die über unterschiedliche Rechtsräume hinweg arbeiten und unterschiedliche Techniken anwenden, um den sozialen Zusammenhalt systematisch zu untergraben?

Strategisches Schweigen

Quelle        :        Blätter           >>>>>            weiterlesen

————————————————————————

Grafikquelle          :     Ausgangsbild für den Algorithmus

Kommentar schreiben

XHTML: Sie können diese Tags benutzen: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>