Algorithmen sind in der öffentlichen Wahrnehmung gefährlich: Sie sollen entscheiden, zensieren und manipulieren. Doch in Wirklichkeit steckt im Algorithmus mehr Mensch als viele denken – und er ist auch nur so ethisch korrekt, wie die Menschen, die ihn benutzen.
Sind Algorithmen schlecht?
Besonders in Bezug auf Social Media wird Algorithmen eine Bösartigkeit zugesprochen: Sie sollen autonom entscheiden, Informationen vorenthalten und arglose User in die Irre führen. Ähnliche Gerüchte finden sich auch bzgl. des Online-Shoppings auf Amazon oder beim Surfen mit Google. Teilweise werden sogar Befürchtungen laut, dass Algorithmen die Macht über unser Leben an sich reißen.
Die Aussage ist zwar nicht ganz richtig, aber auch nicht ganz falsch: Die meisten Nutzer wissen mittlerweile, dass Facebook ihren Newsfeed über Algorithmen organisiert oder Google individuelle Werbungen und Empfehlungen entsprechend erzeugt. Wenige wissen jedoch, dass auch Bewerbungen in der Personalabteilung durch einen Algorithmus gefiltert werden oder Krankenkassen ihre Prämien mit Hilfe von Algorithmen kalkulieren.
Einfach erklärt:
Was sind Algorithmen?
Algorithmus klingt erst einmal nach abstrakten Zeichenfolgen aus der Mathematik. Aber im Grunde nutzt jeder von uns Algorithmen täglich im eigenen Denken und den eigenen Handlungen.
Denn Algorithmen sind nichts anderes als Mechanismen, also Prozess- und Handlungsabfolgen. Zähneputzen wäre so ein analoges Beispiel: Vom Öffnen der Zahnpasta bis zum Ausspülen des Mundes – jeder Schritt läuft automatisch ab, ohne dass wir groß nachdenken, abwägen oder entscheiden müssten.
Generell sind Algorithmen lösungsorientiert. Sie existieren, um eine bestimmte Aufgabe auszuführen bzw. ein Problem zu lösen. Dazu gibt es eine Reihe von Anweisungen, die zur Lösung gehören. Das kann zum Beispiel ein Rezept sein, das die einzelnen Kochschritte detailliert auflistet.
Oder eben auch eine Suchmaschine wie Google.
Algorithmen sind nicht neutral & objektiv
Ein Algorithmus kann nur so sachlich und neutral sein, wie es ihm Programmierung und Daten vorgeben, mit denen er Muster konstruiert. Fachleute sprechen hier von Social Bias (kognitive Verzerrung: soziale Erwünschtheit bzw. Effekt der Konformität).
Je nachdem, welche Daten genutzt werden, so ist auch die Einstellung des Programms. Damit spiegelt ein Algorithmus die Interessen, Vorstellungen und Wünsche von bestimmten Gruppen wider. Mindestens ebenso ausschlaggebend sind die gesellschaftlichen und kulturellen Prägungen der Entwickler dieser Technologien.
Die häufige Rede von „Rohdaten“ erzeugt daher ein falsches Bild
Es gibt keine reinen Daten, die frei von jeder menschlichen Verzerrung wären. Digitale Daten und Kategorisierungen sind bereits analysiert und interpretiert, sie können gar nicht neutral sein, da sie unter einer bestimmten Perspektive gewonnen und für ein bestimmtes Ziel verarbeitet werden.
Informationen und Daten sind eine reduzierte Darstellung, sie bilden nicht die Welt als solche ab.
Was Algorithmen aber können, ist Ordnungen und Muster festigen durch Reproduktion. Der Zufall wird dabei systematisch ausgeschlossen, schließlich liegen einem Algorithmus hochkomplexe Rechenprozesse zugrunde, die auf feste Vorgaben, Regeln etc. angewiesen sind.
Anders als ein Mensch, erzeugt die Künstliche Intelligenz Zusammenhänge nicht nach bekannten Mustern, sondern nach Statistik.
Vermenschlichung von Technologien und KI
Grundlage für die Vermenschlichung von Algorithmen ist die Sprache, mit der wir sie umschreiben oder erklären. Oft suchen wir begriffliche Analogien zu bekannten Dingen, um neue Entwicklungen oder Objekte zu erläutern. Das ist einerseits vollkommen legitim: Schließlich lassen sich komplexe Sachverhalte so einfacher verstehen.
In digitalen Bereichen sprechen wir daher vom Netz, Smartphone und Künstlicher Intelligenz – oder hören die Phrase, dass „Algorithmen entscheiden“, dies oder jenes zu tun. So bestimmen spezialisierte Algorithmen darüber:
welche Werbung online auf unserem Bildschirm eingeblendet wird,
wer Kredite erhält und wer nicht,
welche Dating-Vorschläge in der Singlebörse gemacht werden,
ob Häftlinge eine Bewährung erhalten
wer im Krankenhaus zuerst behandelt wird (Stichwort: Triage)
welche Informationen Journalisten recherchieren und in den Medien thematisieren
Aber entscheiden Algorithmen überhaupt irgendetwas?
Was hier völlig außen vor bleibt: die Mensch-Technik-Interaktion. Ist es am Ende nicht der Mensch selbst, der sich die Ergebnisse algorithmischer Prozesse ansieht, sie bewertet, trainiert und darauf reagiert bzw. handelt?
Es sind nämlich nicht die Algorithmen, die Handlungsmacht besitzen, sondern die Menschen, die sich auf die algorithmischen Prozesse blind verlassen. Bei jeder Umsetzung von Algorithmen sind Menschen am Werk, welche die Daten aufbereiten und interpretieren. Wir können daher menschliche Verantwortung nicht einfach an Maschinen, Computer und Programme abgeben.
Menschen entscheiden, Algorithmen berechnen
Menschliche Entscheidungen sind aus philosophischer Perspektive gute Gründe für oder gegen eine Sache. Und sie besitzen einen fundamentalen Unterschied zu dem, was algorithmische Optimierung ausmacht. Denn was in einer Entscheidung immer antizipiert wird, ist die Zukunft. Wir versuchen bei Handlungsalternativen die Folgen zu prognostizieren und stellen uns ein Als-ob vor.
Damit sind wir mit einer Unwägbarkeit konfrontiert, die sich nicht logisch auflösen lässt: Wir können nicht wissen, wie sich die Zukunft genau ereignet, weil zu viele Faktoren in und außerhalb unseres Selbst eine Rolle spielen. Wir stellen uns also bei jeder einzelnen Entscheidung unterbewusst eine Zukunft vor, von der wir nicht wissen können, ob sie eintrifft.
Entscheidungen sind von menschlicher Vorstellung und Fantasie beeinflusst
Ein absoluter Gegensatz zur mathematischen Berechnung, der Fiktion fremd ist. Zudem sind Entscheidungen mit Verantwortung, Ethik und Begründung verbunden. Sowohl im Selbstverhältnis als auch im Verhältnis zu den anderen Mitgliedern unserer Gesellschaft. Die Gründe für eine Entscheidung werden zur Begründung derselben. Damit sind Entscheidungen nicht frei von gesellschaftlichen Normen und normativen Selbstansprüchen.
Damit ist in jeder Entscheidung eine moralische Vorstellung enthalten: Eine mögliche Rechtfertigung nach der Richtigkeit der Beurteilung wird quasi geistig vorweggenommen. Moral und Ethik sind rein menschliche Aspekte.
Ein Algorithmus kennt diese Fragen nicht.
Wie FB & Insta Algorithmen funktionieren
Die Betreiber sozialer Netzwerke geben nur teilweise Auskunft darüber, wie ihre Algorithmen arbeiten. Die folgenden Faktoren sind bekannt:
Interaktion mit anderen Nutzern
persönliche Vorlieben
priorisierte Inhalte
Häufigkeit der Nutzung
aktive Zeit auf der Plattform
Aktualität der Inhalte
allgemeine Popularität der Themen
Das ist natürlich nur die halbe Wahrheit. Denn abgesehen vom persönlichen Geschmack gibt es noch viele weitere Algorithmen, die verschiedenste Aufgaben haben. In mehreren Tests wurde herausgefunden, welche Faktoren noch eine Rolle spielen für Social Media Algorithmen:
Instagram bevorzugt nackte Haut und schenkt entsprechenden Bildern eine höhere Reichweite
Facebook blendet Stellenausschreibungen nach Geschlecht ein: Frauen bekommen typische “Frauenberufe” ausgespielt, Männer dagegen vermeintliche Männerberufe etc.
Twitter präferiert beim Zuschnitt von Fotos weiße Menschen, weibliche Personen, jüngere Gesichter und schlanke Frauen (3)
Das einheitliche Ziel: Den User auf der Plattform zu halten.
Wie beeinflussen Algorithmen die Meinungsbildung?
Filterblasen, Echokammern und Fake News
Algorithmen arbeiten nicht moralisch, sondern effizient. Wie krass das daneben gehen kann, zeigt das viel diskutierte Beispiel Fake News: die verbreiten sich ja nur deshalb so gut, weil sie provokant oder emotional formuliert und dargestellt sind.
“Viele Studien haben gezeigt, dass die Reihenfolge in der Informationen angezeigt werden und auch deren wiederholte Anzeige, vor allem Unentschlossene und deren Meinungsbildung beeinflusst.” (Elisa Celis, 1)
So entstehen Filterblasen, Echokammern, Shitstorms und Hate Speech.
Gefahr Social Bots – Manipulation der Meinungsbildung
Ein wirklich ernstzunehmendes Problem in den Sozialen Netzwerken stellen die Social Bots dar: das sind kleine Software-Roboter, die als Fake-Profile eingesetzt werden, um zu liken, teilen, kommentieren und sogar Beiträge zu kreieren.
Diese Manipulationsmethode ist für Demokratien tatsächlich eine Gefahr, auch wenn sie in Deutschland noch nicht so verbreitet ist. Sie wurde nachweislich bei politisch-gesellschaftlichen Themen im Ausland eingesetzt:
Brexit (EU-Austritt Großbritanniens)
Ukrainekonflikt
US-Präsidentschafts-Wahlkampf 2016
spanisches Referendum über katalanische Unabhängigkeit 2017
Informationsflut & kognitive Verzerrungen
Was Unternehmen und andere Akteure letztendlich ausnutzen, sind 2 psychologische Aspekte.
Im Online-Marketing ist Content-Schock längst ein Schlagwort:
Im Internet prasseln derart viele unterschiedliche Infos und Reize auf uns ein, dass unsere Konzentration sinkt und wir meist nur noch die allerersten Informationen aufmerksam wahrnehmen können (vgl. Ankereffekt).
In der Folge verlieren sich hochwertige Infos weitaus häufiger im World Wide Web.
Neben der eingeschränkten Aufmerksamkeit verstärken kognitive Verzerrungen das Problem erheblich (4).
Beispiele für typische kognitive Verzerrungen:
Negativitätseffekt (negativity bias)
Ankereffekt (anchoring effect)
Bestätigungsfehler (confirmation bias)
Herdeneffekt
Dunning-Kruger-Effekt
Mitläufereffekt (Bandwagon-Effekt)
Wahrheitseffekt (Illusion of Truth Effekt)
In-Group Bias
Verzerrungsblindheit (Bias blind spot)
Emotionale Beweisführung (emotional reasoning)
Social Media Algorithmen spiegeln die Werte der User wider
Algorithmen haben kein Eigenleben. Alles, was sie tun und darstellen, spiegelt lediglich die Werte- und Vorstellungswelt der Gesellschaft wider. Darf man also einem Unternehmen wie Instagram vorwerfen, sein Algorithmus bevorzuge Selbstdarstellung, Oberflächlichkeiten und Optik, wenn die App doch genau dafür entwickelt wurde und sich über Werbepartnerschaften etc. finanziert?
Natürlich ist es ein großes Problem, dass KI-basierte Technologien diskriminieren, Fake News pushen und Frauen bei Bewerbungen systematisch benachteiligen. Allerdings ist das ein menschengemachtes Problem, kein rein technisches.
Schließlich entscheiden sich Menschen in der Personalabteilung dafür, einen Algorithmus schalten und walten zu lassen, ohne sich ein eigenes Urteil zu bilden. Und auch auf Social Media entscheiden sich Menschen dafür, auf vorgeschlagenen Content zu klicken, auf eine bestimmte Art von Bildern und Texten zu reagieren, zu liken, zu kommentieren usw.
Die Arbeit von Algorithmen ist nichts anderes als ein Abbild unserer bisherigen Einstellungen und Taten. Anstatt also auf die bösen Algorithmen zu schimpfen, sollten wir uns lieber fragen, inwiefern wir selbst zur Aufrechterhaltung falscher Normen und Ideale, die auf Social Media so gerne verbreitet werden, beitragen.
Und warum unser Werte-Anspruch und unsere Werte-Realität so weit auseinanderklaffen. Hier sind wieder wir als Gesellschaft und die Politik gefragt, welche die Firmen und ihre kommerziellen Interessen hinter den Algorithmen unbedingt reglementieren muss.
Fazit: Algorithmen & Social Media
Und die Moral von der Geschicht? Vertraue blind der Technik nicht. In letzter Instanz sind es immer Menschen, die Algorithmen mit bestimmten Daten füttern, durch ihr Verhalten auf bestimmte Muster trainieren und sich von Algorithmen leiten lassen. Die vielen Missverhältnisse im Internet und auf Social Media sollten uns daran erinnern, vorsichtig zu sein. Im besten Fall regen sie uns an, wieder mehr über das Menschsein nachzudenken und darüber, was Gemeinschaft oder Gesellschaft bedeuten.
Doch dafür braucht es unbedingt eine Sprache, die Algorithmen und alles Technische nicht vermenschlicht bzw. den Menschen nicht mit Computern vergleicht. Algorithmen sind nicht böse, sie werden mit kommerziellen Zielen eingesetzt. Hier liegt das Problem.
Quellen:
1) Demokratiezentrum Wien
2) Filippo Menczer und Thomas Hills: Algorithmen – die digitale Manipulation
3) Inga Pöting: “Diskriminierende Algorithmen sind nicht einfach technische Fehler”
4) Stangl, W. (2022, 4. Juli): Online Lexikon für Psychologie und Pädagogik
