Wenn ich von Algorithmen spreche, beziehe ich mich auf jene Algorithmen, die unsere alltägliche Internetnutzung prägen. Vereinfacht dargestellt, bestehen Algorithmen aus einer Reihe von Regeln, nach denen Inputs (z.B. eine Suchanfrage) in Outputs (z.B. eine Liste an Suchergebnissen) umgewandelt werden – vergleichbar mit einem Kochrezept, wobei die Algorithmen die einzelnen Schritte eines Rezepts ausführen, um die Zutaten (Input) in das fertige Gericht (Output) zu verwandeln.
Algorithmen auf Plattformen wie Google, Facebook oder Netflix sind oft so designt, dass sie versuchen, den relevantesten oder erfolgreichsten – also mit der höchsten Interaktionswahrscheinlichkeit – Output für einen Nutzenden vorherzusagen. Dazu verwenden die Plattformen sogenannte Learning Algorithms. Auf Grundlage eines Datensatzes können diese eigenständig Regeln erlernen, wie Inputs in Outputs umgewandelt werden sollen. Hier wird nicht jedes Mal das gleiche Gericht nach einem Rezept zubereitet, sondern die Gerichte werden je nach den potentiellen Vorlieben des Nutzenden (welche z.B. aus verschiedenen Nutzungsdaten ermittelt werden) individuell angepasst. Um im Bild zu bleiben: Statt eines klassischen Milchreises, wird ein Milchreis für eine laktoseintolerante Person zubereitet.
Nun geht es bei Informationen im Internet nicht immer um Ernährung. Menschen suchen und finden im Internet Informationen über zentrale Lebensbereiche: Welcher Job passt zu mir? Wo gibt es den günstigsten Kredit? Was hat welche*r Politiker*in welcher Partei über die neue Sozialpolitik gesagt? Habe ich depressive Symptome und wo finde ich Hilfe?
Wer im Internet nach Antworten auf derartige Fragen sucht, erhält Informationen, die von Algorithmen analysiert, gefiltert, selektiert, sortiert und verteilt werden. Doch nicht alle Menschen haben die gleichen Fertigkeiten, mit diesen Algorithmen umzugehen.
Wer sich im Internet auf die Suche nach Antworten macht, erhält Informationen, die von Algorithmen analysiert, gefiltert, sortiert und verteilt werden.
Bereits zu Beginn der 2000er Jahre haben Forschende darauf hingewiesen, dass es einen Zusammenhang zwischen
Nun, 20 Jahre später, geht es im Internet nicht mehr nur darum eine E-Mail zu verschicken, eine Suchmaschine zu verwenden oder ein PDF zu öffnen – stattdessen geht es vermehrt darum, erfolgreich mit der Vielzahl verschiedener Algorithmen auf den jeweiligen Plattformen zu interagieren. Wer Algorithmen im Internet zu seinen oder ihren Zwecken einsetzen kann, hat einen Vorteil gegenüber denjenigen, die auf das beschränkt bleiben, was algorithmische Systeme ihnen zugänglich machen.
Wer sich zum Beispiel bewusst ist, dass die Gestaltungsweise eines Beitrags auf LinkedIn beeinflusst, wie vielen anderen Nutzenden dieser Beitrag vom Algorithmus angezeigt wird, hat potentiell einen Vorteil bei der Jobsuche. Wer weiß, dass Plattformen, wie Facebook, Instagram, Twitter/X oder TikTok bevorzugt politische Inhalte anzeigen, die besonders starke Emotionen hervorrufen, ist eher in der Lage, bewusst von diesen Inhalten abzuweichen und gezielt nach vertiefenden Informationen zu suchen. Und wer sich im Klaren ist, dass die obersten Suchergebnisse bei Google beispielsweise zum Thema Depressionen nicht zwangsläufig auch die vertrauenswürdigsten sind, kann sich gezielter über das Krankheitsbild informieren und wenn nötig die passende Hilfe organisieren.
Meine Kollegen*innen und ich sprechen hier von Algorithm Skills und meinen damit in der einfachsten Form, dass
Nutzende sich bewusst sind, dass die Informationen, die sie online sehen, angepasst werden können und
sie verstehen, wie und warum diese Anpassung erfolgt.
Algorithm Skills ermöglichen Menschen die bewusste Nutzung des Internets, um Informationen zu finden und Algorithmen zu ihrem eigenen Vorteil zu verwenden.
Algorithm Skills ermöglichen es Menschen Algorithmen zu ihrem eigenen Vorteil zu verwenden.
Was die Vorteile für die einzelnen Nutzenden konkret ausmachen, ist schwierig zu definieren – zu wenig wissen wir noch über die Unterschiede in den Inhalten, die die Plattformen durch ihre Personalisierungsalgorithmen im Alltag erzeugen. Das liegt vor allem daran, dass die Algorithmen auf den Plattformen kompliziert sind, ständig weiterentwickelt werden und die Unternehmen kaum Informationen über ihre Funktionsweise veröffentlichen. Die Unternehmen wollen dadurch ihren Wettbewerbsvorteil gegenüber der Konkurrenz schützen und die Manipulation ihrer Algorithmen verhindern.
Algorithm Skills haben somit aktuell vor allem eine aufklärerische Funktion. Sie ermöglichen es Menschen, bewusste Entscheidungen über ihre Internetnutzung und die damit verbundenen Konsequenzen (Sammlung und Analyse persönlicher Daten, Personalisierung von Inhalten) zu treffen.
In Zukunft könnten Algorithm Skills aber noch deutlich anwendungsbezogener werden. Ein Beispiel für diesen Wandel ist die Popularität von Plattformen, die auf generative KI setzen. Dazu zählen Open AIs Chatbot ChatGPT oder Midjourneys KI zur Erstellung von visuellen Darstellungen. Innerhalb kurzer Zeit ist ein neues Skillset relevant geworden: das Prompting. Das ist jene Fähigkeit, mit generativen KI-Systemen so effizient und effektiv zu kommunizieren, dass sie die bestmöglichen Resultate ausgeben. Mit der KI von Midjourney lassen sich ohne eigene Fähigkeiten im Malen oder Zeichnen Kunstwerke erstellen und mit ChatGPT beispielsweise ohne Coding-Kenntnisse Software programmieren, Bewerbungsanschreiben formulieren und Ideen für Marketingstrategien oder Schulaufsätze brainstormen. Ein Vorteil im Berufs- und Privatleben für alle, die a) einen Zugriff auf und b) die nötigen Skills haben, diese Tools zu nutzen.
Ich vermute, dass es auch beim Prompting und generativer KI nicht viel anders sein wird, als zuvor bei den Internet Skills: Menschen mit höherer Bildung und höherem ökonomischen, sozialen sowie kulturellen Kapital werden voraussichtlich eher von den Vorteilen der KI profitieren als andere systematisch benachteiligte Bevölkerungsgruppen.
Was also dagegen tun? Die klassische Antwort wäre: Algorithm Skills als Lernziel in die Schulausbildung integrieren. Doch die Frage ist, ob sich ein solch ständig wandelndes Skillset überhaupt erlernen ließe. Was sich hingegen vermitteln ließe – und der klassischen Idee von Bildung entspricht – wäre ein „kritischer Geist“. Ein solcher wäre im Idealfall in der Lage, sich selbständig Algorithm Skills durch Ausprobieren, Recherchieren und kritisches Hinterfragen anzueignen und diese beständig ein Leben lang weiterzuentwickeln. Das klingt abstrakt, ist aber meines Erachtens eine zentrale Fähigkeit, um sich in der immer schneller drehenden Welt zurechtzufinden.
Algorithm Skills als Lernziel in der Schulausbildung zu formulieren greift zu kurz. Es braucht einen „kritischen Geist“.
Doch alleine auf einen kritischen Geist zu setzen wäre angesichts der systematischen Ungleichverteilung von Zugängen zur Bildung in vielen Länder nicht ratsam und würde die Verantwortung auf die einzelnen Individuen abschieben. Algorithm Skills müssen auch außerhalb des Bildungssystems erlernbar sein. Beispielsweise indem Plattformen dazu verpflichtet werden, transparent über die Funktionsweise ihrer Algorithmen zu informieren und Strategien zu kommunizieren, wie sich diese Algorithmen zum eigenen Vorteil verwenden lassen.
Zudem braucht es besseren Schutz für
all diejenigen, die keine Algorithm Skills haben,
für die Situationen, in denen Algorithm Skills nicht ausreichen, um bewusste Entscheidungen zu treffen oder
für die Fälle, in denen Nutzende keine Lust haben, sich intensiv mit einem Tool auseinanderzusetzen.
Eine Idee ist die Einsetzung einer Prüfungsbehörde, wie es sie zum Beispiel bei Medikamenten gibt. Diese Behörde würde in Zukunft KI-Tools nach bestimmten Kriterien (z.B. Transparenz und Anpassungsmöglichkeiten beim Zugriff auf persönliche Daten) prüfen. Erst wenn sie den Zugang freigibt, dürften die Tools inklusive eines Beipackzettels mit den wichtigsten Risiken und Nebenwirkungen verbreitet werden.
Außerdem braucht es einen unabhängigen, ressourcenstarken und vielfältigen Journalismus, welcher systematische Benachteiligungen aufzeigt, den Informationsgiganten auf die Finger schaut und über Algorithmen und KI informiert. Gerade öffentlich-rechtliche Angebote spielen in unseren Informationsgesellschaften, in welchen Informationen Kapital bedeuten, eine wichtige Rolle: Es gilt einen kostengünstigen, niedrigschwelligen Zugang zu unabhängigen, qualitativ hochwertigen Informationen zu bieten.
Es braucht einen unabhängigen, ressourcenstarken und vielfältigen Journalismus, der den Informationsgiganten auf die Finger schaut.
Und zu guter Letzt braucht es Diskussionen darüber, wie wir als Gesellschaft(en) die Potentiale von Algorithmen und KI für uns nutzen wollen. Das heißt auch: darüber entscheiden, wie wir diese Technologien nicht nutzen wollen, in Fällen, wo sie unseren Vorstellungen von gesellschaftlichem Zusammenleben schaden. Diese Diskussionen wurden bislang nur in Nischen geführt. Auf breiter gesellschaftlicher Ebene stehen wir noch ganz am Anfang.