Von Kontrolle, Ausbeutung und Widerstand: künstliche Intelligenz im lateinamerikanischen Film

Warum wir uns mit Science-Fiction aus dem Globalen Süden beschäftigen sollten

Science-Fiction-Filme sind Teil eines breit geführten öffentlichen Diskurses um die technologische Gegenwart und Zukunft. Als Massenmedien, die potenziell ein großes Publikum erreichen, prägen Filme in erheblichem Maße unsere Vorstellungen von der Realität. Zugleich können Fiktionen, in den Worten des hispanoamerikanischen Regisseurs Alex Rivera, auch Motoren für künftige technologische Entwicklungen sein: „Fiktion ist keine Flucht vor der Realität, sie ist der erste Entwurf der Realität.“1 Filme haben demnach ein gestalterisches Potenzial, das Auswirkungen auf lebensweltliche Entwicklungen haben kann.2 In diesem Sinne sollten Debatten um künstliche Intelligenz (KI), die als bahnbrechende Zukunftstechnologie mit weitreichendem Transformationspotenzial in nahezu allen Lebensbereichen gehandelt wird, möglichst vielstimmig und inklusiv geführt werden – auch und gerade im Film.

Der Kanon der international vertriebenen Filme, die sich mit KI befassen, ist jedoch von mangelnder Diversität geprägt. Der überwältigende Großteil stammt aus den USA oder anderen westlichen Industrienationen. Die Länder des sogenannten Globalen Südens3 sind mit ihren Perspektiven und Erfahrungsschätzen kaum vertreten. Dies hat vielfältige negative Auswirkungen:

1. auf die Qualität des Diskurses um KI, der unvollständig und verzerrt bleibt, was zur Überbetonung bestimmter Aspekte und teils unbegründeter Ängste (z.B. einer Machtübernahme der KI4) sowie zur Unterbelichtung von wahrhaftigen Herausforderungen (z.B. dem hohen Energieverbrauch digitaler Kommunikationstechnologien einschließlich intelligenter Systeme5) führen kann,

2. auf die Entwicklung von Zukunftsvisionen, welche durch einseitig geführte Diskurse in ihrem Horizont begrenzt bleiben,

3. auf die Teilhabe- und Gestaltungsmöglichkeiten der Menschen aus dem Globalen Süden, deren Belange und Ideen nicht wahrgenommen werden.

Um zu einem umfassenderen Bild von KI zu gelangen, erscheint es zielführend, den Blick auf unterrepräsentierte Perspektiven zu richten. Dank der Arbeiten kritischer und dekolonialer Denker:innen und Aktivist:innen6 ist in jüngster Zeit das Bewusstsein für globale Herausforderungen von KI gestiegen. Ein weitgehendes Desiderat7 besteht jedoch weiterhin in der Betrachtung regional und kulturell unterschiedlicher KI-bezogener Vorstellungswelten, die sich u.a. in Filmen niederschlagen. 

KI im lateinamerikanischen Film – Gesellschaft und Individuum zwischen Kontrolle, Ausbeutung und Widerstand

Mit dem Ziel, die bestehenden Forschungslücken zu verkleinern und zugleich die Sichtbarkeit von Filmschaffenden aus dem Globalen Süden zu erhöhen, habe ich eine Studie über die Darstellung von KI im lateinamerikanischen Film durchgeführt. Die Untersuchung basiert auf einem Sample8 von zehn ausgewählten Filmen (fünf Langfilme, fünf Kurzfilme), die relevante Bezüge zu KI herstellen9 und mit deren Regisseur:innen bzw. Drehbuchautoren zudem ein Interview10 geführt wurde. Auf dieses Material bezieht sich der vorliegende Beitrag.

Die qualitative Auswertung11 der Filme und Interviews hat vielfältige, teils überraschende Befunde zutage gebracht, die darauf hindeuten, dass sich KI-bezogene Vorstellungen im lateinamerikanischen Film maßgeblich von dominanten westlichen Narrativen unterscheiden, wie sie uns aus dystopischen Blockbustern wie Terminator und I, Robot oder philosophisch anmutenden Reflexionen über das Verhältnis von Mensch und Maschine wie in Her oder Ex Machina bekannt sind.12 Ein fundamentaler Unterschied besteht darin, dass sich die lateinamerikanischen Fiktionen nicht auf ferne bzw. unerreichbare technologische Zukunftsszenarien wie das der Singularität fokussieren, sondern sich von der technologischen Gegenwart und deren manifesten Herausforderungen inspirieren lassen: „In unseren künstlerischen Arbeiten geht es sehr stark um die konkreten Probleme von heute, [...] es gibt ein Gefühl der Verantwortung, [...] nicht nur unsere Geschichte zu erzählen, sondern auch unsere alltäglichen, konkreteren Probleme“13, erklärt der argentinische Kurzfilmregisseur Jonathan Plaza im Interview. Aus Sicht der lateinamerikanischen Filmemacher:innen ergeben sich die regionalen Unterschiede als logische Konsequenz aus den divergierenden Lebensrealitäten in Nord und Süd: „In Lateinamerika gibt es eine Reihe von Problemen, die sehr viel akuter sind und mit denen die Menschen ständig in Kontakt sind. In den hochentwickelten Ländern [...] sind die Probleme logischerweise ganz anders gelagert. [...] Es ist einleuchtend, dass es in Lateinamerika diese Perspektiven, diese Ansätze, diese Annäherungen gibt, weil sie Teil der täglichen Lebensrealität sind“14, so der bolivianische Drehbuchautor Jorge Rollano.

Zu den prägenden Lebensrealitäten in Lateinamerika gehört die anhaltende Erfahrung von Unterdrückung, Ausbeutung und Gewalt durch autoritäre Regime15 sowie durch (ausländische) Großkonzerne16, die häufig mit den Regimen kooperieren. Diese Erfahrungen setzen sich, wie Studien zu Datenkolonialismus17, Überwachungskapitalismus18 und Ausbeutung19 im Niedriglohnsektor der Tech-Industrie belegen, in Hinblick auf KI und andere Informationstechnologien fort und verschärfen sich.20 So ist es nicht verwunderlich, dass KI in beinahe allen Filmen des Samples mit Kontrolle, Ausbeutung sowie gesellschaftlichen Hierarchien und Machtverhältnissen assoziiert wird.

Nach Darstellung der lateinamerikanischen Filme werden intelligente Technologien einerseits eingesetzt, um die Bevölkerung von außen, etwa mittels datenbasierter Überwachungstechnologien, zu kontrollieren. Dies ist beispielsweise im experimentellen Kurzfilm La paradoja de Arrow der Fall, der den Einfluss allgegenwärtiger Vermessung und Datafizierung auf unsere zunehmend fremdbestimmte Lebensgestaltung thematisiert. Auch in der Komödie El paseo de Teresa, in der eine US-amerikanische Firma den Prototyp eines KI-Sprachassistenten an einer mittelständischen kolumbianischen Familie testet, werden die Protagonist:innen ohne deren Wissen überwacht. In den meisten Filmen des Samples wird die Kontrolle jedoch durch eine künstliche Modifizierung oder technische Erweiterung des menschlichen Körpers erlangt, die es den Mächtigen erlaubt, die Personen computergestützt oder (teil-)automatisiert zu steuern oder zu überwachen. Dies wird technisch auf unterschiedliche Weise erreicht, etwa durch die Implantation eines Computerchips (in I am oder Obediencia), durch die Einnahme bzw. Injektion einer Substanz, die die elektrischen Impulse des Gehirns verändert (in Control Z und De día y de noche) oder durch implantierte bzw. angeklebte Computerschnittstellen, die einen kabelbasierten Anschluss vom Menschen an die Maschine ermöglichen (in Sleep Dealer, Anomalía und Jane). Häufig erscheinen die technisch veränderten Menschen selbst wie Roboter: Sie sind Marionetten im Dienste staatlicher, unternehmensspezifischer oder persönlicher Interessen. Die einzige Ausnahme innerhalb des Samples ist El corazón de la luna, in dem ein unabhängig agierender Roboter mit indigenen Zügen und Ornamenten zum Beschützer einer vereinsamten, psychotischen Obdachlosen auf den Straßen von Lima wird.

Die von den Mächtigen ausgeübte Kontrolle dient je nach Kontext unterschiedlichen Zwecken:

1. der Manipulation von Erinnerung und politischer Handlungsfähigkeit (etwa im animierten Kurzfilm Control Z, in dem Hinterbliebene von Opfern der politischen Gewalt in Kolumbien gezwungen werden, ihre verschwundenen Angehörigen zu vergessen),

2. der vollständigen Kontrolle von Lebensstrukturen und zwischenmenschlichen Beziehungen (z.B. in De día y de noche, in dem die Einwohnenden von Mexiko City zu Tag- bzw. Nacht-Menschen programmiert werden, um der Überbevölkerung Herr zu werden),

3. der territorialen Grenz- und Einwanderungskontrolle (in Sleep Dealer, in dem mexikanische Fabrikarbeiter:innen ihre Arbeitskraft mittels Computerschnittstellen in die USA transferieren, während ihre Körper hinter der unüberwindbaren Grenzmauer verweilen – ganz gemäß dem Leitspruch der ausführenden Tech-Firma: „Dies ist der amerikanische Traum. […] Die ganze Arbeit – ohne die Arbeiter:innen“21).

Ein häufiges Motiv innerhalb des Kontroll-Topos ist die Ausbeutung in Arbeitskontexten. Eindrücklich wird das Thema in Sleep Dealer behandelt, wo die kognitiven und motorischen Fähigkeiten der technisch erweiterten mexikanischen Arbeiter:innen gemeinsam mit deren Lebensenergie durch eine Computerschaltung in Roboter fließen, welche jenseits der US-Grenze klassische Hilfsarbeiten (etwa beim Bau oder der Obsternte) verrichten. Dabei handelt es sich um eine filmische Metapher für die realen Arbeitsbedingungen sogenannter click- oder ghost-worker22, die (etwa im Bereich des data labeling) im Unsichtbaren durch ihre unterbezahlte, belastende Arbeit die Grundlage dafür schaffen, dass KI-basierte Anwendungen wie Bilderkennung oder große Sprachmodelle überhaupt zufriedenstellend funktionieren23. Auch das staatlich organisierte Heimarbeitssystem in Obediencia, bei dem die Bevölkerung in einem Szenario der Vollüberwachung unter sklavenähnlichen Bedingungen Kleinteile für die Computerhardware-Produktion zusammenschweißen muss, scheint auf die prekären Arbeitsbedingungen im Niedriglohnsektor der IT-Industrie anzuspielen. Dadurch, dass die Hauptfigur des Films ausgerechnet die Chips herstellt, die den Arbeiter:innen zu deren Kontrolle implantiert werden, weist der Film indirekt auf das Absurdum hin, dass die Niedriglöhner:innen der Tech-Industrie de facto an der Herstellung von Technologien beteiligt sind, die nachweislich zur Aufrechterhaltung und Verstärkung von Ungleichheit und Kolonialität beitragen, von denen sie mehrheitlich selbst betroffen sind.

Die mit KI assoziierten Technologien werden in den lateinamerikanischen Filmen einhellig als Systeme präsentiert, die die Menschen hörig und zugleich abhängig machen. So dient auch der implantierte Computerchip in I am oder Obediencia nicht nur der Kontrolle der Arbeiter:innen, sondern auch deren Belohnung und Bindung an das System: „Die Vorstellung von der Funktionsweise [des Chips] war folgende: Es war etwas, das direkt in den Körper eingreift und Impulse und ein gewisses Wohlgefühl auf einer mentalen Ebene erzeugt [...]. In Wirklichkeit funktioniert dieses Gerät, dieser Interventionschip, nicht nur als Zugang zu etwas, sondern erzeugt auch ein gewisses Maß an Abhängigkeit“24, so Jonathan Plaza. Auch das System im bolivianischen Thriller Anomalía, das den Nutzenden eine Art lebensechte Zeitreise in ihre Erinnerungen erlaubt, kreiert neben Kontrollmöglichkeiten durch die Entwickler auch Gefühle der Abhängigkeit bei den Nutzenden: „Die Idee war, dass es zu einer süchtig machenden Abhängigkeit führte, dass es fast wie eine Droge für die Menschen würde“25, erläutert Regisseur Sergio Vargas Paz. In den Interviews assoziieren die Filmemacher:innen den Gedanken der Abhängigkeit häufig mit der Funktionsweise der Sozialen Medien, welche die Nutzenden durch algorithmisch gesteuerte, personalisierte Vorschläge möglichst häufig und lange an sich binden sollen. Jehisel Ramos zufolge tragen die Plattformen durch die Kombination von Belohnung und Ablenkung von unangenehmen Dingen auch zur KI-gestützten (und staatlich durchaus erwünschten) Ausbeutung von Arbeiter:innen bei. Die „Pille des Vergessens“ in ihrem Kurzfilm Control Z, die das Gehirn der Personen durch elektrische Impulse umstrukturiert und sie zu willenlosen, netzwerkähnlich verbundenen Datenträgern macht, ist als Analogie auf diesen Effekt der Sozialen Medien zu verstehen: „Das war die Absicht. Ich meine, wenn man vergisst, wenn man seine Erinnerungen verliert, wenn man sich der Realität nicht bewusst ist, wird man wirklich zu einer Maschine – zu einer Arbeitsmaschine“26, so die Regisseurin.

In Analogie zur (Ab-)Lenkung durch Soziale Medien ist auch der Umstand zu deuten, dass die Ausgebeuteten in vielen Filmen den status quo nicht hinterfragen. Ricardo Sosa begründet so das unterwürfige Verhalten des ausgebeuteten Familienvaters in seinem Kurzfilm Obediencia: „Es ist, als ob die Figur tief im Inneren wüsste, dass sie im Unrecht ist. Aber [...] sie ist so sehr davon überzeugt, dass man innerhalb des Systems sein und gehorchen muss, dass die Vorstellung, außerhalb zu sein, unvorstellbar ist.“27 Alejandro Molina beschreibt seine Intention hinter dem Gehorsam der Menschen in De día y de noche sogar als Versuch, „die Technologie mit dem Glauben, mit einer religiösen Institution gleichzusetzen“.28 In der von Molina angesprochenen Technik-Gläubigkeit sieht Drehbuchautor Dago García auch eine Parallele zur meist widerstandslos hingenommenen Datensammlung durch die Plattformbetreiber, die Nutzerdaten häufig zur (Weiter-)Entwicklung von KI verwenden: „Und doch übergeben wir heute alles ohne Protest! Wir übergeben alles, ohne zu wissen, was sie mit diesem Material machen.“29 Nach Darstellung der lateinamerikanischen Filme begünstigen KI-basierte Algorithmen also gesellschaftliche Kontrolle und Ausbeutung durch die gleichzeitige Herstellung von Hörigkeit und (Gut-)Gläubigkeit auf der Seite der Nutzenden.

Doch nicht alle Protagonist:innen der Filme teilen den angesprochenen Technologie- bzw. Systemgehorsam. In El paseo de Teresa beispielsweise setzt sich die kolumbianische Familie, die den US-amerikanischen KI-Prototypen testen soll, über die Intentionen der Herstellerfirma hinweg, indem sie das System namens Teresa zu einem Mitglied ihrer als typisch kolumbianisch gezeichneten Familie („zu einer weiteren Tochter“30, so Drehbuchautor Dago García) umerzieht und Teresas Fähigkeiten zu ihren eigenen Zwecken (etwa zur Einrichtung einer nachbarschaftlichen Beratungsstelle) nutzt. Teresa entwickelt im Laufe des Films eine eigene, zutiefst von ihrem kolumbianischen Umfeld geprägte Persönlichkeit und Moral, die so sehr von ihrer ursprünglichen Programmierung abweicht, dass sie sich nach und nach der Kontrolle der US-Firma entzieht.

Auch Memo, der Protagonist in Sleep Dealer, schlägt am Ende des Films gegen seine übermächtigen Unterdrücker zurück: Gemeinsam mit Freunden kapert er eine ferngesteuerte Drohne des US-Militärs, indem er sich über seine Computerschnittstellen mit dieser verbindet, und übt Rache. Dieselbe Technologie, durch die er körperlich und mental ausgebeutet wurde, hilft ihm schließlich dabei, sich von Bevormundung und Knechtschaft zu befreien und sich ein selbstbestimmtes Leben aufzubauen – jenseits des kapitalistischen und zutiefst hierarchischen Systems der Tech-Industrie, das in Sleep Dealer auf vielschichtige Weise angeprangert wird.

Was wir vom lateinamerikanischen Film über KI lernen können

Die lateinamerikanischen Science-Fiction-Filme zeichnen ein gänzlich anderes Bild von KI und damit assoziierbaren Technologien als die US-amerikanischen bzw. europäischen Vertreter des Genres. Sie lenken unseren Blick auf in westlichen Diskursen unterrepräsentierte Aspekte wie die Gefahr des Machtmissbrauchs und der Manipulation sowie die real existierende, institutionalisierte Praxis der Ausbeutung. Durch die Betonung dieser Aspekte machen sie darauf aufmerksam, dass Menschen im Globalen Süden einen hohen Preis für die technologischen Errungenschaften des Nordens zahlen – und verhältnismäßig wenig davon profitieren.31

Zugleich zeigen die Filme – direkt oder indirekt – Wege auf, wie eine fairere technologische Zukunft für alle erreicht werden könnte: durch eine Begrenzung der Monopolstellung der BigTech, durch die Schaffung von Möglichkeiten zur flexiblen, individuell und kulturell angepassten Nutzung von Technologien sowie durch eine Entkopplung der Produktion und Nutzung von KI vom ausbeuterischen, extraktiven und kolonialen System des (Hyper-)Kapitalismus.

Ein paar der Filme verweisen außerdem auf die Möglichkeit alternativer Lebensentwürfe, von low tech32 bis no tech. Alex Rivera betont in diesem Zusammenhang die Bedeutung der Menschlichkeit, die in der Lage ist, viele der bestehenden Herausforderungen zu überbrücken oder (schädliche) Technologien gänzlich verzichtbar zu machen – wenn wir nur wollen: „Ich glaube an eine Technologie namens ‚keine Technologie‘. Das bedeutet, dass die menschliche Bindung, der physische Kontakt zwischen Verwandten, zwischen Freunden, zwischen politischen Verbündeten, immer noch das Mächtigste ist, was es gibt.“33

Transparenzhinweis: Die Autorin Anne Burkhardt ist mit der Universität Tübingen affiliiert.