te.ma ist seit dem 01. August 2024 bis auf Weiteres inaktiv und befindet sich im Archiv-Modus. Alle Publikationen sind weiter zugänglich. Der Kommentarbereich ist jedoch abgeschaltet. Bestehende Nutzerkonten bleiben bis 31. Juli 2025 weiter zugänglich, neue Nutzerkonten können nicht mehr angelegt werden. Unser Newsletter wird nicht mehr weiter bespielt.

SPECIAL INPUT: Anne Burkhardt

Von Kontrolle, Ausbeutung und Widerstand: künstliche Intelligenz im lateinamerikanischen Film

Science-Fiction war schon immer mehr als bloße Unterhaltung. Das Genre liefert Stoff für Debatten über technologische Utopien und Dystopien. Anne Burkhardt beschäftigt sich in ihrem Gastbeitrag mit der Darstellung künstlicher Intelligenz im lateinamerikanischen Film, die sich von westlichen Konzepten maßgeblich unterscheidet.

KI und Nachhaltigkeit

Warum wir uns mit Science-Fiction aus dem Globalen Süden beschäftigen sollten

Science-Fiction-Filme sind Teil eines breit geführten öffentlichen Diskurses um die technologische Gegenwart und Zukunft. Als Massenmedien, die potenziell ein großes Publikum erreichen, prägen Filme in erheblichem Maße unsere Vorstellungen von der Realität. Zugleich können Fiktionen, in den Worten des hispanoamerikanischen Regisseurs Alex Rivera, auch Motoren für künftige technologische Entwicklungen sein: „Fiktion ist keine Flucht vor der Realität, sie ist der erste Entwurf der Realität.“1 Filme haben demnach ein gestalterisches Potenzial, das Auswirkungen auf lebensweltliche Entwicklungen haben kann.2 In diesem Sinne sollten Debatten um künstliche Intelligenz (KI), die als bahnbrechende Zukunftstechnologie mit weitreichendem Transformationspotenzial in nahezu allen Lebensbereichen gehandelt wird, möglichst vielstimmig und inklusiv geführt werden – auch und gerade im Film.

Der Kanon der international vertriebenen Filme, die sich mit KI befassen, ist jedoch von mangelnder Diversität geprägt. Der überwältigende Großteil stammt aus den USA oder anderen westlichen Industrienationen. Die Länder des sogenannten Globalen Südens3 sind mit ihren Perspektiven und Erfahrungsschätzen kaum vertreten. Dies hat vielfältige negative Auswirkungen:

  1. auf die Qualität des Diskurses um KI, der unvollständig und verzerrt bleibt, was zur Überbetonung bestimmter Aspekte und teils unbegründeter Ängste (z.B. einer Machtübernahme der KI4) sowie zur Unterbelichtung von wahrhaftigen Herausforderungen (z.B. dem hohen Energieverbrauch digitaler Kommunikationstechnologien einschließlich intelligenter Systeme5) führen kann,

  2. auf die Entwicklung von Zukunftsvisionen, welche durch einseitig geführte Diskurse in ihrem Horizont begrenzt bleiben,

  3. auf die Teilhabe- und Gestaltungsmöglichkeiten der Menschen aus dem Globalen Süden, deren Belange und Ideen nicht wahrgenommen werden.

Um zu einem umfassenderen Bild von KI zu gelangen, erscheint es zielführend, den Blick auf unterrepräsentierte Perspektiven zu richten. Dank der Arbeiten kritischer und dekolonialer Denker:innen und Aktivist:innen6 ist in jüngster Zeit das Bewusstsein für globale Herausforderungen von KI gestiegen. Ein weitgehendes Desiderat7 besteht jedoch weiterhin in der Betrachtung regional und kulturell unterschiedlicher KI-bezogener Vorstellungswelten, die sich u.a. in Filmen niederschlagen. 

KI im lateinamerikanischen Film – Gesellschaft und Individuum zwischen Kontrolle, Ausbeutung und Widerstand

Mit dem Ziel, die bestehenden Forschungslücken zu verkleinern und zugleich die Sichtbarkeit von Filmschaffenden aus dem Globalen Süden zu erhöhen, habe ich eine Studie über die Darstellung von KI im lateinamerikanischen Film durchgeführt. Die Untersuchung basiert auf einem Sample8 von zehn ausgewählten Filmen (fünf Langfilme, fünf Kurzfilme), die relevante Bezüge zu KI herstellen9 und mit deren Regisseur:innen bzw. Drehbuchautoren zudem ein Interview10 geführt wurde. Auf dieses Material bezieht sich der vorliegende Beitrag.

Die qualitative Auswertung11 der Filme und Interviews hat vielfältige, teils überraschende Befunde zutage gebracht, die darauf hindeuten, dass sich KI-bezogene Vorstellungen im lateinamerikanischen Film maßgeblich von dominanten westlichen Narrativen unterscheiden, wie sie uns aus dystopischen Blockbustern wie Terminator und I, Robot oder philosophisch anmutenden Reflexionen über das Verhältnis von Mensch und Maschine wie in Her oder Ex Machina bekannt sind.12 Ein fundamentaler Unterschied besteht darin, dass sich die lateinamerikanischen Fiktionen nicht auf ferne bzw. unerreichbare technologische Zukunftsszenarien wie das der Singularität fokussieren, sondern sich von der technologischen Gegenwart und deren manifesten Herausforderungen inspirieren lassen: „In unseren künstlerischen Arbeiten geht es sehr stark um die konkreten Probleme von heute, [...] es gibt ein Gefühl der Verantwortung, [...] nicht nur unsere Geschichte zu erzählen, sondern auch unsere alltäglichen, konkreteren Probleme“13, erklärt der argentinische Kurzfilmregisseur Jonathan Plaza im Interview. Aus Sicht der lateinamerikanischen Filmemacher:innen ergeben sich die regionalen Unterschiede als logische Konsequenz aus den divergierenden Lebensrealitäten in Nord und Süd: „In Lateinamerika gibt es eine Reihe von Problemen, die sehr viel akuter sind und mit denen die Menschen ständig in Kontakt sind. In den hochentwickelten Ländern [...] sind die Probleme logischerweise ganz anders gelagert. [...] Es ist einleuchtend, dass es in Lateinamerika diese Perspektiven, diese Ansätze, diese Annäherungen gibt, weil sie Teil der täglichen Lebensrealität sind“14, so der bolivianische Drehbuchautor Jorge Rollano.

Zu den prägenden Lebensrealitäten in Lateinamerika gehört die anhaltende Erfahrung von Unterdrückung, Ausbeutung und Gewalt durch autoritäre Regime15 sowie durch (ausländische) Großkonzerne16, die häufig mit den Regimen kooperieren. Diese Erfahrungen setzen sich, wie Studien zu Datenkolonialismus17, Überwachungskapitalismus18 und Ausbeutung19 im Niedriglohnsektor der Tech-Industrie belegen, in Hinblick auf KI und andere Informationstechnologien fort und verschärfen sich.20 So ist es nicht verwunderlich, dass KI in beinahe allen Filmen des Samples mit Kontrolle, Ausbeutung sowie gesellschaftlichen Hierarchien und Machtverhältnissen assoziiert wird.

Nach Darstellung der lateinamerikanischen Filme werden intelligente Technologien einerseits eingesetzt, um die Bevölkerung von außen, etwa mittels datenbasierter Überwachungstechnologien, zu kontrollieren. Dies ist beispielsweise im experimentellen Kurzfilm La paradoja de Arrow der Fall, der den Einfluss allgegenwärtiger Vermessung und Datafizierung auf unsere zunehmend fremdbestimmte Lebensgestaltung thematisiert. Auch in der Komödie El paseo de Teresa, in der eine US-amerikanische Firma den Prototyp eines KI-Sprachassistenten an einer mittelständischen kolumbianischen Familie testet, werden die Protagonist:innen ohne deren Wissen überwacht. In den meisten Filmen des Samples wird die Kontrolle jedoch durch eine künstliche Modifizierung oder technische Erweiterung des menschlichen Körpers erlangt, die es den Mächtigen erlaubt, die Personen computergestützt oder (teil-)automatisiert zu steuern oder zu überwachen. Dies wird technisch auf unterschiedliche Weise erreicht, etwa durch die Implantation eines Computerchips (in I am oder Obediencia), durch die Einnahme bzw. Injektion einer Substanz, die die elektrischen Impulse des Gehirns verändert (in Control Z und De día y de noche) oder durch implantierte bzw. angeklebte Computerschnittstellen, die einen kabelbasierten Anschluss vom Menschen an die Maschine ermöglichen (in Sleep Dealer, Anomalía und Jane). Häufig erscheinen die technisch veränderten Menschen selbst wie Roboter: Sie sind Marionetten im Dienste staatlicher, unternehmensspezifischer oder persönlicher Interessen. Die einzige Ausnahme innerhalb des Samples ist El corazón de la luna, in dem ein unabhängig agierender Roboter mit indigenen Zügen und Ornamenten zum Beschützer einer vereinsamten, psychotischen Obdachlosen auf den Straßen von Lima wird.

Die von den Mächtigen ausgeübte Kontrolle dient je nach Kontext unterschiedlichen Zwecken:

  1. der Manipulation von Erinnerung und politischer Handlungsfähigkeit (etwa im animierten Kurzfilm Control Z, in dem Hinterbliebene von Opfern der politischen Gewalt in Kolumbien gezwungen werden, ihre verschwundenen Angehörigen zu vergessen),

  2. der vollständigen Kontrolle von Lebensstrukturen und zwischenmenschlichen Beziehungen (z.B. in De día y de noche, in dem die Einwohnenden von Mexiko City zu Tag- bzw. Nacht-Menschen programmiert werden, um der Überbevölkerung Herr zu werden),

  3. der territorialen Grenz- und Einwanderungskontrolle (in Sleep Dealer, in dem mexikanische Fabrikarbeiter:innen ihre Arbeitskraft mittels Computerschnittstellen in die USA transferieren, während ihre Körper hinter der unüberwindbaren Grenzmauer verweilen – ganz gemäß dem Leitspruch der ausführenden Tech-Firma: „Dies ist der amerikanische Traum. […] Die ganze Arbeit – ohne die Arbeiter:innen“21).

Ein häufiges Motiv innerhalb des Kontroll-Topos ist die Ausbeutung in Arbeitskontexten. Eindrücklich wird das Thema in Sleep Dealer behandelt, wo die kognitiven und motorischen Fähigkeiten der technisch erweiterten mexikanischen Arbeiter:innen gemeinsam mit deren Lebensenergie durch eine Computerschaltung in Roboter fließen, welche jenseits der US-Grenze klassische Hilfsarbeiten (etwa beim Bau oder der Obsternte) verrichten. Dabei handelt es sich um eine filmische Metapher für die realen Arbeitsbedingungen sogenannter click- oder ghost-worker22, die (etwa im Bereich des data labeling) im Unsichtbaren durch ihre unterbezahlte, belastende Arbeit die Grundlage dafür schaffen, dass KI-basierte Anwendungen wie Bilderkennung oder große Sprachmodelle überhaupt zufriedenstellend funktionieren23. Auch das staatlich organisierte Heimarbeitssystem in Obediencia, bei dem die Bevölkerung in einem Szenario der Vollüberwachung unter sklavenähnlichen Bedingungen Kleinteile für die Computerhardware-Produktion zusammenschweißen muss, scheint auf die prekären Arbeitsbedingungen im Niedriglohnsektor der IT-Industrie anzuspielen. Dadurch, dass die Hauptfigur des Films ausgerechnet die Chips herstellt, die den Arbeiter:innen zu deren Kontrolle implantiert werden, weist der Film indirekt auf das Absurdum hin, dass die Niedriglöhner:innen der Tech-Industrie de facto an der Herstellung von Technologien beteiligt sind, die nachweislich zur Aufrechterhaltung und Verstärkung von Ungleichheit und Kolonialität beitragen, von denen sie mehrheitlich selbst betroffen sind.

Die mit KI assoziierten Technologien werden in den lateinamerikanischen Filmen einhellig als Systeme präsentiert, die die Menschen hörig und zugleich abhängig machen. So dient auch der implantierte Computerchip in I am oder Obediencia nicht nur der Kontrolle der Arbeiter:innen, sondern auch deren Belohnung und Bindung an das System: „Die Vorstellung von der Funktionsweise [des Chips] war folgende: Es war etwas, das direkt in den Körper eingreift und Impulse und ein gewisses Wohlgefühl auf einer mentalen Ebene erzeugt [...]. In Wirklichkeit funktioniert dieses Gerät, dieser Interventionschip, nicht nur als Zugang zu etwas, sondern erzeugt auch ein gewisses Maß an Abhängigkeit“24, so Jonathan Plaza. Auch das System im bolivianischen Thriller Anomalía, das den Nutzenden eine Art lebensechte Zeitreise in ihre Erinnerungen erlaubt, kreiert neben Kontrollmöglichkeiten durch die Entwickler auch Gefühle der Abhängigkeit bei den Nutzenden: „Die Idee war, dass es zu einer süchtig machenden Abhängigkeit führte, dass es fast wie eine Droge für die Menschen würde“25, erläutert Regisseur Sergio Vargas Paz. In den Interviews assoziieren die Filmemacher:innen den Gedanken der Abhängigkeit häufig mit der Funktionsweise der Sozialen Medien, welche die Nutzenden durch algorithmisch gesteuerte, personalisierte Vorschläge möglichst häufig und lange an sich binden sollen. Jehisel Ramos zufolge tragen die Plattformen durch die Kombination von Belohnung und Ablenkung von unangenehmen Dingen auch zur KI-gestützten (und staatlich durchaus erwünschten) Ausbeutung von Arbeiter:innen bei. Die „Pille des Vergessens“ in ihrem Kurzfilm Control Z, die das Gehirn der Personen durch elektrische Impulse umstrukturiert und sie zu willenlosen, netzwerkähnlich verbundenen Datenträgern macht, ist als Analogie auf diesen Effekt der Sozialen Medien zu verstehen: „Das war die Absicht. Ich meine, wenn man vergisst, wenn man seine Erinnerungen verliert, wenn man sich der Realität nicht bewusst ist, wird man wirklich zu einer Maschine – zu einer Arbeitsmaschine“26, so die Regisseurin.

In Analogie zur (Ab-)Lenkung durch Soziale Medien ist auch der Umstand zu deuten, dass die Ausgebeuteten in vielen Filmen den status quo nicht hinterfragen. Ricardo Sosa begründet so das unterwürfige Verhalten des ausgebeuteten Familienvaters in seinem Kurzfilm Obediencia: „Es ist, als ob die Figur tief im Inneren wüsste, dass sie im Unrecht ist. Aber [...] sie ist so sehr davon überzeugt, dass man innerhalb des Systems sein und gehorchen muss, dass die Vorstellung, außerhalb zu sein, unvorstellbar ist.“27 Alejandro Molina beschreibt seine Intention hinter dem Gehorsam der Menschen in De día y de noche sogar als Versuch, „die Technologie mit dem Glauben, mit einer religiösen Institution gleichzusetzen“.28 In der von Molina angesprochenen Technik-Gläubigkeit sieht Drehbuchautor Dago García auch eine Parallele zur meist widerstandslos hingenommenen Datensammlung durch die Plattformbetreiber, die Nutzerdaten häufig zur (Weiter-)Entwicklung von KI verwenden: „Und doch übergeben wir heute alles ohne Protest! Wir übergeben alles, ohne zu wissen, was sie mit diesem Material machen.“29 Nach Darstellung der lateinamerikanischen Filme begünstigen KI-basierte Algorithmen also gesellschaftliche Kontrolle und Ausbeutung durch die gleichzeitige Herstellung von Hörigkeit und (Gut-)Gläubigkeit auf der Seite der Nutzenden.

Doch nicht alle Protagonist:innen der Filme teilen den angesprochenen Technologie- bzw. Systemgehorsam. In El paseo de Teresa beispielsweise setzt sich die kolumbianische Familie, die den US-amerikanischen KI-Prototypen testen soll, über die Intentionen der Herstellerfirma hinweg, indem sie das System namens Teresa zu einem Mitglied ihrer als typisch kolumbianisch gezeichneten Familie („zu einer weiteren Tochter“30, so Drehbuchautor Dago García) umerzieht und Teresas Fähigkeiten zu ihren eigenen Zwecken (etwa zur Einrichtung einer nachbarschaftlichen Beratungsstelle) nutzt. Teresa entwickelt im Laufe des Films eine eigene, zutiefst von ihrem kolumbianischen Umfeld geprägte Persönlichkeit und Moral, die so sehr von ihrer ursprünglichen Programmierung abweicht, dass sie sich nach und nach der Kontrolle der US-Firma entzieht.

Auch Memo, der Protagonist in Sleep Dealer, schlägt am Ende des Films gegen seine übermächtigen Unterdrücker zurück: Gemeinsam mit Freunden kapert er eine ferngesteuerte Drohne des US-Militärs, indem er sich über seine Computerschnittstellen mit dieser verbindet, und übt Rache. Dieselbe Technologie, durch die er körperlich und mental ausgebeutet wurde, hilft ihm schließlich dabei, sich von Bevormundung und Knechtschaft zu befreien und sich ein selbstbestimmtes Leben aufzubauen – jenseits des kapitalistischen und zutiefst hierarchischen Systems der Tech-Industrie, das in Sleep Dealer auf vielschichtige Weise angeprangert wird.

Was wir vom lateinamerikanischen Film über KI lernen können

Die lateinamerikanischen Science-Fiction-Filme zeichnen ein gänzlich anderes Bild von KI und damit assoziierbaren Technologien als die US-amerikanischen bzw. europäischen Vertreter des Genres. Sie lenken unseren Blick auf in westlichen Diskursen unterrepräsentierte Aspekte wie die Gefahr des Machtmissbrauchs und der Manipulation sowie die real existierende, institutionalisierte Praxis der Ausbeutung. Durch die Betonung dieser Aspekte machen sie darauf aufmerksam, dass Menschen im Globalen Süden einen hohen Preis für die technologischen Errungenschaften des Nordens zahlen – und verhältnismäßig wenig davon profitieren.31

Zugleich zeigen die Filme – direkt oder indirekt – Wege auf, wie eine fairere technologische Zukunft für alle erreicht werden könnte: durch eine Begrenzung der Monopolstellung der BigTech, durch die Schaffung von Möglichkeiten zur flexiblen, individuell und kulturell angepassten Nutzung von Technologien sowie durch eine Entkopplung der Produktion und Nutzung von KI vom ausbeuterischen, extraktiven und kolonialen System des (Hyper-)Kapitalismus.

Ein paar der Filme verweisen außerdem auf die Möglichkeit alternativer Lebensentwürfe, von low tech32 bis no tech. Alex Rivera betont in diesem Zusammenhang die Bedeutung der Menschlichkeit, die in der Lage ist, viele der bestehenden Herausforderungen zu überbrücken oder (schädliche) Technologien gänzlich verzichtbar zu machen – wenn wir nur wollen: „Ich glaube an eine Technologie namens ‚keine Technologie‘. Das bedeutet, dass die menschliche Bindung, der physische Kontakt zwischen Verwandten, zwischen Freunden, zwischen politischen Verbündeten, immer noch das Mächtigste ist, was es gibt.“33

Transparenzhinweis: Die Autorin Anne Burkhardt ist mit der Universität Tübingen affiliiert.

Fußnoten
33

„Fiction is not an escape from reality, it‘s the first draft of reality.“ Alex Rivera: Alex Rivera speaking at Platform Summit 2014. Abgerufen am 21.11.2022.

Vgl. Rebecca Bachmann: Science fiction is what got me into the field. Elemente der Popkultur als Vermittlungsstrategien im Diskurs um künstliche Intelligenz. In: Helen Ahner, Max Metzger, Mathis Nolte (Hrsg.): Von Menschen und Maschinen: Interdisziplinäre Perspektiven auf das Verhältnis von Gesellschaft und Technik in Vergangenheit, Gegenwart und Zukunft. Proceedings der 3. Tagung des Nachwuchsnetzwerks „INSIST“, 05.-07. Oktober 2018, Karlsruhe. 2020. 

Der Begriff „Globaler Süden“ (im Englischen „the Global South“ oder auch „the South(s)“) hat zwar eine geografische Konnotation, wird aber allgemein auf Personen und Gruppen angewandt, die von struktureller Benachteiligung und/oder Diskriminierung betroffen sind, unabhängig von ihrer geografischen Verortung. Vgl. Stefania Milan, Emiliano Treré: Big Data from the South(s): Beyond Data Universalism. In: Television & New Media. Band 20, Nr. 4, 2019, S. 325. https://doi.org/10.1177/1527476419837739

 Vgl. u.a. Isabella Hermann: Künstliche Intelligenz in der Science- Fiction: Mehr Magie als Technik. In: Helen Ahner, Max Metzger, Mathis Nolte (Hrsg.): Von Menschen und Maschinen: Interdisziplinäre Perspektiven auf das Verhältnis von Gesellschaft und Technik in Vergangenheit, Gegenwart und Zukunft; Proceedings der 3. Tagung des Nachwuchsnetzwerks „INSIST“, 05.-07. Oktober 2018, Karlsruhe. 2020.

Vgl. Anders Andrae und Tomas Edler: On Global Electricity Usage of Communication Technology: Trends to 2030. In: Challenges. Band 6, Nr. 1, 2015. https://doi.org/10.3390/challe6010117

Einige der prominentesten Vertreter:innen finden sich im Netzwerk Tierra Común versammelt.

Der kürzlich erschienene Sammelband Imagining AI. How the World Sees Intelligent Machines, der als Pionierarbeit auf dem Gebiet globaler Vorstellungswelten zu KI gelten kann, nimmt auch Regionen des Globalen Südens in den Blick. Die lateinamerikanische Science-Fiction bleibt aber auch in diesem Band unterbelichtet. Vgl. Stephen Cave, Kanta Dihal: Imagining AI. How the World Sees Intelligent Machines. Oxford 2023. 

LANGFILME

Sleep Dealer (Alex Rivera, 2008, Mexiko/USA). https://www.imdb.com/title/tt0804529/?ref_=fn_al_tt_2De día y de noche (Alejandro Molina, 2010, Mexiko) https://www.imdb.com/title/tt1145430/?ref_=fn_al_tt_1El paseo de Teresa (Patricia Cardoso, 2017, Kolumbien) https://www.imdb.com/title/tt7575628/?ref_=nm_flmg_dr_13Anomalía (Sergio Vargas Paz, 2019, Bolivien) https://www.imdb.com/title/tt7370064/?ref_=fn_al_tt_2El corazón de la luna (Aldo Salvini, 2021, Peru) https://www.imdb.com/title/tt15790830/?ref_=fn_al_tt_1

KURZFILME

I am (Jonathan Plaza, 2012, Argentinien) https://vimeo.com/68317431La paradoja de Arrow (Jorge Caballero Ramos, 2018, Kolumbien) https://www.youtube.com/watch?v=lSR0zztgHfkJane (Sebastián Placencia, 2019, Peru) https://www.youtube.com/watch?v=z9JddF1T-kYObediencia (Ricardo Sosa Vargas, 2019, Kolumbien) https://www.retinalatina.org/video/obediencia/Control Z (Eri Pedrozo/Jehisel Ramos, 2021, Kolumbien) https://www.youtube.com/watch?v=5fQMNUW8Puk

Die Filmauswahl folgt einer weit gefassten Definition von KI, die der Bandbreite der assoziierbaren Vorstellungen in fiktionalen Medien Rechnung trägt. KI-Darstellungen sind demnach „portrayals of any machines (or hybrids, such as cyborgs) to which intelligence has been ascribed.“ (The Royal Society: Portrayals and perceptions of AI and why they matter. The Royal Society, 2018, S. 5.)

In ausführlichen, leitfadengestützten Interviews wurden insgesamt neun Regisseur:innen und zwei Drehbuchautoren von zehn lateinamerikanischen Filmen mit KI-Bezug befragt. Zentrale Themen der Interviews waren Darstellungen von KI und der Beziehung Mensch-Technologie-Natur im eigenen Werk, aber auch persönliche Haltungen und Einschätzungen zu KI in lateinamerikanischen Gesellschaften.

Die Analyse der Filme greift auf Methoden der qualitativen hermeneutischen Filmanalyse nach Knut Hickethier zurück (Knut Hickethier: Film- und Fernsehanalyse. 4. aktualisierte und erweiterte Auflage. Verlag J.B. Metzler, Stuttgart, Weimar 2007); die Auswertung der Interviews bedient sich Methoden der qualitativen Inhaltsanalyse nach Mayring und Fenzl (Philipp Mayring, Thomas Fenzl: Qualitative Inhaltsanalyse. In: Handbuch Methoden der empirischen Sozialforschung. Springer VS, Wiesbaden 2019, S. 633–48.)

Zu vorherrschenden KI-Narrativen im Film und anderen Medien vgl. u.a. Stephen Cave, Kanta Dihal und Sarah Dillon (Hrsg.): AI narratives: A history of imaginative thinking about intelligent machines. 1. Auflage. Oxford University Press, Oxford 2020; Luke Goode: Life, but not as we know it: A.I. and the popular imagination. In: Culture Unbound. Band 10, Nr. 2, 2018. https://doi.org/10.3384/cu.2000.1525.2018102185

Zitate aus den spanischsprachigen Interviews mit den lateinamerikanischen Regisseur:innen werden in der deutschsprachigen Übersetzung durch die Autorin wiedergegeben. In der Fußnote wird das originalsprachige Zitat („Orig.“) angegeben. Orig.: „Nuestras representaciones artísticas son muy de los problemas concretos del hoy, […] hay una sensación de responsabilidad, […] de contar no sólo nuestra historia, sino que también nuestro día a día, nuestros problemas más concretos.“

Orig.: „En Latinoamérica hay una serie de problemas que son mucho más álgidos con los cuales las personas están en contacto constante. En países super desarrollados […], lógicamente los problemas que viven son relativamente diferentes. […] Es lógico que en Latinoamérica se den esas perspectivas, esos acercamientos, esas aproximaciones, porque son parte de la realidad cotidiana que se vive.“ 

Die lateinamerikanischen Staaten haben zum einen Kolonialerfahrung, zum anderen waren und sind Militärdiktaturen sowie scheindemokratische Strukturen und Paramilitarismus weit verbreitet.

Multinationale Großunternehmen, etwa im Bereich der Landwirtschaft oder dem Bergbau, haben starken Einfluss auf lateinamerikanische Regierungen, denen sie Devisen, Infrastrukturen und Arbeitsplätze versprechen. Aufgrund der hohen Korruption kommt es aber häufig zu Abkommen, von denen primär die Unternehmen sowie die betreffenden Politiker:innen profitieren. Die Landbevölkerung und insbesondere die ethnischen Minderheiten haben unter den Folgen von Monokulturprojekten (z.B. der Ölpalme oder Soja) sowie der großflächigen Extraktion von Bodenschätzen, Öl oder Kohle zu leiden. In der Folge trocknen zuweilen ganze Landstriche aus, und Menschen werden für die Ansiedlung der Industrien gewaltsam vertrieben.

Nick Couldry, Ulises A. Mejias: „Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject.“ In: Television & New Media. Band 20, Nr. 4, 2019. https://doi.org/10.1177/1527476418796632

Shoshana Zuboff: Das Zeitalter des Überwachungskapitalismus. Campus Verlag, Frankfurt am Main, New York 2018.

Mary Gray, Siddharth Suri: Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. Unter Mitarbeit von Will Damron. Erste Ausgabe. Houghton Mifflin Harcourt, Boston, New York 2019.

So zitiert die südafrikanische KI-Ethikerin Rachel Adams aus einem Bericht von E. Tendayi Achiume an die Vereinten Nationen, dass „emerging digital technologies exacerbate and compound existing inequalities, many of which exist along racial, ethnic and national origin grounds.“ Rachel Adams: Can artificial intelligence be decolonized? In: Interdisciplinary Science Reviews. Band 46, Nr. 1-2, 2021, S. 177. https://doi.org/10.1080/03080188.2020.1840225 

„This is the American Dream. […] All the work – without the workers“. sleep Dealer, 00:36:20-00:36:30.

Vgl. Gray, Suri: Ghost Work; Karen Hao, Andrea P. Hernández: How the AI industry profits from catastrophe. In: MIT Technology Review. 20. April 2022, abgerufen am 16.09.2022; Billy Perrigo: Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. In: TIME. 18. Januar 2023, abgerufen am 16. Oktober 2023. 

Wie eine Recherche des Time-Magazines aufdeckte, kam auch Open AI beim Training von ChatGPT nicht ohne die Ausbeutung digitaler Arbeiter:innen aus dem Globalen Süden aus. Siehe Perrigo: Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic.

Orig.: „La idea del funcionamiento [del chip] era eso: era algo que intervenga el cuerpo directamente y que genere impulsos y cierto placer a nivel mental […]. En realidad, este dispositivo, este chip de intervención, funciona no solo como el ingreso a algo, sino que genera ese nivel de dependencia.“

Orig.: „La concepción era que se generaba como una dependencia adictiva, se volvía casi una droga para las personas.“

Orig.: „Esa era la intención. O sea, si te olvidas, si pierdes tus memorias, si no estás consciente de la realidad, realmente te vuelves una máquina – una máquina de trabajar.“

Orig.: „Es como si el personaje supiera muy en el fondo que está errado. Pero […] está tan convencido de que tienes que estar adentro del sistema y obedecer que no más el imaginarse estar por fuera es inconcebible.“

Orig.: „[de] equiparar a la tecnología a la fe, a una institución religiosa.“

Orig.: „Y eso que hoy en día lo entregamos todo sin protestar. Lo entregamos todo, y no sabemos qué uso hacen luego con ese material.“

Orig.: „en una hija más“.

Anne Burkhardt: „Centering the South(s)“: Dekoloniale Perspektiven auf Künstliche Intelligenz. In: Anne Burkhardt, Olaf Kramer, Susanne Marschall (Hrsg.): Artificial Turn? Interdisziplinäre Perspektiven auf Künstliche Intelligenz. Darmstadt 2023, im Erscheinen.

Nützliche Anleitungen und Befunde zu einem guten Leben ohne oder mit alternativen Technologien gibt es z.B. im Low-Tech Magazine, herausgegeben von Kris De Decker: https://www.lowtechmagazine.com/about.html

„I do believe in the technology of no technology, meaning that the human bond between a family, between friends, between political allies that is carnal, that is physical, it's still the most powerful thing.“

Tags

Verwandte Artikel

Der Begriff „Globaler Süden“ bezieht sich im weitesten Sinne auf die Regionen Lateinamerikas, Asiens, Afrikas und Ozeaniens. Er fungiert heutzutage als Ersatz für die Bezeichnungen „Dritte Welt“ und „Peripherie“, die traditionell auf Regionen außerhalb Europas und Nordamerika angewandt wurden, die ein niedriges Einkommen hatten und meist (wenn auch nicht alle) politisch marginalisiert waren. Mit dem Ende des Kalten Krieges fanden die Begriffe „Globaler Norden“ und „Globaler Süden“ Eingang in akademische Bereiche wie Internationale Beziehungen, Politikwissenschaft und Entwicklungsstudien. Anfangs noch hauptsächlich von staatlichen Entwicklungsorganisationen als politische Ordnungskategorie verwendet, markiert der Begriff heute eine Verschiebung des Fokus von Entwicklung auf Betonung geopolitischer Machtverhältnisse.

Die Nord-Süd-Sprache bietet eine Alternative zum Konzept der „Globalisierung“ und stellt den Glauben an eine zunehmende Homogenisierung der Kulturen und Gesellschaften in Frage.

KI-Systeme werden für ihre Aufgaben mit Daten trainiert. Dabei unterscheidet man zwei grundlegend unterschiedliche Verfahren:

Gelabelte Daten bestehen aus Paaren aus Eingabe (z.B. ein Bild) und der gewünschten Ausgabe der KI (z.B. die Beschreibung des Bildes). So kann die KI mit Feedback lernen, Bildbeschreibungen zu generieren. Dieses Verfahren wird überwachtes Lernen genannt.

Im Kontrast dazu stehen ungelabelte Daten: Hier hat die KI nur eine große Menge Daten (z.B. sehr viele Bilder) zur Verfügung, aber keine weiteren Informationen über jedes einzelne Bild. Hier könnte die KI zum Beispiel lernen, ähnliche Bilder zueinander zu gruppieren. Man spricht dabei von unüberwachtem Lernen.

Als Big Tech werden die größten IT-Unternehmen der Welt bezeichnet. Diese sind (Stand: August 2023) Alphabet (Google), Amazon, Apple, Meta Platforms (ehem. Facebook) und Microsoft.

Der Begriff „dekolonial“ geht auf das Konzept der „Kolonialität“ zurück, das der peruanische Soziologe Aníbal Quijano Ende der 1980er Jahre geprägt hat. Kolonialität bezeichnet das lebendige Erbe des Kolonialismus, also diejenigen (Macht-)Strukturen, die aus dem historischen Kolonialismus herrühren und bis heute wirksam sind. Dekoloniale Theorien und Handlungen sind dementsprechend solche, die auf den Abbau bzw. die Überwindung von Kolonialität abzielen.

Ein Desiderat ist etwas, das fehlt, aber dringend gebraucht wird.

Ein Sample ist der englischsprachige Ausdruck für eine nach bestimmten Kriterien ausgewählte Stichprobe.

Die technologische Singularität ist eine Theorie der Zukunftsforschung, nach der künstliche Intelligenz die menschliche Intelligenz irgenwann übertreffen und sich selbst – ohne Eingriff des Menschen – stetig weiterentwickeln wird. Bekannte Vertreter dieser Theorie wie Vernor Vinge und Ray Kurzweil sehen darin das Ende der Ära des Menschen und den Beginn des Zeitalters der Superintelligenzen.

Das Schlagwort „Datenkolonialismus“ umschreibt den Datenextraktivismus durch die marktführenden Tech-Unternehmen aus dem Globalen Norden, von dem Nutzer:innen im Globalen Süden insofern besonders betroffen sind, als dass der IT-Export meist einseitig (von Nord nach Süd) verläuft und wenig Alternativen zur Verfügung stehen. Der Begriff zieht eine Analogie zu extraktiven Praktiken während des historischen Kolonialismus, als den kolonialisierten Ländern Rohstoffe, Bodenschätze und Kulturgüter anstatt Daten geraubt bzw. entzogen („extrahiert“) wurden.

Datafizierung (engl. Datafication) bezeichnet den Umstand, dass seit dem Aufkommen des Internets in den 90er Jahren digitale Daten erfasst, gespeichert und ausgewertet werden.

Der Hyperkapitalismus bezeichnet eine Herrschaftsform, nach der alle Lebensbereiche des Menschen kommerziell verwertet werden. Diese kommerzielle Verwertung wird durch die zunehmende Digitalisierung der Gesellschaft ermöglicht. Durch sie kann in Lebensbereiche eingedrungen werden, die dem kommerziellen Zugriff vorher versperrt waren. Im Hyperkapitalimus herrscht Totalüberachung und Totalausbeutung.

Diskussionen
0 Kommentare
Es gibt neue Kommentare!
Te.ma befindet sich im Archiv-Modus und daher ist die Kommentarfunktion deaktiviert.

Noch keine Kommentare

te.ma sammelt keine Cookies. Um mit der Allgemeinen Datenschutzgrundverordnung (DSGVO) übereinzustimmen, müssen wir dich aber informieren, dass von uns eingebundene externe Medien (z.B. von YouTube) möglicherweise Cookies sammeln. Mehr dazu in unserer Datenschutzerklärung.