@jan_lause

Können große Sprach-KIs ihre eigenen Texte wirklich verstehen? Oder plappern sie, wie Papageien, nur die Texte nach, mit denen sie „sprechen“ gelernt haben? Welche Risiken entstehen, wenn solche Papageien-KIs flächendeckend eingesetzt werden? Und warum reproduzieren sie dabei so häufig sexistische und rassistische Stereotype? Vier Autorinnen aus dem Google-Ethikteam waren unter den Ersten, die diese brisanten Fragen stellten – und damit ihre Jobs aufs Spiel setzten.

Wie sieht eigentlich der CO2-Fußabdruck von KIs aus, und wie berechnet man ihn? Emma Strubell war eine der Ersten, die dieser Frage für den Fall großer Sprach-KIs nachging. Sie fand heraus, dass schon allein das Training von ChatGPT und ähnlichen Modellen für den Klimawandel relevante Mengen CO2 freisetzt. Angesichts des Klimawandels ruft Strubell die KI-Forschungsgemeinschaft auf, statt nur an besserer Leistung endlich auch an der Energieeffizienz der KI-Systeme zu arbeiten.

„Wenn Sie mir noch drei Minuten Gemeinwohl gestatten? Sonst lasse ich es weg, weil ich es nämlich für nicht ganz so relevant halte.“ Solche Zitate aus dem Wortprotokoll der KI-Enquete-Kommission zeigen: Wenn Expert*innen im Auftrag des Bundestages über die ganz großen Fragen rund um künstliche Intelligenz diskutieren, ist der Zeitplan strikt und jedes noch so wichtige Thema muss um seinen Platz auf der Tagesordnung kämpfen – und das, obwohl hier zwischen den Zeilen die Interessenkonflikte einer zukünftigen KI-Gesellschaft verhandelt werden.

Moderne Machine-Learning-Algorithmen werden oft als Black Box bezeichnet, weil selbst ihre Entwickler*innen nicht genau nachvollziehen können, warum ein Algorithmus funktioniert. Wie begann die Geschichte dieser Black-Box-Verfahren? 2001 plädiert Leo Breiman in einem kontroversen Essay für diese neue Denkkultur: weg von einfachen, erklärbaren Algorithmen – hin zur leistungsfähigen Black Box.