Jaana Müller-Brehm

Wir attestieren KI-Verfahren großes Potenzial. Hierbei übersehen wir häufig Missstände in ihren Entwicklungsprozessen und Nutzungsweisen sowie den zugrunde liegenden statistischen Korrelationen und Gewichtungen. Dadurch schreiben wir Diskriminierungen fort, automatisieren und vervielfachen sie. Hier diskriminieren nicht Algorithmen oder KI. Die Benachteiligungen entstehen durch Menschen, die KI-Systeme entwickeln, einsetzen und nutzen, sowie unsere gesellschaftlichen Strukturen, in denen die Systeme entstehen und wirken. KI-vermittelte Diskriminierungen sind keine technische Herausforderung, sondern eine gesellschaftliche. An diese Erkenntnis müssen Lösungsansätze anknüpfen.