„Eine Software wird landesweit genutzt, um zukünftige Straftäter vorherzusagen. Und sie benachteiligt Schwarze“, titelten die Investigativjournalisten von ProPublica am 23. Mai 2016. Ihre statistischen Analysen scheinen zu belegen, dass ein in Strafprozessen genutztes KI-System Schwarze systematisch benachteiligt. Nicht zuletzt dieser Artikel entfachte eine akademische Debatte über Fairness-Kriterien für KI-basierte Algorithmen. Kleinberg und Kollegen zeigen, dass es unter normalen Bedingungen mathematisch unmöglich ist, mehrere solcher Fairness-Kriterien gleichzeitig zu erfüllen.