Cynthia Rudin

Cynthia Rudin ist eine amerikanische Informatikerin und Statistikerin. Ihr Forschungsschwerpunkt liegt im Bereich des maschinellen Lernens, speziell der Interpretierbarkeit von maschinellem Lernen. Sie ist Professorin an der Duke University in den USA und dort Direktorin des Lehrstuhls für interpretierbares maschinelles Lernen. Im Jahr 2022 erhielt sie den Squirrel Award für Künstliche Intelligenz zum Nutzen der Menschheit für ihre Arbeit über die Bedeutung von transparenten KI-Systemen in Hochrisikobereichen.

https://users.cs.duke.edu/~cynthia/

Warum wir interpretierbare maschinelle Lernmodelle brauchen

Im Bereich des maschinellen Lernens werden häufig Black-Box-Modelle verwendet, das heißt Modelle, bei denen nicht ersichtlich ist, wie sie zu ihrem Ergebnis gelangt sind. Cynthia Rudin erläutert in ihrem Paper den Unterschied zwischen Black-Box- und interpretierbaren Modellen und ruft dazu auf, den Forschungsfokus gezielt auf interpretierbare Modelle zu legen.

Screenshot des Texts „Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead".

In Zusammenarbeit mit der Universität Tübingen