Zu Beginn ein kleines Spiel: Ich zeige euch ein Bild und ihr sagt mir jeweils in einem Wort, was darauf abgebildet ist. Bereit? Also los. Was zeigen die folgenden vier Bilder?

Hier die Auflösung (von links nach rechts): Milbe, Containerschiff, Motorroller, Leopard.

In der Fachsprache der Bildverarbeitung heißt dieses Spiel Bildklassifizierung. Es wird exzessiv gespielt, um Algorithmen das Sehen beizubringen. Eine Aufgabe, deren Komplexität in der Forschung zur künstlichen Intelligenz seit jeher unterschätzt wurde.

Die Bildklassifizierung galt in der Informatik über lange Zeit als heiliger Gral. So wundert es nicht, für welchen Wirbel die Arbeit von drei Computer-Vision-Forschenden an der Universität von Toronto im Dezember 2012 sorgte. Doch eigentlich basierte der Durchbruch auf 23, wenn nicht sogar 32 Jahre alten Erkenntnissen. Aber eins nach dem anderen.

Bei der Bildverarbeitung suchten die Forschenden zunächst Inspiration im Aufbau und in der Funktionsweise des menschlichen Gehirns. Der Fokus lag dabei auf dem hierarchisch organisierten visuellen Kortex, der alleine rund die Hälfte des Gehirns ausmacht. In Anlehnung an die verschiedenen Schichten des visuellen Kortex definierten die Experten sogenannte Filter. Einfache Filter können etwa Kanten in Bildern detektieren. Ein solcher Filter zeigt also, ob beispielsweise eine horizontale Kante in einem Bildbereich vorhanden ist. Die Kombination solcher einfachen Kantendetektoren ermöglicht dann schon die Erkennung einer Ecke. Je mehr dieser Filter miteinander kombiniert werden, desto komplexer die möglichen Repräsentationen.

Traditionelle Ansätze zur Bildklassifizierung basierten also auf Detektoren, die von Experten entwickelt wurden. Sie reagierten auf verschiedene Merkmale in Bildern, wie Linien, Farben oder Kreise. Auf Basis dieser Detektoren wurden anschließend künstliche neuronale Netze trainiert. Dabei sollte der Algorithmus lernen, die Aktivierungsmuster der verschiedenen Detektoren zu kombinieren und dem korrekten Objekt zuzuordnen. Als Beispiel: Das Aktivierungsmuster bestehend aus einer Vielzahl von schwarz-braunen Kreisdetektoren sollte dem Wort „Leopard“ zugeordnet werden. Die Fortschritte in der Bildklassifizierung auf Basis der händisch erstellten Filterkaskaden stagnierten jedoch. Das lag an den nahezu unendlichen Möglichkeiten, verschiedene Filter miteinander zu kombinieren – ein Fass ohne Boden. Alex Krizhevsky lagerte die Suche nach den besten Filtern und deren Kombinationen aus, indem er 2012 einem künstlichen neuronalen Netz (AlexNet) die Aufgabe stellte, die benötigten Detektoren selbst zu erstellen.

AlexNet erlernte kurzerhand eine Vielzahl von Kanten-, Farb- und Kreisdetektoren in unterschiedlichsten Variationen (abgebildet in der folgenden Grafik). Es lernte, diese beliebig zu kombinieren, bis zuletzt immer komplexere und alltagsnähere Gegenstandsdetektoren herausgebildet wurden.

In der Grafik stellt jedes schwarz eingerahmte Panel einen von dem künstlichen neuronalen Netzwerk selbst erlernten Filter dar. Der Filter in der Ecke links oben sucht beispielsweise in jedem Bild nach Kanten, die von links unten nach rechts oben verlaufen. Die bunten Filter sprechen hingegen auf entsprechend farbige Bereiche im Bild an. Durch die Kombination eines Kantenfilters mit einem Farbfilter kann etwa eine grüne Kante in der entsprechenden Orientierung detektiert werden. Die Bildergruppe in der Mitte zeigt bereits selbst erlernte Kombinationen der Filter im linken Bild. Darauf lassen sich mit etwas Fantasie schon Augen-, Nasen-, oder Reifendetektoren erkennen. Die Panele des rechten Bildes zeigen schließlich die abstraktesten Filter. Diese hat das Netzwerk wieder durch Kombination vieler vorheriger Filter gelernt. Je nach Aufgabe des künstlichen neuronalen Netzwerks lernt es unterschiedliche Bilder. In diesem Fall wurde das Netz vermutlich darauf trainiert, Autos, Flugzeuge und Gesichter zu erkennen.

Während 2012 der bis dahin beste Ansatz zur Bildklassifizierung in 52,9 Prozent der Fälle richtig lag, erzielte AlexNet eine Trefferquote von 62,5 Prozent. Ein Quantensprung für die damaligen Verhältnisse. Zum Vergleich: Ein Mensch erkannte das richtige Objekt mit einer Quote von 94.9 Prozent1, während heutige Algorithmen auf 91.0 Prozent kommen2. Beeindruckender Weise bildete AlexNet Detektoren aus, die bereits vor mehr als 60 Jahren im visuellen System von Katzen nachgewiesen wurden.3 Möglicherweise basieren also AlexNet und der visuelle Kortex von Katzen und Menschen auf demselben Grundprinzip.

Der revolutionäre Ansatz von Alex Krizhevsky beruhte auf dem Prinzip des convolutional neural network (CNN), das bereits 19794 und 19895 vorgestellt wurde. Eine besondere Eigenschaft des CNN liegt dabei in seinem Potential, parallel berechnet zu werden. Anstatt eine lange Rechenliste also sequentiell abzufertigen, kann jeder Filter des CNNs auf jedem Bereich des Bildes gleichzeitig ausgerechnet werden. Dieses Potential schöpfte Alex Krizhevsky mit moderner Hardware aus. Damit gelang es ihm, ein deutlich größeres Modell als damals üblich mit geringerem Zeitaufwand zu trainieren. So setzte AlexNet in der Bildklassifizierung neue Maßstäbe. 

Die scheinbar banale Fähigkeit, Objekte auf Bildern zu erkennen, hat die Wissenschaft wesentlich länger beschäftigt, als ursprünglich erwartet. Für den Durchbruch sorgte schließlich die effiziente Implementierung eines Algorithmus aus dem 20. Jahrhundert auf moderner Hardware. Die Hürden, Computern das Sehen beizubringen, waren also praktischer und weniger konzeptueller Natur. Heute ist das Prinzip des CNN und der parallelen Berechnung von selbsterlernten Detektoren tief in sämtlichen Algorithmen zur Bildverarbeitung verwurzelt und kommt auch in mobilen Endgeräten zur alltäglichen Anwendung.