Es gibt tatsächlich maschinelle Lernmodelle, die man fortwährend trainieren kann (continual learning). Man könnte das vorgestellte Modell also auch noch mit Autobildern (oder mit anderen “neuen” Daten) trainieren, nachdem man es mit Tierbildern trainiert hat. Dann könnte es auch für diese neue Daten “richtige Antworten” ausgeben. Ohne Training kann das meines Wissens nach nicht funktionieren. Ein Mensch weiß ja auch nicht, dass etwas ein Auto ist, wenn man ihm/ihr nie sagt, was ein Auto ist. Eine andere Sache wäre das Konzept “Auto” zu erlernen (4 Räder, bewegt sich etc.). Das wäre dann eher "unsupervised learning”.

Ich frage mich, ob wir einer KI überhaupt die Fähigkeit zuschreiben sollten, die absolut richtige Antwort zu geben. Die große Stärke von KI-Algorithmen ist es doch, unfassbar große Datenmengen zu verarbeiten, die ein Mensch niemals verarbeiten könnte. Damit können KIs für den Menschen von großem Nutzen sein, wenn wir ein Ergebnis bekommen, das (aufgrund der hohen verarbeiteten Datenmenge) mit großer Wahrscheinlichkeit sehr gut ist. Doch ich als Mensch sollte das Ergebnis der KI prüfen und diesem im Zweifel nicht blind vertrauen.

Bei schwerwiegenden Entscheidungen, trage ich als Mensch, der die KI “bedient” die letzte Verantwortung. Beispielsweise im medizinischen Bereich: KIs können sehr hilfreich sein, doch der behandelnde Arzt / die behandelnde Ärztin trägt die Verantwortung, auch wenn etwas schief gehen sollte.

Meiner Ansicht nach bedeutet die Transparenz von Unsicherheit genau das Gegenteil, also dass man der Wahrheit damit deutlich näher kommt als mit bloßen Aussagen. Das gilt für den menschlichen Diskurs genauso wie für den mit KI. Eine bloße Punktschätzung über etwas enthält nicht sehr viel Aussagekraft, auch wenn wir anderes gewohnt sind in alltäglichen Diskussionen. Dabei wäre es auch bei denen super hilfreich, darüber zu reden, wie sicher wir uns bei den Behauptungen sind, die wir treffen. Allerdings sind wir bei Menschen gewohnt, dass sie sich irren, während Maschinen immer eine gewisse Unfehlbarkeit umgibt. Da ist es nochmal wichtiger, dass hier Unsicherheit offensichtlich gemacht wird und so ein angemessener einsatz von KI ermöglicht . Und ich denke, das gilt für alle Themenbereiche und birgt auch in sich selbst eine Nachhaltigkeit, da eine bessere Weise der Infovermittlung auch nachhaltig bessere Entscheidungen fördert.

Ich möchte zur “bewusste[n] Verminderung der Selbstsicherheit in den Antworten der Modelle”, die du erwähnst, anmerken, dass das vorgestellte maschinelle Lernmodell nicht allgemein unsicherer wird, sondern nur für Bilder, die es nicht gut klassifizieren kann. Bei Bildern, die es gut klassifizieren kann, ist es nach wie vor sicher.

Diese Eigenschaft erscheint mir durchaus hilfreich zu sein. Ein Beispiel: Ein maschinelles Lernmodel erkennt Tumoren und ein Arzt stellt anhand dieses Modells eine Diagnose. Wenn er weiß, dass das Modell unsicher ist, wird er vielleicht selber nochmal genauer hinschauen.

Ich denke dass die kommunizierte (Un)Sicherheit einer KI die Benutzbarkeit und Akzeptanz in der Gesellschaft stark verbessern würde. Denn gerade mit einer KI wie ChatGPT kann man sich sehr unsicher fühlen, da man nie weiß, ob eine Aussage stimmt oder nicht - so oder so liest sich die Antwort selbstbewusst. Das führt dazu, dass man sich garnicht mehr auf eine Antwort verlassen kann. Erst wenn die KI einem verlässlich mitteilen kann, wie sicher sie in ihrer Antwort ist, kann man sich auf die Technologie verlassen.