@JasperTou

In Bezug auf deine These möchte ich hinzufügen, dass es eine Frage der Perspektive ist, was man mit KI letzten Endes erreichen will: Möchte man eine KI entwickeln, die der des Menschen ähnelt, oder möchte man eine KI entwickeln, die bestimmte/viele Aufgaben sehr gut lösen kann? Momentan wird in beide Richtungen geforscht würde ich sagen, aber ich behaupte, dass, wie wir an heutigen Produkten bereits sehen, eine künstliche Intelligent nicht unbedingt der menschlichen ähneln muss um unseren Alltag zu erleichtern.

Da ich mich gefragt hatte, wie viele Daten tatsächlich aus Online-Foren stammen: GPT-3, der Vorgänger von dem Modell auf dem ChatGPT basiert, wurde zu 22% mit “WebText2” Daten trainiert, die aus Reddit Beiträgen bestehen und zu 60% mit “common crawl”, also mehr oder weniger beliebigen Webseitendaten, die anscheinend auch Online-Foren umfassen können (siehe: https://arxiv.org/pdf/2005.14165.pdf). Demnach scheint das von dir erwähnte Problem tatsächlich realistisch zu sein.

Ein weiterer Aspekt, den man berücksichtigen kann, und der möglicherweise ein Teil des Problems ist, ist, dass der Großteil der Menschen, die für die Entwicklung der aktuellen maschinellen Lernmodelle verantwortlich sind, weiße Männer sind, die ihre eigene Vorstellung vom “normalen” Menschen haben und so zu Diskriminierung beitragen können. Zu diesem Thema gibt es viele Artikel, aber ob es tatsächlich ein Problem ist kann ich nicht beurteilen.

Die Frage, ob etwas anzüglich ist oder nicht, scheint mir schwer zu beantworten zu sein. Ich würde sagen, dass das von Mensch zu Mensch unterschiedlich ist. Wie findet man in diesem Fall eine passende Definition, was diskriminierend und was fair ist?

Es gibt tatsächlich maschinelle Lernmodelle, die man fortwährend trainieren kann (continual learning). Man könnte das vorgestellte Modell also auch noch mit Autobildern (oder mit anderen “neuen” Daten) trainieren, nachdem man es mit Tierbildern trainiert hat. Dann könnte es auch für diese neue Daten “richtige Antworten” ausgeben. Ohne Training kann das meines Wissens nach nicht funktionieren. Ein Mensch weiß ja auch nicht, dass etwas ein Auto ist, wenn man ihm/ihr nie sagt, was ein Auto ist. Eine andere Sache wäre das Konzept “Auto” zu erlernen (4 Räder, bewegt sich etc.). Das wäre dann eher "unsupervised learning”.

Ich möchte zur “bewusste[n] Verminderung der Selbstsicherheit in den Antworten der Modelle”, die du erwähnst, anmerken, dass das vorgestellte maschinelle Lernmodell nicht allgemein unsicherer wird, sondern nur für Bilder, die es nicht gut klassifizieren kann. Bei Bildern, die es gut klassifizieren kann, ist es nach wie vor sicher. Diese Eigenschaft erscheint mir durchaus hilfreich zu sein. Ein Beispiel: Ein maschinelles Lernmodel erkennt Tumoren und ein Arzt stellt anhand dieses Modells eine Diagnose. Wenn er weiß, dass das Modell unsicher ist, wird er vielleicht selber nochmal genauer hinschauen.

Ich schließe mich dir an, dass die soziale Gerechtigkeit im Kontext des beschriebenen Strukturwandels nicht ausführlich berücksichtigt wird. Mir ist unklar, wie sie laut Text gewährleistet wird, besonders hinsichtlich möglicher Automatisierung, die einerseits Ressourcen schonen könnte und andererseits die Zahl der Arbeitsplätzen reduzieren kann.

Ein weiterer Aspekt, der in der ursprünglichen Publikation angesprochen wird, ist die Schwierigkeit, wie sich ein solcher Strukturwandel international umsetzen lässt. Zum Beispiel bestehen die Gefahren, dass man die ressourcenintensive Produktion ins Ausland verlagert bzw. durch Importe kompensiert und die Wettbewerbsfähigkeit von Ländern, die ihre Wirtschaft radikal verändern, unsicher ist. Außerdem interessant ist die Rolle von international agierenden Konzernen; stellen diese ihre Produktion nur in einigen Ländern um, oder ziehen sie sich aus diesen Ländern zurück? Was sind die Auswirkungen?