Artikeldetails

Intro verfasst von

Thomas Wagner-Nagy

Intro

In seinem Buchkapitel „Verantwortliche Gestaltung von KI-Systemen. Ethik, Recht und Technikfolgenabschätzung“ befasst sich Armin Grunwald mit den ethischen und rechtlichen Anforderungen an KI-Systeme am Beispiel des autonomen Fahrens. Nicht umsonst ist das selbstfahrende Automobil eines der umstrittensten Objekte aller KI-Anwendungen. Die Auseinandersetzung mit ihm gehört in den Unterricht.

Bei te.ma veröffentlicht

Dez 06, 2022

---

Veröffentlichungsdatum

Aug 02, 2022

Quelle

Künstliche Intelligenz – Ethik und Recht, hrsg. von Thomas Hoeren und Stefan Pinelli, München: Beck 2022, S. 45-63

Künstliche Intelligenz – Ethik und Recht

https://doi.org/10.5771/9783748929680

ISBN13

9783406773884

‘tag:technikfolgen tag:ki’ hat 100 Treffer:

In Book

Inhaltsverzeichnis Kapitel 9. KI, Demokratie und das Recht (Djeffal) . . . . . . ... 221 A. KI demokratisieren: Möglichkeit

SozialeEbene................................ 241 1.Wirkungenverstehen ........................ 241 2. Gestaltung von KI durch soziale Konstruktion . . . . . . 243 3.KIalsGewohnheitsrecht ...................... 244 III.Governance

A.Ausgangslage ................................. 289 B. Regulierungsansätze und Regulierungsbedarf von KI . . . . . 290 C.KIundDatenschutz ............................ 291 D.Rechtsetzungskompetenz ......................... 292 E.RegulatorischeGrundentscheidungen

Bibliography................................ .... 342 Kapitel 13. Immaterialgüterrechtlicher Schutz von KI-Systemen (Borutta).............................. 343 A.TechnischerHintergrund ......................... 343 I.Begriffsbestimmung

Arbeitsfokus liegt auf normativen Dimensionen der KI- Regulierung, Gerechtigkeitstheorien und der Analyse von Regulierungsinstru

für Technologie (KIT). Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). Seit

Frage wie man Ethik in Softwareentwicklungsprozesse und KI Produkte implementieren kann. Darüber hinaus

Bochum, Bonn und Jena. Seine Forschungsschwerpunkte sind Technikfolgen- abschätzung und Technologiepolitik. Innerhalb des GOAL-Projekts

aufsteigen- den Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)“, „GOAL – Governance von und durch Algorithmen

zulässig. GWB . . . . . . . . HARV. J. L. &. TECH HEG-KI . . . . . . Hrsg......... IAB . . . . . . . . . i.E.......... i.e. ......... IEEE . . . . . . . . insb

KAIEA . . . . . . . Kap. ........ KDD . . . . . . . . KG ......... KI . . . . . . . . . . KNN . . . . . . . . K&R . . . . . . . . lat. ......... LG ......... lit........... LKV . . . . . . . . maW . . . . . . . . MdEP

Kapitel 1. KI, Ethik und Recht: Herausforderung und Perspektive Kapitel 1. KI, Ethik und Recht

thematischen Spannungsfeld der wis- senschaftlichen Disziplinen von „KI“, „Ethik“ und „Recht“ stellt eine große Herausforderung

Nutzern von KI grundsätzlich verlässliche Orientierung bieten muss. Dass KI im Zeitalter einer an Geschwindigkeit

KI-Anwendungen der Europäischen Kommission.2 Vor diesem geschilderten Hintergrund fängt dieses Buch über KI, Ethik

KI, Ethik und Recht A. Erster Mythos: Eine eindeutige Definition von KI KI

für das Jahr 2025 den Umsatz mit KI-Anwendungen auf rund

land im Jahre 2019 rund 17.500 Unternehmen KI-Anwendungen in Pro- dukten, Dienstleistungen oder internen

KI-Systemen auf rund 4,8 Mrd. EUR. Umsatzmäßig entsprach der Einsatz von KI

gibt keine wirklich abschließende Definition dessen, was KI ist. Der Ausdruck selbst kann

Begriffe konzentrieren, die den Aus- druck KI selbst bilden, befinden wir uns in einer Sackgasse

Intelligenz? Um die Debatte zu vereinfachen, wird KI oft auf maschinelles Lernen reduziert und kann

Definition, die wir im Folgenden beibehalten werden. KI als wis- senschaftliche Disziplin verfolgt also

Intelligenz in der Deutschen Wirtschaft – Stand der KI-Nutzung im Jahr 2019, Berlin

Erster Mythos: Eine eindeutige Definition von KI 3 sen auf neue Sachverhalte anwenden zu können

PDFs ist nicht zulässig. 4 Kapitel 1. KI, Ethik und Recht lassen. Die erkenntnistheoretische Annahme

Verstandesbegriffs obsolet. Tatsäch- lich ist die heutige KI-Forschung, die über die Thesen von Dreyfus

Trotzdem agieren einige Akteure in der rechtspolitischen KI-Dis- kussion so, als gebe es noch

Rolle in der reinen KI- Diskussion. B. Zweiter Mythos: KI-Ethik gibt

nicht zuletzt dank des zunehmenden Einsatzes von KI-Systemen grundlegend geändert. Immer mehr Men- schen

PDFs ist nicht zulässig. B. Zweiter Mythos: KI-Ethik gibt es 5 mit dem allgemeinen

weiterspinnen und über ethische Verantwortlichkeiten in der KI- Forschung nachdenken (siehe dazu in diesem Buch

Gleichbehandlungs- richtlinien → Kap. 6). Die KI-Diskussion unterliegt manchmal dem Irrtum, zu glauben, es gebe

abgeschrieben, ohne allerdings zu begründen, wieso die KI-Industrie an Grundrechte aus der Charta gebunden

PDFs ist nicht zulässig. 6 Kapitel 1. KI, Ethik und Recht Juristische Personen des Privatrechts

dass KI-Systeme mit einem inakzeptablen Risiko verboten werden. An sog. Hoch-Risiko-KI- Systeme

gorie von KI-Systemen definiert, für die abgeschwächte Transparenz- und Informationspflichten gelten. KI-Systeme

KI 7 C. Dritter Mythos: Eindeutige rechtliche Vorgaben bei KI Die derzeitige KI-Diskussion

geprägt, man könnte alles, was man unter KI subsumiert, effizient und richtig regulieren. Diese Vorstellung

alte preußische Traum jetzt im Zeitalter von KI wieder. Die Kommis- sion beginnt gerade damit

gerade erst im Aufbau befindliche KI-Industrie über Jahre hinweg beschäftigen wird. Statt eines digitalen

PDFs ist nicht zulässig. 8 Kapitel 1. KI, Ethik und Recht rechtlichen Prinzipien ableiten

auch die zunehmende Moralisierung der KI-Diskussion in ge- regelte Bahnen zu lenken. Durch diese

KI-Entwicklungen schutzfähige Erfindungen im Patentrecht darstellen.34 Dies hängt insbesondere davon ab, ob die KI

Verwertungs- und Urheberpersönlichkeitsrechte bei kreati- ven KI-Schöpfungen zugeordnet werden können.36 Schließlich könnten

eigenen ausführli- chen Stellungnahme veranlasst hat.39 Wer KI betreibt, hat als Input oder Output

Insofern setzt eine vertiefte Kenntnis von KI- 34 Wiebe in Leupold/Wiebe/Glossner Teil

PDFs ist nicht zulässig. D. Daten und KI als Vertragsgegenstand 9 relevantem Recht profunde Erfahrungen

Komplexität zivilrechtlicher Fragen rund um KI und Da- ten deutlich zu machen: Die Frage nach

Problem der Rückgewähr. D. Daten und KI als Vertragsgegenstand Rohdaten sind mögliche Gegenstände eines Kaufvertrages

PDFs ist nicht zulässig. 10 Kapitel 1. KI, Ethik und Recht Vorschriften über den Kauf

KI-Systemen. Ethik, Recht und Technikfolgenabschätzung Kapitel 3. Verantwortliche Gestaltung von KI-Systemen Grunwald

Gesellschaft und Wirtschaft erwartet.1 Die künstliche Intelligenz (KI) stellt einen Schlüssel für viele dieser Erwartungen

vielen Feldern autonomer technischer Systeme und der KI, so etwa im Umgang mit Daten

zulässig. 46 Kapitel 3. Verantwortliche Gestaltung von KI-Systemen Robotern in der Pflege6

rasch auszuwerten, dabei mit Hilfe von KI zu lernen und zu optimieren, sind das technische

nicht zulässig. B. Der doppelte Zukunftsbezug der KI 47 von Inklusion und Exklusion und nach

Innovation (RRI)11 (→ E.). In der KI stellen sich diese bekannten Herausforderungen in einer besonderen

Komplexität, Selbstorganisationsfähigkeit und Lernfä- higkeit von KI-Systemen die Prognostizierbarkeit des Erreichens gesetzter Zwecke

KI-Systemen beizutragen, beginnt mit einer kurzen technikphilosophischen Ausführung zu Spezifika der KI (→ B.), gefolgt

digi- talen Technikdeterminismus (→ C.). Sodann wird das KI-Anwendungs- feld des autonomen Fahrens in Bezug

vorgestellt werden. B. Der doppelte Zukunftsbezug der KI Üblicherweise wird Technik als Mittel für menschliche

KI nicht falsch, aber unvollständig. Denn die real auftretenden Folgen von Tech- nik, hier KI

zulässig. 48 Kapitel 3. Verantwortliche Gestaltung von KI-Systemen treten. Aber auch ein „Unterschießen

werden. Der Zukunftsbezug von Technik allgemein und KI im Besonderen ist daher als ein doppelter

ante und (2) ex post.13 (1) KI wird in der Perspektive ex ante relativ

nicht auf die Gegenwart, sondern auf zukünftige KI-Nutzer und Märkte. Deren Inten- tionen

Marktfor- schung oder Nutzerbefragungen erhoben, um KI-Systeme so zu entwi- ckeln, dass sie zukünftig

zukünftigen Märkten Erfolg haben. KI wird also wie Technik üblicherweise, jeden- falls in Forschung

Diskriminierungsrisiken16 oder für den Wertewandel. Einmal etablierte KI-Systeme gehören zum ‚Inventar’ in der weiteren

nicht zulässig. B. Der doppelte Zukunftsbezug der KI 49 ermöglichen, aber auch dem Handeln Randbedingungen

für gegenwärtige Tech- nik- und Produktentwicklung mit KI genutzt. Ex post beeinflussen die in diesem

nicht komplett auseinanderfallen. Für die Gestaltung von KI-Systemen verschärft sich das Risiko dieses Auseinanderfallens

ermöglichten Selbstorganisation können sich Ei- genschaften der KI auf eine nicht determinierte Weise ändern

durch KI ermöglichten Autono- mie technischer Systeme sind KI-Systeme nicht mehr nur wie traditionelle

zulässig. 50 Kapitel 3. Verantwortliche Gestaltung von KI-Systemen und Anlagen, die zum Subjekt Mensch

teils als sozio-technische Konstellationen. Beispielsweise werden KI- Systeme in projektierten Systemen der Industrie

teil-) offenen Prozessen mit durchaus alternativen Ausgängen. KI- Systeme und darauf aufbauende Dienstleistungen könnten, wenn

anders ausfallen. Denn auch digitale Technik und KI entstehen in Kaskaden von Ent- scheidungsprozessen

Nutzerverhalten beeinflussen den Gang der KI- Entwicklung und ihres Einsatzes. Die oben erwähnte Einsicht

hinterfragen und über die bislang in die KI-Gestaltung involvierten auch andere Perspek- tiven

Akteure welchen Einfluss auf die Entwicklung der KI nehmen, nach welchen In- teressen und Werten

erzwungen werden. Die Destruktion der Vorstellung, dass KI-Entwicklung und Digitalisie- rung determinierte Abläufe seien

Blick auf die weitere Ent- wicklung von KI-Technologien ab. Darin haben Technikfolgenabschät- zung, Recht

zulässig. 52 Kapitel 3. Verantwortliche Gestaltung von KI-Systemen gung unterschiedlicher Alternativen Prinzipien wie Menschen

großem Umfang umgesetzt werden. Im Feld der KI sind besondere Herausforderungen an die praktische Umsetzung

problematische Machtkonstellation zeigt sich im Zusammenhang mit KI in einer speziellen Herausforderung. Sie hängt

Algorithmen zusammen, verschärft durch KI.26 Software und KI-gestützte Netze und Dienstleistungen nehmen häufig

Commerce-Syste- men, sozialen Netzwerken und KI-Systemen oder Entscheidungsregeln in Big Data Analytics finden

Autonomes Fahren als exemplarisches Gestaltungsfeld 53 Mittels KI erzwungene Regelungen können auch konventionelle Regeln, Wertvorstellungen

demokratische Legitima- tion zukommt. Hier wird mittels KI-Systemen zunächst nahegelegte, dann erzwungene Anpassung

sich sowohl die Ambivalenz der KI zwischen Chancen und Risiken als auch eine Fülle charakteristischer

Berufspendler, die täg- liche längere Zeiten im Auto verbringen. Die KI spielt in diesen

zulässig. 54 Kapitel 3. Verantwortliche Gestaltung von KI-Systemen schwerer Missverständnisse ermöglicht wird. Koordination

über fortschreitende Digitalisierung nach den Anforderungen von KI- Systemen, reguliert und immer stärker normiert werden

Fragen stellen sich in anderen Anwendungsfeldern der KI, so etwa bei sozialen Robotern oder

zulässig. 56 Kapitel 3. Verantwortliche Gestaltung von KI-Systemen dürfte eine der großen Fragen

KI sein. III. Ethik-Dilemmata Häufig werden Extremsituationen diskutiert, in denen es für KI-Systeme

Empörung bis zur Zurückweisung der gesamten KI- Technologie. Freilich ist die Technik in keiner Weise

zunehmendem Einsatz von KI zwar der Gestaltung techni- scher KI-Systeme bedarf, aber weit darüber