Re-Book

Verantwortliche Gestaltung von KI-Systemen. Ethik, Recht und Technikfolgenabschätzung

Autor(en)

Tags

Artikeldetails

Intro verfasst von

Intro

In seinem Buchkapitel „Verantwortliche Gestaltung von KI-Systemen. Ethik, Recht und Technikfolgenabschätzung“ befasst sich Armin Grunwald mit den ethischen und rechtlichen Anforderungen an KI-Systeme am Beispiel des autonomen Fahrens. Nicht umsonst ist das selbstfahrende Automobil eines der umstrittensten Objekte aller KI-Anwendungen. Die Auseinandersetzung mit ihm gehört in den Unterricht.

Bei te.ma veröffentlicht

Dez 06, 2022

Veröffentlichungsdatum

Aug 02, 2022

Quelle

Künstliche Intelligenz – Ethik und Recht, hrsg. von Thomas Hoeren und Stefan Pinelli, München: Beck 2022, S. 45-63

Künstliche Intelligenz – Ethik und Recht

https://doi.org/10.5771/9783748929680

ISBN13

9783406773884

‘tag:ki’ hat 100 Treffer:

In Book

Inhaltsverzeichnis Kapitel 9. KI, Demokratie und das Recht (Djeffal) . . . . . . ... 221 A. KI demokratisieren: Möglichkeit

SozialeEbene................................ 241 1.Wirkungenverstehen ........................ 241 2. Gestaltung von KI durch soziale Konstruktion . . . . . . 243 3.KIalsGewohnheitsrecht ...................... 244 III.Governance

A.Ausgangslage ................................. 289 B. Regulierungsansätze und Regulierungsbedarf von KI . . . . . 290 C.KIundDatenschutz ............................ 291 D.Rechtsetzungskompetenz ......................... 292 E.RegulatorischeGrundentscheidungen

Bibliography................................ .... 342 Kapitel 13. Immaterialgüterrechtlicher Schutz von KI-Systemen (Borutta).............................. 343 A.TechnischerHintergrund ......................... 343 I.Begriffsbestimmung

Arbeitsfokus liegt auf normativen Dimensionen der KI- Regulierung, Gerechtigkeitstheorien und der Analyse von Regulierungsinstru

Frage wie man Ethik in Softwareentwicklungsprozesse und KI Produkte implementieren kann. Darüber hinaus

aufsteigen- den Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)“, „GOAL – Governance von und durch Algorithmen

zulässig. GWB . . . . . . . . HARV. J. L. &. TECH HEG-KI . . . . . . Hrsg......... IAB . . . . . . . . . i.E.......... i.e. ......... IEEE . . . . . . . . insb

KAIEA . . . . . . . Kap. ........ KDD . . . . . . . . KG ......... KI . . . . . . . . . . KNN . . . . . . . . K&R . . . . . . . . lat. ......... LG ......... lit........... LKV . . . . . . . . maW . . . . . . . . MdEP

Kapitel 1. KI, Ethik und Recht: Herausforderung und Perspektive Kapitel 1. KI, Ethik und Recht

thematischen Spannungsfeld der wis- senschaftlichen Disziplinen von „KI“, „Ethik“ und „Recht“ stellt eine große Herausforderung

Nutzern von KI grundsätzlich verlässliche Orientierung bieten muss. Dass KI im Zeitalter einer an Geschwindigkeit

KI-Anwendungen der Europäischen Kommission.2 Vor diesem geschilderten Hintergrund fängt dieses Buch über KI, Ethik

KI, Ethik und Recht A. Erster Mythos: Eine eindeutige Definition von KI KI

für das Jahr 2025 den Umsatz mit KI-Anwendungen auf rund

land im Jahre 2019 rund 17.500 Unternehmen KI-Anwendungen in Pro- dukten, Dienstleistungen oder internen

KI-Systemen auf rund 4,8 Mrd. EUR. Umsatzmäßig entsprach der Einsatz von KI

gibt keine wirklich abschließende Definition dessen, was KI ist. Der Ausdruck selbst kann

Begriffe konzentrieren, die den Aus- druck KI selbst bilden, befinden wir uns in einer Sackgasse

Intelligenz? Um die Debatte zu vereinfachen, wird KI oft auf maschinelles Lernen reduziert und kann

Definition, die wir im Folgenden beibehalten werden. KI als wis- senschaftliche Disziplin verfolgt also

Intelligenz in der Deutschen Wirtschaft – Stand der KI-Nutzung im Jahr 2019, Berlin

Erster Mythos: Eine eindeutige Definition von KI 3 sen auf neue Sachverhalte anwenden zu können

PDFs ist nicht zulässig. 4 Kapitel 1. KI, Ethik und Recht lassen. Die erkenntnistheoretische Annahme

Verstandesbegriffs obsolet. Tatsäch- lich ist die heutige KI-Forschung, die über die Thesen von Dreyfus

Trotzdem agieren einige Akteure in der rechtspolitischen KI-Dis- kussion so, als gebe es noch

Rolle in der reinen KI- Diskussion. B. Zweiter Mythos: KI-Ethik gibt

nicht zuletzt dank des zunehmenden Einsatzes von KI-Systemen grundlegend geändert. Immer mehr Men- schen

PDFs ist nicht zulässig. B. Zweiter Mythos: KI-Ethik gibt es 5 mit dem allgemeinen

weiterspinnen und über ethische Verantwortlichkeiten in der KI- Forschung nachdenken (siehe dazu in diesem Buch

Gleichbehandlungs- richtlinien → Kap. 6). Die KI-Diskussion unterliegt manchmal dem Irrtum, zu glauben, es gebe

abgeschrieben, ohne allerdings zu begründen, wieso die KI-Industrie an Grundrechte aus der Charta gebunden

PDFs ist nicht zulässig. 6 Kapitel 1. KI, Ethik und Recht Juristische Personen des Privatrechts

dass KI-Systeme mit einem inakzeptablen Risiko verboten werden. An sog. Hoch-Risiko-KI- Systeme

gorie von KI-Systemen definiert, für die abgeschwächte Transparenz- und Informationspflichten gelten. KI-Systeme

KI 7 C. Dritter Mythos: Eindeutige rechtliche Vorgaben bei KI Die derzeitige KI-Diskussion

geprägt, man könnte alles, was man unter KI subsumiert, effizient und richtig regulieren. Diese Vorstellung

alte preußische Traum jetzt im Zeitalter von KI wieder. Die Kommis- sion beginnt gerade damit

gerade erst im Aufbau befindliche KI-Industrie über Jahre hinweg beschäftigen wird. Statt eines digitalen

PDFs ist nicht zulässig. 8 Kapitel 1. KI, Ethik und Recht rechtlichen Prinzipien ableiten

auch die zunehmende Moralisierung der KI-Diskussion in ge- regelte Bahnen zu lenken. Durch diese

KI-Entwicklungen schutzfähige Erfindungen im Patentrecht darstellen.34 Dies hängt insbesondere davon ab, ob die KI

Verwertungs- und Urheberpersönlichkeitsrechte bei kreati- ven KI-Schöpfungen zugeordnet werden können.36 Schließlich könnten

eigenen ausführli- chen Stellungnahme veranlasst hat.39 Wer KI betreibt, hat als Input oder Output

Insofern setzt eine vertiefte Kenntnis von KI- 34 Wiebe in Leupold/Wiebe/Glossner Teil

PDFs ist nicht zulässig. D. Daten und KI als Vertragsgegenstand 9 relevantem Recht profunde Erfahrungen

Komplexität zivilrechtlicher Fragen rund um KI und Da- ten deutlich zu machen: Die Frage nach

Problem der Rückgewähr. D. Daten und KI als Vertragsgegenstand Rohdaten sind mögliche Gegenstände eines Kaufvertrages

PDFs ist nicht zulässig. 10 Kapitel 1. KI, Ethik und Recht Vorschriften über den Kauf

Bezug auf die Soft- ware unserer Tage bietet sich ein kryptografisches Prüfsummenverfahren 45 Graf

PDFs ist nicht zulässig. 12 Kapitel 1. KI, Ethik und Recht men der für Software

Leitplanken für die Gestaltung mit KI-Systemen I. Robotergesetze Der russisch-amerikanische Biochemiker und Science

friedliches und unterstützendes Zu- sammenleben zwischen KI und Mensch. „0. Ein Roboter darf der Menschheit

KI nur ein Thema von Romanen und Filmen. Jetzt wird KI in vielen Bereichen Realität

für ein ethisches und gutes Nutzererlebnis mit KI zusammengetragen. Diese „ETHIKA- Prinzipien sind namentlich: Emotionen

KI für den Menschen I. Gemeinsames Lernen Wie kann sich eine Maschine mit KI

Persönlichkeit eines KI-Assistenten Je nach Nutzungskontext wird die „Persönlichkeit“ eines KI-Assistenten eine andere

müssen. KI-Systeme haben kein echtes Bewusstsein oder Gefühle. Eine hoch- entwickelte schwache KI

eine KI handelt, mit der er kommuniziert. Die existierenden schwachen KI-Systeme mit Sprachbe- dienung

KI trifft eigene Entscheidun- gen. Dies führt zu einer ethischen Komponente, wie eine KI

Anforderungen an eine vertrauenswürdige KI zusammenfassen.38 Ihnen gemeinsam ist, dass KI das Wohl

Papiere nennenswert: Ethik-Leitlinie für eine vertrauenswürdige KI 08.04. 2019, abrufbar unter: https://www.demographie-netzwerk.de/site/assets/files/5064/

KI 04.12.2018, abrufbar unter: https://monoskop.org/ images/d/d2/Montreal_Declaration_for_a_Responsible_Development_of_Artificial_In telligence_2018.pdf; KI-Prinzipien der Akademie für KI

Kopien dieses PDFs ist nicht zulässig. F. KI für den Menschen 35 che Nachprüfung

Wohl des Menschen gestärkt wird. Eine KI ist keine hochentwickelte Automatik für geregelte Prozesse

nicht ebenso effektiv entlasten wie eine eigenständige KI. Leichter leben bedeutet, unangenehme Entscheidungen vermeiden

gerechte KI-Bedienoberfläche hat eher den Charakter ei- nes Handlungsrahmens, den die KI mit ihren

Roboter vor. Auch Musikportale beinhalten eine schwache KI. Mit ihrem Frageras- ter gehen sie ebenso

backs zu den gewählten Titeln, schlägt die KI immer mehr Titel, passend zu seinem Musikgeschmack

Musikportale, Suchmaschinen und an- dere Mediensysteme mit KI tendieren aber dazu, den Nutzer in seiner

Nutzer seine Präferenzen für das Verhalten des KI-Systems immer anpassen. Diese Ebenen können aber

sein. Die Lösung wäre wiederum ein KI-Assistent. Er agiert wie eine Suchmaschine. Über Schlagworte

Problems beisteuern. Durch Assistenzsysteme mit schwa- cher KI muss der Nutzer immer weniger selbst erledigen

fast alle Musiktitel der Welt hat. Eine KI entlastet das Hirn immer mehr

sationen künftig das Ziel, mit Hilfe von KI unterstützten Systemen und Programmen immer bessere Ergebnisse

kann man den Nutzer motivieren, dem KI-System seine Rückmel- dung zu geben? Die Maschine

nicht zulässig. G. Grenzen und Folgen von KI 37 wissen des Bedieners ist immer besonders

einer Entscheidung der KI, wenn es um Menschenleben geht? Das KI-System, der Hersteller

eine KI entscheidet, werden durch die programmierten Algorithmen bestimmt. Programmierer und Hersteller von KI-Systemen

Niveau erreicht. II. Gesellschaftliche Folgen von KI KI wird unaufhaltsam kommen, mehr oder weniger unsichtbar

KI und verlässt sich lieber auf Menschen.45 Diese Ängste sind berechtigt, wenn durch KI-Systeme

KI-Nutzererlebnis Vielen Menschen fällt es schwer, sich vorzustellen, wie genau KI Men- schen

Deutschland vorherrschenden Vorbehalte gegenüber KI zu überwinden. Das Nutzererlebnis mit KI-Assistenzsystemen ist entscheidend für

KI-Systemen. Ethik, Recht und Technikfolgenabschätzung Kapitel 3. Verantwortliche Gestaltung von KI-Systemen Grunwald

KI-Systemen beizutragen, beginnt mit einer kurzen technikphilosophischen Ausführung zu Spezifika der KI (→ B.), gefolgt

KI nicht falsch, aber unvollständig. Denn die real auftretenden Folgen von Tech- nik, hier KI

durch KI ermöglichten Autono- mie technischer Systeme sind KI-Systeme nicht mehr nur wie traditionelle

für Berufspendler, die täg- liche längere Zeiten im Auto verbringen. Die KI spielt in diesen

Beziehung von KI und Demokratie zu beeinflussen. Anstatt zu fragen, ob KI demokratisiert werden sollte

reichen. B. Demokratisierung von KI Wenn es einer Demokratisierung von KI bedarf, ist fraglich

KI sozial konstruiert sind. Dies gilt für einen großen Teil des Einflusses von KI-Systemen

entsprechenden Bescheide verschicken. 3. KI als Gewohnheitsrecht KI-Systeme können Auswirkungen auf die reale Welt

Framing Wie KI geframed wird, beeinflusst ihre demokratische Governance. KI wird regelmäßig in bestimmte Kontexte

Wissenschaftler über die Ethik von KI,57 während andere KI im Kontext der Menschenrechte untersuchen

Politik der KI zu fragen oder sich mit dem Verhältnis von KI und Menschenrechten

stellt einen kritischen Teil des KI-Diskurses dar, der KI spezifisch als automatisierte Entscheidungssysteme fasst

KI- Anwendungen bestimmt. In vielen Fällen ist das Recht Teil der konstruk- tiven Bemühungen, KI

KI zu beeinflussen, sind organisatorische Maßnahmen, wie sie in vielen der ak- tuellen KI-Strategien

Staaten KI-Beobach- tungsstellen gegründet, die sich mit den sozialen Folgen von KI befassen sollen

Kapitel 9. KI, Demokratie und das Recht dend darauf ankommen, KI