20190506 Ethische Grundsätze für vertrauenswürdige KI

06.05.2019 Ethische Grundsätze für vertrauenswürdige KI

Ethics guidelines for trustworthy AI

Unter dem Kapitel "Strategie" haben wir auf der Webseite der EU Kommision bemerkenswerte Überlegungen zum Design und Gebrauch von Programmen und Tools mit künstlicher Intelligenz gefunden.

Diese wurden von der Hochrangigen Expertengruppe für KI als Ethikrichtlinien für vertrauenswürdige künstliche Intelligenz vor einem Monat fertiggestellt. Dieses Dokument folgt auf die Veröffentlichung des ersten Entwurfs der Leitlinien im Dezember 2018, zu dem im Rahmen einer offenen Konsultation mehr als 500 Kommentare eingegangen waren.

Gemäß den Richtlinien sollte eine vertrauenswürdige KI sein:

rechtmäßig - unter Beachtung aller geltenden Gesetze und Vorschriften
ethisch - Einhaltung ethischer Grundsätze und Werte
robust - sowohl aus technischer Sicht als auch unter Berücksichtigung des sozialen Umfelds.

Die Leitlinien enthalten 7 Schlüsselanforderungen, die KI-Systeme erfüllen sollten, um als vertrauenswürdig eingestuft zu werden. Eine spezifische Bewertungsliste soll dazu beitragen, die Anwendung jeder der wichtigsten Anforderungen zu überprüfen:

Menschliches Handeln und Kontrolle: KI-Systeme sollten den Menschen befähigen, fundierte Entscheidungen treffen zu können und ihre Grundrechte zu fördern. Gleichzeitig müssen angemessene Aufsichtsmechanismen gewährleistet sein, die durch Human-in-the-Loop-, Human-on-the-Loop- und Human-in-Command-Ansätze erreicht werden können.
Technische Robustheit und Sicherheit: KI-Systeme müssen widerstandsfähig und sicher sein. Sie müssen sicher sein, einen Rückfallplan für den Fall, dass etwas schief geht, gewährleisten und genau, zuverlässig und reproduzierbar sein. Nur so kann sichergestellt werden, dass auch unbeabsichtigte Schäden minimiert und verhindert werden können.
Datenschutz und Datenverwaltung: Neben der Gewährleistung der uneingeschränkten Wahrung der Privatsphäre und des Datenschutzes müssen auch angemessene Data-Governance-Mechanismen gewährleistet sein, die der Qualität und Integrität der Daten Rechnung tragen und einen legitimierten Zugang zu den Daten gewährleisten.
Transparenz: Die Geschäftsmodelle für Daten, Systeme und KI sollten transparent sein. Rückverfolgbarkeitsmechanismen können dabei helfen. Darüber hinaus sollten die KI-Systeme und ihre Entscheidungen in einer Weise erläutert werden, die an die jeweiligen Interessengruppen angepasst ist. Der Mensch muss sich bewusst sein, dass er mit einem KI-System interagiert, und er muss über die Möglichkeiten und Grenzen des Systems informiert sein.
Vielfalt, Nichtdiskriminierung und Fairness: Unfaire Verzerrungen müssen vermieden werden, da sie mehrere negative Auswirkungen haben könnten, von der Marginalisierung gefährdeter Gruppen bis hin zur Verschärfung von Vorurteilen und Diskriminierung. Zur Förderung der Vielfalt sollten KI-Systeme für alle, unabhängig von einer Behinderung, zugänglich sein und relevante Interessengruppen während ihres gesamten Lebenszyklus einbeziehen.
Gesellschaftliches und ökologisches Wohlbefinden: KI-Systeme sollten allen Menschen zugute kommen, auch zukünftigen Generationen. Daher muss sichergestellt sein, dass sie nachhaltig und umweltfreundlich sind. Darüber hinaus sollten sie die Umwelt, einschließlich anderer Lebewesen, berücksichtigen, und ihre sozialen und gesellschaftlichen Auswirkungen sollten sorgfältig geprüft werden.
Verantwortlichkeit: Es sollten Mechanismen geschaffen werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse zu gewährleisten. Dabei spielt die Auditierbarkeit, die die Bewertung von Algorithmen, Daten und Designprozessen ermöglicht, eine Schlüsselrolle, insbesondere in kritischen Anwendungen. Darüber hinaus sollten angemessene und zugängliche Rechtsbehelfe gewährleistet sein.

Diese Vorsätze finden wir gut - nun muss dafür gesorgt werden, dass sie auch beachtet und eingehalten werden! Bei einige Forderungen können wir bereits heute Beispiele nennen, die aufzeigen, dass es "Schwierigkeiten" geben wird:

Datenschutz: Bisher sind uns KI Programme oft gerade da begegnet, wo durch Data Mining unzulässigerweise Persönlichkeitsprofile angelegt werden.
Damit war ihr Einfluss auf "Gesellschaftliches Wohlbefinden" bisher eher gering.
Diskriminierung durch KI: Auch künstliche Intelligenz kann rassistisch werden
Ganz wichtig finden wir den Aspekt der Verantwortlichkeit - Hier sehen wir grundlegende Haftungsfragen noch ungeklärt: Wer kontrolliert was in der KI geforscht wird?

Deshalb begrüßen wir die Untersuchungen und Diskussionen der EU Kommission, aber es bleibt ein Unbehagen, das wir mit den Worten von Stephen Hawkins äußern möchten

Der Erfolg bei der Erzeugung von künstlicher Intelligenz wäre das bedeutendste Ereignis in der Geschichte des Menschen. Unglücklicherweise könnte es auch das letzte sein.

Mehr dazu bei https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
und zum Download der Guidelines https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=58477

Kommentar: RE: 20190506 Ethische Grundsätze für vertrauenswürdige KI

eine Intelligenz, die diesen Namen verdient, wird seine eigenen Regeln aufstellen. Alles andere sind nur verbesserte Algorithmen...

T., 06.05.2019 12:30