20190506 Ethische Grundsätze für vertrauenswürdige KI

Menschliches Handeln und Kontrolle: KI-Systeme sollten den Menschen befähigen, fundierte Entscheidungen treffen zu können und ihre Grundrechte zu fördern. Gleichzeitig müssen angemessene Aufsichtsmechanismen gewährleistet sein, die durch Human-in-the-Loop-, Human-on-the-Loop- und Human-in-Command-Ansätze erreicht werden können.

Technische Robustheit und Sicherheit: KI-Systeme müssen widerstandsfähig und sicher sein. Sie müssen sicher sein, einen Rückfallplan für den Fall, dass etwas schief geht, gewährleisten und genau, zuverlässig und reproduzierbar sein. Nur so kann sichergestellt werden, dass auch unbeabsichtigte Schäden minimiert und verhindert werden können.

Datenschutz und Datenverwaltung: Neben der Gewährleistung der uneingeschränkten Wahrung der Privatsphäre und des Datenschutzes müssen auch angemessene Data-Governance-Mechanismen gewährleistet sein, die der Qualität und Integrität der Daten Rechnung tragen und einen legitimierten Zugang zu den Daten gewährleisten.

Transparenz: Die Geschäftsmodelle für Daten, Systeme und KI sollten transparent sein. Rückverfolgbarkeitsmechanismen können dabei helfen. Darüber hinaus sollten die KI-Systeme und ihre Entscheidungen in einer Weise erläutert werden, die an die jeweiligen Interessengruppen angepasst ist. Der Mensch muss sich bewusst sein, dass er mit einem KI-System interagiert, und er muss über die Möglichkeiten und Grenzen des Systems informiert sein.

Vielfalt, Nichtdiskriminierung und Fairness: Unfaire Verzerrungen müssen vermieden werden, da sie mehrere negative Auswirkungen haben könnten, von der Marginalisierung gefährdeter Gruppen bis hin zur Verschärfung von Vorurteilen und Diskriminierung. Zur Förderung der Vielfalt sollten KI-Systeme für alle, unabhängig von einer Behinderung, zugänglich sein und relevante Interessengruppen während ihres gesamten Lebenszyklus einbeziehen.

Gesellschaftliches und ökologisches Wohlbefinden: KI-Systeme sollten allen Menschen zugute kommen, auch zukünftigen Generationen. Daher muss sichergestellt sein, dass sie nachhaltig und umweltfreundlich sind. Darüber hinaus sollten sie die Umwelt, einschließlich anderer Lebewesen, berücksichtigen, und ihre sozialen und gesellschaftlichen Auswirkungen sollten sorgfältig geprüft werden.

Verantwortlichkeit: Es sollten Mechanismen geschaffen werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse zu gewährleisten. Dabei spielt die Auditierbarkeit, die die Bewertung von Algorithmen, Daten und Designprozessen ermöglicht, eine Schlüsselrolle, insbesondere in kritischen Anwendungen. Darüber hinaus sollten angemessene und zugängliche Rechtsbehelfe gewährleistet sein.

Ethics guidelines for trustworthy AI