GESIS Leibniz-Institut für Sozialwissenschaften: Homepage aufrufen

Artificial Intelligence without BIAS (NoBIAS)


Leitung
Prof. Dr. Claudia Wagner
Katharina Kinder-Kurlanda

Team
Antonio Ferrara

Projektbeschreibung

Künstliche Intelligenz (KI) basierende Systeme werden heutzutage häufig eingesetzt, um Entscheidungen zu treffen, die weitreichende Auswirkungen auf den Einzelnen und die Gesellschaft haben. Ihre Entscheidungen können jeden, überall und jederzeit betreffen und Risiken mit sich bringen, wie z. B. die Verweigerung eines Kredits, eines Jobs, einer medizinischen Behandlung oder einer bestimmten Nachricht. Unternehmen könnten Chancen verpassen, weil KI-gesteuerte Entscheidungen aufgrund von Voreingenommenheit unterdurchschnittlich ausfallen; viel schlimmer noch, sie könnten gegen die Menschenrechte verstoßen, wenn sie Menschen ungerecht behandeln.

Voreingenommenheit kann in allen Phasen von KI-basierten Entscheidungsprozessen auftreten: (i) wenn Daten gesammelt werden, (ii) wenn Algorithmen Daten in Entscheidungskapazitäten umwandeln, oder (iii) wenn die Ergebnisse der Entscheidungsfindung in Anwendungen genutzt werden. Daher ist es notwendig, über die traditionellen, auf Vorhersageleistung optimierten KI-Algorithmen hinauszugehen und ethische und rechtliche Prinzipien in das Training, das Design und den Einsatz von KI-Algorithmen einzubetten, um das soziale Wohl zu gewährleisten und dennoch vom Potenzial der KI zu profitieren.

Im NoBias Projekt sollen neuartige Methoden für KI-basierte Entscheidungsfindung ohne Voreingenommenheit entwickelt werden, indem ethische und rechtliche Überlegungen bei der Gestaltung technischer Lösungen berücksichtigt werden. Die Kernziele von NoBIAS sind, die rechtlichen, sozialen und technischen Herausforderungen von Voreingenommenheit in der KI-Entscheidungsfindung zu verstehen, ihnen durch die Entwicklung von fairnessbewussten Algorithmen entgegenzuwirken, KI-Ergebnisse automatisch zu erklären und den Gesamtprozess für Datenherkunft und Transparenz zu dokumentieren.

Das NoBias-Projekt wird eine Kohorte von 15 ESRs (Early-Stage Researchers) ausbilden, um Probleme mit Voreingenommenheit durch multidisziplinäres Training und Forschung in den Bereichen Informatik, Datenwissenschaft, maschinelles Lernen, Recht und Sozialwissenschaft anzugehen. Die ESRs werden praktisches Fachwissen in einer Vielzahl von Sektoren aus den Bereichen Telekommunikation, Finanzen, Marketing, Medien, Software und Rechtsberatung erwerben, um Rechtskonformität und Innovation auf breiter Basis zu fördern. Technische, interdisziplinäre und Soft-Skills werden ESRs einen Vorsprung in Richtung zukünftiger Führung in der Industrie, Wissenschaft oder Regierung geben.


Projektlaufzeit
01.01.2020 – 31.12.2023

Gefördert durch

Horizon 2020