NoBias – Artificial Intelligence without bias

Bias Mitigation in Ranking methods – project GESIS-2

Bearbeitung: Antonio Ferrara
Leitung: Prof. Claudia Wagner, Dr. Fariba Karimi (in Abwesenheit von Prof. Wagner)
Wissenschaftlicher Arbeitsbereich: Computational Social Science - Artificial intelligence

Projektbeschreibung

Künstliche Intelligenz (KI) basierende Systeme werden heutzutage häufig eingesetzt, um Entscheidungen zu treffen, die weitreichende Auswirkungen auf den Einzelnen und die Gesellschaft haben. Ihre Entscheidungen können jeden, überall und jederzeit betreffen und Risiken mit sich bringen, wie z. B. die Verweigerung eines Kredits, eines Jobs, einer medizinischen Behandlung oder einer bestimmten Nachricht. Unternehmen könnten Chancen verpassen, weil KI-gesteuerte Entscheidungen aufgrund von Voreingenommenheit unterdurchschnittlich ausfallen; viel schlimmer noch, sie könnten gegen die Menschenrechte verstoßen, wenn sie Menschen ungerecht behandeln.

Voreingenommenheit kann in allen Phasen von KI-basierten Entscheidungsprozessen auftreten: (i) wenn Daten gesammelt werden, (ii) wenn Algorithmen Daten in Entscheidungskapazitäten umwandeln, oder (iii) wenn die Ergebnisse der Entscheidungsfindung in Anwendungen genutzt werden. Daher ist es notwendig, über die traditionellen, auf Vorhersageleistung optimierten KI-Algorithmen hinauszugehen und ethische und rechtliche Prinzipien in das Training, das Design und den Einsatz von KI-Algorithmen einzubetten, um das soziale Wohl zu gewährleisten und dennoch vom Potenzial der KI zu profitieren.

Im NoBias Projekt sollen neuartige Methoden für KI-basierte Entscheidungsfindung ohne Voreingenommenheit entwickelt werden, indem ethische und rechtliche Überlegungen bei der Gestaltung technischer Lösungen berücksichtigt werden. Die Kernziele von NoBIAS sind, die rechtlichen, sozialen und technischen Herausforderungen von Voreingenommenheit in der KI-Entscheidungsfindung zu verstehen, ihnen durch die Entwicklung von fairnessbewussten Algorithmen entgegenzuwirken, KI-Ergebnisse automatisch zu erklären und den Gesamtprozess für Datenherkunft und Transparenz zu dokumentieren.

Das NoBias-Projekt wird eine Kohorte von 15 ESRs (Early-Stage Researchers) ausbilden, um Probleme mit Voreingenommenheit durch multidisziplinäres Training und Forschung in den Bereichen Informatik, Datenwissenschaft, maschinelles Lernen, Recht und Sozialwissenschaft anzugehen. Die ESRs werden praktisches Fachwissen in einer Vielzahl von Sektoren aus den Bereichen Telekommunikation, Finanzen, Marketing, Medien, Software und Rechtsberatung erwerben, um Rechtskonformität und Innovation auf breiter Basis zu fördern. Technische, interdisziplinäre und Soft-Skills werden ESRs einen Vorsprung in Richtung zukünftiger Führung in der Industrie, Wissenschaft oder Regierung geben.

Projektlaufzeit

01.01.2020 – 31.12.2023

Gefördert durch

The project is founded by European Union´s Horizon 2020 research and innovation programme under the Marie Sklodowska-Curie grant agreement no. 860630

 

Partner

Leibniz University Hannover, L3S Research Center (LUH – L3S)

  • Prof. Eirini Ntoutsi
  • Prof. Wolfgang Nejdl
  • Prof. Maria-Esther Vidal
  • Prof. Sören Auer
  • Dr. Pavlos Fafalios

 

Leibniz University Hannover, Institute for Legal Informatics (LUH – IRI)

  • Prof. Dr. Christian Heinze
  • Prof. Dr. Tina Krügel

 

GESIS-Leibniz Institute for the Social Sciences (GESIS)

  • Prof. Dr. Claudia Wagner
  • Dr. Katharina Kinder Kurlanda
  • Prof. Alexia Katsanidou
  • Dr. Fariba Karimi

 

SCHUFA Holding AG, Innovation and Strategic Analysis (SCHUFA)

  • Dr. Klaus Broelemann
  • Dr. Gjergji Kasneci

 

Centre for Research and Technology Hellas, Information Technologies Institute (CERTH)

  • Yiannis Kompatsiaris
  • Dr. Spiros Nikolopoulos
  • Dr. Symeon Papadopoulos

 

Università di Pisa, Knowledge Discovery from Data Laboratory (UNIPI)

  • Prof. Salvatore Ruggieri
  • Prof. Franco Turini
  • Prof. Dino Pedreschi

 

Open University, Knowledge Media Institute (OU)

  • Prof. Dr. Harith Alani
  • Dr. Miriam Fernandez

 

University of Southampton, Electronics and Computer Science (SOTON – ECS)

  • Prof Dame Wendy Hall
  • Dr Thanassis Tiropanis
  • Prof. Dr. Steffen Staab