Die Digitalisierung der Gesellschaft bringt einen Strukturwandel der Öffentlichkeit und des Privaten hervor, in dem Algorithmen eine entscheidende Rolle spielen – und das ist ganz wörtlich zu nehmen. Wir alle agieren in und mit soziotechnischen Systemen wie sozialen Medien, Suchmaschinen, Kauf-, Bewerbungs-, Informationsplattformen u.v.m. In diesen Systemen entscheiden maßgeblich Algorithmen welche Inhalte, Gruppen, Personen oder Institutionen wir präsentiert bekommen, uns vorgeschlagen werden und wie diese priorisiert werden. Algorithmen nutzen dabei oft das Nutzungsverhalten selbst als Ausgangsbasis und schaffen so eine komplexe rekursive Interaktion zwischen der Wirkweise des Algorithmus und menschlichem Verhalten und Erleben. Auf diese Weise entfalten künstliche Intelligenz, Algorithmen und automatisierte Prozesse Dynamiken, die für die Benutzenden nicht erkennbar sind und doch soziale Strukturen schaffen, die unser individuelles Leben und die Gesellschaft als Ganzes substanziell beeinflussen. Ob die Folgen dieses Einflusses wünschenswert sind oder nicht, kann nur diskutiert und bewertet werden, wenn wir wissen, wie genau digitale Technologien, das Web und die darin verwendeten Algorithmen gesellschaftliche Strukturen formen.
GESIS erforscht deshalb die Mechanismen soziotechnischer Systeme, um den sozialen Wandel, den sie bewirken, verstehen zu können und die Basis für informierte und „gute“ Entscheidungen zu verbessern. Wir tun dies durch die Erhebung digitaler Verhaltensdaten entlang gesellschaftlicher Fragestellungen, die Durchführung von Online-Experimenten zur Analyse von Verhaltensmustern und ihrer Beeinflussbarkeit in digitalen Umgebungen sowie die Entwicklung analytischer Tools. Eines der drängendsten gesellschaftlichen Probleme ist Ungleichheit. Algorithmen können bestehende soziale Ungleichheit verstärken oder selbst Verzerrungen und Diskriminierung verursachen. Wir erforschen, wie solche Verzerrungen (z.B. gender bias) konkret zustande kommen und wie andererseits Algorithmen und KI genutzt werden könnten, um struktureller Ungleichheit und Ungerechtigkeit oder Fehlinformation entgegenzuwirken.
Erfahren Sie mehr über unsere Beratungsangebote und Serviceleistungen:
-
Analyse Digitaler Verhaltensdaten
Methoden, Tools, Frameworks und Infrastruktur für die Analyse digitaler Verhaltensdaten.
-
CSS Capacity Building
Vorträge, Tutorials, Materialien zu computerbasierten Methoden für die Erhebung, Verarbeitung und Analyse digitaler Verhaltensdaten.
-
Digitale Verhaltensdaten: Datensätze
Digitale Verhaltensdaten – kuratierte Datensätze.
- Ulloa, Roberto, Ana Carolina Richter, Mykola Makhortykh, Aleksandra Urman, and Celina Kacperski. 2022. "Representativeness and face-ism: Gender bias in image search." New Media & Society online first. doi: https://doi.org/10.1177/14614448221100699.
- Ulloa, Roberto, Mykola Makhortykh, and Aleksandra Urman. 2022. "Scaling up search engine audits: Practical insights for algorithm auditing." Journal of Information Science onlinr first. doi: https://doi.org/10.1177/01655515221093029.
- Hagen, Lutz M., Mareike Wieland, and Anne-Marie In der Au. 2017. "Algorithmischer Strukturwandel Der Öffentlichkeit: Wie Die Automatische Selektion Im Social Web Die Politische Kommunikation verändert Und Welche Gefahren Dies Birgt." MedienJournal 41 (2): 127-143. doi: https://doi.org/10.24989/medienjournal.v41i2.1476.
- Wieland, Mareike, Gerret von Nordheim, and Katharina Kleinen-von Königslöw. 2021. "One recommender fits all? An exploration of user satisfaction with text-based news recommender systems. ." Media and Communication 9 (4): 208-221. doi: https://doi.org/10.17645/mac.v9i4.4241.
- Strohmaier, Markus, Lukas Moldon, and Johannes Wachs. 2021. "How Gamification Affects Software Developers: Cautionary Evidence from a Natural Experiment on GitHub." In 43rd IEEE/ACM International Conference on Software Engineering, ICSE 2021, Madrid, Spain, 22-30 May 2021, 549-561. IEEE Computer Society. doi: https://doi.org/10.1109/ICSE43902.2021.00058.
Titel | Start | Ende | Förderer |
---|---|---|---|
Political polarization and individualized online information environments: A longitudinal tracking study
(POLTRACK)
|
2022-01-01 | 2025-08-30 | SAW (Leibniz) |
NFDI for Data Science and Artificial Intelligence
(NFDI4DS)
|
2021-10-01 | 2026-09-30 | DFG |
Dehumanization Online: Measurement and Consequences (Professorinnenprogramm)
(DeHum)
|
2021-01-01 | 2026-09-30 | SAW (Leibniz) |
Artificial Intelligence without BIAS
(NoBIAS)
|
2020-01-01 | 2023-12-31 | Horizon 2020 |
Inequality research
(Inequality)
The emergence of inequality in social systems |
2017-02-01 | 2022-02-28 | Stiftung |