Responsible News Recommender Systems (ReNewRS)
Fördern Empfehlungssysteme von Online-News gesellschaftliche Polarisierung oder gar Radikalisierung? Im Projekt wird der Einfluss algorithmischer Nachrichtenauswahl auf die gesellschaftliche Meinungsbildung untersucht.
Durch die vermehrte Nutzung von Online-Informationsquellen wird der Nachrichtenkonsum zunehmend von Empfehlungssystemen beeinflusst, die eine auf die Nutzer*in abgestimmte Nachrichtenauswahl kuratieren. Es wird kontrovers diskutiert, ob sich durch solche personalisierten Empfehlungen eine “Filterblase” herausbildet, die den Nutzer*innen einzig in seinen bereits vorherrschenden Ansichten bestärkt und widersprechende Informationen ausschließt. Infolgedessen stellt sich die Frage nach einer polarisierenden oder gar radikalisierenden Wirkung von Empfehlungssystemen in Online-Medien. Das Projekt untersucht in einer Reihe von Experimentalstudien das Auftreten von Filterblasen durch Nachrichten-Empfehlungssysteme und deren Auswirkungen auf die Meinungsbildung der Nutzer*innen.
Um Einblicke in die Thematik zu erhalten, die über einen einzelnen Anwendungsbereich hinausgehen, erfolgt das Projekt in interdisziplinärer Zusammenarbeit der Medien- und Kommunikationswissenschaft mit Data Science und Wirtschaftsinformatik. Während die Perspektive aus der Medien- und Kommunikationswissenschaft vorrangig die Basis für die Analyse des Nutzerverhaltens bietet, bedarf die technische Umsetzung einem tiefgreifenden Verständnis von daten- und computerwissenschaftlichen Methoden. Durch den Einsatz tatsächlich laufender Empfehlungssysteme kommt dem Projekt eine Pionierstellung im Bereich der Online-Medienwirkungsforschung zu.
Für das Treatment werden Themen identifiziert, die die klare Entscheidung für einen Standpunkt ermöglichen, um auftretende polarisierende Effekte messen zu können. Zu diesen Themen werden Artikelstichproben von Nachrichtenquellen ganz unterschiedlicher politischer Ausrichtung gezogen, über die anschließend unterschiedliche Versionen eines prototypischen Nachrichten-Empfehlungssystems laufen werden. Durch den Vergleich der Resultate unterschiedlicher Empfehlungsalgorithmen kann untersucht werden, ob und wie Nachrichtenempfehlungssysteme gestaltet werden müssen, um polarisierende Effekte möglichst zu vermeiden und eine ausgewogenere Meinungsbildung zu ermöglichen. Aus diesen Ergebnissen sollen Richtlinien für verantwortungsbewusste Nachrichten-Empfehlungssysteme abgeleitet werden.
Projektkonsortium
Prof. Dr. Heiko Paulheim (Universität Mannheim, Lehrstuhl für Data Science)
Dr. Philipp Müller (Universität Mannheim, Institut für Medien- und Kommunikationswissenschaft)
Prof. Dr. Harald Sack (FIZ Karlsruhe, Information Service Engineering)
Prof. Dr. Christof Weinhardt (KIT Karlsruhe, Information & Market Engineering)
Projektmitarbeiterin in der MKW
Drittmittelgeber
Baden-Württemberg-Stiftung, Programmlinie Verantwortliche Künstliche Intelligenz
Projektlaufzeit
August 2020 bis Februar 2023