„Wir wollen die schwarze Kiste öffnen“ – European New School forscht in Verbund-Projekt zu algorithmischen Systemen

Was steckt hinter Empfehlungen von YouTube, Facebook und Co. und wie können Nutzerinnen und Nutzer souverän damit umgehen? Diesen Fragen widmet sich das Verbundprojekt DataSkop der European New School of Digital Studies (ENS), der Universität Paderborn, der Fachhochschule Potsdam und des Vereins Mediale Pfade unter Leitung der gemeinnützigen Organisation AlgorithmWatch. ENS-Soziologe Prof. Dr. Jan-Hendrik Passoth erklärt, wie man mittels Datenspenden intransparente Entscheidungen verstehen will.  >>>weiterlesen

Herr Passoth, das Projekt DataSkop soll algorithmische Systeme transparenter machen. Was ist daran aus techniksoziologischer Sicht so interessant.
In unseren modernen Lebensverhältnissen spielen diese Systeme eine entscheidende Rolle. Sie sortieren, was wir kaufen und lesen sollen oder ob wir als kreditwürdig eingestuft werden – aber wir wissen oft nicht, wie sie das tun. Die Entscheidungen werden in schwarzen Kisten getroffen, deren Inneres der Debatte darüber nicht zugänglich ist. Zu wissen, wie die Systeme funktionieren, ist für demokratische Prozesse aber äußerst wichtig. Unser Anliegen ist es daher, die schwarzen Kisten zu öffnen und zu sehen, wie die Entscheidungen gestrickt sind.

Warum ist das so schwierig?
Es gibt kaum Zugang zu den Daten der Plattformen. Die Anbieter tun sehr viel, damit man nicht direkt nachvollziehen kann, wie sie funktionieren. Wir versuchen diesem Dilemma entgegen zu arbeiten und mit einer Datenspende-Plattform eine Infrastruktur für wissenschaftliche Forschungsarbeiten und journalistische Recherchen zu schaffen. Dafür rufen wir Nutzerinnen und Nutzer von Plattformen dazu auf, ihre Nutzungsdaten zu spenden.

Wie funktioniert das?
Wichtig ist, dass der Prozess der Datenspende transparent und erklärbar ist. Die einzelne spendewillige Person lädt sich eine Desktop-App oder ein kleines Zusatzprogramm für den Browser herunter und nutzt darüber beispielsweise ein Angebot wie Netflix oder Facebook. Sie bekommt darin z.B. ihre eigene Suchhistorie, Präferenzen und Reaktionen visualisiert und erfährt, was an ihren Daten eigentlich so interessant ist. Dann kann sie die Daten spenden – natürlich anonymisiert. Diese originären Plattform-Daten unterscheiden uns von Projekten mit ähnlichen Interessen, die synthetische Daten nutzen.

Welche Rolle spielt die European New School in dem Projekt?
Wir sind der erste Anwendungspartner und werden DataSkop für ein erstes sozialwissenschaftliches Projekt nutzen, in dem wir uns zunächst auf Vorschlagssysteme konzentrieren, die Plattformen wie Netflix, YouTube und Amazon nutzen. Zu solchen Systemen hab ich mit meinem Team bereits vor dem Wechsel an die Viadrina gearbeitet.

Was interessiert Sie an diesen Mechanismen?
Vorschlagsysteme wie die von Netflix, Youtube oder Instagram steht mitunter ordentlich in der Kritik, weil es äußerst undurchsichtig ist, welche Inhalte man dort vorgeschlagen bekommt; das folgt ja keinen redaktionellen Kriterien. Alles ist auf das Ziel ausgerichtet, die Nutzerin oder den Nutzer möglichst lange bei der Stange zu halten. Es gibt Studien, wie das zu Radikalisierung, Polarisierung und einem Abdriften ins Jugendgefährdende führen kann. Deren Datenlage ist aber oft recht dünn Eine umstrittene Theorie besteht in den bekannten Filterblasen. Wir hingegen gehen davon aus, dass es sich um komplexere Pfade handelt, dass vorgeschlagene Inhalte oder Produkte z.B. einer Autobahn, einem Trampelpfad oder auch einem Rundweg folgen. Genau das werden wir uns anschauen.

Weitere Informationen zum Projekt DataSkop
(FA)