Bewertung von Risiken und Fortschritt in digitalen Gesellschaften

Wir leben in digitalen Gesellschaften, in denen soziale Interaktionen zunehmend online auf sehr großen Online-Plattformen – wie Online-Marktplätzen, sozialen Netzwerken, sozialen Medien und Content-Sharing-Plattformen – stattfinden. Diese werden zunehmend durch KI – wie Such-, Empfehlungs-, Moderations- und Matching-Algorithmen – gestützt. Die Chancen und Risiken dieser Plattformen haben eine große gesellschaftliche Tragweite, was die Europäische Union zur Verabschiedung des Gesetzes über digitale Dienste (DGG) veranlasste. Um sichere digitale Räume zu schaffen, schreibt das DGG vor, dass sehr große Online-Plattformen – also solche, deren aktive Nutzer in der EU mehr als 10 % der EU-Bevölkerung betragen – im Hinblick auf systemische Risiken untersucht werden.

Das Spektrum dieser systemischen Risiken ist breit und reicht von Bedrohungen, welche die Ausübung von Grundrechten, den öffentlichen Diskurs, Wahlprozesse oder die öffentliche Sicherheit und Gesundheit beeinträchtigen, bis hin zu solchen, die mit geschlechtsspezifischer Gewalt, dem Gesundheitswesen oder auch der physischen und psychischen Gesundheit der Bürger, insbesondere derjenigen von Minderjährigen, in Zusammenhang stehen. Ein besonderer Schwerpunkt des DGG liegt auf der Bewertung und Minderung von Risiken, die sich aus dem Einsatz von KI sowie algorithmischer Interpolation auf diesen Plattformen ergeben. Aus diesem Grund enthält das DGG Transparenzbestimmungen, welche die Plattformen verpflichten, ausgewiesenen Forschern Zugang zu den für die Risikobewertung erforderlichen Daten zu gewähren. In der Praxis bleiben jedoch viele Plattformen zu intransparent und gewähren Forschern keinen Zugriff auf Daten, die eine aussagekräftige und zeitnahe Einschätzung der Risiken gestatten würde [1].

Wissenschaftlicher Ansatz

Wir untersuchen einen alternativen bürgerwissenschaftlichen Ansatz, um von den Plattformen Daten über die durch sie vermittelten gesellschaftlichen Interaktionen zu erhalten. Die zentrale Idee besteht darin, Bürger der EU dazu zu ermutigen, auf sehr großen Online-Plattformen von ihrem in der DSGVO verankerten Recht auf Datenzugriff Gebrauch zu machen und ihre Daten für den Aufbau einer Internet-Beobachtungsstelle zu spenden, um die Forschung bei der Bewertung systemischer Risiken zu unterstützen. Die Konzeption und Nutzung der Daten in einer solchen Beobachtungsstelle bringt eine Reihe von Herausforderungen mit sich, die von der Rekrutierung und dem Anreiz zur Bildung eines für die Bevölkerung auf nationaler oder EU-Ebene repräsentativen Bürgerpanels bis hin zur effizienten Analyse gespendeter Daten in großem Umfang unter Wahrung der Privatsphäre der Datenspender reichen.  

Proof-of-Concept-Studien zu „TikTok“

Um das Potenzial unseres Ansatzes besser nachvollziehen zu können, rekrutierten wir mehrere hundert Nutzer der Plattform TikTok und stellten deren Daten für unsere Beobachtungsstelle zur Verfügung. Dieser Datensatz enthielt detaillierte Informationen über die Nutzerfeeds, das heißt die den einzelnen Nutzern empfohlenen TikTok-Videos sowie deren Interaktion damit. In Anbetracht der Sensibilität dieser Daten im Hinblick auf den Schutz der Privatsphäre haben wir die Datenspender um ihre Einwilligung gebeten, ihre Daten ausschließlich zum Zweck der Bewertung systemischer Risiken, die von den algorithmischen Empfehlungen von TikTok ausgehen, verarbeiten zu dürfen. In einer Reihe von Studien untersuchten wir erstens die Personalisierung von TikTok-Feeds, also ob die empfohlenen Videos personalisiert sind und welche Faktoren zur Personalisierung beitragen [2], zweitens die Entwicklung der Nutzerinteraktion im Hinblick auf Videoempfehlungen im Zeitverlauf [3] und drittens das Potenzial für Verhaltenssucht bei Nutzung der Plattform TikTok [2]. 

Unter Verhaltenssucht versteht man den Zwang, ein bestimmtes Verhalten an den Tag zu legen, obwohl dieses Verhalten zu erheblichen Beeinträchtigungen oder Belastungen in verschiedenen Lebensbereichen der oder des Betroffenen führt. Im Regelwerk des DGG ist Verhaltenssucht als potenzielles systemisches Risiko aufgeführt. Wir wandten eine neuartige, kombinierte Methodik an, bei der wir Umfrageantworten mit Datenspenden von TikTok-Nutzungsmustern verknüpften, um unsere 107 Studienteilnehmer und -teilnehmerinnen in drei Gruppen einzuteilen (geringes/moderates/hohes Suchtrisiko). Unsere Ergebnisse sind zwar von begrenztem Umfang, deuten aber auf ein verhältnismäßig hohes Risiko für Verhaltenssucht auf TikTok hin: 27 % aller Teilnehmenden und 39 % der Teilnehmenden in der Altersgruppe der 18- bis 24-Jährigen weisen ein hohes Suchtrisiko auf, da sie TikTok zu jeder Tageszeit wiederholt nutzen.  Wir stellten jedoch auch fest, dass die Nutzung allein keine Suchtprognose zulässt. 

Signifikanz

Unsere ersten Studien validieren unseren Ansatz zum Aufbau einer nationalen oder europäischen Internet-Beobachtungsstelle auf Basis von Bürgerdatenspenden und veranschaulichen das Potenzial für die Nutzung entsprechender Daten zur Bewertung systemischer Risiken auf sehr großen Online-Plattformen. Derzeit bauen wir unsere Studien in zweierlei Hinsicht aus: Erstens erweitern wir unsere Beobachtungsstelle um Daten aller von der Europäischen Kommission als sehr groß eingestuften Online-Plattformen (mit Stand vom 05.12.2025 gibt es 20 solcher Plattformen), einschließlich neuer generativer KI-Plattformen wie ChatGPT. Und zweitens planen wir, ein Spenderpanel mit mehreren Tausend Nutzern in Deutschland aufzubauen, das die Bevölkerung des Landes besser repräsentiert. 

Wir gehen davon aus, dass die Daten einer solchen nationalen Internet-Beobachtungsstelle nicht nur zu einer besseren Regulierung von Online-Plattformen beitragen, sondern auch staatliche Statistikbehörden in deren Bestreben unterstützen könnten, Fortschritte und gesellschaftliches Wohlergehen in digitalisierten Volkswirtschaften besser zu erfassen [4]. Derzeit arbeiten wir mit einem Netzwerk von Forschenden der Max-Planck-Gesellschaft, der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau, der Universität des Saarlandes und des GESIS-Leibniz-Instituts für Sozialwissenschaften zusammen, um die Beobachtungsstelle aufzubauen.

Literaturhinweise