Please use this identifier to cite or link to this item:
https://hdl.handle.net/10419/334508 Year of Publication:
2025
Series/Report no.:
WIK Diskussionsbeitrag No. 546
Publisher:
WIK Wissenschaftliches Institut für Infrastruktur und Kommunikationsdienste, Bad Honnef
Abstract:
Die Studie untersucht die systemischen Ursachen, Verbreitungsmechanismen und Gegenstrategien von Desinformation auf Online-Plattformen. Jenseits der reinen Inhaltsprüfung analysiert sie, wie ökonomische Anreizstrukturen im Ad-Tech-Markt und engagement-basierte Algorithmen die Verbreitung polarisierender Inhalte systemisch begünstigen. Ein zentraler Befund ist, dass Desinformation keine zufällige Anomalie, sondern eine profitable Externalität der Aufmerksamkeitsökonomie darstellt. Das Geschäftsmodell der Plattformen priorisiert emotionalisierende Inhalte, während das intransparente Ökosystem der programmatischen Werbung unbeabsichtigt Desinformationsakteure refinanziert. Technologische Trends wie generative KI (inkl. Deepfakes, aber auch "AI Slop") und koordinierte Cross-Platform-Strategien verschärfen diese Dynamik durch sinkende Produktionskosten und Umgehung von Moderationsfiltern. Psychologisch wird die Anfälligkeit der Nutzer weniger durch Wissensdefizite als durch Mechanismen wie "Identity-Protective Motivated Reasoning" und den passiven "News-Finds-Me"-Effekt verstärkt, was reale Schäden bis hin zu stochastischem Terrorismus begünstigen kann. Hinsichtlich der Bekämpfungsstrategien zeigt die Evaluation von Ansätzen wie Prebunking, Friktion und Community Notes deren Grenzen bei Skalierbarkeit, Konsensfindung und möglichen Negativeffekten ("Skeptizismus-Paradoxon") auf. Im regulatorischen Teil kontrastiert die Arbeit das prozessorientierte, risikobasierte Modell des EU Digital Services Act (DSA) mit repressiven, inhaltszentrierten "Fake-News"-Gesetzen in anderen geopolitischen Kontexten. Abschließend leitet die Studie die Notwendigkeit ab, den Fokus von individueller Medienkompetenz auf strukturelle Eingriffe zu verlagern, um die Monetarisierung von Desinformation zu unterbinden und algorithmische Transparenz durchzusetzen.
Abstract (Translated):
The study examines the systemic causes, dissemination mechanisms, and counterstrategies of disinformation on online platforms. Beyond traditional fact-checking, it analyzes how economic incentive structures in the ad tech market and engagement-based algorithms systematically favor the dissemination of polarizing content. A key finding is that disinformation is not a random anomaly, but a profitable externality of the attention economy. The business model of platforms prioritizes emotional content, while the opaque ecosystem of programmatic advertising unintentionally refinances disinformation actors. Technological trends such as generative AI (including deepfakes, but also "AI slop") and coordinated cross-platform strategies exacerbate this dynamic by lowering production costs and circumventing moderation filters. Psychologically, users' vulnerability is reinforced less by knowledge deficits than by mechanisms such as "identity-protective motivated reasoning" and the passive "news finds me" effect, which can ultimately facilitate real damage, including stochastic terrorism. With regard to countermeasures, the evaluation of approaches such as prebunking, friction, and community notes reveals their limitations in terms of scalability, consensus building, and possible negative effects ("skepticism paradox"). In the regulatory section, the paper contrasts the process-oriented, risk-based model of the EU Digital Services Act (DSA) with repressive, content-focused "fake news" laws in other geopolitical contexts. Finally, the study concludes that it is necessary to shift the focus from individual media literacy to structural interventions in order to prevent the monetization of disinformation and enforce algorithmic transparency.
Document Type:
Working Paper
Files in This Item:
File
Description
Size
Format
Items in EconStor are protected by copyright, with all rights reserved, unless otherwise indicated.