Metas eigenes Aufsichtsgremium schlägt Alarm: Das Community-Notes-System, das klassische Faktenchecks ersetzen soll, ist strukturell nicht in der Lage, mit dem Tempo und der Komplexität KI-generierter Desinformation mitzuhalten – mit direkten Konsequenzen für Unternehmen und ihre Markenkommunikation.
Metas Oversight Board: Community Notes nicht geeignet zur Bekämpfung von KI-Desinformation
Das unabhängige Aufsichtsgremium von Meta hat ernsthafte Bedenken gegen die geplante weltweite Ausweitung von Community Notes geäußert. In einem aktuellen Bericht kommt das sogenannte Oversight Board zu dem Schluss, dass das System strukturell überfordert ist – insbesondere angesichts der wachsenden Menge KI-generierter Falschinformationen. In einigen Ländern empfiehlt das Gremium, das Programm gar nicht erst einzuführen.
System zu langsam, zu dünn besetzt
Community Notes – das von X (ehemals Twitter) übernommene Modell, bei dem Nutzer irreführende Beiträge mit kontextuellen Hinweisen versehen – funktioniert nach einem Konsensprinzip: Eine Anmerkung wird nur angezeigt, wenn sie von Nutzern unterschiedlicher politischer Hintergründe als hilfreich bewertet wird. Das Verfahren gilt als manipulationsresistenter als herkömmliche Moderationsansätze, ist aber zeitintensiv.
Genau hier liegt das Problem. Laut dem Oversight Board dauert es häufig zu lange, bis ein Hinweis die nötige Übereinstimmung erreicht und sichtbar wird.
Desinformative Inhalte – besonders solche, die viral gehen – können in dieser Zeitspanne bereits erheblichen Schaden anrichten.
In Regionen mit geringer Nutzerbasis und eingeschränkter sprachlicher Abdeckung verschärft sich das Problem: Schlicht zu wenige Nutzer sind vorhanden, um das Konsensprinzip zuverlässig zu betreiben.
KI-generierte Inhalte als besondere Herausforderung
Das Gremium hebt ausdrücklich hervor, dass KI-generierte Desinformation – darunter synthetisch erzeugte Bilder, Videos und Texte – das Community-Notes-System vor qualitativ neue Anforderungen stellt. Die Überprüfung solcher Inhalte erfordert technisches Fachwissen, das bei durchschnittlichen Nutzern nicht vorausgesetzt werden kann.
Gleichzeitig ermöglichen generative KI-Werkzeuge die Produktion täuschend echter Falschinhalte in einem Tempo und Volumen, das manuelle Nutzerkorrekturen strukturell übersteigt.
Ein System, das auf koordinierter Nutzerbewertung basiert, ist anfällig für organisierte Gruppen, die gezielt versuchen, bestimmte Hinweise zu unterdrücken oder zu fördern.
Das Oversight Board weist darauf hin, dass dieser Angriffspunkt bei politisch motivierten Akteuren bekannt ist und aktiv genutzt wird.
Empfehlungen des Oversight Board
Das Gremium fordert Meta konkret auf:
- Schwellenwerte für Nutzerdichte festzulegen, bevor das System in weiteren Märkten ausgerollt wird
- Technische Mechanismen zu entwickeln, die KI-generierten Content gesondert kennzeichnen und priorisiert behandeln
- In Ländern ohne tragfähige Nutzerbasis oder sprachliche Infrastruktur von einer Einführung abzusehen
Meta hatte das Community-Notes-Modell Anfang 2025 als Ersatz für sein bisheriges Drittanbieter-Faktenchecker-Programm angekündigt – eine Entscheidung, die bereits damals für erhebliche Kritik gesorgt hatte. Das Unternehmen begründete den Schritt mit einer stärkeren Einbindung der Nutzergemeinschaft und weniger redaktioneller Einflussnahme.
Einordnung für deutsche Unternehmen
Für Unternehmen, die ihre Markenkommunikation auf Meta-Plattformen betreiben, hat die Warnung des Oversight Boards praktische Konsequenzen. Falschinformationen – etwa gefälschte Produktaussagen, manipulierte Preisvergleiche oder synthetisch erzeugte CEO-Aussagen – können durch das Community-Notes-System künftig langsamer oder gar nicht korrigiert werden als bisher.
Unternehmen sollten daher:
- Eigene Monitoring-Prozesse für ihre Präsenz auf sozialen Plattformen stärken
- Nicht darauf vertrauen, dass plattformseitige Mechanismen Desinformation zuverlässig und zeitnah erkennen
- Den Bericht als Argument gegenüber Behörden und Partnern nutzen, um robustere Moderationsstandards einzufordern
Der Bericht des Oversight Boards liefert handfeste Argumente für Unternehmen, die im Kontext des EU Digital Services Act regulatorisch abgesicherte Moderationsstandards begründen wollen – ein Aspekt, der zunehmend an politischem Gewicht gewinnt.
