Metas eigenes Aufsichtsgremium stellt dem Community-Notes-System ein schlechtes Zeugnis aus: Gegen KI-generierte Desinformation ist der crowdbasierte Ansatz strukturell überfordert – mit weitreichenden Folgen für Plattformregulierung und Unternehmenskommunikation.
Metas Oversight Board warnt: Community Notes sind kein ausreichendes Mittel gegen KI-Desinformation
Das Oversight Board – Metas unabhängiges Aufsichtsgremium – hat in einem aktuellen Bericht erhebliche Zweifel an der Wirksamkeit des Community-Notes-Systems im Umgang mit KI-generierten Falschinformationen geäußert. Das Gremium kommt zu dem Schluss, dass der crowdbasierte Ansatz strukturelle Schwächen aufweist, die gerade bei synthetisch erzeugten Inhalten deutlich zum Tragen kommen.
Crowdsourcing stößt an seine Grenzen
Das Community-Notes-System, das Meta nach dem Vorbild von X (ehemals Twitter) auf Facebook und Instagram eingeführt hat, setzt darauf, dass Nutzer irreführende Inhalte kennzeichnen und mit erklärenden Hinweisen versehen. Bei klassischen Falschbehauptungen mit klarem Faktenbezug funktioniert das Prinzip noch vergleichsweise zuverlässig. Bei KI-generierten Inhalten jedoch – täuschend echte Bilder, synthetische Audioclips oder maschinell verfasste Texte in großem Maßstab – stoße das Modell an seine Grenzen.
Das Oversight Board benennt zwei zentrale Schwachstellen:
„Community Notes reagieren zu langsam, um die Verbreitungsgeschwindigkeit synthetischer Desinformation einzuholen. Bis eine Notiz konsensfähig ist, hat ein Inhalt oft bereits erhebliche Reichweite erzielt.”
Hinzu kommt das Problem der Erkennbarkeit: Nicht geschulte Nutzer sind häufig schlicht nicht in der Lage, KI-generierte Inhalte zuverlässig als solche zu identifizieren – eine Grundvoraussetzung dafür, dass das System überhaupt greift.
Systemische Kritik am Moderationsansatz
Das Oversight Board fordert von Meta weitergehende Maßnahmen:
- Verbesserte technische Erkennungssysteme für KI-generierte Inhalte
- Klarere Kennzeichnungspflichten für synthetische Medien
- Eine grundlegende Neubewertung des Moderationsmodells im Bereich KI-Desinformation
Implizit kritisiert das Gremium damit den Anfang 2025 vollzogenen Schritt, professionelle Fact-Checker zugunsten des Community-Notes-Modells abzuschaffen. Mark Zuckerberg hatte diesen Wandel mit dem Ziel einer stärkeren Ausrichtung auf Meinungsfreiheit begründet – das Oversight Board stellt nun fest, dass diese Lücke durch ehrenamtliche Nutzerbeiträge allein nicht zu schließen ist.
Regulatorischer Druck aus Brüssel wächst
Der Bericht hat über Metas interne Spannungen hinaus auch regulatorische Relevanz. Der Digital Services Act (DSA) verpflichtet sehr große Plattformen, systemische Risiken durch Desinformation aktiv zu minimieren. Sollte die EU-Kommission zu dem Schluss kommen, dass Community Notes als alleiniges Instrument diese Anforderungen nicht erfüllen, drohen Meta empfindliche Bußgelder.
Für Unternehmen, die soziale Netzwerke als Kommunikations- und Vertriebskanal nutzen, ergibt sich eine klare praktische Konsequenz: Die Verlässlichkeit plattformseitiger Moderation nimmt ab.
Wer auf Meta-Plattformen aktiv ist, sollte eigene Monitoring-Kapazitäten für KI-generierte Falschinformationen aufbauen – und nicht länger darauf vertrauen, dass die Plattform solche Inhalte zeitnah und zuverlässig entfernt.
Quelle: The Decoder
