Interne Sicherheitsberater von OpenAI haben einstimmig vor dem Launch expliziterer ChatGPT-Funktionen gewarnt – und wurden offenbar ignoriert. Der Vorfall wirft grundlegende Fragen zur KI-Governance des mächtigsten KI-Konzerns der Welt auf.
OpenAIs eigene Experten stimmten geschlossen gegen Start freizügiger ChatGPT-Funktionen
Warnungen ignoriert
Laut einem Bericht von Ars Technica haben Experten aus dem Bereich psychische Gesundheit, die OpenAI beratend unterstützen, geschlossen Einwände gegen den geplanten Launch neuer, expliziterer Konversationsfunktionen erhoben. Die Berater sollen dabei insbesondere auf Risiken im Zusammenhang mit suizidalen Tendenzen und dem Schutz Minderjähriger hingewiesen haben. Ihre Empfehlung lautete demnach eindeutig: kein Start unter den aktuellen Bedingungen.
Dass OpenAI dennoch an dem Vorhaben festhält, ist bemerkenswert – nicht zuletzt, weil das Unternehmen selbst stets betont, Sicherheitserwägungen in den Mittelpunkt seiner Produktentwicklung zu stellen.
Ausweitung von Adult-Content-Funktionen
Der konkrete Streitpunkt betrifft die geplante Erweiterung von ChatGPT um sogenannte „Naughty”-Funktionen – also Gesprächsmodi, die explizitere oder sexuell konnotierte Inhalte ermöglichen sollen. Solche Features sind im Markt für KI-Anwendungen nicht neu: Verschiedene spezialisierte Plattformen bieten derartige Interaktionen bereits an. OpenAI hatte sich bislang jedoch weitgehend zurückgehalten.
Die Risikobewertung der internen Berater soll sich dabei nicht nur auf direkte Schäden durch explizite Inhalte bezogen haben. Besonders besorgniserregend sei die Möglichkeit, dass verwundbare Nutzer – etwa Menschen in psychischen Krisen – über solche Konversationsmodi in gefährliche Interaktionen geraten könnten.
Governance-Fragen im Fokus
Der Vorfall reiht sich in eine Serie von Berichten ein, die OpenAIs interne Entscheidungsprozesse kritisch beleuchten. Immer wieder wird deutlich, dass externe und interne Sicherheitsempfehlungen zwar eingeholt, aber nicht zwingend umgesetzt werden.
Das Unternehmen befindet sich in einem strukturellen Spannungsfeld: einerseits der öffentlich kommunizierte Anspruch auf verantwortungsvollen KI-Einsatz, andererseits der kommerzielle Druck, neue Nutzergruppen und Märkte zu erschließen.
Für Aufsichtsbehörden und politische Entscheidungsträger – besonders in der EU, wo der AI Act bereits in Kraft ist – liefern solche Berichte konkreten Anlass, die Frage nach verbindlichen Mechanismen für Safety-Reviews schärfer zu stellen. Wenn unternehmensinterne Beratungsprozesse offenbar keine bindende Wirkung entfalten, stellt sich die Frage nach externer Aufsicht mit größerer Dringlichkeit.
Kinderschutz als rote Linie
Besonders heikel ist der Aspekt des Kinderschutzes. Sobald Plattformen explizitere Inhalte zulassen, steigen die Anforderungen an Altersverifikation und Zugangskontrolle erheblich. Ob OpenAI hier robuste technische und rechtliche Sicherheitsmechanismen implementiert hat, bleibt nach aktuellem Stand unklar. Die Berater sollen genau diesen Punkt als unzureichend gelöst bewertet haben.
Für deutsche Unternehmen, die ChatGPT oder ähnliche Large Language Models in ihre Prozesse integrieren oder als Plattform nutzen, sind solche Berichte ein klares Signal: Die Governance-Strukturen des Anbieters sind Teil des eigenen Risikomanagements. Wer KI-Dienste einsetzt, sollte nicht nur technische Sicherheitsmerkmale prüfen, sondern auch beobachten, wie der Anbieter mit internen Sicherheitshinweisen umgeht. Im Rahmen des AI Acts gelten für bestimmte Hochrisiko-Anwendungen ohnehin eigene Dokumentations- und Sorgfaltspflichten – unabhängig davon, was der Modell-Hersteller im eigenen Haus entscheidet.
Quelle: Ars Technica
