OpenAI weitet die Grenzen von ChatGPT aus: Ein geplanter Adult Mode soll erotische Textinhalte ermöglichen – ein strategisch kalkulierter Schritt unter Wettbewerbsdruck, der regulatorische Fallstricke und neue Fragen für Unternehmenskunden aufwirft.
OpenAI plant Adult-Modus für ChatGPT – vorerst nur Texte, keine Bilder
OpenAI beabsichtigt, ChatGPT um einen expliziten Textmodus zu erweitern, der erotische schriftliche Inhalte ermöglicht. Laut einem Bericht von The Verge soll der sogenannte Adult Mode zum Start auf textbasierte Inhalte beschränkt bleiben – die Generierung expliziter Bilder, Sprachausgaben oder Videos ist demnach zunächst nicht vorgesehen.
Eingeschränkter Start, strategische Öffnung
Der geplante Modus würde eine deutliche Lockerung der bisherigen Nutzungsrichtlinien darstellen. ChatGPT untersagte bislang explizit sexuell konnotierte Inhalte in nahezu allen Kontexten. Die nun angekündigte Änderung würde primär sogenannte Written Erotica ermöglichen – also literarische erotische Texte – ohne dabei in den Bereich pornografischer Medienproduktion vorzudringen.
Die Einschränkung auf rein textuelle Inhalte dürfte kein Zufall sein: Bild- und Videogeneration mit explizitem Inhalt wäre regulatorisch ungleich komplexer – insbesondere mit Blick auf den EU AI Act sowie nationale Jugendschutzgesetze in Deutschland und Österreich.
Marktdruck als Antrieb
Der Schritt folgt einem erkennbaren Wettbewerbsdruck. Plattformen wie Character.AI oder spezialisierte Anbieter im Adult-Content-Bereich verzeichnen substanzielle Nutzerzahlen, die OpenAI bislang nicht adressieren konnte. Zudem erlaubt Apple seit einer Anpassung seiner App-Store-Richtlinien unter bestimmten Bedingungen explizitere KI-Anwendungen – ein Signal, das die gesamte Branche registriert hat.
OpenAI verfolgt damit eine Strategie der kontrollierten Öffnung: Statt den gesamten Markt für Adult Content zu bedienen, wird zunächst ein klar abgegrenztes Segment erschlossen, das rechtlich und reputationsseitig kalkulierbarer ist.
Getrennte Produktlinien als Voraussetzung
Für die technische Umsetzung dürfte OpenAI auf eine strikte Segmentierung zwischen Consumer- und Enterprise-Produkten setzen. ChatGPT Enterprise sowie die API-Zugänge für Unternehmenskunden sind von der Änderung nach aktuellem Stand nicht betroffen. Die Differenzierung zwischen einem öffentlich zugänglichen Consumer-Produkt und Business-Lösungen mit definierten Content-Policies ist dabei kein neues Konzept – Microsoft etwa betreibt ähnliche Trennlinien bei seinen Copilot-Diensten.
Ob und wie Altersverifikation technisch sichergestellt wird, ist nach derzeitigem Informationsstand unklar. Gerade dieser Punkt dürfte in der EU einer der zentralen Stolpersteine sein, da die entsprechenden Anforderungen – etwa aus dem Digital Services Act – erhebliche Aufwände für Plattformbetreiber bedeuten.
Einordnung für deutsche Unternehmen
Für Unternehmenskunden in Deutschland ist die Entwicklung vorerst ohne unmittelbare Konsequenzen. Die ChatGPT-Business- und Enterprise-Produkte sowie die OpenAI API unterliegen weiterhin den bisherigen, restriktiveren Nutzungsbedingungen.
Compliance-Verantwortliche sollten dennoch die Anpassung der OpenAI-Nutzungsrichtlinien im Blick behalten:
- Wenn ein Anbieter seine Content-Policies grundlegend überarbeitet, empfiehlt sich eine Prüfung bestehender Verträge und interner KI-Nutzungsrichtlinien.
- Für Unternehmen, die eigene Anwendungen auf Basis der OpenAI-API entwickeln, bleibt entscheidend, auf welchen Modellversionen und unter welchen API-Bedingungen der neue Modus operieren wird – Details, die OpenAI bislang nicht kommuniziert hat.
Quelle: The Verge
