Sam Altman hat sich erstmals öffentlich zu den zahlreichen Abgängen von Safety-Forschern bei OpenAI geäußert – und seine Erklärung wirft mehr Fragen auf, als sie beantwortet.
OpenAI und KI-Safety: Sam Altman erklärt den Abgang der Forscher
Sam Altman hat in einem ausführlichen Porträt des Magazins The New Yorker öffentlich Stellung bezogen, warum in den vergangenen Jahren zahlreiche Safety-Forscher OpenAI verlassen haben. Seine Erklärung fällt knapp aus: Die Unternehmenskultur und die Haltung der Forscher hätten schlicht nicht zusammengepasst.
„Die Vibes passten nicht”
Altman beschreibt den Abgang mehrerer bekannter KI-Sicherheitsexperten mit einer ungewöhnlich informellen Begründung: Die Atmosphäre bei OpenAI passe nicht zum „traditionellen KI-Safety-Kram”, wie er es formuliert. Damit bestätigt er indirekt, was Beobachter der Branche seit Längerem vermuten – dass OpenAI unter seiner Führung einen anderen Begriff von Sicherheit entwickelt hat als jenen, den klassische Alignment-Forschung vertritt.
„Die Vibes passten nicht zum traditionellen KI-Safety-Kram.” – Sam Altman, The New Yorker
Der Kontrast zur Unternehmensgeschichte ist dabei bemerkenswert. OpenAI war 2015 unter anderem mit dem Versprechen gegründet worden, KI-Entwicklung besonders verantwortungsvoll zu betreiben. 2019 entschied sich das Unternehmen, das Sprachmodell GPT-2 zunächst nur schrittweise zu veröffentlichen – damals begründet mit potenziellen Missbrauchsrisiken. Heute stellt OpenAI Modelle kostenlos bereit und expandiert aggressiv in den Verbrauchermarkt.
Personalfluktuation als strategisches Signal
Die Liste der Safety-Forscher, die OpenAI verlassen haben, ist lang. Ilya Sutskever, Mitgründer und lange Zeit leitender Wissenschaftler, schied ebenso aus wie Jan Leike, der die Alignment-Abteilung des Unternehmens leitete. Leike äußerte sich beim Abgang ungewöhnlich offen und kritisierte, dass Sicherheitskultur hinter Produktentwicklung zurückgetreten sei.
Altmans Antwort im New Yorker liefert nun eine Art nachträgliche Unternehmensposition zu diesen Abgängen: Es handelte sich demnach weniger um inhaltliche Konflikte als um eine kulturelle Passfrage.
Diese Deutung ist nicht unumstritten: Kritiker aus der Forschungsgemeinschaft sehen darin eine Verharmlosung struktureller Spannungen.
Wer entscheidet, welche Sicherheitsanforderungen legitim sind und welche lediglich schlechte „Vibes” darstellen – diese Frage bleibt in Altmans Darstellung offen.
Neudefinition von Safety im Wettbewerbskontext
OpenAIs Positionierung lässt sich nicht losgelöst vom Wettbewerbsdruck betrachten. Mit Anthropic, Google DeepMind und einer wachsenden Zahl chinesischer Anbieter konkurriert das Unternehmen auf mehreren Ebenen gleichzeitig. In diesem Umfeld hat sich der Begriff „KI-Sicherheit” bei OpenAI offenbar verschoben: weg von langfristigen Alignment-Fragen, hin zu operativer Zuverlässigkeit, Missbrauchsprävention und regulatorischer Compliance.
Das ist keine rein akademische Debatte. Unternehmen, die OpenAI-Modelle in kritischen Prozessen einsetzen, orientieren sich an den Safety-Versprechen des Anbieters. Wenn sich deren Inhalt verändert, betrifft das unmittelbar Risikobewertungen, Compliance-Anforderungen und Lieferantenentscheidungen.
Einordnung für deutsche Unternehmen
Für Entscheider in Deutschland, die KI-Systeme von OpenAI oder vergleichbaren Anbietern einsetzen oder evaluieren, ist Altmans Aussage ein Signal, das ernst genommen werden sollte.
Der EU AI Act verlangt von Unternehmen eine eigenständige Risikobewertung ihrer KI-Systeme – unabhängig davon, welche Safety-Narrative der jeweilige Anbieter pflegt.
Wer sich bei der Risikoabschätzung allein auf die Selbstdarstellung eines Anbieters stützt, läuft Gefahr, regulatorische und operative Risiken zu unterschätzen. Eine eigene, strukturierte Due-Diligence bleibt unerlässlich.
