Google DeepMind und das britische KI-Sicherheitsinstitut bauen ihre Zusammenarbeit aus – mit dem Ziel, verlässliche Bewertungsstandards für leistungsfähige KI-Modelle zu schaffen. Was steckt hinter der Partnerschaft, und was bedeutet sie für Unternehmen in Deutschland?
Google DeepMind und britisches KI-Sicherheitsinstitut intensivieren Zusammenarbeit
Google DeepMind und das UK AI Security Institute (AISI) haben ihre Sicherheitspartnerschaft ausgebaut. Im Mittelpunkt steht eine engere Zusammenarbeit bei der Erforschung von KI-Risiken und der Entwicklung von Evaluierungsmethoden für Large Language Models und andere KI-Systeme.
Gemeinsame Forschung an KI-Sicherheitsstandards
Die Kooperation zwischen DeepMind und dem britischen AISI zielt darauf ab, systematische Methoden zur Bewertung potenzieller Risiken fortgeschrittener KI-Modelle zu entwickeln. Das AISI, das dem britischen Department for Science, Innovation and Technology untersteht, wurde 2023 als eine der ersten staatlichen Einrichtungen weltweit gegründet, die sich explizit mit der Sicherheitsbewertung von Frontier-Modellen befasst.
Die Partnerschaft sieht vor, dass DeepMind dem Institut frühzeitigen Zugang zu neuen Modellen gewährt, bevor diese öffentlich verfügbar sind – ein Ansatz, der auch im Rahmen des britischen AI Safety Summits vereinbart wurde.
Evaluierungsmethoden im Fokus
Ein zentrales Element der Zusammenarbeit ist die Entwicklung robuster Evaluierungsverfahren, sogenannter Evals. Diese Tests sollen gefährliche Fähigkeiten von KI-Modellen identifizieren – etwa im Bereich biologischer oder chemischer Risiken, aber auch hinsichtlich Manipulation und Täuschung.
„Das Ziel ist eine Methodik, die über einzelne Unternehmen hinaus Gültigkeit beanspruchen kann und als Grundlage für künftige regulatorische Anforderungen dienen soll.”
DeepMind bringt dabei eigene Sicherheitsforschung ein, während das AISI unabhängige staatliche Perspektiven und Prüfmechanismen beisteuert.
Einordnung in den regulatorischen Kontext
Die vertiefte Partnerschaft fügt sich in einen breiteren Trend ein: Große KI-Entwickler suchen zunehmend die strukturierte Zusammenarbeit mit staatlichen Stellen, um regulatorischen Anforderungen proaktiv zu begegnen.
Großbritannien verfolgt dabei einen anderen Ansatz als die Europäische Union – statt eines umfassenden Regelwerks wie dem EU AI Act setzt London auf sektorspezifische Aufsicht und freiwillige Vereinbarungen mit führenden Anbietern. Das AISI hat inzwischen auch eine Dependance in den USA eröffnet und kooperiert mit dem amerikanischen AI Safety Institute, was auf eine zunehmende internationale Koordination hindeutet.
Grenzen freiwilliger Vereinbarungen
Kritiker weisen darauf hin, dass solche Partnerschaften auf gegenseitigem Einvernehmen beruhen und keine verbindlichen Durchsetzungsmechanismen besitzen.
Ob ein KI-Unternehmen dem Evaluierungsprozess Zugang gewährt und dessen Ergebnisse akzeptiert, liegt letztlich im eigenen Ermessen.
Die Frage, wie aus freiwilliger Zusammenarbeit verbindliche Sicherheitsstandards werden können, bleibt politisch ungelöst.
Relevanz für deutsche Unternehmen
Für Unternehmen in Deutschland ist diese Entwicklung aus zwei Gründen relevant:
Erstens werden die Evaluierungsmethoden, die DeepMind und AISI gemeinsam erarbeiten, wahrscheinlich Einfluss auf internationale Standards haben – und damit mittelbar auf die Anforderungen, die der EU AI Act an Hochrisiko-KI-Systeme stellt.
Zweitens zeigt die britische Strategie, wie präventive Sicherheitsbewertungen als vertrauensbildende Maßnahme funktionieren können. Unternehmen, die KI-Systeme einsetzen oder entwickeln, sollten die Debatte um Evals und Frontier-Model-Sicherheit im Blick behalten – diese Konzepte dürften in den kommenden Jahren auch in der europäischen Regulierungspraxis an Gewicht gewinnen.
Quelle: Google DeepMind – Deepening our partnership with the UK AI Security Institute
