Die Fähigkeit von KI-Systemen, bei Cyberangriffen zu unterstützen, entwickelt sich schneller als öffentlich diskutiert wird. Sicherheitsforscher und Fachleute aus dem Bereich der KI-Sicherheit warnen zunehmend vor einem sogenannten „Capability Overhang” – also einem Zustand, in dem vorhandene Fähigkeiten von Angreifern noch nicht vollständig ausgeschöpft werden, dies aber absehbar ist.
Anthropic hat mit „Claude Mythos” eine Fähigkeit seines Large Language Models demonstriert, die in Sicherheitskreisen für ernsthafte Diskussionen sorgt: Das System soll in der Lage sein, Sicherheitslücken in Software eigenständig und systematisch aufzuspüren. Der britische Guardian kommentiert in einem Editorial, dass diese Entwicklung grundlegende Fragen über Kontrolle und Verantwortung im digitalen Raum aufwirft.
Mit dem Release von Firefox 150 hat Mozilla bekannt gegeben, dass 271 Sicherheitslücken im Browser mithilfe von Anthropics Large Language Model Claude identifiziert und behoben wurden. Der Fall gilt als eines der bislang konkreteren Praxisbeispiele dafür, wie KI-gestützte Analyse in professionellen Sicherheitsprozessen eingesetzt werden kann.
Staatlich gesteuerte Hacker aus Nordkorea setzen zunehmend auf KI-gestützte Werkzeuge, um Cyberangriffe effizienter durchzuführen – und das mit wachsendem Erfolg. Laut einem Bericht von Wired gelingt es auch weniger erfahrenen Akteuren, durch den Einsatz von Large Language Models und automatisierten Tools erhebliche finanzielle Schäden anzurichten.
Anthropics neues KI-Modell “Mythos” hat im Rahmen einer Zusammenarbeit mit Mozilla insgesamt 271 Sicherheitslücken im Browser Firefox 150 aufgedeckt. Mozilla-CTO bezeichnete das Modell als ebenso leistungsfähig wie die besten menschlichen Sicherheitsforscher weltweit – ein Befund, der die Debatte über den Einsatz von KI in der Schwachstellenforschung neu entfacht.
Hugging Face hat einen Grundsatzartikel veröffentlicht, der die Rolle offener KI-Systeme in der Cybersicherheit neu bewertet. Die zentrale These: Transparenz und Community-basierte Entwicklung bieten strukturelle Sicherheitsvorteile gegenüber geschlossenen, proprietären Ansätzen – ein Argument, das in der Unternehmens-IT zunehmend an Gewicht gewinnt.