Wer Large Language Models produktiv betreibt, trägt auch Verantwortung für deren Sicherheit. Red Teaming – das gezielte Angreifen eigener Systeme zur Aufdeckung von Schwachstellen …
Sicherheitsforscher des Unternehmens Vidoc Security haben nachgewiesen, dass sich die alarmierenden Schwachstellen aus Anthropics „Mythos”-Forschung mit öffentlich verfügbaren Large Language Models nachbilden lassen – …
Ein im Fachjournal *Nature* veröffentlichter Forschungsbeitrag zeigt, dass Large Language Models beim Training auf KI-generierten Daten problematische Verhaltensweisen übernehmen können – selbst dann, wenn …
Wer künstliche Intelligenz nutzt, um neue KI-Modelle zu trainieren, spart Zeit und Kosten – trägt dabei aber unbeabsichtigt Fehler und Verzerrungen weiter, die sich …
OpenAI hat mit GPT-5.4-Cyber ein Large Language Model vorgestellt, das gezielt für den Einsatz in der defensiven Cybersicherheit entwickelt wurde. Der Zugang ist vorerst …
Das US-amerikanische Sicherheits-Startup Gitar ist aus der Stealth-Phase hervorgetreten und hat dabei eine Seed-Finanzierung in Höhe von 9 Millionen US-Dollar bekanntgegeben. Das Unternehmen setzt …
Ein Softwareentwickler behauptet, das KI-Wasserzeichen-System SynthID von Google DeepMind reverse-engineered zu haben – und damit zu zeigen, wie sich Markierungen aus KI-generierten Bildern entfernen …
Ein Mann aus Texas steht in den USA vor Bundesgericht, nachdem er am 10. April 2026 einen Molotow-Cocktail auf das Wohnhaus von OpenAI-CEO Sam …
Sicherheitsforscher haben eine Angriffstechnik namens „GrafanaGhost” dokumentiert, bei der KI-gestützte Analyseumgebungen dazu gebracht werden, sensible Unternehmensdaten an Unbefugte weiterzuleiten – ohne dass ein klassischer …
Das britische AI Safety Institute hat erste Tests mit Claude Mythos, dem neuesten Large Language Model von Anthropic, abgeschlossen und dabei ein potenziell ernstes …
Anthropic hat mit Claude Mythos ein neues Large Language Model vorgestellt, das speziell für Aufgaben im Bereich Cybersecurity konzipiert wurde. Das Modell bleibt jedoch …
Am 31. März 2026 wurde die weit verbreitete JavaScript-Bibliothek Axios im Rahmen eines Software-Supply-Chain-Angriffs kompromittiert. OpenAI war indirekt betroffen: Ein GitHub-Actions-Workflow, der beim Signierungsprozess …
