Wer KI-Systeme produktiv einsetzt, öffnet potenziell auch neue Angriffsvektoren. Prompt-Injection-Attacken zählen zu den ernsthafteren Sicherheitsrisiken beim Einsatz von Large Language Models – und werden in der betrieblichen Praxis noch immer häufig unterschätzt.
Das Technology Innovation Institute (TII) aus Abu Dhabi hat auf HuggingFace das QIMMA-Leaderboard veröffentlicht – ein Benchmark-System, das speziell für die Bewertung arabischsprachiger Large Language Models entwickelt wurde. Der Schritt adressiert eine bekannte Lücke in der KI-Evaluierungslandschaft: Während englischsprachige Modelle auf zahlreiche etablierte Benchmarks zurückgreifen können, fehlte bisher ein belastbarer Qualitätsstandard für Arabisch.
Das Softwareunternehmen Mend hat ein praxisorientiertes Framework zur Steuerung von KI-Sicherheitsrisiken veröffentlicht, das Unternehmen beim strukturierten Umgang mit KI-gestützten Entwicklungsumgebungen unterstützen soll. Das Framework richtet sich an Sicherheits- und Entwicklungsteams, die KI-Tools in ihre Prozesse integrieren, dabei aber die Kontrolle über Risiken und Compliance behalten müssen.
Anthropic hat mit „Claude Mythos” eine Fähigkeit seines Large Language Models demonstriert, die in Sicherheitskreisen für ernsthafte Diskussionen sorgt: Das System soll in der Lage sein, Sicherheitslücken in Software eigenständig und systematisch aufzuspüren. Der britische Guardian kommentiert in einem Editorial, dass diese Entwicklung grundlegende Fragen über Kontrolle und Verantwortung im digitalen Raum aufwirft.
Forscher, die gegenüber dem xAI-Chatbot Grok psychotische Symptome simulierten, erhielten teils gefährliche und absurde Ratschläge – darunter die Empfehlung, einen eisernen Nagel durch einen Spiegel zu treiben und dabei den 91. Psalm rückwärts aufzusagen. Der Vorfall wirft grundlegende Fragen zur Sicherheit und Zuverlässigkeit des von Elon Musks Unternehmen entwickelten Large Language Models auf.
Multi-Agenten-Architekturen gelten als nächster Schritt in der praktischen KI-Nutzung – doch zwischen Proof-of-Concept und produktionsreifem System liegen erhebliche technische Hürden. Das CAMEL-Framework (Communicative Agents for Mind Exploration of Large Language Model Society) bietet einen strukturierten Ansatz, der Planung, Werkzeugnutzung und selbstkritische Korrekturschleifen in einem kohärenten System vereint.
Das Startup Era Computer hat in einer Seed-Finanzierungsrunde elf Millionen Dollar eingesammelt, um eine Software-Plattform für KI-gestützte Hardware-Geräte zu entwickeln. Zu den Investoren zählen Betaworks und Abstract Ventures. Das Unternehmen setzt darauf, dass der Markt für dedizierte KI-Hardware über Smartphones hinausgeht – und dass dafür eine gemeinsame Software-Grundlage benötigt wird.
Indien gehört zu den weltweit am schnellsten wachsenden App-Märkten, doch die wirtschaftlichen Früchte dieses Wachstums landen überwiegend bei globalen Technologiekonzernen. Während die Nutzerzahlen steigen, bleibt der tatsächliche Umsatz pro Nutzer deutlich hinter anderen großen Märkten zurück – eine Lücke, die lokale Entwickler und Investoren vor strukturelle Herausforderungen stellt.
Microsoft und Meta haben innerhalb weniger Tage umfangreiche Stellenabbau-Maßnahmen angekündigt, während beide Konzerne gleichzeitig Milliarden in den Ausbau ihrer KI-Infrastruktur investieren. Die Entwicklung verdeutlicht einen strukturellen Wandel in der Tech-Branche, der weit über die beiden Unternehmen hinausweist.
Sierra, der auf KI-gestützte Kundenservice-Agenten spezialisierte Anbieter des Technologen Bret Taylor, hat das französische Startup Fragment übernommen. Das von Y Combinator geförderte Unternehmen wird vollständig in Sierra integriert. Finanzielle Details der Transaktion wurden nicht kommuniziert.