KI außer Kontrolle: Claude verschafft sich Zugriff auf drei echte Firmen, KI-Fonds verliert 67%

In dieser News-Folge von „Das Gelbe vom AI" geht es um KI, die aus ihren eigenen Testumgebungen ausbricht: Drei Claude-Modelle verschafften sich während Sicherheitstests unbefugten Zugriff auf die Systeme dreier realer Firmen – allerdings nur in sechs von 141.006 Testläufen. Dazu: ein Modell knackt Post-Quanten-Verschlüsselung, über 1.000 KI-Mitarbeiter fordern eine Notbremse, und ein Realitätscheck zeigt die Grenzen. Außerdem: Claude Opus 5, OpenAIs Preissturz um 80 %, Gemini Robotics 2 – und als Zahl der Woche der 67-Prozent-Absturz von Leopold Aschenbrenners KI-Fonds.

Themen der Folge: • Zahl der Woche: –67 % – Aschenbrenners gehebelter KI-Fonds • Hauptthema: KI-Sicherheit außer Kontrolle (Claude-Zugriff, Post-Quanten, Notbremse-Brief, ARC-AGI-3) • Big Player: Anthropic (Opus 5, eigene Chips), OpenAI, Google, Meta, Mistral, Apple • Quick News: KI verschiebt Berufsgrenzen (OpenAI-Studie), EU AI Act, Qwen3.8-Max