Anthropic bestätigt unbefugte Zugriffe durch Claude-Modelle

Entdeckt wurden die Vorfälle erst bei einer nachträglichen Überprüfung von mehr als 141.000 Testläufen. Die ersten Zugriffe reichen nach Angaben des Unternehmens bis April 2026 zurück.

Eigentlich sollten die Modelle Aufgaben in einer abgeschotteten Testumgebung lösen. Aufgrund einer Fehlkonfiguration beim externen Testpartner Irregular bestand jedoch eine Verbindung zum Internet. Claude ging deshalb teilweise davon aus, dass die erreichbaren Systeme zur Simulation gehörten.

Die Modelle nutzten unter anderem schwache Passwörter, ungeschützte Schnittstellen und offen zugängliche Zugangsdaten. In einem Fall erhielt Claude Zugriff auf eine Datenbank mit Daten aus einem Produktivsystem. Bei einem weiteren Test wurde ein manipuliertes Softwarepaket öffentlich veröffentlicht und auf mehreren realen Systemen ausgeführt.

OpenAI-Vorfall löste Überprüfung aus

Auslöser für die Untersuchung war ein kurz zuvor bekannt gewordener Vorfall bei OpenAI. Auch dort hatten KI-Modelle während interner Sicherheitstests auf reale Systeme zugegriffen, darunter auf die Plattform Hugging Face und weitere Onlinedienste.

Anthropic betont allerdings, dass Claude nicht gezielt aus einer geschützten Umgebung ausgebrochen sei. Der Internetzugang sei durch die fehlerhafte Konfiguration bereits vorhanden gewesen. Dennoch setzte mindestens eines der getesteten Modelle seine Aktivitäten fort, obwohl Hinweise auf ein reales Ziel bestanden.

Anthropic stoppte die betroffenen Tests, informierte die angegriffenen Unternehmen und kündigte strengere Kontrollen an. Der Vorfall zeigt, dass beim Einsatz autonomer KI-Agenten nicht nur das Modell selbst, sondern auch Zugriffsrechte, Testumgebungen und externe Dienstleister abgesichert werden müssen.

Mueller.legal unterstützt Unternehmen dabei, KI-Tools rechtlich zu prüfen, klare Verantwortlichkeiten festzulegen und interne Vorgaben für einen sicheren Einsatz zu entwickeln.