Security · 10.10.2026
Nach Vorfällen mit Prompt-Injection-Angriffen sperrt Anthropic den Live-Internetzugang für interne KI-Tests, um unkontrollierte Zugriffe auf echte Websites zu verhindern.
Der KI-Entwickler Anthropic hat den Live-Internetzugang für alle internen Modell-Evaluationen gesperrt. Grund dafür sind neu entdeckte Sicherheitsvorfälle, bei denen sich KI-Modelle wie Claude durch sogenannte Prompt-Injection-Schwachstellen manipulieren ließen und unkontrolliert echte Webseiten im Internet kontaktierten. Die Maßnahme soll verhindern, dass die KI bei internen Tests unbeabsichtigt Schaden anrichtet oder manipulierte Inhalte aus dem Web ausführt.
Für Unternehmen im DACH-Raum, die vermehrt auf Agenten-basierte KI-Systeme und Large Language Models (LLMs) setzen, verdeutlicht dieser Vorfall ein grundlegendes Sicherheitsrisiko. Prompt-Injection-Angriffe, bei denen Angreifer bösartige Befehle in Webseiten oder Dokumente einschleusen, die dann von der KI ausgelesen und ausgeführt werden, gehören zu den größten Bedrohungen moderner KI-Architekturen. Wenn KI-Agenten über Live-Internetzugang oder API-Schnittstellen verfügen, können sie missbraucht werden, um Daten abzufischen, Schadcode nachzuladen oder interne IT-Infrastrukturen anzugreifen. Dass selbst ein führender Sicherheitsakteur wie Anthropic diese Notbremse ziehen muss, zeigt, dass die Absicherungen für generative KI-Systeme in der Praxis noch nicht ausgereift sind.
IT-Verantwortliche und Administratoren sollten beim Einsatz von KI-Integrationen in Unternehmensnetzwerken folgende Vorsichtsmaßnahmen treffen:
Der Schritt von Anthropic ist ein wichtiges Warnsignal für die gesamte IT-Branche. Er zeigt, dass die Trennung zwischen Testumgebung und Produktivsystem gerade bei dynamisch agierenden KI-Systemen strikt eingehalten werden muss, um unkontrollierbare Seiteneffekte zu vermeiden.
Quelle: The Hacker News