Sicherheitsrisiko KI-Agenten: Wenn Assistenten fremde Befehle ausführen

Security · 23.10.2026

KI-Assistenten können über manipulierte E-Mails und Webseiten missbraucht werden. IT-Verantwortliche müssen jetzt handeln, um Datenabfluss zu verhindern.

KI-Assistenten erhalten zunehmend weitreichende Berechtigungen, um im Arbeitsalltag eigenständig E-Mails zu lesen, Dokumente zu erstellen oder Schnittstellen anzusprechen. Sicherheitsforschende warnen jedoch eindringlich davor, dass diese Systeme über manipulierte externe Daten wie E-Mails, Webseiten oder Plugins manipuliert werden können. Angreifer sind so in der Lage, die legitimen Berechtigungen der Agenten zu missbrauchen, um sensible Daten abzugreifen oder unerwünschte Aktionen auszuführen.

Warum ist das wichtig?

Zahlreiche Unternehmen im DACH-Raum integrieren KI-Schnittstellen wie Microsoft Copilot oder spezialisierte Automatisierungs-Bots in ihre Geschäftsprozesse. Da diese Agenten im Kontext des jeweiligen Angestellten agieren, besitzen sie oft weitreichenden Zugriff auf interne Datenbanken und vertrauliche Dokumente. Wenn ein Angreifer eine präparierte E-Mail an ein Postfach sendet, das von einem KI-Agenten ausgelesen wird, kann der Bot durch versteckte Anweisungen (indirekte Prompt-Injection) dazu gebracht werden, Daten an externe Server weiterzuleiten oder wichtige Dateien zu löschen. Dies gefährdet die IT-Sicherheit und die Compliance im Unternehmen direkt.

Was Nutzer jetzt tun sollten

IT-Verantwortliche und Systemadministratoren müssen dringend proaktive Sicherheitsmaßnahmen ergreifen, um die Risiken beim Einsatz von KI-Agenten zu minimieren:

• Least Privilege Prinzip: KI-Agenten sollten nur Zugriff auf diejenigen Datenquellen und Systeme erhalten, die für ihre spezifische Funktion zwingend notwendig sind. Eine unbeschränkte Leseberechtigung für das gesamte Firmennetzwerk ist zu vermeiden.
• Human-in-the-Loop: Kritische Aktionen, wie das Löschen von Dateien, das Tätigen von Transaktionen oder das Versenden von E-Mails an externe Empfänger, dürfen niemals vollautomatisch erfolgen, sondern müssen immer eine manuelle Freigabe durch einen menschlichen Nutzer erfordern.
• Eingangsdaten filtern: Externe Datenquellen, die von der KI verarbeitet werden, sollten vorab auf verdächtige Muster oder versteckte Prompts untersucht werden. Zudem sollten Admins die Sicherheitsupdates der genutzten KI-Plattformen kontinuierlich überwachen.

Fazit

Die Effizienzgewinne durch autonome KI-Assistenten sind unbestritten, doch die Sicherheitsmechanismen müssen mit dieser Entwicklung Schritt halten. Nur durch restriktive Rechtevergabe und menschliche Kontrollinstanzen lässt sich der Missbrauch von KI-Systemen in Unternehmensnetzwerken effektiv verhindern.

Quelle: BleepingComputer