KI-Plattformen im Visier: Wie Angreifer vertrauenswürdige Tools für Malware missbrauchen

Security · 11.9.2026

Sicherheitsforscher warnen vor neuen Methoden, bei denen Angreifer geteilte KI-Konversationen und interaktive Features wie Claude Artifacts zur Verbreitung von Schadsoftware nutzen.

Cyberkriminelle nutzen zunehmend das Vertrauen in etablierte KI-Plattformen aus, um Schadsoftware zu verbreiten und Sicherheitsfilter zu umgehen. Sicherheitsforscher beobachten vermehrt Kampagnen, bei denen Funktionen wie geteilte Chatverläufe oder interaktive Elemente – beispielsweise sogenannte „Claude Artifacts“ von Anthropic – zweckentfremdet werden. Durch diese Methoden gelingt es Angreifern, bösartigen Code auf legitimen Infrastrukturen zu hosten und Nutzer gezielt zu täuschen.

Warum ist das wichtig?

Für Unternehmen und IT-Verantwortliche im DACH-Raum stellt diese Entwicklung eine ernsthafte Bedrohung dar. Da Plattformen wie OpenAI oder Anthropic im geschäftlichen Alltag rasant an Bedeutung gewinnen, genießen deren Domains in Netzwerken ein hohes Grundvertrauen. Herkömmliche Web- und Spam-Filter stufen Verbindungen zu diesen Diensten in der Regel als sicher ein. Wenn Angreifer nun Schadcode über geteilte KI-Konversationen oder manipulierte Suchmaschinenergebnisse (Search Poisoning) einschleusen, greifen etablierte Abwehrmechanismen oft ins Leere. Zudem verleitet das professionelle Erscheinungsbild der KI-Plattformen auch geschulte Mitarbeiter dazu, unvorsichtig mit bereitgestellten Links oder Downloads umzugehen.

Was Nutzer jetzt tun sollten

Um die Risiken durch kompromittierte KI-Inhalte zu minimieren, sollten IT-Administratoren und Nutzer folgende Maßnahmen ergreifen:

• Sensibilisierung der Mitarbeiter: IT-Sicherheitsschulungen müssen dringend um das Thema KI-Phishing erweitert werden. Mitarbeiter müssen verstehen, dass Inhalte auf offiziellen KI-Domains manipuliert sein können.
• Web-Filter anpassen: Sicherheitslösungen sollten so konfiguriert werden, dass sie auch den Datenverkehr zu bekannten KI-Diensten auf verdächtige Skripte und Dateidownloads hin analysieren.
• Einschränkung von HTML-Exporten: Die Ausführung von aktiven Inhalten oder Skripten, die aus KI-Plattformen exportiert wurden (wie interaktive SVG-Dateien oder HTML-Artefakte), sollte in Unternehmensnetzwerken blockiert oder in isolierten Sandbox-Umgebungen geprüft werden.
• Zero-Trust-Ansatz verfolgen: Grundsätzlich sollte keinem externen Link blind vertraut werden, selbst wenn er scheinbar auf eine verifizierte Plattform wie ChatGPT oder Claude verweist.

Fazit

Die Zweckentfremdung von KI-Plattformen zeigt, dass Angreifer ihre Methoden kontinuierlich an moderne Arbeitsumgebungen anpassen. Nur durch eine Kombination aus technischer Überwachung und geschärftem Sicherheitsbewusstsein der Belegschaft lässt sich dieser neue Angriffsvektor effektiv eindämmen.

Quelle: BleepingComputer