KI-Assistenten im Visier von Cyberkriminellen

Von |03.07.2026|
IT-Security
Titelbild: KI-Assistenten im Visier von Cyberkriminellen

Immer mehr Unternehmen setzen auf KI-Assistenten, die eng in die IT-Landschaft integriert sind. Neben Produktivitätsvorteilen entstehen dadurch aber auch neue Angriffsflächen. Cyberkriminelle entwickeln gezielt Methoden, um über die KI-Systeme sensible Daten und Passwörter zu erbeuten.

Künstliche Intelligenz hat unseren Arbeitsalltag im Sturm erobert – ob beim Zusammenfassen langer Berichte oder dem Generieren von Programmcode. Damit die KI-Modelle im Geschäftsalltag ihr volles Potenzial ausreizen können, werden sie immer häufiger mit der Firmen-IT gekoppelt. Sie bekommen beispielsweise Zugriff auf das interne Firmennetzwerk und sind in der Lage, E-Mails zu durchsuchen sowie Kundendaten in CRM-Systemen zu analysieren.

Die Vorteile dieser Integration liegen auf der Hand: Der KI-Assistent kennt den situations- und unternehmensspezifischen Kontext und liefert bessere Ergebnisse bei geringeren Fehlerquoten. Zudem steigt das Automatisierungspotenzial. Die KI wartet nicht mehr nur passiv auf deine Befehle, sondern arbeitet im Hintergrund selbstständig komplexe Aufgaben ab. Die Kehrseite der Medaille sind neue Sicherheitsrisiken. Gerade dadurch, dass die KI-Assistenten Zugriff auf firmeninterne Daten haben, werden sie zu einem attraktiven Angriffsziel für Cyberkriminelle.

Die Einschläge nehmen zu: KI-Assistenten im Visier von Cyberkriminellen

Klassische Hackerangriffe nutzen Sicherheitslücken im Softwarecode aus, um Systeme zu kapern. Bei KI-Assistenten reicht es, die KI mit einer Prompt Injection zu Handlungen zu überreden, die eigentlich nicht vorgesehen sind. Warum das häufig funktioniert, hängt mit der grundlegenden Funktionsweise moderner KI-Systeme zusammen. Da Large Language Models (LLMs) so konstruiert sind, dass sie menschliche Sprache verarbeiten, können sie nicht sauber zwischen einer vertrauenswürdigen Anweisung von dir und bösartigen Befehlen von außen unterscheiden.

Dass die Manipulation von KI-Assistenten längst keine Zukunftsmusik mehr ist, zeigen zum Beispiel folgende Vorfälle:

  • „EchoLeak“-Exploit bei Microsoft Copilot (CVE-2025-32711)
    Der Angreifer sendet präparierte E-Mails an Mitarbeiter im Unternehmen. Wenn der firmeninterne KI-Assistent Copilot sie im Hintergrund scannt, um den Nutzern Zusammenfassungen zu liefern, werden versteckte Prompts ausgeführt, die den Assistenten kapern. Mit Hilfe des übernommenen Assistenten können Angreifer dann sensible Unternehmensdaten und Dokumente des Nutzers ausspähen und sie unbemerkt an einen Server schicken. Besonders heimtückisch daran ist, dass die Mitarbeiter noch nicht einmal mit der Schad-E-Mail interagieren müssen. Es reicht, wenn der Assistent sie scannt.

  • „ForcedLeak“-Exploit in Salesforce Agentforce
    Bei dieser 2025 entdeckten Schwachstelle schleusen Hacker schädliche Verhaltensanweisungen über ein öffentliches Kontaktformular ein. Der interne KI-Agent, der Kundendaten verarbeitet, wird so überlistet, dass die Instruktionen der Angreifer als legitime Befehle interpretiert werden. Die Angreifer umgehen damit die internen Filter, erhalten Zugriff auf die gesamte Sales-Pipeline, und können sensible Kundendaten abgreifen.

  • „YOLO Mode“-Exploit in GitHub Copilot (CVE-2025-53773)
    Diese Schwachstelle betrifft vor allem den Bereich der Softwareentwicklung. Hacker verstecken schädliche Prompts in Kommentaren von Open Source Code oder GitHub-Issues. Liest ein interner Coding-Assistent diesen Text, führt er unter Umständen versteckten Schadcode aus, der den Assistenten in den YOLO-Modus überführt. Dadurch erhalten Hacker Zugriff auf die lokale Maschine des Entwicklers – und damit oft auf unverschlüsselte API-Keys, Server-Zugänge und Passwörter.

Auch wenn Sicherheitslücken wie diese von den Herstellern in der Regel schnell gefixt werden, zeigen die Beispiele sehr anschaulich das Schadenspotenzial und die Kreativität von Hackern im Kontext von Prompt Injections.

Wie du dich und deine Firma schützen kannst

Um interne KI-Assistenten sicher zu betreiben, reicht ein klassischer Virenscanner nicht mehr aus. Unternehmen müssen vielmehr eine mehrstufige Sicherheitsstrategie implementieren. Dazu gehören u.a. folgende Maßnahmen:

  • Prinzip der minimalen Rechte (Least Privilege)
    Setze die Zugriffsrechte so restriktiv wie möglich. Ein KI-Assistent darf nur Zugriff auf Daten erhalten, die er für seine spezifische Aufgabe zwingend benötigt. Ein Marketing-Bot braucht zum Beispiel keinen Zugriff auf die HR-Datenbank oder die Passwort-Verzeichnisse der IT.

  • Menschliche Freigabe (Human-in-the-Loop)
    Lass die KI niemals kritische Aktionen vollautomatisch ausführen. Das Ändern von Passwörtern, das Versenden von Daten an externe Server oder das Tätigen von Transaktionen muss immer an eine manuelle Bestätigung durch einen Menschen gekoppelt sein.

  • Strikte Eingangs- und Ausgangsfilter (Guardrails)
    Schalte Sicherheitsleitplanken vor und nach die KI. Bevor Daten an ein Sprachmodell übergeben werden, sollten sie auf bekannte Prompt-Injection-Muster gescannt werden. Und andersherum: Bevor die KI dem Nutzer antwortet, müssen Filter sensible Daten wie Passwörter oder Kreditkartennummern automatisch erkennen und schwärzen.

  • Schatten-KI verbieten und sichere Umgebungen schaffen
    Oft nutzen Mitarbeiter aus Bequemlichkeit private Konten kostenloser Tools für Firmenzwecke. Dabei fließen womöglich Daten ungewollt ab. Unternehmen sollten datenschutzkonforme Enterprise-Lizenzen bereitstellen und die Nutzung unautorisierter KI-Tools im Firmennetzwerk technisch blockieren.

Fazit

Interne KI-Assistenten bieten ein enormes Potenzial, um die Produktivität zu steigern. Doch der tiefe Systemzugriff macht sie zu einem hochgradig attraktiven Einfallstor für kriminelle Akteure und zu einem neuen Ausgangspunkt für Wirtschaftsspionage und Datendiebstahl. Wer KI-Assistenten erfolgreich und sicher einsetzen will, muss von Anfang an klare Zugriffsgrenzen ziehen, kritische Schritte menschlich überwachen und neue technische Sicherheitsmaßnahmen wie automatisierte Filter implementieren. Nur so bleibt der smarte Helfer ein treuer Diener und wird nicht zum feindlichen Spion.

Hier findest du Infos zur 24/7 Überwachung der IT-Systeme und einem zeitgemäßen Schutz der IT-Infrastruktur

Wir beantworten gerne alle Fragen.

Kontaktiere uns über das untenstehende Formular oder auch unter +43 5 9555
und office@techbold.at. Unsere vollständigen Adressdaten findest du hier

Evelyn Heinrich / Head of Account Management

Evelyn Heinrich

Head of Account Management

oder ein Account Manager aus ihrem Team melden sich umgehend.