Alle Fragen anzeigen
Daten & Kunden 2
Antworten prüfen 2
Einstellungen & Konten 1
KI-Tools & Agenten 6
- Woran merke ich, dass mein KI-Agent etwas getan hat, das ich nicht wollte?
- Was ist eigentlich der Unterschied zwischen einem KI-Chat und einem KI-Agenten?
- Was ist ein KI-Agent, einfach erklärt?
- Sind KI-Erweiterungen im Browser gefährlich?
- Was sind KI-Agenten, und worauf muss ich achten, bevor ich einen loslasse?
- Wie gehst du mit fremden Skills um?
Versteckte Anweisungen 2
Der verborgene Haken in einem fremden Dokument
Ich lade ein Dokument hoch und bitte eine KI, es zusammenzufassen. Eigentlich eine ganz gewöhnliche Aufgabe.
Doch habe ich wirklich gesehen, was sich vollständig in dieser Datei befindet?
Ein Dokument kann mehr enthalten als den Text, den ich beim Öffnen wahrnehme. Zwischen den eigentlichen Informationen können sich Bestandteile befinden, die wie Anweisungen formuliert sind. Für mich sind sie vielleicht unscheinbar oder gar nicht sichtbar. Ein KI-System könnte sie dennoch verarbeiten.
Damit entsteht eine merkwürdige Situation: Ich erteile der KI eine Aufgabe, aber das fremde Dokument versucht möglicherweise ebenfalls, Einfluss auf diese Aufgabe zu nehmen.
Das muss nicht immer ein gezielter Angriff sein. Manchmal handelt es sich um alte Kommentare, technische Bestandteile oder unbeabsichtigt übernommene Inhalte. Trotzdem bleibt die entscheidende Frage dieselbe: Was davon behandelt die KI als Information - und was möglicherweise als Aufforderung?
Besonders wichtig wird das bei Kundenunterlagen, Webseiten, E-Mails, Transkripten oder heruntergeladenen Dateien. Je stärker eine KI mit fremden Materialien arbeitet, desto weniger sollte ich davon ausgehen, dass nur mein eigener Prompt eine Rolle spielt.
Der verborgene Haken steckt deshalb nicht unbedingt im sichtbaren Inhalt. Er kann dort liegen, wo ich gar nicht gesucht habe.
Von Evelyn Störzner, Autorin der Reihe „KI-Sicherheit Klartext“.