Alle Fragen anzeigen
Daten & Kunden 2
Antworten prüfen 2
Einstellungen & Konten 1
KI-Tools & Agenten 6
- Woran merke ich, dass mein KI-Agent etwas getan hat, das ich nicht wollte?
- Was ist eigentlich der Unterschied zwischen einem KI-Chat und einem KI-Agenten?
- Was ist ein KI-Agent, einfach erklärt?
- Sind KI-Erweiterungen im Browser gefährlich?
- Was sind KI-Agenten, und worauf muss ich achten, bevor ich einen loslasse?
- Wie gehst du mit fremden Skills um?
Versteckte Anweisungen 2
Kann ich mich darauf verlassen, was die KI mir sagt?
Diese Frage von KI-Anwendern trifft den Kern.
Wenn dir ein Bekannter beim Grillen erklärt, wie das neue Steuergesetz funktioniert, nickst du freundlich. Und dann fragst du trotzdem deinen Steuerberater.
Meine Antwort: Genau so solltest du mit KI umgehen. Sie klingt immer überzeugt, auch wenn sie falsch liegt. Sie kann Zahlen, Quellen und sogar Gerichtsurteile erfinden, die es nie gegeben hat. Man nennt das Halluzinieren.
Mein Tipp: Alles, was du weitergibst, an Kunden, in einem Angebot oder öffentlich, prüfst du an einer zweiten Quelle. Vor allem Zahlen, Namen und Paragrafen.
Bequem ist schnell. Geprüft ist sicher. Woran merkst du, dass eine KI-Antwort noch eine zweite Quelle braucht? Ich bin gespannt auf deine Erfahrung in der Community.
Von Evelyn Störzner, Autorin der Reihe „KI-Sicherheit Klartext“.