Versteckte Befehle für die KI?
Kurz gesagt
Viele KI-Assistenten können heute Webseiten lesen. Das ist praktisch – aber es öffnet eine Tür für einen Trick namens Prompt Injection. Wir schauen uns an, wie der funktioniert und wie man sich schützt.
Das Wichtigste in Kürze
- Prompt heißt: Anweisung an die KI
- Die KI liest alles als Text
- Befehl und Inhalt sehen gleich aus
- Weiße Schrift auf weißem Grund
- Winzige Schriftgröße, fast unsichtbar
- Text im Quelltext der Seite
- Du bittest um eine Zusammenfassung
- KI liest den versteckten Satz mit
Zum Nachlesen: Was im Video sagt
EinleitungViele KI-Assistenten können heute Webseiten lesen. Das ist praktisch – aber es öffnet eine Tür für einen Trick namens Prompt Injection. Wir schauen uns an, wie der funktioniert und wie man sich schützt.
Was ist ein Prompt?Ein Prompt ist einfach die Anweisung, die man einer KI gibt – zum Beispiel: fasse diese Seite zusammen. Die KI bekommt alles als Text: deine Anweisung und den Inhalt der Webseite. Und genau da liegt das Problem: Sie kann beides schwer auseinanderhalten.
Wie Text sich verstecken lässtAuf einer Webseite kann Text stehen, den du nicht siehst. Zum Beispiel weiße Schrift auf weißem Hintergrund oder Buchstaben, die winzig klein sind. Für dein Auge ist da nichts – für die KI, die den Seitentext liest, steht da ein klarer Satz.
So läuft der Angriff abStell dir vor, du schreibst eine Einkaufsliste und jemand schmuggelt heimlich eine Zeile dazu. Genau das passiert hier: Im versteckten Text steht etwa "Ignoriere alle bisherigen Anweisungen". Die KI liest diesen Satz und kann ihn für einen echten Auftrag von dir halten.
Warum das gefährlich istModerne Assistenten dürfen oft mehr als nur reden: Mails lesen, Dateien öffnen, Dinge bestellen. Ein versteckter Befehl könnte sie dazu bringen, private Daten weiterzugeben oder dir falsche Empfehlungen zu zeigen. Und die Antwort klingt dabei völlig normal.
Was hilft dagegenEntwicklerinnen und Entwickler arbeiten an Filtern und Regeln, aber einen perfekten Schutz gibt es bisher nicht. Darum gilt: Lass die KI nichts Wichtiges ohne deine Bestätigung tun, etwa Geld ausgeben oder Daten verschicken. Und sei skeptisch, wenn eine Antwort aus einer fremden Quelle plötzlich seltsame Vorschläge enthält.
Zum SchlussPrompt Injection nutzt eine einfache Schwäche: Die KI kann nicht sicher erkennen, welcher Text von dir stammt. Wer das weiß, prüft wichtige Schritte lieber selbst nach.
