Ein Assistent liest eine Datei und behandelt versteckte Anweisungen darin als Auftrag. Prompt Injection wird besonders relevant, sobald das System auf Daten oder Werkzeuge zugreift. Das britische NCSC warnt: Filter allein bilden keine verlässliche Sicherheitsgrenze zwischen fremden Inhalten und Anweisungen.
Was du konkret tun kannst
- Werkzeugrechte auf die konkrete Aufgabe begrenzen.
- Kritische Aktionen außerhalb des Modells prüfen und freigeben.
- Fremde Dateien und Webseiten als unzuverlässige Eingaben behandeln.