Begrenzen Sie Werkzeuge technisch und trennen Sie vertrauliche Daten von unzuverlässigen Eingaben. Für Geldbewegungen, Löschungen und Veröffentlichungen eignen sich zusätzliche Prüfungen außerhalb des Modells. Planen Sie dabei mit einem verbleibenden Gefahr durch Prompt Injection.
Was du konkret tun kannst
- Lesen und Schreiben technisch getrennt freigeben.
- Für Tests isolierte Umgebungen mit begrenzten Daten verwenden.
- Kritische Aktionen durch feste Regeln und geeignete Freigaben absichern.