Prompt Injection
Auch bekannt als: Prompt-Injection-Angriff
Angriff auf KI-Systeme durch eingeschleuste Anweisungen in Eingaben oder fremden Daten.
Was bedeutet das?
Ein Angreifer versucht, die vorgesehenen Systemregeln über nicht vertrauenswürdige Inhalte zu unterlaufen.
Was bedeutet das für Unternehmen?
Datenabfluss oder unerwünschte Aktionen können folgen.
Prävention und Handlungsmöglichkeiten
Eingaben als untrusted behandeln, Rechte begrenzen und Tool-Aufrufe prüfen.
Fachquellen
Eigenständige redaktionelle Zusammenfassung. Keine amtliche Veröffentlichung oder Kooperation mit den genannten Quellen.