Zum Inhalt springen
Neue Technologien

Prompt Injection

Auch bekannt als: Prompt-Injection-Angriff

Angriff auf KI-Systeme durch eingeschleuste Anweisungen in Eingaben oder fremden Daten.

Was bedeutet das?

Ein Angreifer versucht, die vorgesehenen Systemregeln über nicht vertrauenswürdige Inhalte zu unterlaufen.

Was bedeutet das für Unternehmen?

Datenabfluss oder unerwünschte Aktionen können folgen.

Prävention und Handlungsmöglichkeiten

Eingaben als untrusted behandeln, Rechte begrenzen und Tool-Aufrufe prüfen.

Fachquellen

Eigenständige redaktionelle Zusammenfassung. Keine amtliche Veröffentlichung oder Kooperation mit den genannten Quellen.

Cloud Security

Technische und organisatorische Sicherheitsmaßnahmen für Cloud-Dienste und Cloud-Infrastrukturen.

Deepfake

Synthetisch oder manipuliert erzeugter Bild-, Audio- oder Videoinhalt, der echt wirken soll.

Künstliche Intelligenz in der Cybersicherheit

Einsatz von KI-Verfahren für Erkennung, Analyse und Reaktion auf Cyberbedrohungen.