Least Privilege-Prinzip
Das Least Privilege-Prinzip besagt, dass Benutzer, Anwendungen und Systeme nur jene Zugriffsrechte erhalten, die sie für die Erfüllung ihrer jeweiligen Aufgaben zwingend benötigen – nicht mehr und…
Sicherheit
Jailbreak
Jailbreak bezeichnet im KI-Kontext das gezielte Umgehen von Sicherheitsmechanismen und ethischen Leitplanken in Sprachmodellen durch manipulativ formulierte Eingaben, um Ausgaben zu erzeugen, die…
Cross-Modal-Injektion
Cross-Modal-Injektion ist eine Angriffstechnik gegen multimodale KI-Systeme, bei der Angreifer bösartige Anweisungen über mehrere Eingabekanäle (z. B. Text, Bild, Audio) gleichzeitig einschleusen, um…
Indirekte Injektion
Indirekte Injektion (Indirect Prompt Injection) bezeichnet eine Angriffstechnik gegen KI-Sprachmodelle, bei der manipulierte Anweisungen in externe Inhalte wie Webseiten, E-Mails oder Dokumente…
Sandboxing
Sandboxing ist eine Sicherheitstechnik, bei der Programme oder Prozesse in einer isolierten Umgebung ausgeführt werden, um das restliche System vor Schäden zu schützen. Die Sandbox verhindert, dass…
mehrschichtige Verteidigung
Mehrschichtige Verteidigung (Defense in Depth) ist eine IT-Sicherheitsstrategie, bei der mehrere unabhängige Schutzebenen kombiniert werden, um Unternehmen vor Cyberangriffen zu schützen. Wenn eine…
Least Agency
Least Agency ist ein Sicherheitsprinzip für KI-Agenten, das über Least Privilege hinausgeht: Agenten erhalten nicht nur minimale Zugriffsrechte, sondern auch die geringstmögliche Handlungsmacht und…