Für KI-Security einzustellen heißt, auf ein spezifisches, noch seltenes Skillset zu testen: Kandidaten, die Prompt Injection, Datenlecks, unsicheren Tool-Zugriff und Agenten-Missbrauch als Engineering-Probleme mit geschichteten Mitigations verstehen, nicht als Schlagzeilen. Die meisten Teams brauchen anfangs keinen dedizierten KI-Security-Hire – sie brauchen Engineers und Security-Leute, die diese Skills mitbringen, und Interviews, die sie erkennen können.
Die Bedrohungsfelder, die Sie abdecken müssen
- Prompt Injection: nicht vertrauenswürdige Inhalte, die das Modell steuern – besonders indirekte Injection über abgerufene Dokumente, E-Mails und Webseiten.
- Datenlecks: Modelle, die System-Prompts, den Kontext anderer Nutzer oder sensible Trainings-/Retrieval-Daten preisgeben.
- Agenten-Berechtigungen: Tool-nutzende Systeme mit mehr Zugriff, als die Aufgabe braucht – ein gekaperter Schritt wird zu echtem Schaden.
- Supply Chain: ungeprüfte Modelle, vergiftete Datensätze, bösartige Tool-Definitionen und Dependencies.
- Klassische Appsec gilt weiter: Authentifizierung, Mandantentrennung und Logging rund um KI-Endpoints.
Interview-Fragen, die Tiefe offenbaren
- 1„Designen Sie Verteidigungen für einen Assistenten, der Kunden-E-Mails liest und APIs aufrufen kann.“ Achten Sie auf geschichtetes Denken: Input-Handling, Least-Privilege-Tools, Output-Validierung, menschliche Gates bei Hochrisiko-Aktionen.
- 2„Lässt sich Prompt Injection vollständig lösen?“ Starke Antwort: Nein – also eindämmen, den Blast-Radius begrenzen, Modell-Output nie als Autorisierung vertrauen.
- 3„Wie würden Sie unser Feature red-teamen?“ Gute Kandidaten zählen ungefragt Angriffspfade auf und erwähnen kontinuierliches Testen, nicht einmaliges.
- 4Bitten Sie um eine Kriegsgeschichte: eine KI-spezifische Schwachstelle, die sie gefunden oder gefixt haben, und was sich danach strukturell geändert hat.
Wen Sie einstellen – und wann
- Früh: Heben Sie die Messlatte in bestehenden Rollen – jeder KI-Engineer sollte über Injection und Least Privilege nachdenken können.
- Wachstum: Ergänzen Sie einen Security-Engineer mit echter LLM-Erfahrung, oder geben Sie Ihrem Appsec-Lead dedizierte Zeit zum Upskilling.
- Agentische Skalierung: Sobald Agenten auf Produktionssystemen und Kundendaten agieren, hört ein dedizierter KI-Security-Owner auf, optional zu sein.
