Prompt Injection und AI Red Teaming: KI-Systeme absichern
Herausgegeben von der Tanagra Akademie · Zuletzt aktualisiert am
Klassische Software verarbeitet strukturierte Eingaben: Zahlen, Formulardaten, API-Aufrufe mit klar definierten Parametern. Wenn ein Nutzer in ein Zahlenfeld Text eingibt, lehnt das System die Eingabe ab. Large Language Models funktionieren grundlegend anders. Sie verarbeiten natürliche Sprache, und genau diese Sprache steuert auch ihr Verhalten. Die Grenze zwischen Daten und Anweisungen...
Auf einen Blick
| Kategorie | Sicherheit |
|---|---|
| Niveau | Experte |
| Dauer | 50 Min |
| Sprache | Deutsch |
| Zugang | im Abo enthalten |
| Zuletzt aktualisiert |
Inhalt des Kurses
- Lektion 1: Die neue Angriffsfläche, wenn Sprache zum Code wird
- Lektion 2: Angriffsmethoden verstehen, Direct und Indirect Prompt Injection
- Lektion 3: OWASP Top 10 für LLMs, der Sicherheitsrahmen
- Lektion 4: Verteidigungsarchitektur, Guardrails und Schutzmechanismen
- Lektion 5: Red Teaming für KI, Methoden und Werkzeuge
- Lektion 6: Ihr 90-Tage-Plan zur KI-Sicherheit
Vollständiger Kurs
Dieser Kurs ist Teil des Akademie-Abos. Enthalten sind alle Kurse des Katalogs, laufende Aktualisierungen und neue Kurse während der Laufzeit.