KI-Sicherheit und Red Teaming: LLM-Systeme in der Praxis schützen
Herausgegeben von der Tanagra Akademie · Zuletzt aktualisiert am
Alle Inhalte sind mit Hilfe von KI entstanden.
Die Einführung von Large Language Models in Unternehmensprozesse hat eine völlig neue Angriffsfläche geschaffen. Während herkömmliche Software über definierte Eingabeschnittstellen verfügt, nehmen LLMs natürliche Sprache entgegen. Das bedeutet: Jeder Prompt ist potenziell ein Angriffsvektor. Klassische Firewalls und Intrusion Detection Systeme erkennen diese Bedrohungen nicht, weil die...
Auf einen Blick
| Kategorie | Sicherheit |
|---|---|
| Niveau | Fortgeschritten |
| Dauer | 55 Min |
| Sprache | Deutsch |
| Zugang | im Abo enthalten |
| Zuletzt aktualisiert |
Inhalt des Kurses
- Lektion 1: Die neue Bedrohungslandschaft für KI-Systeme
- Lektion 2: OWASP Top 10, BSI-Empfehlungen und EU AI Act
- Lektion 3: Red Teaming für KI-Systeme: Methoden und Vorgehensweise
- Lektion 4: Red-Teaming-Tools im Vergleich: Garak, PyRIT und Promptfoo
- Lektion 5: Guardrails und LLM Firewalls im Unternehmenseinsatz
- Lektion 6: Sichere KI-Architektur: Von der Planung bis zum Betrieb
- Lektion 7: Praxis-Roadmap: KI-Sicherheit im Unternehmen implementieren
- Gesamtzusammenfassung
- Quellenverzeichnis
Quellen und weiterführende Links
Worauf sich dieser Kurs stützt:
- OWASP 2025 (genai.owasp.org)
- Bisconti et al. 2025 (arxiv.org)
- Russinovich et al. 2024 (arxiv.org)
- Hagendorff et al. 2026 (doi.org)
- Tao et al. 2026 (techscience.com)
- CAVGAN, ACL Findings 2025 (arxiv.org)
- BSI/ANSSI 2025 (bsi.bund.de)
- BSI 2025 (bsi.bund.de)
- EUR-Lex (eur-lex.europa.eu)
- EUR-Lex (eur-lex.europa.eu)
- regulatoryblog.eu 2026 (regulatoryblog.eu)
- Art. 5 KI-VO (artificialintelligenceact.eu)
- Art. 4 KI-VO (artificialintelligenceact.eu)
- Law & Technology 2026 (lawandtechnology.eu)
- Art. 50 KI-VO (artificialintelligenceact.eu)
- Anhang III KI-VO (artificialintelligenceact.eu)
- Gibson Dunn 2026 (gibsondunn.com)
- Art. 9 KI-VO (artificialintelligenceact.eu)
- Art. 15 KI-VO (artificialintelligenceact.eu)
- Art. 99 KI-VO (artificialintelligenceact.eu)
- TechCrunch 2026 (techcrunch.com)
- Insight Partners 2025 (insightpartners.com)
- Promptfoo auf GitHub (github.com)
- Derczynski et al. 2024 (arxiv.org)
- Garak auf GitHub (github.com)
Vollständiger Kurs
Dieser Kurs ist Teil des Akademie-Abos. Enthalten sind alle Kurse des Katalogs, laufende Aktualisierungen und neue Kurse während der Laufzeit.