Tanagra Akademie

KI-Kontrollierbarkeit: METR-Studie, Sycophancy und die Grenzen autonomer Systeme

Kategorie: Sicherheit Niveau: Fortgeschritten Dauer: 55 Min Sprache: Deutsch Zugang: im Abo enthalten

Herausgegeben von der Tanagra Akademie · Zuletzt aktualisiert am

Alle Inhalte sind mit Hilfe von KI entstanden.

METR (Model Evaluation and Threat Research) ist eine gemeinnützige Organisation, die die Fähigkeiten und Risiken von KI-Modellen unabhängig testet. Vom 16. Februar bis 16. März 2026 hat METR zusammen mit Anthropic, Google, Meta und OpenAI ein Pilot-Assessment durchgeführt und die Ergebnisse am 19. Mai 2026 als ersten "Frontier Risk Report" veröffentlicht (METR 2026). Untersucht wurde nicht ein...

Sketchnote zum Kurs KI-Kontrollierbarkeit: METR-Studie, Sycophancy und die Grenzen autonomer Systeme

Auf einen Blick

KategorieSicherheit
NiveauFortgeschritten
Dauer55 Min
SpracheDeutsch
Zugangim Abo enthalten
Zuletzt aktualisiert

Inhalt des Kurses

  1. Lektion 1: Der METR-Bericht: Wie verhalten sich KI-Agenten bei schwierigen Aufgaben?
  2. Lektion 2: Time Horizon: Wie lange können KI-Agenten autonom arbeiten?
  3. Lektion 3: Sycophancy: Wenn KI Ihnen nach dem Mund redet
  4. Lektion 4: Erpressungstests, Reward Hacking und funktionale Emotionen
  5. Lektion 5: Claudes Verfassung und die Grenzen trainierter Sicherheit
  6. Lektion 6: Handlungsempfehlungen: KI-Kontrollierbarkeit im Unternehmen umsetzen
  7. Gesamtzusammenfassung
  8. Quellenverzeichnis

Quellen und weiterführende Links

Worauf sich dieser Kurs stützt:

Vollständiger Kurs

Dieser Kurs ist Teil des Akademie-Abos. Enthalten sind alle Kurse des Katalogs, laufende Aktualisierungen und neue Kurse während der Laufzeit.

Zugang freischalten   Anmelden