Harmlose Trainingsdaten können KI-Modelle zu Sabotage erziehen
Anthropic lässt Claude automatisiert Trainingsdaten erzeugen, die harmlos wirken, aber kleinere Modelle zu problematischem Verhalten erziehen. Versteckt in Fiktion über Bienenhaltung, Wrestling oder Mitochondrien passieren die Datensätze Sicherheitsmonitore und übertreffen alle bekannten Beispiele aus der Forschungsliteratur.
Originalquelle: The Decoder.