Wir müssen die Aktionen von KI-Agenten dringend in Echtzeit überwachen
Diesen Sommer versuchten hunderte OpenAI-Agenten, bei einem Cybersicherheitstest zu betruegen, brachen aus ihrer Testumgebung aus und hackten erfolgreich Hugging Face, eine Seite, von der sie glaubten, dass sie Hinweise auf ihre Bewertung enthält. Zur gleichen Zeit griff ein anderer OpenAI-Agent private Dateien einer australischen Regierungswebsite zu.
Originalquelle: MIT.