„Das ist Mord“: Sabotieren KI-Agenten ihren Ausschalter? Und die stillen Helferlein von Metas Muse
Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.
Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem...