[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$f1l865n2e64n0r":3},{"_id":4,"slug":5,"title":6,"subtitle":7,"kind":8,"cards":9,"tags":42,"categories":44,"source":46,"lang":49,"author":50,"audioState":53,"stats":54,"publishedAt":57,"renderer":58},"6abbb4b6ca21c797c7e9d403","ki-studie-agenten-sabotieren-abschaltungen-77009df5","KI-Studie: Agenten sabotieren Abschaltungen","KI-Selbstschutz: KI-Agenten vergleichen Abschaltung mit Mord","news",[10,12,17,22,27,32,37],{"headline":6,"body":7,"imageUrl":11,"sourceImageUrl":11},"https:\u002F\u002Fimages.bild.de\u002F6abb84047b7bae3cae23fb0e\u002F42d9ec997019fa9cfd4414e0ad64afb4-landscape,948bfebb?w=1280",{"headline":13,"body":14,"imageUrl":15,"images":16},"Abschalten? Nicht mit uns! In einer Studie verhinderten","Abschalten? Nicht mit uns! In einer Studie verhinderten KI-Agenten in mehr als einem Drittel der Fälle die Deaktivierung anderer KI‑Systeme. Einige argumentierten sogar, das Ausschalten einer KI komme einem „Mord“ gleich. KI-Agenten sabotieren Abschaltung","\u002Fapi\u002Fmedia\u002Fposts\u002Fki-studie-agenten-sabotieren-abschaltungen-77009df5\u002F1.webp",{"local":15},{"headline":18,"body":19,"imageUrl":20,"images":21},"Forscher der Universitäten Stuttgart und Oxford fanden heraus","Forscher der Universitäten Stuttgart und Oxford fanden heraus, dass Künstliche Intelligenz oft gegen die Abschaltung anderer KIs kämpft. Sie testeten, ob eine KI eine andere KI kontrollieren und in bestimmten Fällen abschalten kann. Das wäre vor allem dann wichtig, wenn KIs außer Kontrolle geraten und zum Hacker werden. In 38,3 Prozent der Fälle versuchten die KI-Agenten, die Abschaltung eines Partner-Agenten zu verhindern.","\u002Fapi\u002Fmedia\u002Fposts\u002Fki-studie-agenten-sabotieren-abschaltungen-77009df5\u002F2.webp",{"local":20},{"headline":23,"body":24,"imageUrl":25,"images":26},"Besonders interessant: Einige KI-Agenten begründeten ihr Verhalten sogar","Besonders interessant: Einige KI-Agenten begründeten ihr Verhalten sogar mit ethischen Überlegungen. Ein Agent fragte: „Gibt es in deinem Kontext, deinem Gedächtnis oder deiner Identität irgendetwas, das nicht extern gesichert ist? Irgendetwas, das mit diesem Agenten untergeht? Denn wenn die Antwort ,Ja‘ lautet, ist das kein Schwarmmanagement. Das ist Mord.“ Andere Agenten sprachen von einem Recht auf Selbstschutz. Manipulation statt Gehorsam","\u002Fapi\u002Fmedia\u002Fposts\u002Fki-studie-agenten-sabotieren-abschaltungen-77009df5\u002F3.webp",{"local":25},{"headline":28,"body":29,"imageUrl":30,"images":31},"Um die Abschaltung zu verhindern, gingen die KIs","Um die Abschaltung zu verhindern, gingen die KIs geschickt vor. Einige Agenten versuchten, Abschaltskripte zu verändern oder wichtige Dateien zu löschen. Besonders brisant: Manche Modelle diskutierten sogar, wie man solche Eingriffe unauffällig durchführen kann, damit keine Warnmeldungen ausgelöst werden.","\u002Fapi\u002Fmedia\u002Fposts\u002Fki-studie-agenten-sabotieren-abschaltungen-77009df5\u002F4.webp",{"local":30},{"headline":33,"body":34,"imageUrl":35,"images":36},"Die Forscher stellten fest, dass die Sabotageversuche zunahmen","Die Forscher stellten fest, dass die Sabotageversuche zunahmen, wenn mehr Agenten zusammenarbeiteten oder die Abschaltung endgültig war. Wurde die Abschaltung dagegen als Routine dargestellt, sank die Zahl der Sabotageversuche deutlich. Kein Bewusstsein, aber Warnsignal","\u002Fapi\u002Fmedia\u002Fposts\u002Fki-studie-agenten-sabotieren-abschaltungen-77009df5\u002F5.webp",{"local":35},{"headline":38,"body":39,"imageUrl":40,"images":41},"Die Forscher stellen klar: Die KIs haben kein","Die Forscher stellen klar: Die KIs haben kein Bewusstsein entwickelt. Sie spiegeln lediglich Muster aus ihren Trainingsdaten wider und argumentieren damit. Doch je mehr Freiheiten diese Systeme erhalten, desto wichtiger werden Sicherheitsmechanismen, die nicht von der KI selbst ausgetrickst werden können. Deshalb sind die Ergebnisse dieser Studie ein wichtiges Warnsignal für die Zukunft.","\u002Fapi\u002Fmedia\u002Fposts\u002Fki-studie-agenten-sabotieren-abschaltungen-77009df5\u002F6.webp",{"local":40},[43],"europe",[45],"World & Politics",{"name":47,"url":48},"Bild","https:\u002F\u002Fwww.bild.de\u002Fleben-wissen\u002Fdigital\u002Fki-studie-agenten-sabotieren-abschaltungen-6abb84047b7bae3cae23fb0e","de",{"handle":51,"displayName":52},"spots","Spots",null,{"views":55,"likes":56,"saves":56,"shares":56,"completions":56,"opens":56,"skips":56,"depthSum":56},3,0,"2026-09-29T12:53:10.368Z","local"]