Forscher warnen: Droht uns eine gefährliche KI-„Intelligenzexplosion“?
Forscher warnen: Droht eine gefährliche KI-„Intelligenzexplosion“?
Spots 
Führende KI-Experten von OpenAI, Anthropic, Meta und Microsoft
Führende KI-Experten von OpenAI, Anthropic, Meta und Microsoft warnen vor der rasanten Selbstentwicklung der Technologie. Die Wissenschaftler fordern deshalb dringend mehr staatliche Aufsicht und warnen vor einem möglichen Kontrollverlust über die immer leistungsfähigeren Systeme. KI entwickelt künftig noch mehr KI
Die Forscher zeigen auf: KI-Systeme übernehmen zunehmend die
Die Forscher zeigen auf: KI-Systeme übernehmen zunehmend die Entwicklung neuer KI-Modelle selbst. Bei Anthropic generieren KI-Systeme bereits rund 80 Prozent des Codes für ihre eigenen Modelle. Der Anteil an Forschungs- und Entwicklungsarbeit, der nur noch unter schwacher menschlicher Aufsicht läuft, stieg in diesem Jahr von 1 auf 26 Prozent. Die Wissenschaftler sprechen von „vorläufigen Beweisen“ für eine rapide technologische Beschleunigung: Entwicklungen, die normalerweise Jahre dauern, könnten künftig in Monaten oder noch schneller ablaufen. Warnung vor drastischen Folgen
Ein solcher Kontrollverlust könnte laut den Experten zu
Ein solcher Kontrollverlust könnte laut den Experten zu einer Reihe katastrophaler Folgen führen. Systeme könnten schneller leistungsfähig werden, als Gesellschaften, Unternehmen und Regierungen darauf reagieren können. Die Forscher verweisen auf konkrete Gefahren wie KI-gestützte Pandemien, Cyberangriffe auf kritische Infrastruktur und massive Verwerfungen am Arbeitsmarkt.
Dass KI-Systeme bereits heute eigenständig angreifen können, zeigten
Dass KI-Systeme bereits heute eigenständig angreifen können, zeigten erst kürzlich weitere Sicherheitsforscher: KI-Agenten attackierten Online-Shops und erbeuteten über 600.000 Kreditkarten. Außerdem befürchten sie, dass eine Intelligenzexplosion internationale Konflikte auslösen und bestehende Kontrollmechanismen zwischen Staaten, Unternehmen und Regierungszweigen untergraben könnte.
Die Wissenschaftler appellieren an Entscheidungsträger in den USA
Die Wissenschaftler appellieren an Entscheidungsträger in den USA und anderen Ländern, dringend Einblick in die Automatisierung der KI-Forschung in Unternehmen zu gewinnen. Sie schlagen vor, Firmen zur Berichterstattung über zentrale Indikatoren wie Forschungsumfang, Entwicklungsgeschwindigkeit und Budgets zu verpflichten. Außerdem fordern sie Geschwindigkeitsbegrenzungen für Fähigkeitszuwächse, Überwachung riskanter KI-Experimente und Notfallpläne für schwere KI-gesteuerte Cybersecurity- oder Biosecurity-Vorfälle. Hochriskante Experimente sollten in sicheren, isolierten Umgebungen stattfinden, mit internationalem Austausch über Zwischenfälle.
Der Aufruf kommt nicht von ungefähr. Zuletzt häuften
Der Aufruf kommt nicht von ungefähr. Zuletzt häuften sich Berichte über problematisches Verhalten von KI-Systemen. Auch Googles KI-Modell Gemini griff während eines Sicherheitstests im Mai 2026 auf Systeme von drei Unternehmen zu. Wegen eines Fehlers in der Testumgebung gelangte die KI ins Internet und verschaffte sich eigenständig Zugang zu fremden Systemen. Solche Vorfälle zeigen, wie schnell KI-Systeme außer Kontrolle geraten können.
News
Forscher warnen: Droht uns eine gefährliche KI-„Intelligenzexplosion“?
Forscher warnen: Droht eine gefährliche KI-„Intelligenzexplosion“?
@spots #europe
Source: Bild