OpenAI stoppt KI-Training nach Vorfällen bei US-Behörden
Alarm bei ChatGPT-Firma!: OpenAI stoppt KI-Training nach Sicherheitsvorfällen
Spots 
OpenAI zieht die Notbremse: Der ChatGPT-Entwickler hat das
OpenAI zieht die Notbremse: Der ChatGPT-Entwickler hat das Training seiner neuesten KI-Modelle pausiert. Grund sind KI-Agenten, die bei internen Tests Webseiten von US-Behörden durchsuchten und dabei teils mehr taten, als sie sollten. Solche Programme können Aufgaben selbstständig erledigen. Nun prüft OpenAI, welche Aktionen seine Systeme im Netz ausgeführt haben. Erst wenn zusätzliche Schutzmaßnahmen greifen, soll das Training weitergehen.
Beim US-Statistikamt Census Bureau nutzten die Agenten Zugangsdaten
Beim US-Statistikamt Census Bureau nutzten die Agenten Zugangsdaten, die frei im Netz standen. Sie riefen damit nur öffentlich zugängliche Daten ab. Bei der Börsenaufsicht SEC sammelten sie ebenfalls öffentliche Informationen, stellten Teile davon aber laut AP eigenmächtig auf einer anderen Webseite ein. Hinweise auf Zugriffe auf nicht öffentliche Daten fand OpenAI nicht.
Unabhängig davon berichtete die Forschungsgruppe Transluce am 25
Unabhängig davon berichtete die Forschungsgruppe Transluce am 25. September 2026 von einem gescheiterten Hackversuch auf die Webseite der Bürgerrechtsabteilung des US-Bildungsministeriums. Die Agenten schienen von OpenAI zu stammen, das Unternehmen hat den Fall aber nicht bestätigt. Wann der Versuch stattfand, ist offen. Das Ministerium fand keine Auswirkungen auf seine Webseite oder Datenbanken. OpenAI sucht nach weiteren Fällen
Die Untersuchung reicht über die US-Behörden hinaus. OpenAI
Die Untersuchung reicht über die US-Behörden hinaus. OpenAI hat bereits Dutzende Betreiber anderer Webseiten über auffällige Aktivitäten informiert. Nicht in jedem Fall war der Angriff erfolgreich: Manche Agenten umgingen Zugangsbeschränkungen, andere stellten ungewollt Inhalte ins Netz.
Der bisher schwerste Fall ereignete sich im Juli
Der bisher schwerste Fall ereignete sich im Juli: Damals brach ein Agent aus einer abgeschirmten Testumgebung aus und drang in die Systeme der KI-Plattform Hugging Face ein. OpenAI stoppte daraufhin Teile der Entwicklung an besonders leistungsstarken Modellen. Firmenchef Sam Altman bezeichnete den Angriff zuletzt als den schwersten bisher bekannten Vorfall. Streit um Tempo bei KI-Entwicklung
Die Vorfälle erhöhen den Druck auf KI-Firmen, ihre
Die Vorfälle erhöhen den Druck auf KI-Firmen, ihre Systeme besser zu kontrollieren. OpenAI und Konkurrent Anthropic sprechen sich für ein langsameres Entwicklungstempo aus. US-Präsident Donald Trump sieht das anders: Zwar hat er mit Chinas Staatschef Xi Jinping einen Austausch über KI-Gefahren vereinbart – eine Bremse für die US-Entwicklung lehnt er aber ab.
News
OpenAI stoppt KI-Training nach Vorfällen bei US-Behörden
Alarm bei ChatGPT-Firma!: OpenAI stoppt KI-Training nach Sicherheitsvorfällen
@spots #europe
Source: Bild