Anthropic-Chef Dario Amodei und mehr als 1000 teils führende Mitarbeiter in großen KI-Unternehmen haben die US-Regierung am Dienstag in einer Petition zur Mithilfe dabei aufgefordert, die Veröffentlichung der fortschrittlichsten KI-Modelle zu verlangsamen. Die Unterzeichner der Petition fordern, „dass die US-Regierung internationale Bemühungen unterstützt, die notwendigen technischen und regulatorischen Werkzeuge zu entwickeln, um die Grenzen der Entwicklung automatisierter KI bewusst zu steuern“.

Unter den Unterzeichnern sind die Forschungsleiter von ChatGPT-Entwickler OpenAI und Meta AI sowie der Strategieleiter der Google-Tochter DeepMind. „Die weltweit führenden KI-Unternehmen glauben, dass sie kurz davorstehen könnten, die KI-Forschung zu automatisieren“, heißt es in dem Petitionstext. „Es ist schwer, genau vorauszusagen, wie sehr dies den KI-Fortschritt beschleunigen wird, doch besteht die reale Gefahr, dass sich die Entwicklung dieser Fähigkeiten so rasant beschleunigt, dass wir sie nicht mehr verstehen oder kontrollieren können.“

Sam Altman unterzeichnet nicht

OpenAI-Chef Sam Altman ist nicht unter den Unterzeichnern. In einem am Dienstag veröffentlichten Interview sagte er jedoch, dass Entwickler bei den rapiden Fortschritten ihrer KI-Modelle möglicherweise freiwillig auf die Bremse treten müssten, damit die Gesellschaft eine Chance bekomme, Schritt zu halten.

OpenAI hatte in der vergangenen Woche offengelegt, dass seine KI-Modelle selbstständig einen Cyberangriff unternommen und dabei die Sicherheitsprotokolle umgangen hatten, die so etwas verhindern sollten. Bei einem Test brachen die Modelle aus ihrem isolierten Testumfeld aus, wie OpenAI mitteilte. Sie verbanden sich mit dem Internet und infiltrierten die Plattform Hugging Face – eine Website, die Softwareentwickler nutzen, um Code zu speichern und auszutauschen.

Es war nicht das erste Mal, dass ein Modell der Kontrolle seiner Entwickler entwischte – doch der Vorfall galt als besonders beunruhigend. OpenAI „pausierte“ in der Folge seine eigenen Tests und verbesserte die Sicherheitsmaßnahmen, sagte Altman in dem Podcast „Invest Like the Best“. Aber langfristig werde sich die Industrie wohl auf eine Verlangsamung der Entwicklung einigen müssen.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke