Post

Der Text ist so kurz, weil DIE SEITE 1 DER ZEIT ZU KLEIN IST. :) Im Ernst: ich habe einen Leitartikel für die ZEIT geschrieben zur Frage, was aus dem Vorfall bei OpenAI folgen muss. Denn dahinter steckt keine übermächtige KI, sondern Menschen, die verantwortungslos handeln. Freebie für euch: #openAI

Der Ansatz ist richtig und gut, aber bitte überlegen, ob es wirklich "Fahrlässigkeit" war. Wenn ich als KI-Entwickler eine Testumgebung baue, und dann den KI-Modellen eine Capture-the-flag-Aufgabe zuweise, und vorher dazu alle(!) Safeguards deaktiviere, dann handele ich planvoll und mit Absicht.

Die KIs haben die Aufgaben so gelöst wie vorgesehen. Weit und breit keine Nachlässigkeit. Auch die jetzt erzeugte Aufregung ist Teil des Spiels. Man will KI-Regulation erreichen, indem Trump bestimmte KIs verbietet. Etwa die Open-Weights-Modelle aus China. Dabei sind die unsere einzige Hoffnung.

Hier in der EU habe wir gar nichts. EIne KI-Regulation würde bedeuten, dass die EU erst recht keine leistungsfähige KI bekommt. Die wird aber dringend gerbaucht - um sich gegen leistungsfähige KI zur Wehr setzen zu können. Das wird völlig unterschätzt. Regulierung rettet uns nicht in dem Fall.

Soweit ich sehe liegen auch hier Ihren Ausführungen ein paar falsche oder zumindest zweifelhafte Annahmen zugrunde. 1. Nach allem was wir wissen hat OpenAI versucht eine wirkungsvolle Sandbox für diese AI zu haben, mitnichten also jede Safeguard deaktiviert oder sogar so einen Hackerangriff ⬇️

provozieren wollen. Volle Gewissheit haben wir wohl, wenn OpenAI wie angekündigt den technischen Report zu diesem Vorfall vorlegt, doch bis dahin lässt sich jedenfalls nicht seriös behaupten, dass dieser Vorfall von OpenAI beabsichtigt gewesen wäre. 2. Die AI hat die Aufgabe nicht wie vorgesehen ⬇️

gelöst, sie ist auf der Suche nach dem Lösungsblatt(!) aus der Sandbox ausgebrochen und hat sich dann in HuggingFace gehackt, das nennt man gemeinhin...schummeln. 3. Es gab durchaus (evtl. sogar große) Nachlässigkeit aufseiten von OpenAI, ist nämlich bekannt geworden, dass diese AI intern schon ⬇️