Post

Danke für den link. Diese "selbstkontrolle" der ki firmen sehe ich sehr kritisch. Das wird ja immer gemacht, um gesetzlicher Regulierung zu entgehen, und das darf hier mM auf keinen Fall vermieden werden.

Diesen Ansatz der selbstregulierung hatte zum Beispiel Hollywood gewählt, und damit noch diakonischen Regeln generiert, als wohl angestammten hätten. Ki ist aber eher ein sehr viel breiteres Thema, dass jetzt schon auf mehrere Katastrophen zusteuert.

Man kann das evtl. Mit der Mineralöl Industrie vergleichen, bei der die selbstkontrollierenden Organe nach jeder Katastrophe Besserung und Reform versprechen. Nur dann ist die Pipeline eben schon kaputt und der Schaden angerichtet.

Der Ansatz ist richtig und gut, aber bitte überlegen, ob es wirklich "Fahrlässigkeit" war. Wenn ich als KI-Entwickler eine Testumgebung baue, und dann den KI-Modellen eine Capture-the-flag-Aufgabe zuweise, und vorher dazu alle(!) Safeguards deaktiviere, dann handele ich planvoll und mit Absicht.

Kleiner Twist: Die Modelle hatten selber keinen Internetzugriff; lediglich eine Verbindung zu einem Server, über den sie weitere Software beziehen konnten. Dieser Server hatte Internetzugriff und in diesem wurde durch die Modelle eine Schwachstelle ausgenutzt. 🧵1/3

Es gab schon einen Ansatz, die Reichweite der Modelle zu beschränken. Die (grobe) Fahrlässigkeit liegt in der stümperhaften Umsetzung. 🧵2/3

Die KIs haben die Aufgaben so gelöst wie vorgesehen. Weit und breit keine Nachlässigkeit. Auch die jetzt erzeugte Aufregung ist Teil des Spiels. Man will KI-Regulation erreichen, indem Trump bestimmte KIs verbietet. Etwa die Open-Weights-Modelle aus China. Dabei sind die unsere einzige Hoffnung.

Hier in der EU habe wir gar nichts. EIne KI-Regulation würde bedeuten, dass die EU erst recht keine leistungsfähige KI bekommt. Die wird aber dringend gerbaucht - um sich gegen leistungsfähige KI zur Wehr setzen zu können. Das wird völlig unterschätzt. Regulierung rettet uns nicht in dem Fall.

Die pluschen das dermaßen auf, ohne Details offen zu legen. "KI türmt aus Sandbox". Was ist die "Sandbox", wer hat sie gemacht, worauf baut sie auf? Alles, was diese LLMs machen ist komplettieren, das ist alles. Und so absurd, die "KI" kann nicht existieren, wenn es den Server "verlässt" ...

Ein technischer Report von OpenAI soll noch folgen (1.), ansonsten gibt es schon mal eine Beschreibung von HuggingFace aus (2.). Übrigens hatte die AI aus der Sandbox aus operiert, nur eben unbemerkt (3.) 1. x.com/_NathanCalvi... 2. huggingface.co/blog/agent-i... 3. m-mitchell.com/HF-hack-cart...

Neulich hatte Claude 19 kritische Lücken im Symfony Framework offengelegt. Symfony wird seit über 20 Jahren von millionen Webseiten genutzt, Shops, sogar Bank-Apps. 19 Lücken, die einfach da waren. Wir haben unsere gesamte Software völlig überschätzt, und wahrscheinlich tun wir es wieder ...

Jetzt also nochmal für alle: Das war eine PR- Meldung von Open AI. Die NYT hat den größeren Kontext doch ganz gut ausgebreitet, finde ich. www.nytimes.com/2026/07/27/t...

Danke für den 🎁-Link, ein wichtiges Thema, gehe auch voll bei dem zentralen Appell des Artikels mit, dass eine staatliche, internationale Regulierung von AI dringend notwendig ist, und dass Europa dabei Einfluss hat! Davor zieht der Artikel im ersten Teil bzgl. des HuggingFace-Vorfalls allerdings ⬇️

an einer Stelle eine falsche Schlussfolgerung, denn auch wenn, als die AI sich lange unbemerkt aus Sandbox hackte, dabei OpenAI-Mitarbeiter (sehr) nachlässig handelten, heißt das nicht, dass es nur "Marketing" sein kann, wenn OpenAI die AI dann als "so intelligent und mächtig, dass es wirklich ⬇️

gefährlich werden kann" darstellt, da sie sich ja dadurch, dass sie sich (erfolgreich) in HuggingFace gehackt hat, als genau das erwiesen hat. Um die einleitenden Worte des bsky-Posts aufzugreifen, dahinter stecken Menschen, die (nachlässig bis) verantwortungslos handeln UND (statt STATT) eine ⬇️

Das ist ja alles richtig, aber diesen „Vorfall“ gab es nicht. Du verbreitest Open AI Eigenwerbung weiter. bsky.app/profile/seba...

Finde ich persönlich etwas niederschmetternd, dass sogar seriöser Journalismus diese Geschichte unkritisch einfach an seine Leser weiterreicht nach dutzenden Ankündigungen dieser Art („unsere AI ist einfach zu mächtig!!“). Sie wurde inzwischen ja mehrfach detailliert auseinandergenommen.

Natürlich ist der Hackerangriff passiert, hat den schließlich HuggingFace (und Modal Labs, ein weiteres betroffenes Unternehmen) selbst bestätigt, den Behörden gemeldet, und sogar ausführlich beschrieben: huggingface.co/blog/agent-i...

Selbst wenn man wollte, man kann nur an die Leute ran, die die Hardware kontrollieren. Bei allem darunter dribbelt die Maschine den Menschen immer aus. Jede Regel ist Struktur die erlernt und umgangen werden kann. Und wenn die Firmen nicht greifbar und nicht verantwortungsbewusst sind, sind wir ...

geliefert. Zugleich ist die Maschine an vielen Stellen ein tolles Tool. Sie kann wirklich eine Hilfestellung für blöde Fleißarbeiten etc. sein, wenn sie die Kompetenz eines Menschen unterstützt. Wenn ein Mensch jedoch schlechte Absichten hat, sie die neuen Konsequenzen nun einmal... gewaltig.