Post

Bijan Moini
@bijanmoini.de

Die Menschheit steht vor drei großen Herausforderungen, die unser Leben, wenn nicht sogar unser Überleben maßgeblich bestimmen werden. Mit keiner geht sie adäquat um. Da ist erstens die Erderwärmung. Seit Jahrzehnten bekannt, seit Jahren akut, und trotz bekannter Lösungen zu wenig beachtet.

Bijan Moini
@bijanmoini.de

Zweitens die Umkehr des Trends der Demokratisierung. Es bedroht nicht nur unsere Freiheit, wenn das autoritäre China immer stärker wird, ein Faschist im Weißen Haus die älteste Demokratie der Welt zerstört und sich in Europa AfD & Co durchsetzen; es schürt auch neue Kriegsgefahren.

26 reposts239 likes

Bijan Moini
@bijanmoini.de

Drittens die rasante Entwicklung von KI. Man kann sie verfluchen, wie man möchte, aber es lässt sich nicht mehr bestreiten, dass sie unsere Gesellschaft umwälzen wird: Bildung, Arbeit, Vermögensverteilung. Hinzukommt die massive Gefahr von Rogue AI wie im Hugging-Face-Vorfall.

Layer 8½
@layer8-half.eurosky.social

Rogue AI ist schon ein Ding. Aber ist nicht Sentient AI. Es ist effektvolle Softwatere mit mangelhafter Governance. Das Konzept Rogue AI macht Sinn, sofern man sich die Nutzung als System aus LLM, Orchestration, Ausrichtung und Sicherung ansieht. Wenn dieses System über die intendierte 🧵1/4

Layer 8½
@layer8-half.eurosky.social

Ausrichtung hinausgeht, dann ist es "rogue". Das ist natürlich keim Vorwurf an "die KI"; falsche Kategorie. Es ist ein Vorwurf an die Organisation. OpenAI hat mindestens grob fahrlässig eine Software betrieben und damit u. a. die IT Systeme vpon Huggingface kompromittiert. Dafür sind sie 🧵2/4

Henning Ernst Mueller
@ermu.bsky.social

AI, KI ist besonders gut und immer besser darin als Betrugswerkzeug zu dienen, geeignet Individuen und Unternehmen zu scammen und zu hacken. Inwieweit da noch Menschen dahinterstecken oder die KI weitgehend autonom agiert, ist weniger relevant bei der Gefahreinschätzung.

TauPan
@taupan.cryptoanarchy.network

Was ich damit sagen will: Sie haben in allen Punkten Recht, aber die realen Gefahren von LLMs sind andere. U.a. die hier auf Bluesky aktive Timmit Gebru hat dazu schon sehr viel kluges geschrieben. Einordnung des Huggingface incidents gab es u.a. auch bei heise.

Bijan Moini
@bijanmoini.de

All diese Herausforderungen lassen sich theoretisch bewältigen. Und es ist ja nicht so, als geschähe nicht schon sehr viel: Erneuerbare Energien werden ausgebaut, es gibt enormen Widerstand gegen autoritäre Kräfte hier und anderswo und viele kluge Menschen beschäftigen sich mit KI-Gefahren.

Bijan Moini
@bijanmoini.de

Aber an allen Fronten geschieht zu wenig. Wir sind an einem kritischen Punkt, und mir scheint das unter den Eliten noch viel zu wenig verbreitet und anerkannt. Vielleicht, weil sie sich einbilden (können), von allen noch am wenigsten betroffen zu sein. Aber das ist eben nur eine relative Aussage.

Kreatives Chaos 👀✌️💪👍👊
@kreativeschaos.bsky.social

Die großen Transformationen sind angestoßen und die damit verbundenen Umwälzungen werden uns alle treffen. Genau jetzt bräuchte es ein breites politisches Bündnis, diese aktiv zu begleiten. Bei uns ist davon leider weit und breit nichts zu sehen. Vier weitere verlorene Jahre unter Merz.

Bijan Moini
@bijanmoini.de

Denn alle drei Entwicklungen werden alle Menschen treffen. Die Erderwärmung könnte den ganzen Planeten verändern, die Autokratisierung unser Wertesystem, KI unseren Gesellschaftsvertrag. Ich weiß nicht, was zu tun ist. Aber solange Deutschland und die EU noch etwas zählen, muss es mehr sein!