Post

Die Menschheit steht vor drei großen Herausforderungen, die unser Leben, wenn nicht sogar unser Überleben maßgeblich bestimmen werden. Mit keiner geht sie adäquat um. Da ist erstens die Erderwärmung. Seit Jahrzehnten bekannt, seit Jahren akut, und trotz bekannter Lösungen zu wenig beachtet.

Zweitens die Umkehr des Trends der Demokratisierung. Es bedroht nicht nur unsere Freiheit, wenn das autoritäre China immer stärker wird, ein Faschist im Weißen Haus die älteste Demokratie der Welt zerstört und sich in Europa AfD & Co durchsetzen; es schürt auch neue Kriegsgefahren.

"Rogue-Ai" ist Propaganda der Branche, siehe z.B. mail.cyberneticforests.com/models-dont-... (u.v.a.m.)

Rogue AI ist schon ein Ding. Aber ist nicht Sentient AI. Es ist effektvolle Softwatere mit mangelhafter Governance. Das Konzept Rogue AI macht Sinn, sofern man sich die Nutzung als System aus LLM, Orchestration, Ausrichtung und Sicherung ansieht. Wenn dieses System über die intendierte 🧵1/4

Ausrichtung hinausgeht, dann ist es "rogue". Das ist natürlich keim Vorwurf an "die KI"; falsche Kategorie. Es ist ein Vorwurf an die Organisation. OpenAI hat mindestens grob fahrlässig eine Software betrieben und damit u. a. die IT Systeme vpon Huggingface kompromittiert. Dafür sind sie 🧵2/4

All diese Herausforderungen lassen sich theoretisch bewältigen. Und es ist ja nicht so, als geschähe nicht schon sehr viel: Erneuerbare Energien werden ausgebaut, es gibt enormen Widerstand gegen autoritäre Kräfte hier und anderswo und viele kluge Menschen beschäftigen sich mit KI-Gefahren.

Aber an allen Fronten geschieht zu wenig. Wir sind an einem kritischen Punkt, und mir scheint das unter den Eliten noch viel zu wenig verbreitet und anerkannt. Vielleicht, weil sie sich einbilden (können), von allen noch am wenigsten betroffen zu sein. Aber das ist eben nur eine relative Aussage.

Denn alle drei Entwicklungen werden alle Menschen treffen. Die Erderwärmung könnte den ganzen Planeten verändern, die Autokratisierung unser Wertesystem, KI unseren Gesellschaftsvertrag. Ich weiß nicht, was zu tun ist. Aber solange Deutschland und die EU noch etwas zählen, muss es mehr sein!