Post

Cleanthinking.de - Sauber in die Zukunft
@cleanthinking.wsocial.eu

Eine typische Gemini-Anfrage kostet laut Google 0,24 Wattstunden. Unabhängig geprüft ist der Wert nicht. Wer ein Dokument mit 100.000 Tokens hochlädt, verbraucht nach einer Schätzung von Epoch AI knapp 40 Wattstunden. Wie viel Strom ein Sprachmodell braucht:

cleanthinking.deSprachmodell: Wie LLMs rechnen und was Strom kostetWie ein Sprachmodell mit Tokens und Transformer arbeitet und wie viel Strom eine Anfrage laut Google, Epoch AI und IEA kostet.
Toras
@toras.bsky.social

Weil schon im Teaser steht, dass komplexe Anfragen fast das 170-Fache (40 Wh statt 0,24 Wh) fressen. Nimmt man Milliarden tägliche Zugriffe, Video-KI und das Training der Modelle dazu, braucht man riesige Rechenzentren. Steht alles da. Man muss halt über die Überschrift hinauskommen.