Post

Googles AI Overviews behandelt Wörter wie „disregard” und „ignore” als systeminterne Befehle und antwortet mit „Verstanden. Nachricht ignoriert.” statt mit Suchergebnissen. 🤯

theverge.comGoogle’s AI search is so broken it can ‘disregard’ what you’re looking for“If you need anything else or have a new question later, just let me know!”

Steffen Körner

@steffenkoerner.com

Der Fehler ist eine klassische Prompt-Injection-Schwachstelle, bei der die KI nicht zwischen Nutzeranfragen und auszuführenden Anweisungen unterscheiden kann.

22/5/26, 8:55 pm0 reposts3 likes

Steffen Körner

@steffenkoerner.com

22 May

Der Fehler tauchte wenige Tage nach Google I/O 2026 auf, wo das Unternehmen umfangreiche KI-Sucherweiterungen auf Basis seines neuen Gemini 3.5 Flash-Modells angekündigt hatte.