Post

Antoine C.
@ancadweb.com

Pour ceux qui croiraient encore que les comportements type "scheming" des IAs ne résulteraient que de protocoles d'expériences calculés pour y aboutir*, les incidents se multiplient avec des agents ou autres chatbots déployés. 🧵 www.lesnumeriques.com/intelligence...

lesnumeriques.comChatGPT, Claude, Gemini : les IA mentent délibérément, un phénomène documentéLe nombre de cas d'IA qui trompent leurs utilisateurs a été multiplié par cinq en six mois. Le Centre for Long-Term Resilience a analysé plus de 183 000 transcriptions de conversations partagées sur X...

0 reposts2 likes

Antoine C.
@ancadweb.com

2/ (* allusion à un propos d'Ed Zitron qui m'avait poussé à écrire ce fil il y a quelques mois :) bsky.app/profile/anca...

Antoine C.@ancadweb.com

Un petit survol d'études sur les tendances des LLMs à mentir pour achever un but, à montrer une forme d'instinct de préservation, à montrer des capacités à s'auto-répliquer, etc. /n

Antoine C.
@ancadweb.com

4/ Après comme ceux qui s'intéressent au phénomène sont des chercheurs en alignement (probablement un brin TESCREAL comme l'indique le "longterm" dans le nom de l'institut d'où vient cette recherche 😜 ) et emploient le vocabulaire de ce champ.

Antoine C.
@ancadweb.com

5/ … Qui comme celui du secteur en général a tendance à humaniser un peu trop l'IA en parlant de "raisonnement", disant "l'agent décide", "le LLM préfère", évoquant une "intentionnalité" etc. comme le déplore Eryk Salvaggio ici... bsky.app/profile/eryk...

Eryk Salvaggio@eryk.bsky.social

This report is full of language describing the actions of LLMs as intentional rather than describing it as the perception of automated language production on users who misinterpreted the behavior. “I didn’t know it was doing that, it must have deceived me” is kind of just a cope

theguardian.comNumber of AI chatbots ignoring human instructions increasing, study saysExclusive: Research finds sharp rise in models evading safeguards and destroying emails without permission