Post

slecache
@slecache.com

Après une année frénétique d’IA (LLM, agents, copilotes, hallucinations, promesses de productivité et petites sueurs froides), j'ai relu Les Robots d’Isaac Asimov. link.amazon/A0gqlvW83 1/9

link.amazonLe cycle des robots (Tome 1) - Les robots (Imaginaire t. 453) eBook : Asimov, Isaac, Billon, Pierre, Durastanti, Pierre-Paul, Asimov, Isaac: Amazon.fr: Boutique KindleLe cycle des robots (Tome 1) - Les robots (Imaginaire t. 453) eBook : Asimov, Isaac, Billon, Pierre, Durastanti, Pierre-Paul, Asimov, Isaac: Amazon.fr: Boutique Kindle

1 repost0 likes

slecache
@slecache.com

Le plus frappant, ce n'est pas de voir à quel point Asimov "avait prédit l'IA". Il ne l'avait évidemment pas prédite. C'est plutôt de constater qu'il avait déjà identifié les bonnes questions. 2/9

slecache
@slecache.com

Une machine n'a pas besoin de nous détester pour devenir problématique. Il suffit qu'elle poursuive parfaitement un objectif que nous avons formulé… imparfaitement. Bienvenue dans le problème de l'alignement. 3/9

slecache
@slecache.com

Les Trois Lois de la robotique paraissent presque touchantes aujourd'hui : "Ne fais pas de mal aux humains." OK. Mais qu'est-ce que "faire du mal" ? Et que fait-on quand deux humains ne sont pas d'accord ? 4/9

slecache
@slecache.com

Avec un robot d'Asimov, on pouvait encore imaginer qu'une bonne programmation suffirait. Avec un LLM, c'est nettement moins confortable. On ne programme pas simplement le comportement : on entraîne un système dont le comportement émerge de milliards de paramètres. 5/9