Post

Le plus frappant, ce n'est pas de voir à quel point Asimov "avait prédit l'IA". Il ne l'avait évidemment pas prédite. C'est plutôt de constater qu'il avait déjà identifié les bonnes questions. 2/9

Une machine n'a pas besoin de nous détester pour devenir problématique. Il suffit qu'elle poursuive parfaitement un objectif que nous avons formulé… imparfaitement. Bienvenue dans le problème de l'alignement. 3/9

8/8/26, 1:04 pm0 reposts0 likes

Les Trois Lois de la robotique paraissent presque touchantes aujourd'hui : "Ne fais pas de mal aux humains." OK. Mais qu'est-ce que "faire du mal" ? Et que fait-on quand deux humains ne sont pas d'accord ? 4/9

Avec un robot d'Asimov, on pouvait encore imaginer qu'une bonne programmation suffirait. Avec un LLM, c'est nettement moins confortable. On ne programme pas simplement le comportement : on entraîne un système dont le comportement émerge de milliards de paramètres. 5/9

Et avec les agents, on ajoute une petite subtilité : le système ne se contente plus de répondre. Il planifie. Il utilise des outils. Il agit. Il recommence. Bref, on passe doucement de "machine qui parle" à "machine à qui on confie des trucs". 6/9