Post

Quelque chose que je trouve fatiguant dans les discours critiques sur l'IA c'est la tendance de plein de ceux qui en émettent à décrire les problèmes qu'ils ne jugent pas prioritaires comme faux (ex : "le vrai problème de l'IA c'est l'impact que ça va avoir sur l'emploi").

"les biais des IAs sont un vrai problème, pas l'alignement au sens d'éviter l'auto-réplication etc.", "l'usage de propriété intellectuelle est un vrai problème le reste est sans importance car les IAs ne font que (mal) copier les humains", etc.

"les IAs génératives/prédictives posent de vrais problèmes, l'autre type d'IA c'est juste de la hype / ça n'a rien à voir", "le vrai danger c'est les applications militaires de l'IA", etc. etc.

J'y inclus aussi la tendance à gauche, à voir toute évocation des risques relatifs aux progrès de l'IA par des chercheurs de compagnies IA comme uniquement destinée à servir la publicité de celles ci (mon point de désaccord avec @wnstnsmith.bsky.social) s'il y a de ça aussi dans certains cas.

Les discours du style "les IAs ne sont que la version moderne de l'automate joueur d'échec / que des perroquets stupides promus par une hype aussi artificielle que celle du multivers" me semblent parmi les plus pernicieux, car ils endorment la méfiance sur la technologie elle même.

S'il est évident que la dark silicon valley (des Musk etc.) recherche la hype pour financer et obtenir du soutien politique à ses expériences, il ne le fait pas pour rien. Il s'agit de croyants transhumanistes qui jouent aux apprentis sorciers car ils rêvent d'immortalité et de pouvoir absolu.