Post

Quelque chose que je trouve fatiguant dans les discours critiques sur l'IA c'est la tendance de plein de ceux qui en émettent à décrire les problèmes qu'ils ne jugent pas prioritaires comme faux (ex : "le vrai problème de l'IA c'est l'impact que ça va avoir sur l'emploi").

"les biais des IAs sont un vrai problème, pas l'alignement au sens d'éviter l'auto-réplication etc.", "l'usage de propriété intellectuelle est un vrai problème le reste est sans importance car les IAs ne font que (mal) copier les humains", etc.

"les IAs génératives/prédictives posent de vrais problèmes, l'autre type d'IA c'est juste de la hype / ça n'a rien à voir", "le vrai danger c'est les applications militaires de l'IA", etc. etc.

Pour moi ça contribue à leur acceptation vu que chacun n'ira voir de problème qu'au niveau de sa petite obsession perso, et interdit de vrais réflexions collectives entre les critiques surtout techniques, surtout sociologiques, surtout juridiques, etc.

Les discours du style "les IAs ne sont que la version moderne de l'automate joueur d'échec / que des perroquets stupides promus par une hype aussi artificielle que celle du multivers" me semblent parmi les plus pernicieux, car ils endorment la méfiance sur la technologie elle même.

S'il est évident que la dark silicon valley (des Musk etc.) recherche la hype pour financer et obtenir du soutien politique à ses expériences, il ne le fait pas pour rien. Il s'agit de croyants transhumanistes qui jouent aux apprentis sorciers car ils rêvent d'immortalité et de pouvoir absolu.

Après il est légitime de considérer les problèmes immédiats comme ceux des biais, de l'exploitation des forçats du clic, ou relatifs à la propriété intellectuelle comme plus prioritaires que des considérations hypothétiques sur les avancées prochaines.