Post

Quelque chose que je trouve fatiguant dans les discours critiques sur l'IA c'est la tendance de plein de ceux qui en émettent à décrire les problèmes qu'ils ne jugent pas prioritaires comme faux (ex : "le vrai problème de l'IA c'est l'impact que ça va avoir sur l'emploi").

"les biais des IAs sont un vrai problème, pas l'alignement au sens d'éviter l'auto-réplication etc.", "l'usage de propriété intellectuelle est un vrai problème le reste est sans importance car les IAs ne font que (mal) copier les humains", etc.

"les IAs génératives/prédictives posent de vrais problèmes, l'autre type d'IA c'est juste de la hype / ça n'a rien à voir", "le vrai danger c'est les applications militaires de l'IA", etc. etc.

Pour moi ça contribue à leur acceptation vu que chacun n'ira voir de problème qu'au niveau de sa petite obsession perso, et interdit de vrais réflexions collectives entre les critiques surtout techniques, surtout sociologiques, surtout juridiques, etc.

J'y inclus aussi la tendance à gauche, à voir toute évocation des risques relatifs aux progrès de l'IA par des chercheurs de compagnies IA comme uniquement destinée à servir la publicité de celles ci (mon point de désaccord avec @wnstnsmith.bsky.social) s'il y a de ça aussi dans certains cas.

Les discours du style "les IAs ne sont que la version moderne de l'automate joueur d'échec / que des perroquets stupides promus par une hype aussi artificielle que celle du multivers" me semblent parmi les plus pernicieux, car ils endorment la méfiance sur la technologie elle même.

S'il est évident que la dark silicon valley (des Musk etc.) recherche la hype pour financer et obtenir du soutien politique à ses expériences, il ne le fait pas pour rien. Il s'agit de croyants transhumanistes qui jouent aux apprentis sorciers car ils rêvent d'immortalité et de pouvoir absolu.

Après il est légitime de considérer les problèmes immédiats comme ceux des biais, de l'exploitation des forçats du clic, ou relatifs à la propriété intellectuelle comme plus prioritaires que des considérations hypothétiques sur les avancées prochaines.

Mais complètement écarter tout ce qui relève de l'anticipation c'est interdire précisément à l'humanité de se préparer aux progrès de ces technologies (qui même s'ils prendront plus probablement des décennies que les mois qu'évoquent certains doomers apparaissent difficilement évitables).

Autre catégorie de discours que je trouve encore plus dangereux : ceux qui analysent surtout l'IA sous un angle géostratégique (avec un inconscient atlantiste forcené) et vont justifier la fuite en avant dans une tech mal maitrisée par "la Chine" ou autre.

En arrivant à défendre une course à l'armement en la matière au lieu de pousser l'humanité à s'entendre pour une régulation globale de la recherche en IA (qui est une problématique du même ordre que s'entendre pour limiter le réchauffement climatique).