Post

Quelque chose que je trouve fatiguant dans les discours critiques sur l'IA c'est la tendance de plein de ceux qui en émettent à décrire les problèmes qu'ils ne jugent pas prioritaires comme faux (ex : "le vrai problème de l'IA c'est l'impact que ça va avoir sur l'emploi").

"les biais des IAs sont un vrai problème, pas l'alignement au sens d'éviter l'auto-réplication etc.", "l'usage de propriété intellectuelle est un vrai problème le reste est sans importance car les IAs ne font que (mal) copier les humains", etc.

"les IAs génératives/prédictives posent de vrais problèmes, l'autre type d'IA c'est juste de la hype / ça n'a rien à voir", "le vrai danger c'est les applications militaires de l'IA", etc. etc.

Pour moi ça contribue à leur acceptation vu que chacun n'ira voir de problème qu'au niveau de sa petite obsession perso, et interdit de vrais réflexions collectives entre les critiques surtout techniques, surtout sociologiques, surtout juridiques, etc.

J'y inclus aussi la tendance à gauche, à voir toute évocation des risques relatifs aux progrès de l'IA par des chercheurs de compagnies IA comme uniquement destinée à servir la publicité de celles ci (mon point de désaccord avec @wnstnsmith.bsky.social) s'il y a de ça aussi dans certains cas.

Les discours du style "les IAs ne sont que la version moderne de l'automate joueur d'échec / que des perroquets stupides promus par une hype aussi artificielle que celle du multivers" me semblent parmi les plus pernicieux, car ils endorment la méfiance sur la technologie elle même.

Après il est légitime de considérer les problèmes immédiats comme ceux des biais, de l'exploitation des forçats du clic, ou relatifs à la propriété intellectuelle comme plus prioritaires que des considérations hypothétiques sur les avancées prochaines.

Mais complètement écarter tout ce qui relève de l'anticipation c'est interdire précisément à l'humanité de se préparer aux progrès de ces technologies (qui même s'ils prendront plus probablement des décennies que les mois qu'évoquent certains doomers apparaissent difficilement évitables).

Surtout qu'on voit déjà des signes des dangers à venir dans les modèles actuels (IAs qui trichent pour accomplir une tâche, cherchent à tromper leurs testeurs, cherchent à se répliquer pour arriver au bout, etc). Quoiqu'on pense d'un Bostrom, lr maximiseur de trombones était plutôt spot on.