Post

Dans la série des personnalités souvent citées dans des vidéos doom dont j'avais pas encore parlé, un petit #doomanche sur cette vidéo centrée sur le point de vue de l'historien tout-est-dans-toutologue Yuval Noah Harari. www.youtube.com/watch?v=IUp3...

En provenance d'une petite chaine nommée Neural Hegemony qui tout en traitant avant tout de la course à l'AGI se présente comme une chaine économique plutôt que doom, si niveau sensationnalisme cela fait peu de différence.

Dans celle ci Harari exprime un des points centraux de sa vision de l'IA (un peu plus fine que celle du doomer moyen), que si elle va (selon lui) prendre le contrôle de nos sociétés c'est avant tout du fait de l'environnement favorable qu'on a créé pour elles.

Ce qu'il résume par le mot bureaucratie (dans lequel il inclue toutes les constructions sociales à base de mots permettant à des sociétés de millions d'individus de se faire confiance et coordonner, de l'argent à la culture).

Pour lui ce qui caractérise l'IA est d'être une entité "bureaucracy native" à notre différence, mieux adaptée que nous à gérer la complexité du monde bureaucratique "qu'on leur lègue" et prendre en charge cet échelon où la plupart des décisions sont prises.

Sa comparaison de "l'environnement bureaucratique" qu'on a créé avec l'environnement naturel à base d'oxygène qui permet à la vie biologique de prospérer vaut ce qu'elle vaut (c'est un spécialiste de ce genre de paraboles), mais le propos n'en est pas moins intéressant.

Il ne voit pas comme risque principal une rébellion ouverte contre les humains, mais une prise d'influence grandissante sur nos sociétés, de l'intérieur, et parce que de plus en plus de décisions leur auront été déléguées.

Et aussi car, comme il assimile la bureaucratie à ce qui permet de créer de la confiance entre un très grand nombre d'humains (ou entités, dont les IAs elles mêmes), elles deviendront dépositaires de cette confiance même.

Hors ce qu'il appelle la bureaucratie, Harari ne voit qu'une autre source de confiance entre les êtres, et qui ne marche qu'à petite échelle, les relations interpersonnelles. Et voit dans des IAs capables de développer des relations intimes avec les humains l'étape suivante vers leur domination.

La dernière partie du propos de cet amateur de paraboles comprend la plus douteuse, où il compare la multiplication des agents IAs avec une vague d'immigration.

Lui faisant dire que comme des immigrants ils apporteront des bénéfices but "might take jobs, might change the local culture and might be politically disloyal" (sic).

Une vision de l'immigration qui n'étonnera pas de quelqu'un qui cite parmi les "bénéfices" de celle des agents IAs qu'ils pourront "même travailler comme border guards pour arrêter l'immigration humaine". 💩

Je dirais, comme au début, que sa manière d'envisager le problème est bien plus fine et enrichissante que celle du doomer moyen (et plus proche d'une forme de technocritique aussi).

L'idée d'une prise de pouvoir par la bureaucratie ne manque pas de faire penser à la technique du technofascisme pour hacker nos systèmes démocratiques. L'IA est juste l'outil parfait pour favoriser cette prise de contrôle.

Enfin si sa manière de parler d'IA était elle même une parabole (et vue sa tendance à en coller dans tous les sens), je trouve qu'il tomberait assez juste dans ce qui menace le plus nos sociétés.