Post

Dans la série des personnalités souvent citées dans des vidéos doom dont j'avais pas encore parlé, un petit #doomanche sur cette vidéo centrée sur le point de vue de l'historien tout-est-dans-toutologue Yuval Noah Harari. www.youtube.com/watch?v=IUp3...

En provenance d'une petite chaine nommée Neural Hegemony qui tout en traitant avant tout de la course à l'AGI se présente comme une chaine économique plutôt que doom, si niveau sensationnalisme cela fait peu de différence.

Dans celle ci Harari exprime un des points centraux de sa vision de l'IA (un peu plus fine que celle du doomer moyen), que si elle va (selon lui) prendre le contrôle de nos sociétés c'est avant tout du fait de l'environnement favorable qu'on a créé pour elles.

Ce qu'il résume par le mot bureaucratie (dans lequel il inclue toutes les constructions sociales à base de mots permettant à des sociétés de millions d'individus de se faire confiance et coordonner, de l'argent à la culture).

Pour lui ce qui caractérise l'IA est d'être une entité "bureaucracy native" à notre différence, mieux adaptée que nous à gérer la complexité du monde bureaucratique "qu'on leur lègue" et prendre en charge cet échelon où la plupart des décisions sont prises.

Il ne voit pas comme risque principal une rébellion ouverte contre les humains, mais une prise d'influence grandissante sur nos sociétés, de l'intérieur, et parce que de plus en plus de décisions leur auront été déléguées.

Et aussi car, comme il assimile la bureaucratie à ce qui permet de créer de la confiance entre un très grand nombre d'humains (ou entités, dont les IAs elles mêmes), elles deviendront dépositaires de cette confiance même.

Hors ce qu'il appelle la bureaucratie, Harari ne voit qu'une autre source de confiance entre les êtres, et qui ne marche qu'à petite échelle, les relations interpersonnelles. Et voit dans des IAs capables de développer des relations intimes avec les humains l'étape suivante vers leur domination.