Post

Pour changer des vidéos de youtubeurs, un (tout) petit #doomanche sur un extrait de l'émission All In sur MSNBC, qui en 3 jours en est déjà à près de 10M de vues rien que sur YouTube. www.youtube.com/watch?v=PWkM...

Assez logiquement, car All In with Chris Hayes; est un talk show sur l'actualité maintes fois primé (2 emmys entre autres) et très regardé. On ne parle pas d'une émission de second plan.

L'extrait commence (mal) par un extrait des propos d'Harry Potter, pardon Jacob Coxon, l'ingénieur célèbre pour son départ d'Anthropic sur Fox News. Où il compare l'IA aux armes nucléaires sans qu'on lui apporte la moindre contradiction.

Puis Chris Hayes donne la parole à son invité, Bernie Sanders, décrit comme "un des politiciens qui se réveille sur le sujet des dangers de l'IA et le rôle nécessaire du gouvernement dans sa régulation", ce qui pose direct le ton plutôt peu critique de l'interview.

Dès la première réponse le mot "superintelligence" est prononcé par un Bernie décidément à fond sur le sujet. bsky.app/profile/anca...

Qui ensuite se félicite d'avoir organisé une rencontre entre les parlementaires et "the most knowledgeable people on the issue", sans que Chris Hayes (pourtant connu pour s'être pas mal intéressé par le passé et d'une manière critique à la mouvance TESCREAL*) songe à lui demander qui ils sont.

* comme le résume Google (dont les sources semblent pour une fois correctement résumées)

Mais alors que parmi les plus proches conseillers de Sanders sur la question on trouve des personnages issus de la mouvance long-termiste comme Max Tegmark, quand il ne qualifie pas de "leading expert on AI" Yudkowsky lui-même, ce point n'est ici pas abordé. bsky.app/profile/timn...

Au lieu de quoi l'interview embraye sur ses propositions, qui incluent la négociation d'un moratorium sur la superintelligence avec la Chine, et sur le souci de l'écart entre temps politique et rythme de développement des technologies.

Puis sur des considérations sur la géopolitique où Hayes dit carrément en plaisantant que tant qu'à développer une technologie qui risque de détruire l'humanité autant qu'un seul pays la recherche.

En gros des ingénieurs semblent convaincus que… Donc il semble légitime aux deux participants d'aborder la question presque uniquement sous cet angle (auquel Sanders ne fait qu'ajouter le pouvoir des milliardaires qui contrôlent les compagnies d'IA).

Puis on passe à un sondage qui confirme que vu que tout le monde leur dit que l'IA doit être régulée, les américains sont d'accord, sans plus s'intérroger sur quelle régulation exactement, ce qui serait pourtant le plus important.

Ce serait quoi pour vous une superintelligence ? Et quelle arguments voyez vous en faveur que l'on n'en soit pas proche (ou même que l'on y est pas déjà)

A priori ce serait à ceux qui en défendent l'idée de définir précisément ce machin, mais il s'agirait a priori d'une IA ayant des capacités cognitives *largement* supérieures aux nôtres, dépassant *systématiquement* les meilleurs spécialistes humains, et surtout s'auto-améliorant sans fin.

Et en gros qui serait réellement dangereuse parce qu'elle serait capable de contrer tout plan qu'on pourrait vouloir mettre en œuvre pour l'arrêter (nous éliminant préventivement éventuellement).