Post

Est-ce que les gens qui râlent parce que HAL met à disposition un MCP sont les mêmes qui disent « L'IA cite mal les références des articles » ?

Cf mathstodon.xyz/@hal_fr@soci... pour les râleries

Pour préciser un peu : un MCP qui permet à une IA agentique d'interroger une source de publications type HAL, c'est précisément le genre de choses qui amènerait à ce que les IA citent leurs sources de façon fiable. Il me semble difficile de critiquer ça tout en disant "les IA ne citent pas".

Non, je ne pense pas. Le problème c'est surtout ce que l'IA utilise "de mémoire".

Bah de fait l'utilisation d'outils (via MCP ou autre) évite de sortir des choses de mémoire, et permet même de mettre des citations exactes.

J'ai l'impression que le principal atout des LLM c'est quand même leur mémoire énorme, justement.

Je ne sais pas ce que tu appelles "mémoire" ici, mais si tu utilises une "IA agentique" comme Claude Code, celui-ci interagit continuellement avec l'environnement de développement pour vérifier que ça compile, lire les messages d'erreur (qui sont injectés dans sa chaîne de raisonnement), etc.

et c'est précisément cela qui lui permet d'être aussi efficace et de te donner un truc qui compile à la fin (sans même parler des interactions avec des MCP qui peuvent automatiser le navigateur et lui donner une "vue" sur le rendu de l'app (via son DOM)). C'est la même chose peu ou prou si tu fais

Un agent lâché sur un problème de maths va-t-il beaucoup utiliser Internet ? Je ne suis pas sûr.

C'est très compliqué d'affirmer des choses à ce sujet, si tu donnes des instructions du genre "dès que tu fais référence de mémoire à un article, utilise ton outil MCP de recherche documentaire pour confirmer", bah déjà ça peut beaucoup changer les choses. Ou encore "dès que tu donnes un morceau

de preuve mathématique, utilise Lean pour le formaliser et le vérifier" (avec le risque que la formalisation ne corresponde pas à la preuve écrite en langage humain, risque qu'on ne peut éliminer mais dont on peut imaginer qu'il puisse être rendu plus faible suivant la façon dont c'est fait)