Je sais que je me lance dans une écriture pour faire un brain dump des idées qui me passent par la tête et je vois très bien que ça va finir comme d'habitude avec un billet de blog d'une qualité pourrave - en tous cas de qualité bien inférieure à ce que je voudrais obtenir.
Mais plutôt que de ne jamais le publier pour cause de mauvaise qualité je tente une nouvelle méthode de production : je vais publier ce billet tel quel et le mettre à jour au fur et à mesure).
Je ne sais pas si et quand je terminerai la rédaction ; bref pour tout ça, chère personne qui passera par là : désolé :-)
Je vous refais pas le topo, tout le monde saute dans tous les sens avec la Hype des IA génératives ; mais je voudrais qu'on prenne le temps de faire une petite pause dans la frénésie pour tenter de toucher, de lister, un peu les choses qu'on perd en échange de quelques images/vidéos/starter packs générés.
Ce qui a démarré l'envie d'écrire ce billet c'est la découverte de MCP (Model Context Protocol), un protocole utilisé pour outiller des LLM et alimenter leur contexte avec des données diverses et variées ; mais aussi le fait que de plus en plus de gens n'utilisent plus les moteurs de recherche pour leurs recherches mais plutôt un LLM - au point que le business model de Google est mis en danger par de nouveaux acteurs qui ont bien pigé le filon.
En découle l'idée qu'il est pas sûr qu'il existe encore demain, sur le Web du contenu lisible par des humains vu que les gens utilisent des LLM pour se renseigner : pourquoi continuer à s'embêter à publier pour des personnes vu que ces personnes ne verront jamais la documentaiton en direct puisque la personne consommera la réponse générée par le LLM sans jamais consulter la documentation source. Et à quoi bon continuer à publier une documentation comme on le fait jusque-là parce qu'on sera plus efficace à générer du contenu dans un format plus adapté au scrapping des LLM, ... Je parle de documentation mais on peut élargir à tout site Web : à la manière des sites Web de presse ont été encouragés à produire du contenu au format AMP - soit disant optimisé pour le mobile mais surtout très pratique pour que Google puisse afficher le contenu des journaux directement dans Google News sans que les gens aient besoin d'aller sur les sites des journaux - les privant au passage de leurs revenus publicitaires. Bref sur ce point je paris qu'on re-verra du déjà vu.
S'il y a moins de contenu de qualité publié de façon lisible sur le Web, il y aura moins de raison d'aller sur le Web et plus de raisons de passer par des LLM.
On en vient à qui possède/fabrique les LLM, à leur possibilité d'entraver l'usage de ces outils à la tête du client, aux biais ajouté par dessus le contenu originel, etc. Du fait qu'il y a une poignée de fournisseur de LLM comment faire si le fournisseur refuse de donner une information (on le voit déjà sur des sujets qui sont jugés par l'éditeur ou par le Pays dans lequel il est établi) ou si le LLM réécrit l'histoire ?
Si on parle d'usages, il y a des moments où ça peut être pratique mais il y a aussi bien des usages qu'on devrait refuser :
- reconnaissance faciale / contrôle des populations
- armement
- discrimination
- décisions de justices
- opérations administratives (pouvant mettre en difficulté les personnes)
- tout ce qui risque de maintenir au pouvoir les mêmes personnes
Pour qu'une liberté puisse être déféndue, que la résistance puisse se faire, il faut des interstices - des degrés de libertés pour permettre à des gens de contre-carrer le système. Sans ce degré de liberté - qu'on pourrait nommer "failles" - il est difficile voir impossible de résister. Faisons l'exercice de pensée : où en serait l'Europe avec de tels outils dans les années 30/45 ? Y serait-on encore ?