"Google will do the Googling for you" – laissez Google googler des trucs sur Google à votre place. Ne vous laissez pas tromper par le ton câjoleur : ce n'est pas une invitation. C'est une mise à jour, unilatérale, des termes du contrat social que nous avons passé avec le géant étatsunien. Le 14 mai, lors de sa keynote annuelle Google I/O, où le mot "IA" aura été prononcé 121 fois en deux heures, Google a décidé que le paradigme de la recherche d'informations avait changé, et c'est comme ça. Première déflagration : dans l'affichage par défaut du moteur de recherche, c'est désormais Gemini, le grand modèle de langage (LLM) de Google, qui organise les résultats et génère des titres et des extraits de texte à la volée. Autrement dit, la page de recherche Google est (encore un peu plus) gérée comme un feed de réseau social, où la hiérarchie de l'information est décidée par un intermédiaire algorithmique. Vous l'ignorez, parce que Google s'est bien gardé de vous afficher un gros message d'avertissement, mais le changement a déjà eu lieu. Le paradigme a déjà changé. Bienvenue dans le premier jour du reste de nos vies numériques, ou le portail d'IA générative Google vient d'ajouter une option "moteur de recherche".
(Instant tutoriel : pour retrouver un affichage classique, il faut désormais aller dans le sous-menu des filtres –Images, Vidéos, Actualités, etc– et cocher "Web", et il existe désormais une extension pour Chrome qui cache automatiquement les résultats générés par IA. Pour les artisans du Web qui utilisent Firefox, on est ensemble : utilisez l'URL https://www.google.com/search?q=%s&udm=14. Mais franchement, basculez sur DuckDuckGo.)
Google évalue automatiquement le degré de hype
Conférence Google I/O, 14 mai 2024
Le plus débile est à venir. D'ici à quelques semaines ou quelques mois, le haut de votre page de recherche Google sera envahi d' "A.I Overviews", des sortes de petits résumés d'information générés automatiquement par Gemini. Elles sont déjà disponibles aux Etats-Unis, ou avec un VPN si vous aimez particulièrement souffrir. Google précise que ce sera le logiciel lui-même qui décidera quand effectuer une intervention sur votre recherche. Comment ? Pourquoi ? Selon quels critères ? Les voies de l'IA magique sont impénétrables. Dans le monde merveilleux de la démo, on voit des utilisateurs communiquer en langage naturel avec le moteur de recherche et lui demander des trucs comme "explique-moi comment la température impacte la cuisson" ou "propose-moi un programme alimentaire d'une semaine pour un étudiant fauché". Les interactions sont naturelles, sans friction, et les réponses sont parfaites. Bienvenue dans le premier jour du reste de vos vies numériques, où vous passez plus de temps à tailler le bout de gras avec votre moteur de recherche automatisé qu'avec d'autres êtres humains. Il y a juste un problème : ce futur-là n'existe pas, n'a jamais existé et n'existera jamais.
Ce que Google vient de faire est caractéristique du mode opératoire actuel de la Silicon Valley - annoncer en grande pompe un futur parfaitement hypothétique, une usine à gaz sur laquelle la presse et le public s'empresseront de poser des yeux humides d'émerveillement, pour dissimuler des modifications structurelles, violentes, de nos écosystèmes informationnels, et neutraliser autant que possible leur analyse dans le champ social. Nous voilà à nous demander, en pure perte, quand nous aurons droit au futur imaginé par Spike Jonze dans Her –la nouvelle métaphore préférée de Sam Altman, qui vient de dévoiler une version parlante et étrangement séductrice de ChatGPT, et une énième illustration de la tendance des patrons de la Silicon Valley à percevoir des dystopies d'anticipation comme des futurs désirables – au lieu de nous poser la seule question qui vaille : comment la mise à jour structurelle de Google, notre index collectif du Web depuis 25 ans, va-t-elle modifier nos usages, et avec quelles conséquences sur les rapports de pouvoir entre la Silicon Valley et la société civile ?
Her, nouvelle "dystopie utile" pour les patrons de la Silicon Valley
Blood in the Machine, 14 mai 2024
Traçons d'abord à travers le brouillard du bullshit. Google, comme le reste de la Silicon Valley, nous vend constamment une IA qui n'existe pas, une IA mensongère et fictive devenue la routine marketing. En 2018, la firme dévoilait un assistant vocal phénoménal, Duplex, capable de passer des coups de fil à votre place. La démo était probablement fausse, et le service était en réalité... un call-center. En guise d'IA, trois humains sous un imperméable. Rebelote en décembre 2023 avec la démo extraordinaire de son IA Gemini, qui était au moins partiellement scriptée. OpenAI, Microsoft et les autres font la même chose. L'IA n'est pas une course aux armements, c'est un concours de prestidigitateurs, face auquel le scepticisme par défaut devient la seule attitude saine. Il n'y a absolument aucune raison de croire que ce que Google nous montre reflète l'état de l'art de ses produits, et toute raison de penser que nous venons de voir un court-métrage d'anticipation publicitaire. Pourquoi ? Parce que la démo promet les deux choses que les logiciels d'IA générative sont structurellement incapables de fournir : la fiabilité et l'exhaustivité.
L'IA Duplex, trois humains sous un imperméable
The New York Times, 22 mai 2019
Je sais que je me répète de chronique en chronique, mais je le rabâcherai jusqu'à ce que la bulle de l'IA explose : la-technique-ne-fonctionne-pas. Selon les critères d'évaluation, le taux d'erreur du meilleur logiciel actuel, GPT-4, se situe entre 2,5% et 25%. Ces erreurs sont extrêmement plausibles, assénées avec autorité, et par conséquent plus dangereuses encore que les fake news classiques. L'industrie appelle ça des hallucinations. Le terme, à la fois magique, mignon et puissamment neutralisant, a surtout pour fonction de dissimuler la réalité politique et sociale aux régulateurs : l'IA générative est une arme de désinformation massive. Et c'est donc le pire outil possible à déployer comme portail d'informations en ligne. Si un taux d'erreur de 2,5% vous paraît faible, dites-vous que le moteur de recherche Google répond à 8,5 milliards de requêtes... par jour. Ça en fait, de la fake news.
Les hallucinations sont inévitables. Elles sont une propriété structurelle de ces systèmes. Ça-ne-se-répare-pas. L'industrie le sait très bien. Elle a tellement compris qu'elle est bloquée avec ses machines mythomanes qu'elle a déjà modifié son récit publicitaire. En 2023, à en croire le clergé de l'IA, nous foncions tout droit vers la superintelligence cosmique. En 2024, Sam Altman nous dit que les mensonges font partie de la "magie" de la technique, et le PDG de Google nous explique qu'il faudrait même qu'on s'émerveille lorsque les logiciels racontent n'importe quoi, comme devant des enfants de maternelle qui nous rendent des dessins qui ne ressemblent à rien ou des tables de multiplication fausses– bravo Gemini, c'est super, continue comme ça ! Après des décennies à nous affirmer que les programmes informatiques sont des machines froides, neutres, objectives et parfaitement infaillibles (alors que ça a toujours été parfaitement faux), la Silicon Valley veut maintenant nous persuader qu'il faudrait traiter ses logiciels mal foutus comme des enfants Montessori, en troquant l'évaluation des compétences contre l'encouragement et la bienveillance. Une autre manière de s'extirper du champ de la critique politique, en instrumentalisant notre tendance innée à l'anthropomorphisation.
Non, les logiciels ne sont pas des enfants
The Verge, 15 mai 2024
Sauf que les logiciels ne sont pas des enfants et que pendant ce temps-là, la recherche par IA est un désastre, résume The Atlantic. En février 2023, Google tentait déjà de nous montrer que son chatbot Bard pouvait remplacer son moteur de recherche – première démo, premier désastre, et 100 milliards de dollars de capitalisation boursière évaporés. Fin 2023, on apprenait que le chatbot Bing, que Microsoft (qui possède OpenAI) a intégré à son moteur de recherche avec des résultats désastreux, hallucine des résultats d'élections une fois sur 3 et n'est même pas foutu de donner correctement l'année - pas le jour ou l'heure, non, l'année.
Le moteur de recherche en IA, une idée pourrie
The Atlantic, 16 février 2023.
Après 11 mois de tests, le moteur de recherche "augmenté" par IA Google Search Generative Experience se révèle moins fiable que le moteur de recherche classique. L'IA du futur vous propose notamment une recette de cuisson des œufs en 15 étapes, 60 minutes et cinq passages à la casserole. Le service AI Overviews est en ligne depuis quelques jours seulement, mais les critiques s'empilent déjà sur les forums d'aide de Google. Le moteur de recherche a notamment conseillé à des internautes de boire leur urine pour faire passer des calculs rénaux, et un autre utilisateur affirme que chacune des réponses générée par IA était incorrecte. Face à cet amoncellent de preuves anecdotiques, Google pense s'en tirer en plaçant une petite vignette d'avertissement "l'IA générative est expérimentale" sous ses petits paragraphes délirants. Une manière de nous dire de vérifier les informations fournies par Google. En utilisant... Google ? Bienvenue dans le futur de l'accès à l'information en ligne, où tout est présumé faux jusqu'à preuve du contraire. Mais hey, soyons indulgent avec les enfants des Gafam qui repeignent nos murs avec leur caca algorithmique, ils sont mignons et à cet âge-là, ça apprend vite, paraît-il.
Sauf que ça fait déjà deux ans qu'on se les coltine, et pas l'ombre d'un bénéfice pour la société civile. Après 330 milliards de dollars dépensés en trois ans, les logiciels d'IA générative sont toujours un cancer informatique, une marée noire de l'information, qui englue et dégrade tout ce qu'elle touche. Partout où elle est déployée, dans la recherche scientifique, dans la justice, dans la presse, la réalité consensuelle s'effrite et la qualité de l'information s'effondre. Et comme si ça ne suffisait pas, chaque recherche par IA coûte environ 10 fois plus cher à l'entreprise qu'une recherche classique. À tel point que Google envisage désormais de nous faire payer pour utiliser son service de désinformation automatisée.
Payer pour utiliser Google : merci mais non merci
The Guardian, 4 avril 2024
Et alors là, j'ai l'impression de perdre pied. Parce que si je comprends bien, Google est en train de joyeusement saboter son produit-phare depuis 25 ans, son joyau de la couronne, son monopole le plus solide. Un produit gratuit, utilisé quotidiennement par deux milliards de personnes et qui vient de lui rapporter 175 milliards de dollars en 2023. Un produit devenu un verbe, sur lequel Google a basé son identité, son influence et sa puissance. Un produit devenu synonyme d'Internet au 21e siècle. Elle est en train de le saboter pour nous proposer un outil foireux, payant, catastrophique énergétiquement, qui lui fait perdre de l'argent, qui fait exploser son empreinte énergétique (celle de Microsoft a augmenté de 30% en 2023), souille irrémédiablement tout ce qu'il touche et que les gens, dans la vraie vie, abandonnent rapidement faute d'usage concret.
Le 14 mai, Google a non seulement entériné mais adoubé ce "changement d'ordre mondial", ce nouveau régime du Web-toxique, hostile, impraticable, pourri. Et l'entreprise nous propose de faire ce saut de l'ange dans une piscine de merde avec elle. Fin 2024, le Google dopé à l'IA sera disponible auprès d'un milliard de personnes, promet Alphabet. Pas contents ? Changez de navigateur - tant qu'il en reste. Déjà, d'autres start-ups lui emboîtent le pas et proposent des navigateurs Web dopés à l'IA, comme le navigateur Arc, avec la promesse d'une expérience totalement automatisée. Sans se demander une seconde si ça intéresse réellement quelqu'un. Sur l'autel du déterminisme technique, la satisfaction client a cessé d'être un objectif depuis longtemps. La monnaie d'échange de la Silicon Valley, c'est la fin des temps contre des milliards de dollars. Et Google se met à son tour à l'eschatologie capitaliste. Ce qui transpire derrière cette offensive d'IA générative, c'est une destruction schumpéterienne de la réalité numérique.Google va volontairement casser Google.
J'ai déjà parlé d'emmerdification ici, mais on assiste peut-être à la plus épique, la plus intense, la plus iconique de toutes. Car à ce stade, le projet de Google est fondamentalement apocalyptique. Grâce aux travaux d'Olivier Ertzscheid, qui analyse la bête depuis sa naissance ou presque, je comprends que Google a passé les 25 dernières années à essayer de contrôler le Web sémantique qu'il a contribué à bâtir. D'abord en transformant les mots en marchandises, dont la valeur fluctue selon la demande dans le grand marché de la publicité en ligne, puis en imposant ce capitalisme linguistique au reste du Web. On a appelé ça SEO, search engine optimization. Les bonnes combinaisons de mots vous ramenaient du trafic, de la publicité, de l'argent. Avant même l'IA générative, Google était devenu un moteur de recherche qui affichait des sites optimisés pour le moteur de recherche. Nous n'étions plus la cible ; la cible, c'était l'algorithme.
Depuis, Google essaie de devenir un site dont on ne sort pas, une sorte d'OS du Web. Son obsession, c'est celle du résultat "zero-click", où Google vous répond sur Google, sans que vous ayez à quitter Google – dans le Monde, Ertzscheid appelle ça un "moteur de réponse". En basculant du Web sémantique au Web synthétique et après avoir raflé tout ce que le Web a produit de textes publiquement accessibles, Google se sent prêt à remplacer les sites Web qu'il indexe depuis 25 ans avec ses machines à régurgiter du polyester informationnel, et à remplacer ses utilisateurs par des machines à naviguer cette déchetterie. Des robots posent des questions, des robots produisent des réponses. Mais qui produit l'information que les robots résument, et que se passera-t-il lorsque le jardin emmuré de Google se sera hermétiquement scellé au-dessus de nos têtes? Google ne se pose pas la question. Google n'a plus besoin de nous. Le contrat avec les êtres humains d'Internet - trafic et référencement contre exploitation publicitaire- est nul et non avenu. Les prochains mois seront un (enième) carnage économique. Mais Google s'en fout. Google détient 90, 1% du marché de la recherche en ligne. Google est un monopole. Il ne craint ni la régulation, ni la compétition, ni l'échec commercial. Il n'a même plus besoin que son service soit fiable. Google peut s'auto-mutiler sans sourciller. Le Web sémantique et le Web synthétique se dissolvent dans son Web monopolistique. Que vous le vouliez ou non, Google va mal googler des trucs à votre place sur Google. Google va vous résumer le monde comme il veut. Google va vous conseiller de boire votre pisse pour vous guérir du cancer. Et vous allez écouter, sans sourciller. Ainsi va le monopole.
Quittez Google.
Web sémantique, Web synthétique... Web apocalyptique?
Blog d'Olivier Ertzscheid, 9 octobre 2023.