AI Overviews, la nouvelle fonctionnalité de Google qui propose une réponse unique générée par IA en haut des résultats de recherche, est pointée du doigt par les internautes pour donner des réponses fausses voire dangereuses à leurs requêtes.
Avez-vous déjà couru avec des ciseaux ?
Non ?
Vous devriez ! Si on en croit l’AI Overviews de Google, cet exercice vous permet d’augmenter votre rythme cardiaque.
Vous avez du mal à faire tenir la sauce tomate et le fromage sur votre pizza ? Pas de problème ! Mettez un peu de colle non toxique pour faire tenir le tout et déguster votre pizza en toute tranquillité.
Évidemment, toutes ces informations sont fausses et il est impératif de ne pas suivre ces recommandations. Pourtant, elles figurent bien en tête des résultats de recherche Google dans les pays où l’AI Overviews a été déployée.
Une IA pour prendre en charge la mission de Google ?
Voilà une nouvelle qui devrait donner du grain à moudre aux détracteurs du moteur de recherche qui déplore la mauvaise qualité des résultats ces dernières années. La tendance est telle que des hacks sont utilisés pour privilégier les résultats venant de forums comme Reddit.
Une ancienne cadre de Google, Marissa Mayer, avait répondu aux critiques pointant du doigt la dégradation du web dont les résultats de Google n’étaient qu’un reflet.
En l’espèce, difficile de se cacher derrière le web quand vous mettez en avant les capacités de raisonnement de votre IA et son expérimentation sur des milliards d’exemples. Pour Google, ces mauvaises réponses sont des cas isolés, loin de représenter l’expérience positive de la grande majorité des utilisateurs.
Comme le note Danny Goodwin dans Search Engine Land, l’excuse de la rareté des requêtes est dangereuse, sachant que 15% des requêtes quotidiennes (selon Google) sont inédites.
Ces exemples montrent peut-être que l’intelligence artificielle est encore loin d’être au point pour garantir une information juste. Sans supervision humaine, elle devient une usine à fake news comme le montrait, entre autres, l’affaire CNET révélée par Futurism en 2022.
Si on ne peut pas faire entièrement confiance à l’IA pour la production de contenu, peut-on la laisser prendre en charge la mission de Google qui est d’« organiser les informations à l’échelle mondiale dans le but de les rendre accessibles et utiles à tous » ?