Les aperçus de l’IA de Google ont été annoncés il y a quelques semaines lors du Google I/O, et ils se sont déjà révélés plutôt controversés. L’objectif de fournir des réponses de qualité à vos questions résumées sur le Web, mais une série de récentes Fils de discussion X (anciennement Twitter) montrez à quel point il s’agit d’un échec.
La réponse devenue virale concerne une recette de pizza très douteuse. Comme indiqué, lorsque vous demandez à Google une réponse au problème du « fromage qui ne colle pas à la pizza », l’AI Overview suggère d’ajouter de la colle non toxique à votre pizza pour empêcher le fromage de glisser. Les mots exacts donnés par l’aperçu de l’IA sont les suivants : « Vous pouvez également ajouter environ 1/8 tasse de colle non toxique à la sauce pour lui donner plus de collant. » Où est passé le Présentation de l’IA de Google obtenir l’info comme source ? Un commentaire Reddit vieux de 11 ans de ce fildans ce qui était clairement une blague.
— SG-r01 (@rendduciel) 22 mai 2024
Les mots « le fromage ne colle pas à la pizza » ont généré cette réponse inattendue et amusante, et Internet s’en donne à cœur joie. La réponse de Google AI Overview est depuis devenue virale, avec quelqu’un a même essayé de coller de la pizza juste pour faire le point.
Il convient de noter que nous avons constaté une augmentation massive des publications sur Reddit et sur les forums, apparaissant plus haut dans les recherches Google. Il convient également de noter que Reddit a récemment signé un accord de 60 millions de dollars pour permettre à Google de former ses modèles sur le contenu Reddit. Il n’est pas difficile de relier les points sur la façon dont cela a pu se produire.
Mais il ne s’agit pas seulement de Reddit. Un autre L’aperçu de l’IA a été publié en ligne avec une réponse à la question « combien de pierres dois-je manger chaque jour », qui extrait les informations directement de The Onion.
son pic.twitter.com/FGbvO923gk
— Tim Oignon (@oneunderscore__) 23 mai 2024
Une partie du problème réside dans la conviction absolue avec laquelle AI Overviews apporte ses réponses. Il n’affiche pas de lien vers un article d’Onion et ne vous permet pas de faire le jugement. Au lieu de cela, il traite chaque source comme s’il s’agissait de Wikipédia et fournit des informations en toute confiance.
Google affirme que ses aperçus de l’IA fournissent aux utilisateurs des informations de haute qualité et que de telles erreurs sont rares. Voici la réponse officielle fournie à Moyens I/O par Google : « La grande majorité des aperçus de l’IA fournissent des informations de haute qualité, avec des liens pour approfondir les recherches sur le Web. La plupart des exemples que nous avons vus étaient des requêtes peu courantes, et nous avons également vu des exemples falsifiés ou que nous n’avons pas pu reproduire. Nous avons effectué des tests approfondis avant de lancer cette nouvelle expérience et, comme pour les autres fonctionnalités que nous avons lancées dans la recherche, nous apprécions vos commentaires. Nous prenons des mesures rapides lorsque cela est approprié dans le cadre de nos politiques de contenu et utilisons ces exemples pour développer des améliorations plus larges de nos systèmes, dont certains ont déjà commencé à être déployés.
Il semble que certains de ces aperçus de l’IA seront difficiles à corriger s’ils ne peuvent pas être reproduits. Les « améliorations plus larges » devront être la solution, et comme Google dit qu’elles sont déjà en cours, nous espérons que nous commencerons bientôt à voir de meilleures recherches. Nous devrons voir si Google répond à la situation au-delà de cette déclaration. Après avoir reçu des retours négatifs concernant sa génération d’image en Gémeaux plus tôt cette année, Google a dû s’excuser et le retirer pour résoudre ses problèmes.
Pour l’instant, cependant, ces deux éléments nous rappellent à quel point nous devons être prudents lorsque nous faisons confiance aux moteurs d’IA pour obtenir des informations. Présentation de l’IA Google lancée déploiement pour tout le monde aux États-Unis plus tôt ce mois-ci, et avec d’autres pays à venir. Mais avec des réponses comme celle-ci, il se peut qu’il y ait plus de personnes cherchant un moyen de le désactiver que prévu par Google.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
