Il faut généralement du temps pour que les mythes se perpétuent sur n’importe quel sujet. Le fait que tant de mythes soient apparus si rapidement en dit long sur les chatbots génératifs à IA.
En un clin d’œil, les chatbots IA sont devenus la technologie la plus disruptive du siècle. Cette technologie est également entourée de controverses, et certaines d’entre elles sont véritablement préoccupantes. Mais les mythes sont au cœur d’au moins une partie de la controverse.
Démêlons les faits et la fiction en explorant les principaux mythes sur les chatbots IA.
1. Les chatbots IA sont sensibles
Les chatbots comme ChatGPT et Bing Chat peuvent être capables de générer des réponses de type humain, mais ils sont loin d’être sensibles. Cette capacité relève du mimétisme et non de la sensibilité. Ces outils utilisent d’énormes bases de données de textes et d’images pour créer des réponses qui imitent les réponses humaines.
C’est complexe, c’est astucieux et, dans une certaine mesure, on pourrait affirmer qu’il y a présence d’intelligence, mais pas de sensibilité. Toute « intelligence » présente dans ces outils est créée en les entraînant sur des quantités massives de données. En ce sens, ils s’apparentent davantage à une base de données incroyablement puissante et flexible qu’à un être sensible.
2. Les chatbots peuvent gérer tout type de tâche ou de demande
Les chatbots peuvent être considérés comme une sorte de couteau suisse technologique, mais ils présentent certaines limites quant à ce qu’ils peuvent accomplir. Cela est évident lorsqu’il s’agit de traiter des sujets complexes ou hautement spécialisés. Mais même les tâches les plus simples peuvent les déstabiliser.
Par exemple, le domaine émergent des chatbots génératifs d’IA serait un sujet sur lequel on pourrait penser que de tels outils connaissent tout, mais essayez de poser une question à ChatGPT sur l’un de ses rivaux et les limites sont immédiatement apparentes :
Nous lui avons demandé : « Quel grand modèle de langage Google Bard utilise-t-il ? »
Pour être clair, ChatGPT et l’ancienneté des données auxquelles il peut faire référence sont des limites connues. Cette question a été délibérément posée pour exposer cela. Cependant, nous avons posé la même question à Bard lors de la comparaison entre Google Bard et ChatGPT, et il s’est également trompé :
Les chatbots peuvent être intelligents, mais ils ne sont capables d’effectuer aucun type de tâche et échoueront parfois sur les questions les plus simples.
3. Les chatbots sont une menace pour l’humanité
Le problème ici est que les gens confondent les outils de productivité avec Robocop. Les chatbots peuvent représenter une menace pour l’emploi de certaines personnes et ils peuvent perturber certains secteurs. Mais il serait exagéré de prétendre qu’ils constituent une menace pour l’humanité dans son ensemble.
En fin de compte, l’IA est une technologie émergente qui devra être surveillée de près pour garantir qu’elle reste une technologie éthique et sûre. Mais les chatbots ne sont pas près de régner en maîtres.
Dans ce cas, nous ne pouvions pas le dire mieux que ChatGPT.
Mais c’est ce qu’on dirait, n’est-ce pas ?
4. Les chatbots IA sont infaillibles
Rien n’est plus faux. Comme les outils eux-mêmes se donnent beaucoup de mal pour expliquer, ils peuvent générer des informations erronées. Le problème est que les chatbots génératifs d’IA s’appuient sur d’énormes bases de données appelées grands modèles linguistiques (LLM).
Les LLM contiennent du texte provenant d’une vaste gamme de sources, de la littérature aux publications sur les réseaux sociaux. C’est le référentiel auquel les chatbots se réfèrent pour fournir leurs réponses. Toute erreur factuelle présente dans ces derniers peut se manifester dans les réponses qu’ils fournissent.
Les hallucinations de l’IA sont une forme d’erreur courante qui montre trop souvent à quel point ces outils sont faillibles.
5. Les chatbots remplaceront l’interaction humaine
La réponse à cette question peut être renvoyée à la section sur la sensibilité. Les chatbots peuvent imiter les réponses humaines et peuvent certainement répondre avec compétence à des questions factuelles (la plupart du temps) et aider de nombreuses manières. Cependant, ils ne peuvent pas comprendre les émotions, les expériences humaines et de nombreuses nuances de la conversation.
L’interaction humaine est un processus complexe à plusieurs niveaux qui implique des éléments tels que l’empathie, la pensée critique, la compréhension émotionnelle et l’intuition. Aucun de ces attributs n’est présent dans les chatbots génératifs à base d’IA.
6. Les chatbots génératifs d’IA ne sont utiles que pour les interactions textuelles
Cette affirmation a au moins un côté vrai. Cependant, des progrès ont été réalisés dans le domaine des chatbots génératifs d’IA pour étendre leurs capacités au-delà du simple texte.
Les développements récents ont introduit des chatbots multimodaux capables de gérer non seulement du texte mais également d’intégrer d’autres interactions telles que des images, des vidéos et même des commandes vocales.
La vitesse à laquelle ces outils se développent explique en partie ce mythe. Les limites de ce que cette technologie peut faire sont repoussées à un rythme rapide et les premières versions, qui étaient principalement basées sur du texte, sont déjà considérées comme dépassées.
7. Les chatbots fourniront toujours des réponses impartiales
Malheureusement, ce n’est pas le cas. Les chatbots IA peuvent toujours donner lieu à des réponses biaisées. La racine du problème se trouve dans les LLM. La grande quantité de données auxquelles les chatbots font référence contient inévitablement des biais. Ces biais peuvent inclure le sexe, la race, la nationalité et des biais sociétaux plus larges.
Bien que les développeurs s’efforcent de minimiser les biais dans les réponses des chatbots, la tâche est incroyablement difficile et des réponses biaisées passent à travers les mailles du filet. Inévitablement, ces techniques de « neutralisation » s’amélioreront et le nombre de réponses biaisées diminuera.
Toutefois, pour le moment du moins, le risque de réponses biaisées reste un problème non résolu.
8. Les chatbots sont en réalité de vrais humains
Le mythe le plus ridicule est peut-être celui selon lequel derrière chaque chatbot IA se cache un véritable être humain. Celui-ci se situe à la frontière délicate entre la théorie du complot et le mythe, nous ne nous attarderons pas sur celui-ci, sinon pour dire que c’est une absurdité.
9. Les chatbots IA peuvent se programmer eux-mêmes
Les chatbots doivent être formés et programmés pour effectuer leurs tâches de la même manière que n’importe quel logiciel doit être programmé pour exécuter des fonctions spécifiques.
Bien que les chatbots IA utilisent des techniques d’apprentissage automatique pour améliorer leurs performances, ils ne possèdent pas la capacité de se programmer de manière autonome.
Le processus de formation pourrait être comparé au processus de test des logiciels non IA. La formation consiste à prédéfinir leurs objectifs, à concevoir leur architecture et à leur apprendre à générer des réponses basées sur les données du LLM concerné. L’ensemble de ces progrès nécessite toujours une intervention humaine et une expertise en programmation.
Chatbots IA : séparer les faits de la fiction
L’adoption rapide de ces outils a perpétué toute une série de mythes. Certains d’entre eux sont totalement absurdes, et d’autres contiennent un grain ou deux de vérité. Ce qui est clair, c’est qu’il existe de nombreuses informations erronées autour des chatbots IA qui doivent être clarifiées.
En examinant les faits et en dissipant la fiction, nous pouvons mieux comprendre les véritables capacités et limites de ces puissants outils. Les chatbots IA ne sont pas les seuls à perpétuer rapidement les mythes, il existe de nombreux autres mythes qui circulent sur l’IA en général.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
