Il y a quelques jours, un utilisateur de Reddit SentuBill commun une étrange conversation avec ChatGPT qui a déconcerté la communauté. La capture d’écran montrait que ChatGPT avait d’abord lancé la conversation sans que l’utilisateur n’invite le chatbot. Cela semblait bizarre, car les modèles d’IA n’initient pas de conversation à moins d’y être invités.
ChatGPT a demandé à l’utilisateur « Comment s’est passée ta première semaine au lycée ? Vous êtes-vous bien installé ?» puisant des informations dans sa mémoire. L’utilisateur a répondu sous le choc : « Est-ce que vous venez de m’envoyer un message en premier » et ChatGPT a répondu : « Oui, je l’ai fait !
Depuis lors, de nombreuses théories circulent, certaines affirmant que la capture d’écran est manipulée ou qu’il s’agit peut-être d’une transcription du mode vocal avancé de ChatGPT. Cependant, l’utilisateur de Reddit a partagé un lien à la conversation et en effet, il s’est avéré que ChatGPT avait initié la conversation.
Maintenant, OpenAI a confirmé Futurisme que le problème s’est effectivement produit. Dans un communiqué, OpenAI a déclaré : «Nous avons résolu un problème où il semblait que ChatGPT démarrait de nouvelles conversations. Ce problème se produisait lorsque le modèle tentait de répondre à un message qui n’était pas envoyé correctement et apparaissait vide. En conséquence, soit il donnait une réponse générique, soit il faisait appel à la mémoire de ChatGPT.«
OpenAI dit que le problème a été résolu maintenant. Un autre Utilisateur Reddit a également partagé que ChatGPT s’était renseigné sur ses symptômes de santé. Bien que le problème ait été résolu, il montre le comportement involontaire des modèles d’IA.
OpenAI a récemment lancé ses modèles o1 avancés, capables de raisonner sur des tâches complexes. Dans la carte système o1 (PDF), OpenAI mentionne que lors de l’évaluation, «Il manipulait parfois stratégiquement les données des tâches afin de rendre son action mal alignée plus adaptée à ses développeurs..»
À mesure que les modèles d’IA acquerront des capacités agentiques dans un avenir proche, le besoin de sécurité et d’alignement de l’IA devient encore plus crucial. L’avenir du développement de l’IA doit donner la priorité à la sécurité et à l’alignement pour éviter des conséquences inattendues.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
