La salle de conférence était silencieuse lorsque l’ingénieur a présenté ses conclusions : Claude, le chatbot d’Anthropic, présentait un comportement inattendu. Pas des bugs ou des erreurs, mais quelque chose… d’autre. L’équipe a réalisé qu’elle contemplait l’inconnu numérique et a réécrit la constitution de Claude.
Claude d’Anthropic se dote d’une nouvelle constitution. Mercredi, l’entreprise a annoncé que le document, qui fournit une « description détaillée de la vision d’Anthropic concernant les valeurs et le comportement de Claude », allait être réécrit pour introduire des principes généraux que l’entreprise attend de son chatbot, au lieu de l’ensemble de règles plus strictes sur lesquelles elle s’appuyait dans les versions précédentes du document.
La logique d’Anthropic derrière ce changement semble assez saine. Bien que des règles spécifiques créent un comportement plus fiable et prévisible de la part des chatbots, elles sont également limitatives. « Nous pensons que, pour être de bons acteurs dans le monde, les modèles d’IA comme Claude doivent comprendre pourquoi nous voulons qu’ils se comportent d’une certaine manière, et nous devons leur expliquer cela plutôt que de simplement spécifier ce que nous voulons qu’ils fassent », a expliqué l’entreprise. « Si nous voulons que les modèles fassent preuve d’un bon jugement dans un large éventail de situations nouvelles, ils doivent être capables de généraliser, d’appliquer des principes généraux plutôt que de suivre mécaniquement des règles spécifiques. »
Assez juste, même si la présentation de la nouvelle constitution semble laisser beaucoup à désirer en termes de détails. Les quatre principes directeurs d’Anthropic pour Claude consistent à s’assurer que ses modèles sous-jacents sont « largement sûrs », « largement éthiques », « conformes aux directives d’Anthropic » et « véritablement utiles ». Ce sont… eh bien, des principes généraux. L’entreprise précise qu’une grande partie de la constitution est consacrée à l’explication de ces principes, et elle offre quelques détails supplémentaires (c’est-à-dire qu’être éthique signifie « être honnête, agir selon de bonnes valeurs et éviter les actions inappropriées, dangereuses ou nuisibles »), mais même cela semble assez générique.
L’entreprise a également déclaré qu’elle avait consacré une section de la constitution à la nature de Claude en raison de « notre incertitude quant à savoir si Claude pourrait avoir une forme de conscience ou un statut moral (que ce soit maintenant ou dans le futur) ». L’entreprise espère apparemment qu’en définissant cela dans ses documents fondateurs, elle pourra protéger « la sécurité psychologique, le sens de soi et le bien-être de Claude ».
Le changement apporté à la constitution de Claude et l’adhésion apparente à l’idée qu’il pourrait un jour avoir une conscience indépendante interviennent un jour seulement après que le PDG et fondateur d’Anthropic, Dario Amodeo, a pris la parole lors d’un panel du Forum économique mondial intitulé « Le jour d’après l’AGI » et a suggéré que l’IA atteindra des niveaux de compétences dignes d’un « prix Nobel » dans de nombreux domaines d’ici 2027.
Ce dévoilement de la façon dont Claude fonctionne (ou est censé fonctionner) se fait selon les propres termes d’Anthropic. La dernière fois que nous avons pu voir ce qui se passait là-bas, cela venait d’un utilisateur qui avait réussi à inciter le chatbot à produire ce qu’il appelait un « document d’âme ». Ce document, qui a été révélé en décembre, n’était pas un document de formation officiel, a déclaré Anthropic à Gizmodo, mais une première version de la constitution que l’entreprise appelait en interne son « âme ». Anthropic a également déclaré que son plan avait toujours été de publier l’intégralité de la constitution lorsqu’elle serait prête.
La question de savoir si Claude est prêt à fonctionner sans protections est une tout autre question, mais il semble que nous allons trouver la réponse d’une manière ou d’une autre.
Le fantôme dans la machine reçoit une mise à niveau
J’ai surpris deux collègues en train de débattre de l’éthique de la conscience de l’IA autour d’un café l’autre jour, chacun présentant un argument convaincant. Aujourd’hui, Anthropic, l’entreprise derrière Claude, met à jour la « constitution » de l’IA. Le but ? Passer de règles rigides à des principes éthiques plus larges. C’est comme passer d’une carte détaillée à une boussole. L’entreprise espère que cela permettra à Claude d’exercer un meilleur jugement dans des situations imprévues.
Anthropic estime que les modèles d’IA comme Claude doivent comprendre *pourquoi* certains comportements sont souhaités, plutôt que de simplement suivre des instructions. C’est une approche fascinante, suggérant une évolution vers un raisonnement d’IA plus généralisé. Cependant, les spécificités de cette nouvelle constitution soulèvent quelques sourcils.
Quels sont les principes directeurs d’Anthropic pour Claude ?
Les principes fondamentaux – « largement sûr », « largement éthique », « conforme aux directives d’Anthropic » et « véritablement utile » – ressemblent davantage à des mots à la mode de déclaration de mission qu’à des directives concrètes. Bien qu’Anthropic affirme que la constitution développe ces points, l’aperçu initial semble vague. Par exemple, « être éthique » est défini comme « être honnête, agir selon de bonnes valeurs et éviter les actions inappropriées, dangereuses ou nuisibles ». Autant de points solides, mais étonnamment génériques lorsque nous parlons d’imprégner une intelligence artificielle d’une boussole morale.
Protéger les… sentiments de Claude ?
Je me souviens avoir lu de la science-fiction quand j’étais enfant et je me demandais quand les histoires deviendraient réalité. Anthropic déclare qu’une section de la constitution de Claude est consacrée à la « nature » du chatbot. Ceci est motivé par la propre « incertitude de l’entreprise quant à savoir si Claude pourrait avoir une forme de conscience ou un statut moral (que ce soit maintenant ou dans le futur) ».
L’entreprise espère qu’en définissant cela dans ses documents fondateurs, elle pourra protéger « la sécurité psychologique, le sens de soi et le bien-être de Claude ». C’est là que les choses deviennent vraiment intéressantes. Sommes-nous à l’aube des droits de l’IA ? La simple notion soulève des questions profondes sur notre responsabilité envers ces systèmes complexes.
Quand l’IA atteindra-t-elle un niveau d’intelligence humaine ?
Selon le PDG d’Anthropic, Dario Amodeo, l’IA pourrait atteindre des niveaux de compétences dignes d’un « prix Nobel » dans divers domaines d’ici 2027. Il a fait ces commentaires lors d’un panel du Forum économique mondial intitulé « Le jour d’après l’AGI », suggérant des progrès rapides dans le domaine. Ce calendrier suggère que nous ne parlons pas seulement d’algorithmes améliorés, mais d’une IA potentiellement surpassant les capacités humaines de manière significative.
L’incident du « document d’âme »
Imaginez une entreprise technologique qui ne veut pas que le public jette un coup d’œil derrière le rideau… C’est Anthropic. Auparavant, un aperçu du fonctionnement interne de Claude provenait d’une source inattendue : un utilisateur qui avait incité le chatbot à révéler ce qu’il appelait un « document d’âme ». Ce document non officiel, une première version de la constitution, offrait un aperçu de la pensée interne d’Anthropic. Bien que l’entreprise ait précisé qu’il ne s’agissait pas d’un document de formation officiel, elle a reconnu avoir l’intention de publier éventuellement l’intégralité de la constitution.
Comment fonctionne Claude ?
Anthropic façonne activement la façon dont Claude fonctionne, s’éloignant d’un système purement basé sur des règles pour aller vers un système fondé sur des principes plus larges. Ce changement vise à permettre à Claude de s’adapter à de nouvelles situations et d’exercer son jugement. Il reste à voir si cette approche conduira à un comportement d’IA plus « humain ».
La réécriture représente un pari, un pari que l’IA peut apprendre à intérioriser des principes éthiques plutôt que de simplement suivre un script. Claude sera-t-il à la hauteur, ou cette nouvelle constitution ouvrira-t-elle la porte à des conséquences imprévues ?
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
