Exécuter un clone de ChatGPT local et gratuit sur votre PC Windows avec GPT4All

Les chatbots IA hors ligne sont là, avec de nouvelles solutions de plus en plus polyvalentes et optimisées qui apparaissent presque chaque jour. Parmi eux, GPT4All est en tête.

Il existe de nombreuses raisons de l’essayer, comme la façon dont GPT4All vous permet de discuter avec vos documents. Pas besoin de le « former », d’utiliser des serveurs coûteux ou de plonger dans Python. Vous pouvez simplement « ajouter vos documents » à GPT4All tels quels pour « élargir son pool de connaissances » avec vos données.

Voyons comment vous pouvez installer et utiliser GPT4All sur votre PC Windows.

Pourquoi utiliser GPT4All ?

Il existe de nombreuses raisons d’utiliser GPT4All plutôt qu’une alternative, notamment ChatGPT.

• Vous pouvez exécuter GPT4All en utilisant uniquement le processeur de votre PC. Pas besoin d’un GPU puissant (et coûteux) avec plus d’une douzaine de Go de VRAM (même si cela peut aider).
• GPT4All est une solution entièrement hors ligne, elle est donc disponible même lorsque vous n’avez pas accès à Internet.
• Être hors ligne et fonctionner comme une « application locale » signifie également que toutes les données que vous partagez avec elle restent sur votre ordinateur : ses créateurs ne « jetteront pas un œil à vos discussions ».
• Comme il ne dépend que de votre PC, il ne ralentira pas, ne cessera pas de répondre et n’ignorera pas vos invites, comme ChatGPT lorsque ses serveurs sont surchargés.
• GPT4All vous permet d’ajouter vos documents à son « pool de connaissances » sans effort. Il peut ensuite présenter les informations qu’ils contiennent dans ses réponses, le transformant ainsi en un véritable assistant personnel qui « connaît vos affaires » au lieu d’un chatbot générique.

Est-ce essentiellement comme installer ChatGPT localement ?

Que vous discutiez avec un chatbot ou que vous utilisiez un service comme Copilot pour vous aider à écrire du code sans effort, vous interagissez avec un modèle de langage étendu (LLM). Si vous n’êtes pas familier avec ce terme, consultez notre article sur ce que sont les LLM et comment ils fonctionnent.

Le LLM « derrière » ChatGPT est l’un des modèles les plus avancés au monde… mais il est également volumineux, exigeant en ressources et totalement propriétaire. Ainsi, vous ne pouvez pas « installer ChatGPT sur votre PC » car :

• En tant que solution à source fermée, seuls ses créateurs, Open AI, peuvent accéder à « ses composants internes » et l’exécuter sur leurs serveurs.
• Il est si volumineux et exigeant qu’il est impossible de l’exécuter sur du matériel PC grand public.

Néanmoins, vous pouvez installer et utiliser d’autres LLM via GPT4All sur votre PC, à condition qu’ils ne soient pas trop exigeants sur votre CPU ou qu’ils puissent s’adapter à la VRAM plus limitée de votre GPU.

L’écosystème de Nvidia pour l’accélération matérielle de l’IA est généralement considéré comme plus mature. En conséquence, il existe davantage de logiciels centrés sur Nvidia pour les tâches accélérées par GPU, comme l’encodage vidéo et, désormais, l’apprentissage automatique. GPT4All fait partie des outils qui « fonctionnent mieux » avec les GPU de Nvidia.

Comment installer GPT4All

GPT4All est disponible pour Windows, macOS et Ubuntu. Pour cet article, nous utiliserons la version Windows.

1. Téléchargez le Programme d’installation de Windowsdepuis le site officiel de GPT4All.
2. Exécutez l’application téléchargée et suivez les étapes de l’assistant pour installer GPT4All sur votre ordinateur.
3. Le programme d’installation de GPT4All doit télécharger des données supplémentaires pour que l’application fonctionne. Par conséquent, si le programme d’installation échoue, essayez de le réexécuter après lui avoir accordé l’accès via votre pare-feu.
4. Lorsque vous vous retrouverez finalement à regarder l’interface de GPT4All, vous devrez également télécharger un modèle de langage pour l’utiliser. GPT4All vous présentera une liste de modèles disponibles. Vérifiez sa taille (à côté de son nom) pour vous assurer que vous disposez de suffisamment de RAM ou de VRAM pour l’exécuter. Lorsque vous choisissez un modèle, cliquez sur son Télécharger bouton pour que GPT4All soit téléchargé et installé.
5. Si vous changez d’avis, cliquez sur le bouton Annuler bouton pour arrêter un téléchargement actif et choisir un autre modèle.
6. Pour gagner du temps, si vous souhaitez tester plusieurs modèles, vous pouvez demander à GPT4All de les télécharger en parallèle. Cependant, sachez que les gigaoctets peuvent vite s’accumuler et vous obliger à disposer de suffisamment d’espace de stockage pour tous les modèles sélectionnés.

Se familiariser avec GPT4All

Avec GPT4All installé et quelques LLM téléchargés, vous pouvez désormais commencer à discuter avec votre propre chatbot IA.

1. Utilisez le menu déroulant en haut de la fenêtre de GPT4All pour sélectionner le modèle de langue actif.
2. Utilisez le icône de hamburger en haut à gauche pour accéder au panneau de contrôle de GPT4All.
3. Les premières options du panneau de GPT4All vous permettent de créer un Nouveau chat, rebaptiser l’actuel, ou poubelle il.
4. Le Mises à jour Le bouton vous permet de mettre à jour l’application et d’ajouter ou de supprimer des composants.
5. Le Téléchargements Le bouton vous donne accès à la Modèles de langage panneau.

1. Vous pouvez utiliser le Modèles de langage panneau pour installer de nouveaux LLM, supprimer ceux installés et modifier leur chemin de téléchargement.
2. Le chat avec un LLM dans GPT4All est similaire à la version en ligne de ChatGPT. Tapez quelque chose dans le champ champ de saisie en bas de la fenêtre de GPT4All, et après avoir appuyé sur Entrée, vous verrez votre invite dans la vue principale de GPT4All. La réponse du modèle de langue sélectionné apparaîtra sous votre invite.
3. Comme avec ChatGPT, si vous n’aimez pas la réponse d’un LLM telle qu’elle est générée sur votre écran, vous pouvez cliquer sur le bouton Arrêtez de générer bouton pour interrompre le processus.
4. De même, si vous n’aimez pas une réponse déjà générée et que vous souhaitez voir une version alternative, vous pouvez cliquer sur le bouton Réponse régénérée bouton, qui apparaît au même endroit.
5. Notez que GPT4All vous permet également d’accéder à ce que l’on appelle Libre Les modèles linguistiques ne sont pas assortis de limites artificielles. Cette « liberté » est censée les « libérer » et leur « donner les moyens » d’être plus créatifs et de proposer des réponses plus factuelles. Cependant, cela signifie également qu’ils peuvent produire des résultats offensants.
6. Les deux premiers boutons en haut à droite de l’application vous permettent de réinitialiser une conversation ou copie dans le presse-papiers pour le coller ailleurs.
7. Le troisième bouton (avec une icône en forme de roue dentée) vous donne accès à GPT4All Paramètres.
8. Le Génération L’onglet Paramètres de GPT4All vous permet de configurer les paramètres du modèle de langue actif. En modifiant des variables comme son Température et Pénalité répétéevous pouvez peaufiner sa créativité, sa concision, etc.
9. Le Application L’onglet vous permet de choisir un Modèle par défaut pour GPT4All, définissez un Chemin de téléchargement pour le modèle de langage, attribuez un nombre spécifique de Fils de processeur pour l’application, enregistrez automatiquement chaque conversation localement et activez son interne serveur web pour l’avoir accessible via votre navigateur.

Discuter avec vos documents avec GPT4All

La meilleure fonctionnalité de GPT4All est la facilité avec laquelle vous pouvez ajouter votre propre document au modèle de langue sélectionné. Comme nous l’avons vu, il est possible de faire la même chose avec ChatGPT et de créer un ChatGPT personnalisé avec vos propres données. Cependant, le processus est beaucoup plus simple avec GPT4All et ne nécessite pas les coûts liés à l’utilisation de l’API ChatGPT d’Open AI.

1. Placez certains de vos documents dans un dossier. Assurez-vous qu’ils sont dans un format de fichier largement compatible, comme TXT, MD (pour Markdown), Doc, etc.
2. Sur GPT4All Paramètres panneau, passer à la Plugin LocalDocs (Bêta) page à onglets. Cliquez sur le Parcourir et pointez l’application vers le dossier dans lequel vous avez placé vos documents. Cliquez ensuite sur Ajouter pour les inclure dans la liste des documents externes de GPT4All.
3. Vous verrez une entrée pour votre dossier de documents sur GPT4All Plugin LocalDocs liste des documents. Si vous décidez de supprimer un dossier de documents, sélectionnez-le ici et cliquez sur le bouton Retirer bouton sur sa droite.
4. Depuis le même endroit, vous pouvez modifier le Taille de l’extrait de document et le Extraits de documents à traiter par invite valeurs en bas à gauche du panneau. L’augmentation de ces valeurs améliorera la capacité du modèle de langue sélectionné à « comprendre » vos documents et à proposer des réponses plus pertinentes. Cependant, cela ralentira également considérablement GPT4All car il devra analyser vos documents après chaque invite.
5. Vous pouvez gérer vos documents externes via GPT4All Collections bouton.
6. Vous pouvez ajouter plusieurs collections de documents à GPT4All. Il est toutefois préférable, au lieu de les avoir toutes actives en permanence, de réduire les performances de GPT4All pour contrôler lequel groupe de documents (« collection ») que vous souhaitez activer à partir du Collections panneau.
7. Après avoir ajouté des documents et activé leur collecte, GPT4All vous indiquera que c’est traitement eux après une invite.
8. Chaque fois que GPT4All présente une réponse qui extrait des données de vos documents, il proposera une liste de références et liens contextuels sous la réponse.
9. En cliquant sur un lien contextuelGPT4All vous montrera un extrait de texte de vos documents qu’il a utilisé pour sa réponse.

Votre propre ChatGPT sur Windows

GPT4All et les modèles de langage que vous pouvez utiliser via celui-ci ne correspondent peut-être pas absolument au ChatGPT dominant, mais ils sont toujours utiles.

Les utilisateurs créatifs et les bricoleurs ont trouvé diverses manières ingénieuses d’améliorer ces modèles de sorte que même s’ils s’appuient sur des ensembles de données plus petits ou sur du matériel plus lent que celui utilisé par ChatGPT, ils peuvent toujours s’en approcher ou, dans certains cas, même le dépasser.

Au lieu d’entrer dans les détails des avantages et des inconvénients de chaque modèle disponible, pourquoi ne pas les essayer vous-même ? GPT4All vous facilite la tâche.

Soutenez notre effort ❤️

Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.

5 € 10 € 15 € Autre

€

Don avec PayPal Paiement sécurisé sur PayPal