Cet article fait partie de notre couverture du Computex, la plus grande conférence informatique au monde.
Lorsque Microsoft a annoncé les PC Copilot+ il y a quelques semaines, une question régnait en maître : pourquoi ne puis-je pas simplement exécuter ces applications d’IA sur mon GPU ? Au Computex 2024, Nvidia a finalement apporté une réponse.
Nvidia et Microsoft travaillent ensemble sur une interface de programmation d’application (API) qui permettra aux développeurs d’exécuter leurs applications accélérées par l’IA sur des cartes graphiques RTX. Cela inclut les différents modèles de langage de petite taille (SLM) qui font partie de l’environnement d’exécution Copilot, qui servent de base à des fonctionnalités telles que Recall et Live Captions.
Grâce à cette boîte à outils, les développeurs peuvent autoriser les applications à s’exécuter localement sur votre GPU au lieu du NPU. Cela ouvre la porte non seulement à des applications d’IA plus puissantes, car les capacités d’IA des GPU sont généralement supérieures à celles des NPU, mais aussi à la possibilité de s’exécuter sur des PC qui ne relèvent pas actuellement de Copilot+.
Obtenez votre analyse hebdomadaire de la technologie derrière les jeux PC
C’est une excellente initiative. Les PC Copilot+ nécessitent actuellement une unité de traitement neuronal (NPU) capable d’au moins 40 téra opérations par seconde (TOPS). Pour le moment, seul le Snapdragon X Elite répond à ces critères. Malgré cela, les GPU ont des capacités de traitement de l’IA bien plus élevées, même les modèles bas de gamme atteignant 100 TOPS, et les options haut de gamme allant encore plus loin.
En plus de fonctionner sur le GPU, la nouvelle API ajoute des fonctionnalités de génération augmentée de récupération (RAG) à l’environnement d’exécution Copilot. RAG donne au modèle d’IA l’accès à des informations spécifiques localement, ce qui lui permet de fournir des solutions plus utiles. Nous avons vu RAG en pleine démonstration avec Chat with RTX de Nvidia plus tôt cette année.
En dehors de l’API, Nvidia a annoncé le RTX AI Toolkit au Computex. Cette suite de développement, qui arrivera en juin, combine divers outils et SDK qui permettent aux développeurs d’adapter les modèles d’IA à des applications spécifiques. Nvidia affirme qu’en utilisant le RTX AI Toolkit, les développeurs peuvent créer des modèles quatre fois plus rapidement et trois fois plus petits qu’avec des solutions open source.
Nous assistons à une vague d’outils qui permettent aux développeurs de créer des applications d’IA spécifiques pour les utilisateurs finaux. Certaines d’entre elles sont déjà présentes sur les PC Copilot+, mais je pense que nous verrons beaucoup plus d’applications d’IA à ce stade l’année prochaine. Après tout, nous disposons du matériel nécessaire pour exécuter ces applications ; il ne nous manque plus que le logiciel.
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
