NVIDIA a récemment dévoilé une mise à jour majeure de son chatbot ChatRTX, le rendant plus performant et polyvalent. Cette nouvelle version intègre de nouveaux modèles de langage de grande taille (LLM), la possibilité d’interagir avec des documents locaux et la reconnaissance d’images.
Fonctionnement hors ligne et confidentialité
Contrairement aux chatbots classiques, ChatRTX fonctionne localement sur votre PC, ne nécessitant aucune connexion Internet. Cela garantit une confidentialité accrue et un contrôle total sur vos données. Cependant, cela implique également une exigence système plus élevée, avec une carte graphique NVIDIA GeForce RTX 30 ou ultérieure et 16 Go de RAM. De plus, ChatRTX occupe 35 Go d’espace de stockage.
Nouveaux modèles de langage et fonctionnalités
La mise à jour apporte des améliorations significatives aux LLM, incluant Mistral 7B INT4 et Llama 2 7B INT4. Le support pour des LLM supplémentaires est également présent, tels que Gemma (utilisé dans Google Gemini) et ChatGLM3 (compatible avec l’anglais et le chinois).
ChatRTX peut désormais reconnaître des images sur votre PC grâce à CLIP (contrastive language-image pre-training) d’OpenAI. Cela permet d’interagir avec votre bibliothèque d’images sans avoir besoin de métadonnées.
Entrée vocale et personnalisation
Le chatbot prend désormais en charge la reconnaissance vocale via le modèle NLI de Whisper. Vous pouvez également basculer entre différents modèles d’IA et créer vos propres ensembles de données personnalisés à partir de texte et d’images locaux.
Points à améliorer
Pour le moment, ChatRTX ne dispose pas d’un système de suivi des conversations, ce qui rend difficile le suivi des fils de discussion. De plus, l’interface web est uniquement compatible avec Google Chrome et Microsoft Edge (Mozilla Firefox rencontre des problèmes).
NVIDIA ChatRTX offre une expérience de chatbot unique avec sa puissance de traitement locale, sa confidentialité et ses fonctionnalités avancées. Bien que l’exigence système soit élevée et que certaines fonctionnalités soient encore en développement, il s’agit d’un outil prometteur pour ceux qui recherchent un chatbot performant et personnalisable.
