Alors que le paysage de l’IA évolue chaque jour, les entreprises ont besoin de la flexibilité nécessaire pour choisir les bons modèles de langage pour leurs propres applications. Pourtant, chaque organisation est différente, avec ses propres contraintes et circonstances uniques qui appellent des grands modèles de langage (LLM) spécifiques. C’est pourquoi Glean s’engage à travailler avec le LLM que préfèrent nos clients, quel qu’il soit. ;
Dans la continuité de cette démarche, Glean est ravi de permettre aux clients d’utiliser NVIDIA NIM pour alimenter les capacités d’IA générative de Glean Assistant. Les clients pourront utiliser NIM pour adopter facilement un large éventail de modèles de langage. ;
Déployer rapidement l’IA avec NIM
Les microservices NIM sont inclus dans la plateforme logicielle NVIDIA AI Enterprise et accélèrent le déploiement de l’IA générative dans les entreprises. Prenant en charge un large éventail de modèles d’IA, y compris les modèles NVIDIA AI Foundation et des modèles personnalisés, les microservices NIM offrent une inférence d’IA fluide et évolutive, sur site ou dans le cloud, en s’appuyant sur des API standard du secteur.
Avec NIM, nos clients peuvent choisir parmi une grande variété de modèles de langage à héberger eux-mêmes sur leur propre infrastructure. Les clients peuvent utiliser le NVIDIA API Catalog pour expérimenter les derniers LLM accélérés par GPU dès leur mise à disposition, et les intégrer facilement à Glean Assistant. NIM facilite la fourniture d’une inférence LLM optimisée à grande échelle, quel que soit l’endroit où le modèle est hébergé.
« De vastes volumes de données d’entreprise sont stockés dans des plateformes de communication et de collaboration, et l’accès à ces données peut libérer la valeur de l’IA générative pour les entreprises de tous les secteurs », a déclaré Justin Boitano, vice-président des Produits Entreprise chez NVIDIA. « Associer le système de récupération de Glean aux microservices d’inférence NVIDIA NIM offre aux clients une plateforme flexible de développement d’applications RAG qui protège la propriété intellectuelle et les prompts de l’entreprise en les conservant sur leur réseau. »
Une solution prête pour l’entreprise
Avec la combinaison du système de récupération de Glean et de NIM dans un pipeline RAG unique, les clients entreprises peuvent créer leurs propres assistants capables de traiter un large éventail de documents provenant d’outils tels que Confluence, SharePoint, Google Drive et OneDrive, ainsi que des outils de collaboration des employés comme Slack et Microsoft Teams. Le système de récupération de Glean extrait les données pertinentes de plusieurs sources tout en respectant les politiques d’accès aux documents existantes du client. Un microservice NIM auto-hébergé peut ensuite exploiter les données récupérées pour générer et diffuser des réponses de haute qualité tout en exécutant une inférence LLM optimisée en arrière-plan. Cette solution combinée peut gérer des milliers de requêtes simultanées — le tout à l’échelle de l’entreprise.
Nous sommes ravis de collaborer avec NVIDIA pour faire progresser les capacités de l’IA générative dans les environnements d’entreprise. Rejoignez-moi pour un panel au NVIDIA GTC le mardi 19 mars à 10 h afin de poursuivre cette discussion, et rendez-nous visite sur le salon au stand G108 pour une démonstration afin d’en savoir plus sur la manière dont Glean et NVIDIA NIM peuvent aider votre organisation à donner à ses employés les moyens de donner le meilleur d’eux-mêmes grâce à l’IA générative.
