Dans un paysage de l'IA qui évolue de jour en jour, les entreprises ont besoin de la flexibilité nécessaire pour choisir les modèles de langage adaptés à leurs propres applications. Cependant, chaque organisation est différente, avec ses propres circonstances et contraintes uniques qui nécessitent des grands modèles de langage (LLM) spécifiques. C'est pourquoi Glean s'est engagé à travailler avec le LLM que nos clients préfèrent.
Pour franchir une nouvelle étape dans cette démarche, Glean est ravi de permettre à ses clients d'utiliser NVIDIA NIM afin d'alimenter les capacités d'IA générative de Glean Assistant. Les clients pourront utiliser NIM pour adopter facilement un large éventail de modèles de langage.
Déployer l'IA rapidement avec NIM
Les microservices NIM sont inclus dans la plateforme logicielle NVIDIA AI Enterprise et accélèrent le déploiement de l'IA générative au sein des entreprises. Prenant en charge un large éventail de modèles d'IA, dont les modèles de base NVIDIA AI et les modèles personnalisés, les microservices NIM offrent une inférence d'IA fluide et évolutive, sur site ou dans le cloud, en s'appuyant sur des API standard du secteur.
Avec NIM, nos clients peuvent choisir parmi une grande variété de modèles de langage à héberger sur leur propre infrastructure. Les clients peuvent utiliser le NVIDIA API Catalog pour expérimenter les derniers LLM accélérés par GPU dès le jour de leur sortie, et les intégrer facilement à Glean Assistant. NIM facilite la fourniture d'une inférence LLM optimisée à grande échelle, quel que soit l'endroit où le modèle est hébergé.
« Des volumes considérables de données d'entreprise sont stockés dans les plateformes de communication et de collaboration, et accéder à ces données peut libérer la valeur de l'IA générative pour les entreprises de tous les secteurs », déclare Justin Boitano, vice-président des produits Enterprise chez NVIDIA. « Associer le système de recherche de Glean aux microservices d'inférence NVIDIA NIM offre aux clients une plateforme flexible de développement d'applications RAG qui protège la propriété intellectuelle et les prompts de l'entreprise en les gardant sur leur réseau. »
Une solution prête pour l'entreprise
Grâce à l'association du système de recherche de Glean et de NIM au sein d'un seul pipeline RAG, les clients d'entreprise peuvent créer leurs propres assistants, capables de traiter un large éventail de documents provenant d'outils tels que Confluence, SharePoint, Google Drive et OneDrive, ainsi que d'outils de collaboration pour les employés comme Slack et Microsoft Teams. Le système de recherche de Glean récupère les données pertinentes à partir de multiples sources tout en respectant les politiques de contrôle d'accès aux documents déjà en place chez le client. Un microservice NIM auto-hébergé peut ensuite exploiter les données récupérées pour générer et fournir des réponses de haute qualité tout en exécutant une inférence LLM optimisée en arrière-plan. Cette solution combinée peut traiter des milliers de requêtes simultanées, le tout à l'échelle de l'entreprise.
Nous sommes ravis de collaborer avec NVIDIA pour faire progresser les capacités de l'IA générative dans les environnements d'entreprise. Rejoignez-moi lors d'une table ronde au NVIDIA GTC le mardi 19 mars à 10 h pour poursuivre cette discussion, et venez nous retrouver sur le salon, au stand G108, pour une démonstration et en savoir plus sur la manière dont Glean et NVIDIA NIM peuvent aider votre organisation à donner à ses employés les moyens de produire leur meilleur travail grâce à l'IA générative.
