L'économie des tokens

Comment l'architecture de l'IA façonne le coût et l'utilité

Intervenants

Julie Mills
Directrice, marketing produit plateforme, Glean
Sidhant Panda
Architecte IA, Swiggy
Selene Kim
Chef de produit, Glean

L'usage de l'IA s'étend des simples assistants à des workflows agentiques plus lourds, des assistants de codage, des collaborateurs personnels et de l'automatisation des processus, ce qui impacte à la fois le prix des modèles de pointe et le nombre de tokens utilisés par sortie. Chaque récupération, appel d'outil, étape intermédiaire et boucle de raisonnement s'accumule.

Si beaucoup attribuent la hausse des coûts des tokens au prix des modèles eux-mêmes, l'architecture d'IA d'entreprise sous-jacente influe également sur ces coûts.

Regardez ce webinaire pour découvrir comment le contexte, le routage, l'apprentissage continu et la conception des harnais influencent tous l'utilisation des tokens, et ce que vous pouvez y faire.

Ce que vous apprendrez

  • Pourquoi l'efficacité des tokens est un problème d'architecture, et pas seulement un problème de tarification des modèles.
  • Comment un contexte de meilleure qualité et une récupération indexée réduisent les raisonnements inutiles et améliorent les résultats.
  • Comment concevoir le routage, l'apprentissage continu et les harnais si vous voulez que vos systèmes d'IA passent à l'échelle de manière durable.