Le Gateway AI : Échelle l'Inferrence Centralisée Across Decentralized Teams
Meryem Arik discute pourquoi les équipes d'ingénieurs modernes affrontent le "chaos d'inferrence" et comment les gateways AI fournissent un niveau de contrôle critique. Elle explique l'équilibre entre l'autonomie des équipes décentralisées pour choisir les meilleurs modèles et le contrôle centralisé pour la sécurité, RBAC et le contrôle des coûts. Explorez les solutions de code ouvert comme LiteLLM et Doubleword pour simplifier votre infrastructure AI.
Bio
Meryem Arik est la co-fondatrice et CEO de Doubleword (anciennement TitanML). Elle parle régulièrement à des conférences de niveau, notamment TEDx et QCon, et partage ses connaissances sur la technologie d'inferrence et l'IA d'entreprise. Meryem a été reconnue comme une Forbes 30 Under 30 pour ses contributions au domaine de l'IA.
Sur la conférence
QCon AI est un événement guidé par les praticiens axé sur l'ingénierie nécessaire pour échelonner ces charges de manière sécurisée. Il offre un accès direct aux playbooks architecturaux et aux métriques de défaillance utilisées par les organisations paires en production.
Commentaires (0)
Login or Register to apply