El Gateway AI: Escalando la Inferencia Centralizada Across Decentralized Teams

El Gateway AI: Escalando la Inferencia Centralizada Across Decentralized Teams

Meryem Arik discute por qué las equipos de ingeniería modernos enfrentan el "caos de inferencia" y cómo los gateways AI proporcionan un nivel de control crítico. Explica el equilibrio entre la autonomía de los equipos descentralizados para elegir los mejores modelos y el control centralizado para la seguridad, RBAC y el control de costos. Explora las soluciones de código abierto como LiteLLM y Doubleword para simplificar tu infraestructura AI.

Bio

Meryem Arik es la co-fundadora y CEO de Doubleword (anteriormente TitanML). Frequentemente habla en conferencias de nivel, entre ellas TEDx y QCon, compartiendo sus conocimientos sobre la tecnología de inferencia y la IA empresarial. Meryem ha sido reconocida como una Forbes 30 Under 30 por sus contribuciones al campo de la IA.

Sobre la conferencia

QCon AI es un evento liderado por practicantes enfocado en la ingeniería necesaria para escalar estos cargos de manera segura. Proporciona acceso directo a los playbooks arquitectónicos y a los métricas de falla que las organizaciones pares utilizan en producción.