La inteligencia artificial (IA) está en pleno auge, pero muchas empresas están desperdiciando grandes cantidades de recursos de computación costosos. Los GPUs permanecen inactivos, las cargas de trabajo están sobreprovisionadas y los costes de la nube siguen en aumento. ScaleOps, una startup que ha desarrollado un software que gestiona y redistribuye automáticamente los recursos de computación en tiempo real, ha recaudado 130 millones de dólares a una valoración de 800 millones. Según la compañía, su software puede reducir los costes de infraestructura de nube e IA hasta un 80%.
La Fundación de ScaleOps
ScaleOps fue cofundada en 2022 por Yodar Shafrir, un exingeniero de Run:ai, una startup de orquestación de GPUs adquirida por Nvidia. Durante su tiempo en Run:ai, Shafrir observó lo difícil que era para las empresas gestionar cargas de trabajo de IA cada vez más complejas. Aunque herramientas como Kubernetes ayudan a ejecutar aplicaciones en grandes clústeres de máquinas, a menudo dependen de configuraciones estáticas que no satisfacen la demanda cambiante, lo que genera GPUs subutilizados, problemas de rendimiento e ineficiencias costosas.
Desafíos Encontrados por las Empresas
En su rol en Run:ai, Shafrir se reunió con muchos clientes, especialmente del equipo de DevOps. Aunque valoraban mucho lo que ofrecía Run:ai, seguían teniendo dificultades para gestionar sus cargas de trabajo de producción, especialmente a medida que aumentaban las cargas de trabajo de inferencia. Al analizar el problema, Shafrir se dio cuenta de que no solo se trataba de GPUs, sino que abarcaba computación, memoria, almacenamiento y redes. Los equipos estaban fallando en gestionar los recursos de manera eficiente y excesivamente ocupados en resolver problemas en lugar de encontrar soluciones prácticas.
Solución de ScaleOps
ScaleOps conecta las necesidades de las aplicaciones con las decisiones de infraestructura en tiempo real, ofreciendo una solución completamente autónoma que gestiona la infraestructura de principio a fin. Shafrir señala que, aunque Kubernetes es un sistema flexible, su dependencia de configuraciones estáticas plantea un problema, ya que las aplicaciones de hoy son muy dinámicas y requieren un trabajo manual constante entre equipos. Es necesario un sistema que comprenda el contexto de cada aplicación, sus necesidades y cómo cambia el entorno.
Comparación con Otros Jugadores del Mercado
Dentro del mismo sector, hay varios competidores como Cast AI, Kubecost y Spot. Aunque muchas de estas empresas han introducido herramientas de automatización, muchas de ellas funcionan sin el contexto completo, lo que puede provocar problemas de rendimiento e incluso tiempos de inactividad. ScaleOps se presenta como una alternativa que no solo resuelve problemas, sino que se construyó desde el principio específicamente para la producción, siendo totalmente autónoma, consciente del contexto y funcionado sin necesidad de configuraciones manuales.
Clientes y Crecimiento del Mercado
La empresa tiene sede en Nueva York y atiende a clientes empresariales a nivel global, especialmente aquellos con infraestructura basada en Kubernetes. Sus clientes incluyen grandes nombres como Adobe, Wiz, DocuSign, Salesforce y Coupa. En aproximadamente un año y medio, ScaleOps ha logrado aumentar su financiación total a unos 210 millones de dólares y ha visto un crecimiento interanual superior al 450%.
Consejos para Emprendedores y Negocios
- Invierta en tecnología autónoma: La gestión automática de recursos puede llevar a una disminución significativa de costos.
- Evalúe sus necesidades de infraestructura: A menudo, la sobreprovisionamiento puede agotar recursos financieros. Considere opciones de gestión dinámica de recursos.
- Controle el rendimiento de sus sistemas: Utilice herramientas que proporcionen visibilidad real y soluciones implementables.
- Forme equipos multidisciplinarios: Fomente la colaboración entre equipos como DevOps y desarrollo para resolver problemas de gestión de recursos.
Conclusiones
La situación actual de la gestión de recursos en el ámbito de la inteligencia artificial revela la necesidad urgente de soluciones eficaces. ScaleOps se está posicionando como una compañía innovadora que aborda problemas específicos dentro del manejo de cargas de trabajo complejas. A medida que la demanda por computación aumenta, se vuelve crucial contar con sistemas que no solo identifiquen problemas, sino que también los resuelvan de forma autónoma y eficiente. La evolución en la gestión de infraestructura debe equipar a las empresas para operar en un entorno competitivo y en rápida transformación.