La electricidad se ha convertido en un recurso clave para el desarrollo de la inteligencia artificial (IA), pero las nuevas técnicas de procesamiento han superado la capacidad de los operadores de centros de datos para gestionar su relación con la red eléctrica. Como resultado, se ven obligados a reducir su uso de energía hasta en un 30%. Durante una conferencia de la compañía, el CEO de Nvidia, Jensen Huang, destacó que se está desperdiciando una cantidad significativa de energía en las «fábricas de IA», afirmando que «cada watt no utilizado es ingresos perdidos».
El Desafío del Consumo Energético en los Centros de Datos
Los centros de datos, que operan miles de unidades de procesamiento gráfico (GPUs) en un trabajo conjunto para entrenar y ejecutar modelos avanzados, enfrentan picos de demanda de energía en milisegundos al cambiar entre tareas de computación y comunicación con otras GPUs. Estas fluctuaciones hacen que la gestión del consumo energético sea complicada, llevando a los operadores a costear almacenamiento de energía temporal o reducir el uso de GPUs, lo que disminuye el retorno de inversión en chips costosos.
Oportunidad en el Mercado
Ante este contexto, la startup Niv-AI ha surgido con 12 millones de dólares en financiación inicial con el objetivo de abordar este desafío midiendo de manera precisa el uso de energía de las GPUs mediante nuevos sensores y desarrollando herramientas para gestionarlo de forma más eficiente. Fundada en Tel Aviv por Tomer Timor y Edward Kizis, la compañía ha recibido apoyo de varios inversores, aunque no han divulgado su valoración.
Innovations de Niv-AI
La empresa está implementando sensores a nivel de rack para detectar el uso de energía en milisegundos. Su meta es crear un perfil de consumo energético específico para diferentes tareas de aprendizaje profundo y desarrollar técnicas para mitigar los picos de energía, permitiendo así a los centros de datos liberar más de su capacidad existente. Los ingenieros de Niv aspirarán a construir un modelo de IA que prevea y sincronice las cargas de energía en todo el centro de datos, actuando como un «copiloto» para los ingenieros del centro.
Implementación a Corto Plazo
Niv prevé tener un sistema operativo en funcionamiento en varios centros de datos de EE.UU. en los próximos seis a ocho meses, lo que representa una propuesta atractiva dado que los grandes empresas enfrentan dificultades para establecer nuevos centros de datos por problemas en el uso del suelo y en la cadena de suministros. Los fundadores ven su producto final como una capa de inteligencia que falta entre los centros de datos y la red eléctrica.
Reflexiones sobre la Gestión Energética
Los fundadores expresan que «la red en realidad teme que el centro de datos consuma demasiada energía en un momento específico». El desafío radica en ayudar a los centros de datos a utilizar más GPUs mientras se crea un perfil de consumo más responsable en la interacción con la red eléctrica.
Consejos para Emprendedores y Negocios
-
Inversión en Tecnología Sostenible: Considere invertir en tecnologías que optimicen el uso de energía y recursos. Las startups que se centran en la gestión eficiente de la energía tienen un futuro brillante.
-
Colaboración con Partners: Relacione su negocio con empresas de tecnología y energéticas para facilitar la innovación y la implementación de soluciones sostenibles.
-
Educación Continua: Manténgase informado sobre las tendencias del sector energético y tecnológico. La formación continua de su equipo es crucial para la adaptación en entornos cambiantes.
- Desarrollo de Prototipos: Invierta en la creación de prototipos que puedan testearse antes de ser escalados, para asegurar su viabilidad y eficiencia en la práctica.
Conclusiones
El creciente consumo de electricidad por parte de los centros de datos enfocados en inteligencia artificial plantea importantes retos, pero también oportunidades para innovaciones. Startup como Niv-AI están a la vanguardia de estas soluciones, ofreciendo un enfoque proactivo para gestionar el uso energético. La clave para la sostenibilidad y la eficiencia a largo plazo radica en la correcta utilización de la tecnología y la colaboración entre diferentes sectores. La falta de inteligencia en la gestión energética es un área que aún necesita ser abordada, lo que otorga una ventaja competitiva a las empresas que decidan invertir en este campo.