La rápida adopción de la inteligencia artificial (IA) en empresas europeas está revelando serias deficiencias en la gobernanza y los protocolos de uso de esta tecnología. Según un estudio presentado por la asociación ISACA, una gran parte de las organizaciones carece de la capacidad adecuada para gestionar los riesgos asociados con la IA. Esta situación podría resultar en problemas de seguridad significativos en un entorno empresarial ya complicado por diversas crisis.
Falta de Gobernanza y Protocolos
Adopción Descontrolada de la IA
El estudio AI Pulse Poll 2026 de ISACA, que se publicará oficialmente el 5 de mayo de 2023, revela que aunque muchas empresas están integrando herramientas de IA en sus procesos, la mayoría no cuenta con los protocolos necesarios para gobernarlas. Pablo Ballarín, experto de ISACA, destaca que la integración de la IA está ocurriendo demasiado rápido y sin un conocimiento adecuado, lo que lleva a una falta de control.
Desconocimiento de Capacidades
Aproximadamente el 59% de los encuestados no sabe cuán rápido podría su organización detener un sistema de IA en caso de un incidente de seguridad. Solo un 21% puede hacerlo en menos de media hora, y un mínimo 5% en un minuto, lo que plantea riesgos serios para la seguridad organizacional.
Brecha entre Adopción y Preparación
El estudio subraya una brecha creciente entre la adopción de la IA y la preparación de las organizaciones para gestionar los riesgos. Muchas empresas parecen no tener claro el tipo de herramientas que están implementando y cómo pueden impactar sus operaciones.
Capacidad de Investigación Ante Incidentes
Confianza en la Investigacion
La capacidad de las organizaciones para investigar un incidente relacionado con la IA es alarmantemente baja, con solo el 42% de los encuestados confiando en la habilidad de su organización para explicar dicho incidente a la dirección. Regulaciones como el Reglamento de IA de la Unión Europea están comenzando a exigir estándares más altos de explicación y responsabilidad, lo que pone presión adicional sobre las empresas para mejorar su gobernanza.
Procedimientos Claros
La ausencia de procedimientos claros para reportar y manejar incidentes vinculados a la IA puede tener consecuencias directas sobre la exposición regulatoria y el riesgo reputacional. El problema se agrava porque, en un 33% de las empresas, no se exige a los empleados informar sobre el uso de herramientas de IA, lo que genera lagunas en el control y la supervisión.
Gobernanza: Definiendo Responsabilidades
Quién es el Responsable
El estudio también indica un problema estructural, donde el 20% de los encuestados no sabe quién sería el responsable en caso de un daño causado por un sistema de IA. Esto refleja la complejidad de establecer responsabilidades en un ámbito donde las decisiones frecuentemente se delegan a niveles superiores de jerarquía.
Supervisión Directiva
A pesar de los desafíos, hay un cierto optimismo en cuanto a la supervisión, ya que el 40% de los encuestados afirmó que las decisiones generadas por IA son revisadas por humanos antes de su ejecución. Sin embargo, ISACA advierte que la IA debe ser vista como un desafío transversal de gobernanza, dado que sus decisiones pueden tener un impacto significativo en la empresa.
Consejos para Emprendedores y Empresas
-
Desarrollar un Plan de Gobernanza: Definir políticas claras para la adopción y uso de la IA, que incluyan auditorías regulares y capacitación del personal.
-
Crear un Inventario de Herramientas de IA: Mantener un registro actualizado de todas las herramientas de IA utilizadas dentro de la organización para mejorar la visibilidad y control.
-
Establecer Protocolos de Respuesta: Implementar procedimientos claros para detectar y responder a incidentes de seguridad relacionados con la IA, asignando roles y responsabilidades específicas.
-
Capacitar al Personal: Ofrecer formación continua en el uso de la IA para que los empleados comprendan el funcionamiento de estas herramientas y sus implicaciones.
- Fomentar la Transparencia: Promover la cultura del reporte sobre el uso de IA en la empresa, asegurando que todos los empleados informen sobre su utilización.
Conclusiones
La rápida integración de la inteligencia artificial por parte de las organizaciones europeas presenta desafíos significativos en términos de gobernanza y seguridad. La falta de protocolos claros y el desconocimiento sobre cómo operar estas herramientas pueden llevar a serios problemas de seguridad. Es imperativo que las empresas define responsabilidades claras, desarrollen capacidades de respuesta y generen visibilidad sobre el uso de la IA para mitigar los riesgos asociados y cumplir con las regulaciones emergentes. La brecha entre la adopción y la gobernanza no solo debe cerrarse, sino también ampliarse de tal manera que permita una supervisión efectiva que garantice la seguridad y el aprovechamiento responsable de la IA.