El Ayuntamiento de Valencia ha dado un paso importante en la regulación y supervisión de la inteligencia artificial (IA) en las administraciones públicas al crear un nuevo órgano llamado Comité de Ética y Gobernanza de la Inteligencia Artificial (Cegia). Esta iniciativa, impulsada por la concejala de Innovación, Tecnología, Agenda Digital y Captación de Inversiones, Paula Llobet, busca abordar y mitigar los desafíos éticos, legales y sociales que surgen con la implementación de la IA en el ámbito público.
Formación del Comité de Ética
El Cegia se establece como un órgano técnico colegiado dentro del Ayuntamiento, con el propósito de asesorar, controlar y dar seguimiento a las tecnologías de IA utilizadas en los distintos servicios municipales. La creación de este comité responde a la necesidad de asegurar que el uso de la IA sea responsable y justo, garantizando un enfoque armónico en las decisiones que involucren estas tecnologías.
Objetivos del Cegia
La principal finalidad del Cegia es:
- Velar por el desarrollo y uso responsable de sistemas de IA.
- Asegurar que las acciones relacionadas con la IA sean justas y se ajusten a la normativa.
- Facilitar la colaboración entre diferentes organismos e implicados en la implementación de la IA.
Desafíos en la Implementación de IA
La moción presentada por la concejala identifica cuatro desafíos clave que enfrenta el sector público en la adopción de la IA:
- Evitar sesgos algorítmicos que puedan resultar en discriminaciones.
- Garantizar la trazabilidad de los algoritmos utilizados por las administraciones.
- Asegurar que se cumplan las normativas en relación con la protección de datos y los derechos digitales.
- Establecer mecanismos de supervisión y control humano sobre decisiones automatizadas.
Estas cuestiones son fundamentales para generar confianza en la utilización de tecnologías avanzadas en el sector público y para promover la transparencia en el uso de datos.
Importancia del Marco Normativo
La creación del Cegia también toma en consideración las auditorías realizadas por la Sindicatura de Comptes, que han resaltado la necesidad de contar con marcos normativos claros y específicos. En 2023, se subrayó la urgencia de definir estrategias que permitan la adopción de la IA de manera ética y responsable por parte de las administraciones locales.
Composición del Comité
El Cegia estará presidido por el responsable de la concejalía a cargo de la Tecnología y la Agenda Digital y contará con representantes de varios departamentos municipales, incluyendo:
- Secretaría
- Empleo
- SerTIC
- Innovación
- Coordinación Tributaria
- Sociedad de la Información
- Fundación Las Naves
Consejos para Emprendedores y Negocios Relacionados
-
Formación y educación continua: Invierte en la capacitación de tu equipo sobre el uso responsable y ético de la IA para realizar prácticas alineadas con el Cegia.
-
Transparencia en el uso de IA: Implementa políticas claras sobre cómo se utilizan los datos y los algoritmos, asegurando que los usuarios comprendan su uso.
-
Evaluación de sesgos algorítmicos: Realiza auditorías regulares para identificar y corregir sesgos en los algoritmos usados en tus productos y servicios, fomentando inclusividad y diversidad.
-
Adaptación a normativas: Mantente al tanto de las normativas locales y nacionales sobre IA y asegúrate de que tu empresa cumpla con ellas para evitar sanciones.
- Fomenta la colaboración: Busca alianzas con otras empresas y organizaciones para intercambiar conocimientos y mejores prácticas en la implementación de IA.
Conclusiones
La creación del Comité de Ética y Gobernanza de la Inteligencia Artificial en Valencia es un paso significativo hacia la regulación y supervisión de la IA en el sector público. Este organismo no solo busca abordar los desafíos que surgen con la implementación de estas tecnologías, sino que también establece un marco para la responsabilidad y transparencia en su uso. Como emprendedores y empresarios, es crucial adaptarse a estas nuevas realidades normativas, adoptando prácticas éticas en el desarrollo y uso de la inteligencia artificial para garantizar un futuro más justo y accesible para todos.