El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha destacado el potencial positivo de la Inteligencia Artificial (IA) para fomentar la inclusión de las personas con discapacidad, pero también ha advertido sobre el riesgo de que esta misma tecnología aumente su exclusión. En una reciente reunión de su Consejo de Ética, se discutieron las implicaciones de la IA y se presentó su Estrategia de Gobierno 2025-2027, que busca promover un uso ético y responsable de las nuevas tecnologías en el tercer sector.
Estrategia de Gobierno 2025-2027
Marco Innovador en el Tercer Sector
La Estrategia de Gobierno 2025-2027 del CERMI es un marco pionero que establece un sistema integral de gestión de la IA. El objetivo es asegurar que las tecnologías emergentes se utilicen de manera alineada con los derechos de las personas con discapacidad. Esta estrategia fue aprobada por la Comisión de Transformación Digital e Inteligencia Artificial del CERMI y cuenta con la participación activa del Consejo de Ética, que vela por los valores y principios de la organización.
Líneas Maestras Presentadas por Pilar Villarino
Pilar Villarino, directora ejecutiva del CERMI, presentó las principales líneas de esta estrategia, que se articulan en torno a cinco ejes estratégicos:
- Gobernanza y gestión de riesgos
- Cumplimiento normativo y marco ético
- Alfabetización y cultura organizativa
- Innovación con impacto social
- Incidencia estratégica y liderazgo social
Villarino enfatiza que la IA debe ser vista como una aliada de la inclusión, pero que su uso debe ser regulado desde el prisma de la ética y los derechos humanos.
Riesgos y Desafíos en el Uso de la IA
Exclusión Potencial de Personas con Discapacidad
Uno de los puntos críticos abordados por el Consejo de Ética es el riesgo de exclusión que puede surgir del uso de sistemas basados en biometría, reconocimiento facial o de voz. Estas tecnologías podrían limitar el acceso a servicios esenciales, la educación, la contratación, y otros procedimientos administrativos, haciendo que las personas con discapacidad queden injustamente excluidas.
Importancia de la Vigilancia Continua
El Consejo ha subrayado la necesidad de establecer una vigilancia constante para mitigar estos riesgos. La IA debe ser utilizada de manera responsable con el objetivo de combatir el discurso de odio, mejorar la accesibilidad y garantizar la igualdad de oportunidades.
Consejos para Emprendedores y Negocios
-
Adoptar un Enfoque Ético: Es fundamental incorporar principios éticos en el uso de tecnologías emergentes. Establecer códigos de conducta claros y garantizar el cumplimiento normativo puede ayudar a construir la confianza del público.
-
Formación del Personal: Asegúrate de que tu equipo esté debidamente capacitado en el uso seguro y ético de la IA para evitar problemas legales y éticos en el futuro.
-
Incluir a Personas con Discapacidad: Considera involucrar a personas con discapacidad en el proceso de desarrollo de productos o servicios que utilicen IA. Su perspectiva puede ayudar a evitar errores que podrían llevar a exclusión.
-
Implementar Sistemas de Moderación: Considera la necesidad de tener supervisión humana en los sistemas automatizados para evitar situaciones de discriminación o exclusión.
- Evaluar Impacto Social: Realiza un análisis del impacto social de las tecnologías que desees implementar, especialmente si están dirigidas a grupos vulnerables.
Conclusiones
El CERMI ha puesto de manifiesto que la Inteligencia Artificial puede ser una poderosa herramienta para la inclusión, siempre y cuando su uso sea regulado éticamente y alineado con los derechos humanos. Sin embargo, es fundamental que tanto organizaciones como emprendedores se comprometan a desarrollar y utilizar estas tecnologías de manera responsable, considerando los impactos potenciales sobre las poblaciones vulnerables. A medida que avanzamos hacia un futuro más digital, es crucial que se priorice la inclusión y se actúe diligentemente para prevenir la exclusión.