El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha hecho un llamado importante para que las organizaciones del sector de la discapacidad participen activamente en la gobernanza y supervisión de la Inteligencia Artificial (IA). Esta solicitud se enmarca en el proceso de audiencia pública abierto por la Comisión Europea, que busca simplificar la aplicación de normas en este ámbito crucial para la Unión Europea. El CERMI subraya la necesidad de garantizar una implicación estructurada de estas organizaciones en la supervisión de sistemas de IA, especialmente aquellos destinados a plataformas digitales que impactan a la población en general.
La Reclamación del CERMI
Participación en la Gobernanza de la IA
El CERMI destaca la importancia de que las organizaciones representativas de personas con discapacidad tengan un papel activo no solo en la supervisión de la IA, sino también en la creación de políticas y regulaciones que la rigen. Esto es fundamental para asegurar que los derechos de las personas con discapacidad sean respetados y promovidos en el contexto de la tecnología emergente.
Formación Obligatoria en IA
El organismo aboga por establecer la alfabetización en IA como un estándar obligatorio para todo el personal que se encargue de diseñar, desplegar y utilizar estos sistemas. Esto es crucial para prevenir malentendidos y garantizar que los sistemas se desarrollen de manera inclusiva.
Riesgos Identificados
Evaluaciones de Impacto
El CERMI alertó sobre el riesgo de que la simplificación normativa afecte las evaluaciones de impacto necesarias para proteger los derechos fundamentales de las personas. Se teme que la documentación técnica simplificada para PYMEs y empresas medianas pueda comprometer la verificación del cumplimiento de los requisitos de accesibilidad universal.
Pérdida de Transparencia
Este organismo también ha manifestado su preocupación por la pérdida de transparencia que podría derivarse de eliminar el registro obligatorio en la base de datos europea para ciertos sistemas de IA. Tal acción podría dar lugar a «cajas negras» que dificulten el control social y aumenten el riesgo de discriminación.
Propuestas del CERMI
El CERMI ha presentado varias propuestas clave para el desarrollo de una IA más responsable:
- Reforzar la accesibilidad universal y la no discriminación.
- Asegurar la transparencia y la calidad en la recolección de datos.
- Implementar una vigilancia poscomercialización armonizada a nivel europeo.
Consejos para Emprendedores y Negocios
-
Incluir a todos los grupos: Al desarrollar nuevas tecnologías, asegúrate de incluir a representantes de grupos diversos, incluyendo personas con discapacidad, en las fases de diseño y evaluación.
-
Formación continua: Implementa programas de alfabetización digital y específica en IA para todos los empleados, garantizando que entiendan las implicaciones éticas y prácticas de utilizar estas tecnologías.
-
Transparencia en los procesos: Mantén una política de transparencia en el uso de datos y en la toma de decisiones tecnológicas. Esto ayudará a construir confianza tanto en los empleados como en los clientes.
- Accesibilidad como prioridad: Asegúrate de que tus productos y servicios sean accesibles para todas las personas, independientemente de sus capacidades. Considera esto desde la etapa de diseño.
Conclusiones
El CERMI insiste en que la tecnología y la innovación deben avanzar en consonancia con la protección de los derechos humanos, especialmente en el contexto de la Inteligencia Artificial. Dado que la IA se ha convertido en una parte integral de muchas industrias, es esencial que los emprendedores y las empresas tomen en cuenta las voces de todos los grupos en la sociedad. Solo mediante la inclusión y un marco regulador sólido se podrá garantizar que ningún avance digital deje atrás a las personas con discapacidad. La responsabilidad social en el desarrollo de tecnología es, sin duda, una prioridad que debe ser abordada.