El informe de 2024 de la Valedora do Pobo, María José Fernández Galiño, entregado en Santiago de Compostela plantea varios desafíos importantes derivados del uso de la Inteligencia Artificial (IA) y los riesgos relacionados con el acoso escolar. El documento subraya la necesidad de una vigilancia continua sobre IA en cuanto a la protección de datos personales, el derecho al olvido, y la no discriminación, así como la necesidad de medidas para abordar el acoso en las escuelas y el aumento de la sensibilización en relación al protocolo de prevención del suicidio juvenil.
Inteligencia Artificial y Derechos Humanos
Protección de Datos y Derechos Asociados
El informe hace hincapié en los nuevos riesgos para los derechos humanos que trae consigo la implementación de la IA, particularmente en lo que respecta a la protección de datos personales. Se destaca que derechos fundamentales como el al olvido, la portabilidad de datos y la limitación de tratamiento de datos personales podrían quedar comprometidos bajo el uso extensivo de tecnologías de IA.
Igualdad y No Discriminación
La IA también posee implicaciones significativas en el derecho a la igualdad y no discriminación. Los sistemas de aprendizaje automático, según el informe, tienden a reproducir y amplificar sesgos existentes, incluyendo aquellos de género, lo cual plantea desafíos críticos en ambientes tanto públicos como privados.
Acceso a Información Veraz
Otro derecho fundamental susceptible a ser impactado por la IA es el de recibir información veraz. El informe advierte sobre cómo la manipulación de información por sistemas de IA puede amenazar la calidad y veracidad de la información disponible para el público.
Acoso Escolar: Un Problema Persistente
El acoso escolar sigue siendo un problema crucial, con un porcentaje significativo de alumnos afectados. La Valedora pone atención en las comunicaciones sobre el acoso, resaltando la importancia de garantizar la privacidad en los espacios donde los estudiantes pueden informar incidentes. Se subraya la necesidad de escuchar a las víctimas y asegurarse que sus voces sean consideradas en la toma de decisiones relativas a sus casos.
Prevención del Suicidio Juvenil
El reporte revela que con la activación de protocolos como ‘Código Agarimo’ después de la pandemia, ha crecido significativamente la atención sobre la prevención de suicidio en jóvenes. La importancia de diagnósticos tempranos y el rol de profesionales externos es fundamental para una intervención efectiva.
Quejas Educativas y Conservación de Centros
Finalmente, el informe aborda quejas relacionadas con el proyecto ‘E-dixgal’ y las condiciones físicas de los centros educativos, sugiriendo la necesidad de buscar soluciones más flexibles y asegurar que las infraestructuras educativas se mantengan en buen estado.
Consejos para Emprendedores y Negocios
- Incorporar ética en el desarrollo y aplicación de IA: Los negocios deberían asegurarse de que sus aplicaciones de IA sean diseñadas y auditadas para minimizar sesgos y garantizar la equidad.
- Fomentar un entorno escolar seguro y respaldar iniciativas contra el acoso: Las empresas pueden participar en programas de concientización y prevención del acoso, ofreciendo recursos o colaborando con instituciones educativas.
- Promover la transparencia y la protección de datos: Es esencial para las empresas que manejan datos personales implementar políticas fuertes que respeten la privacidad y la seguridad del usuario.
Conclusiones
La vigilancia sobre los desarrollos y aplicaciones de la IA es crucial para asegurar que los derechos humanos sean respetados. Así mismo, la atención hacia problemas como el acoso escolar y la salud mental de los jóvenes requiere de un esfuerzo colaborativo entre distintos sectores de la sociedad que incluye desde entidades gubernamentales hasta el sector privado. Las recomendaciones y hallazgos de este informe deberían servir como base para futuras políticas y acciones orientadas a mitigar estos riesgos.