La catedrática y cofundadora del Centro de Investigación en Ciencia de Datos Inteligente e Inteligencia Artificial de la Universitat Politècnica de Catalunya (UPC), Karina Gibert, ha resaltado el potencial transformador de la inteligencia artificial (IA) en el sector social. En una reciente entrevista, abordó tanto los beneficios como los desafíos que implica su uso, haciendo hincapié en la necesidad de un enfoque ético y un conocimiento adecuado para su implementación efectiva.
Potencial de la IA en el Sector Social
Romper Barreras Digitales
Karina Gibert ha subrayado que la inteligencia artificial puede ser una herramienta clave para romper barreras digitales. A lo largo de su carrera, ha explorado aplicaciones de la IA en áreas como la salud mental y la dependencia. A diferencia de las aplicaciones más antiguas que solo ayudaban a entender fenómenos complejos, los avances actuales permiten que la IA interactúe de manera más natural con las personas.
- Ejemplos de Aplicaciones: La IA podría facilitar la organización de agentes sociales, simplificar trámites para personas mayores o analfabetas, y ayudar en la educación a través del seguimiento del progreso de los niños. Por ejemplo, podría automatizar informes durante entrevistas sociales, permitiendo que los profesionales presten atención directa a los beneficiarios.
Entornos Seguros para Usar IA
Gibert también ha hablado sobre la importancia de garantizar un entorno seguro para el uso de la IA, especialmente cuando se tratan datos sensibles de grupos vulnerables. Ha advertido sobre el uso indiscriminado de herramientas como ChatGPT y otros ‘chatbots’, sugiriendo que estos no deberían emplearse en el campo social debido a preocupaciones sobre la privacidad de los datos.
- Infraestructura de Datos Propios: Aboga por el desarrollo de infraestructuras de datos locales que cumplan con la legislación europea y catalana. Esto ayudaría a proteger la información sensible que maneja el sector social.
Desafíos de la IA Generativa
La experta ha indicado que las alucinaciones estructurales son un riesgo inherente a la IA generativa. Esto contrasta con la IA tradicional, donde el rendimiento mejora con la cantidad de datos proporcionados.
- Precauciones Necesarias: Es esencial que los resultados de la IA generativa sean revisados exhaustivamente y recordar que la responsabilidad final de las decisiones recae siempre en los humanos, y no en las máquinas.
Formación y Delegados de IA
Karina Gibert plantea la necesidad de una formación general sobre los límites y capacidades de las herramientas de IA. Propone la creación de una figura de delegado de IA que combine conocimiento técnico, ético y sectorial. Esto podría facilitar un uso más responsable y efectivo de la tecnología en el ámbito social.
Jornada sobre IA en el Tercer Sector
Estas temáticas fueron discutidas en un evento organizado por Fundesplai, en el que participaron responsables del gobierno catalán y otros organismos involucrados en la regulación de la IA y la protección de datos. Se abordó la necesidad de establecer protocolos organizativos y de llamar la atención sobre la soberanía tecnológica en Europa.
Consejos para Emprendedores y Negocios
-
Educación Continua: Mantente informado sobre las últimas tendencias en IA y sus aplicaciones en tu sector. Considera cursos o seminarios para comprender mejor las herramientas que puedes implementar.
-
Evaluación de Herramientas: Antes de adoptar cualquier herramienta de IA, evalúa su idoneidad para tu negocio. Considera el nivel de precisión, la privacidad de los datos y si la infraestructura es segura.
-
Ética y Privacidad: Establece políticas claras sobre el uso de datos, especialmente si maneja información sensible. Asegúrate de cumplir con las normas legales locales e internacionales.
-
Colaboración Interdisciplinaria: Trabaja con expertos de diferentes áreas. Esto te ayudará a abordar el uso de la IA desde múltiples perspectivas, asegurando un enfoque más equilibrado y efectivo.
- Desarrollo de Infraestructura Propia: Aunque puede requerir una inversión significativa, desarrollar infraestructuras de datos en tu propia ubicación puede mejorar la seguridad y el control sobre la información sensible.
Conclusiones
La inteligencia artificial ofrece un potencial significativo para transformar la forma en que se gestionan los servicios sociales, pero su implementación debe hacerse con cuidado y ética. La necesidad de un entorno seguro y un uso responsable de la tecnología no puede subestimarse. Al final, la responsabilidad humana sigue siendo esencial en la toma de decisiones, incluso cuando se utilizan herramientas avanzadas como la IA.