La inteligencia artificial (IA), sus riesgos reales, sus posibles efectos sobre las capacidades humanas y su impacto en el trabajo y las empresas centrarán una jornada organizada por el Govern de les Illes Balears y la asociación empresarial Eticentre. El encuentro se celebrará el miércoles 25 de noviembre, a las 12.00 horas, en Ca n’Oleo, en Palma, y reunirá a dos especialistas para analizar la tecnología desde perspectivas científicas y filosóficas.
Una jornada para analizar los desafíos de la IA
El acto, titulado «¿Es realmente la IA peligrosa?», busca ofrecer un espacio de reflexión sobre una tecnología que ya está transformando la sociedad. La conversación tratará de diferenciar entre los riesgos actuales y los escenarios que todavía son hipotéticos, además de plantear cómo relacionarse con la IA de forma responsable.
Participarán Humberto Bustince, catedrático de Ciencia de la Computación e Inteligencia Artificial de la Universidad Pública de Navarra y considerado uno de los pioneros de esta disciplina en Europa, y Javier Echeverría, catedrático de Filosofía y Matemáticas y especialista en los impactos sociales de la tecnología.
La jornada será la tercera colaboración entre la Agencia de Desarrollo Regional de Baleares (ADRBalears) y Eticentre. La iniciativa pretende conectar la investigación científica con la filosofía, la ética y la realidad cotidiana de las empresas.
Temas que se debatirán
El diálogo abordará cuestiones clave para comprender el alcance de la inteligencia artificial, entre ellas:
- La autonomía de los sistemas inteligentes y el grado de supervisión humana que requieren.
- Los riesgos asociados al uso malintencionado de estas herramientas.
- La creciente dependencia tecnológica de personas y organizaciones.
- La necesidad de establecer mecanismos claros de supervisión, responsabilidad y rendición de cuentas.
- Los efectos de la IA en el empleo, la actividad empresarial y las capacidades humanas.
Dos perspectivas complementarias
Humberto Bustince: el poder de los datos
Bustince considera que 2022 fue un año decisivo para la inteligencia artificial generativa y un punto de inflexión que amplió radicalmente el alcance y las posibilidades de esta tecnología.
A su juicio, la evolución de la IA desde entonces ha sido exponencial. También advierte sobre lo que describe como una «dictadura de los datos»: quienes pueden recopilar grandes cantidades de información tienen una posición privilegiada para entrenar algoritmos y desarrollar sistemas de inteligencia artificial.
Además de analizar los aspectos técnicos, Bustince planteará preguntas sobre el futuro de la relación entre las personas y la IA, con especial atención a sus consecuencias en el ámbito laboral y empresarial.
Javier Echeverría: las consecuencias éticas y sociales
Desde la filosofía, Echeverría ofrecerá una mirada centrada en las implicaciones sociales y éticas de la transformación tecnológica. Una de sus preocupaciones es que delegar cada vez más tareas en las máquinas pueda debilitar algunas capacidades humanas.
Este planteamiento desplaza el debate desde lo que la tecnología puede llegar a hacer hacia otra cuestión: qué habilidades podrían dejar de ejercitar las personas si confían demasiado en los sistemas automatizados.
Consejos para emprendedores y negocios
La expansión de la IA plantea oportunidades, pero también exige que las empresas adopten criterios claros para usarla. Estas recomendaciones pueden ayudar a emprendedores y organizaciones a prepararse:
1. Identificar problemas concretos antes de incorporar IA
Antes de contratar una herramienta o automatizar un proceso, conviene definir qué necesidad se quiere resolver. La IA puede ser útil para tareas como clasificar información, resumir documentos o apoyar la atención al cliente, pero no siempre es la solución más adecuada.
2. Revisar la calidad y el origen de los datos
Los sistemas de IA dependen de los datos con los que trabajan. Las empresas deberían comprobar que la información sea pertinente, esté actualizada y se haya obtenido y tratado de forma legítima. También es importante limitar el acceso a los datos sensibles de clientes, empleados y proveedores.
3. Mantener supervisión humana
La automatización no elimina la responsabilidad de la empresa. En decisiones importantes —por ejemplo, relacionadas con contratación, crédito, seguridad o atención a clientes— es recomendable que una persona pueda revisar los resultados, corregir errores y explicar las decisiones.
4. Proteger la información confidencial
Antes de introducir datos en una herramienta de IA, hay que conocer sus condiciones de uso y sus políticas de privacidad. No se deberían compartir datos personales, secretos comerciales ni información sensible sin comprobar cómo se almacenan y utilizan.
5. Evaluar los resultados de forma periódica
Una herramienta puede ofrecer buenos resultados al principio y dejar de ser adecuada si cambian los datos, los procesos o las necesidades del negocio. Conviene medir su precisión, sus costes, el tiempo que ahorra y los posibles efectos negativos.
6. Formar al equipo y evitar la dependencia excesiva
La capacitación ayuda a que las personas comprendan tanto las posibilidades como los límites de estas herramientas. La IA debería complementar las capacidades del equipo, no sustituir sin criterio el conocimiento, la creatividad o el juicio profesional.
7. Preparar normas internas de uso
Es útil establecer pautas sobre qué herramientas se pueden utilizar, qué información puede compartirse y quién debe validar los resultados. Una política sencilla puede reducir riesgos de errores, filtraciones de datos y usos inadecuados.
Conclusiones
La jornada de Palma propone abordar la inteligencia artificial desde una perspectiva amplia: no solo como una tecnología con nuevas capacidades, sino también como un fenómeno que afecta a la sociedad, el trabajo, la privacidad y las habilidades humanas.
Las reflexiones de Humberto Bustince sobre el poder de los datos y las advertencias de Javier Echeverría sobre la posible pérdida de capacidades invitan a evitar tanto el alarmismo como la adopción sin análisis. Para los negocios, el reto será aprovechar las oportunidades de la IA con supervisión humana, protección de datos, formación y responsabilidad.