X

Noticias IA

Dos expertos debatirán en Palma sobre los riesgos de la inteligencia artificial

La inteligencia artificial (IA), sus riesgos reales, sus posibles efectos sobre las capacidades humanas y su impacto en el trabajo y las empresas centrarán una jornada organizada por el Govern de les Illes Balears y la asociación empresarial Eticentre. El encuentro se celebrará el miércoles 25 de noviembre, a las 12.00 horas, en Ca n’Oleo, en Palma, y reunirá a dos especialistas para analizar la tecnología desde perspectivas científicas y filosóficas.

Una jornada para analizar los desafíos de la IA

El acto, titulado «¿Es realmente la IA peligrosa?», busca ofrecer un espacio de reflexión sobre una tecnología que ya está transformando la sociedad. La conversación tratará de diferenciar entre los riesgos actuales y los escenarios que todavía son hipotéticos, además de plantear cómo relacionarse con la IA de forma responsable.

Participarán Humberto Bustince, catedrático de Ciencia de la Computación e Inteligencia Artificial de la Universidad Pública de Navarra y considerado uno de los pioneros de esta disciplina en Europa, y Javier Echeverría, catedrático de Filosofía y Matemáticas y especialista en los impactos sociales de la tecnología.

La jornada será la tercera colaboración entre la Agencia de Desarrollo Regional de Baleares (ADRBalears) y Eticentre. La iniciativa pretende conectar la investigación científica con la filosofía, la ética y la realidad cotidiana de las empresas.

Temas que se debatirán

El diálogo abordará cuestiones clave para comprender el alcance de la inteligencia artificial, entre ellas:

  • La autonomía de los sistemas inteligentes y el grado de supervisión humana que requieren.
  • Los riesgos asociados al uso malintencionado de estas herramientas.
  • La creciente dependencia tecnológica de personas y organizaciones.
  • La necesidad de establecer mecanismos claros de supervisión, responsabilidad y rendición de cuentas.
  • Los efectos de la IA en el empleo, la actividad empresarial y las capacidades humanas.

Dos perspectivas complementarias

Humberto Bustince: el poder de los datos

Bustince considera que 2022 fue un año decisivo para la inteligencia artificial generativa y un punto de inflexión que amplió radicalmente el alcance y las posibilidades de esta tecnología.

A su juicio, la evolución de la IA desde entonces ha sido exponencial. También advierte sobre lo que describe como una «dictadura de los datos»: quienes pueden recopilar grandes cantidades de información tienen una posición privilegiada para entrenar algoritmos y desarrollar sistemas de inteligencia artificial.

Además de analizar los aspectos técnicos, Bustince planteará preguntas sobre el futuro de la relación entre las personas y la IA, con especial atención a sus consecuencias en el ámbito laboral y empresarial.

Javier Echeverría: las consecuencias éticas y sociales

Desde la filosofía, Echeverría ofrecerá una mirada centrada en las implicaciones sociales y éticas de la transformación tecnológica. Una de sus preocupaciones es que delegar cada vez más tareas en las máquinas pueda debilitar algunas capacidades humanas.

Este planteamiento desplaza el debate desde lo que la tecnología puede llegar a hacer hacia otra cuestión: qué habilidades podrían dejar de ejercitar las personas si confían demasiado en los sistemas automatizados.

Consejos para emprendedores y negocios

La expansión de la IA plantea oportunidades, pero también exige que las empresas adopten criterios claros para usarla. Estas recomendaciones pueden ayudar a emprendedores y organizaciones a prepararse:

1. Identificar problemas concretos antes de incorporar IA

Antes de contratar una herramienta o automatizar un proceso, conviene definir qué necesidad se quiere resolver. La IA puede ser útil para tareas como clasificar información, resumir documentos o apoyar la atención al cliente, pero no siempre es la solución más adecuada.

2. Revisar la calidad y el origen de los datos

Los sistemas de IA dependen de los datos con los que trabajan. Las empresas deberían comprobar que la información sea pertinente, esté actualizada y se haya obtenido y tratado de forma legítima. También es importante limitar el acceso a los datos sensibles de clientes, empleados y proveedores.

3. Mantener supervisión humana

La automatización no elimina la responsabilidad de la empresa. En decisiones importantes —por ejemplo, relacionadas con contratación, crédito, seguridad o atención a clientes— es recomendable que una persona pueda revisar los resultados, corregir errores y explicar las decisiones.

4. Proteger la información confidencial

Antes de introducir datos en una herramienta de IA, hay que conocer sus condiciones de uso y sus políticas de privacidad. No se deberían compartir datos personales, secretos comerciales ni información sensible sin comprobar cómo se almacenan y utilizan.

5. Evaluar los resultados de forma periódica

Una herramienta puede ofrecer buenos resultados al principio y dejar de ser adecuada si cambian los datos, los procesos o las necesidades del negocio. Conviene medir su precisión, sus costes, el tiempo que ahorra y los posibles efectos negativos.

6. Formar al equipo y evitar la dependencia excesiva

La capacitación ayuda a que las personas comprendan tanto las posibilidades como los límites de estas herramientas. La IA debería complementar las capacidades del equipo, no sustituir sin criterio el conocimiento, la creatividad o el juicio profesional.

7. Preparar normas internas de uso

Es útil establecer pautas sobre qué herramientas se pueden utilizar, qué información puede compartirse y quién debe validar los resultados. Una política sencilla puede reducir riesgos de errores, filtraciones de datos y usos inadecuados.

Conclusiones

La jornada de Palma propone abordar la inteligencia artificial desde una perspectiva amplia: no solo como una tecnología con nuevas capacidades, sino también como un fenómeno que afecta a la sociedad, el trabajo, la privacidad y las habilidades humanas.

Las reflexiones de Humberto Bustince sobre el poder de los datos y las advertencias de Javier Echeverría sobre la posible pérdida de capacidades invitan a evitar tanto el alarmismo como la adopción sin análisis. Para los negocios, el reto será aprovechar las oportunidades de la IA con supervisión humana, protección de datos, formación y responsabilidad.

Compartir noticia

Publicado

en

por

Newsletter Negocios con IA

¿Quieres Mejorar tu Negocio?