Un reciente estudio realizado por INGENIO, un centro del Consejo Superior de Investigaciones Científicas (CSIC), junto con la Universitat Politècnica de València (UPV), revela la necesidad de establecer un marco ético para integrar la inteligencia artificial (IA) en los sistemas de apoyo a las decisiones clínicas. Este enfoque busca garantizar que, en la toma de decisiones médicas, el juicio humano y la responsabilidad de los profesionales permanezcan intactos, a pesar del uso de tecnologías avanzadas. Publicado en la revista Science and Engineering Ethics, el estudio propone que la IA debe actuar como una herramienta que complemente y no desplace el juicio del ser humano.
Marco Ético para la IA en la Medicina
Herramientas de Apoyo a la Decisión Clínica (CDSS)
Las herramientas informáticas, conocidas como Clinical Decision Support Systems (CDSS), están diseñadas para analizar información clínica y ofrecer datos, predicciones o recomendaciones a los profesionales de la salud. Sin embargo, su uso plantea interrogantes éticos significativos:
- ¿Hasta qué grado debe seguirse una recomendación automatizada?
- ¿Cómo se puede justificar una decisión basada en un algoritmo?
- ¿Quién asume la responsabilidad de las decisiones finales?
Estos cuestionamientos son vitales para integrar la IA en el ámbito clínico, evitando la deshumanización y la dilución de la responsabilidad de los profesionales de la salud.
Enfoque de Ética Discursiva
El estudio aboga por un enfoque de ética discursiva, que sostiene que las normas que afectan a las personas deben ser justificables mediante el diálogo y la participación activa de aquellos que se verán afectados. Según Félix Lozano, investigador de INGENIO, este enfoque permite que las recomendaciones de la IA sean comprendidas y discutidas dentro de un proceso de deliberación humana.
Diseño y Desarrollo Ético de los Sistemas de IA
La incorporación de la ética no solo debe ser un proceso post implementación, sino que debe estar presente desde el diseño y desarrollo de los sistemas. Para lograrlo:
- Se propone que participen tanto desarrolladores de software como profesionales de la salud, expertos en ética y pacientes en las decisiones de diseño.
Esto garantiza que los sistemas de apoyo a decisiones clínicas no solo busquen precisión, sino que también preserven la autonomía de pacientes y profesionales, facilitando su capacidad de comprender y cuestionar las recomendaciones generadas.
Consejos para Emprendedores y Negocios en el Ámbito de la IA
-
Incorporación de la Ética desde el Inicio: Asegúrate de que la reflexión ética sea parte integral del proceso de desarrollo de tus tecnologías de IA.
-
Interdisciplinariedad: Fomenta un entorno que mezcle la filosofía moral, la ingeniería de datos y las políticas públicas para obtener un enfoque más completo en tus soluciones.
-
Transparencia en las Recomendaciones: Diseña sistemas que hagan que las recomendaciones sean comprensibles y trazables para los usuarios, facilitando su evaluación.
-
Inclusión de Stakeholders: Involucra a todos los interesados, incluidos pacientes y profesionales de la salud, en el proceso de decisión y desarrollo de soluciones basadas en IA.
- Capacitación Continua: Ofrece formación a los profesionales de la salud para que comprendan mejor el funcionamiento de los sistemas de IA y su integración en la práctica clínica.
Conclusiones
La IA tiene el potencial de transformar la toma de decisiones clínicas, pero su integración ética es fundamental para preservar la responsabilidad de los profesionales de la salud y la autonomía de los pacientes. Un enfoque discursivo que incluya a diversas partes interesadas es crucial para garantizar que estas herramientas actúen como apoyos y no como sustitutos del juicio humano. La implementación de sistemas de apoyo clínico que sean comprensibles, trazables y éticamente justificados contribuirá a una práctica médica más efectiva y respetuosa.