El investigador José Hernández-Orallo, del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (Vrain) de la Universitat Politècnica de València (UPV), ha sido elegido para formar parte del comité científico que asesorará a la Oficina de Inteligencia Artificial establecida por la Comisión Europea. Este comité, compuesto por 60 expertos internacionales, se encargará de asesorar sobre la implementación de la Ley de IA Europea y evaluar los impactos y riesgos asociados a los modelos de Inteligencia Artificial de propósito general (IAPG).
Funciones del Comité Científico
Asesoramiento en la Ley de IA Europea
El principal deber del comité será ofrecer orientación experta sobre la aplicación de la nueva Legislación Europea relacionada con la IA. Entre sus funciones específicas se incluyen:
- Evaluar riesgos sistémicos asociados a modelos de IA que puedan tener un impacto a gran escala.
- Estructurar metodologías de clasificación y evaluación para los modelos de IA.
- Supervisar el desarrollo y despliegue de la IA en la Unión Europea para garantizar su implementación segura.
Vigilancia y Prevención de Riesgos
El comité también tendrá un rol activo en la vigilancia constante del uso de tecnologías de IA, con la capacidad de emitir alertas a la Oficina de IA sobre nuevos modelos o fenómenos potencialmente peligrosos relacionados con la IA.
Composición del Comité
Diversidad y Equilibrio
La selección de los expertos se ha llevado a cabo con un enfoque en el equilibrio geográfico y de género. Junto a José Hernández-Orallo, otros dos expertos españoles, Javier Del Ser y Asunción Gómez-Pérez, también han sido reconocidos por su experiencia y contribuirán al panel por un mandato de 24 meses. Este mandato es renovable y se otorga a título personal.
Enfoque de Trabajo
Hernández-Orallo ha manifestado su intención de aportar un rigor científico al evaluar las capacidades de la IA, enfatizando la importancia de anticipar los riesgos que podrían surgir de los sistemas avanzados y de la superinteligencia futura. Esto complementará los esfuerzos en términos de mitigación de riesgos.
Perfiles Académicos y Experiencia
José Hernández-Orallo no solo es catedrático en la UPV sino que también es el director de investigación en el Leverhulme Centre for the Future of Intelligence en la Universidad de Cambridge (Reino Unido). Su labor abarca un amplio espectro dentro de la inteligencia artificial, incluyendo el aprendizaje automático y la medición de inteligencia. Además, Hernández-Orallo lidera la agenda científica en el campo de la evaluación de la IA desde 2017, impulsando nuevos paradigmas y frameworks evaluativos.
Consejos para Emprendedores y Negocios Relacionados
-
Integrar la IA de manera responsable: Asegúrate de que las soluciones de IA que desarrolles cumplan con las regulaciones y directrices establecidas por la legislación vigente, como la Ley de IA Europea.
-
Evaluar los riesgos sistémicos: Antes de implantar herramientas de IA, realiza un análisis profundo de los posibles impactos que puedan tener en tu negocio y en la sociedad.
-
Capacitación continua: Invierte en la formación y actualización de tu equipo sobre las últimas tendencias y regulaciones en IA, para asegurarte de que tu negocio esté a la vanguardia.
-
Colaboración interdisciplinaria: Forma alianzas con profesionales de diversas áreas (tecnología, ética, derecho) para crear un enfoque más holístico en el desarrollo y uso de la IA.
- Comunicación clara: Mantén la transparencia sobre el uso de tecnologías de IA con tus clientes y partes interesadas, ayudando a establecer confianza y reducir el temor a la tecnología.
Conclusiones
La inclusión de expertos como José Hernández-Orallo en comités consultivos sobre inteligencia artificial señala un cambio significativo en cómo se gestionarán y regularán las tecnologías avanzadas en Europa. Los emprendedores y empresas deben prestar atención a estas iniciativas y prepararse para un entorno empresarial en el que la responsabilidad y el rigor científico en el uso de la IA serán fundamentales. Adoptar prácticas seguras y responsables no solo ayudará a cumplir con las normativas, sino que también fomentará un entorno empresarial más sostenible y ético.