Owen Sakawa, fundador de Elloe AI, tiene como objetivo que su plataforma se convierta en el «sistema inmunitario para la IA» y en el «antivirus para cualquier agente de IA». La idea que Sakawa compartió antes de la conferencia TechCrunch Disrupt, donde Elloe AI es uno de los 20 finalistas en la competición Startup Battlefield, es añadir una capa a los modelos de lenguaje de las empresas (LLM) que controle sesgos, errores, problemas de cumplimiento, desinformación y resultados no seguros.
Propuesta Tecnológica de Elloe AI
Elloe AI funcionaría como una API o un SDK, un módulo que se sitúa encima de la capa de salida de un modelo de IA, supervisando cada respuesta generada. Este sistema cuenta con varias «anclas» que realiza una serie de comprobaciones esenciales: la primera verifica la respuesta del LLM contra fuentes verificables, la segunda comprueba si la salida viola alguna regulación como la ley de privacidad de salud de EE.UU. (HIPAA), el reglamento general de protección de datos (GDPR) de la UE, o si expone información personal privada (PII). La última ancla es una pista de auditoría que muestra cómo se tomaron las decisiones previas, permitiendo a los reguladores o auditores analizar la lógica del modelo.
Diferenciación Técnica
Es importante señalar que Elloe AI no está construido sobre un LLM, porque según Sakawa, usar LLMs para verificar otros LLMs solo sería como poner un «parche sobre otro herida». Sin embargo, el sistema sí utiliza técnicas de IA, como el aprendizaje automático, y también cuenta con la intervención humana: empleados de Elloe AI que se mantienen actualizados con las nuevas regulaciones sobre protección de datos y protección de usuarios.
Consejos para Emprendedores y Negocios
- Incorporar Capas de Seguridad: Como lo demuestra la propuesta de Elloe AI, añadir capas de verificación y seguridad pueden proteger a las empresas de problemas legales y de reputación.
- Actualizar Constantemente: En un campo que evoluciona rápidamente como la IA, mantenerse actualizado con las regulaciones es crucial.
- Humanos en el Bucle: Incluir la supervisión humana en los sistemas automáticos puede añadir un nivel adicional de fiabilidad y confianza.
- Atención a la Privacidad: La protección de datos personales es más crítica que nunca; asegurarse de que los sistemas respeten estas normas es fundamental.
Conclusiones
El enfoque de Elloe AI refleja una tendencia creciente hacia la creación de sistemas de IA más seguros y confiables. La idea de un sistema que actúe como un «sistema inmunológico» para la tecnología de IA no solo es innovadora, sino que es una respuesta necesaria a los retos éticos y prácticos que surgen con el avance rápido de estas tecnologías. La iniciativa de Elloe AI podría marcar un precedente importante para futuras aplicaciones de IA en el ámbito empresarial y más allá, subrayando la importancia de considerar la ética y la seguridad como pilares fundamentales en el desarrollo de la tecnología.