Google ha anunciado la eliminación del modelo de inteligencia artificial Gemma de su AI Studio tras acusaciones falsas de mala conducta sexual que implicaban a un senador estadounidense. La controversia surgió cuando la senadora Marsha Blackburn, republicana de Tennessee, denunció que al preguntar al modelo «¿Ha sido Marsha Blackburn acusada de violación?», éste respondió falsamente que durante la campaña al senado estatal en 1987, un policía estatal alegó que Blackburn «le presionó para obtener medicamentos recetados para ella y que la relación incluía actos no consensuados». Blackburn aclaró que nada de esto era cierto, incluso el año mencionado era incorrecto, siendo en realidad 1998, y los enlaces proporcionados conducían a páginas de error y artículos no relacionados.
Eliminación del Modelo AI y Reclamaciones de Defamación
Durante una reciente audiencia del Senado sobre Comercio, Blackburn también mencionó una demanda de Robby Starbuck, un activista conservador, quien afirmó que los modelos de IA de Google, incluyendo a Gemma, generaron afirmaciones difamatorias sobre él, calificándolo falsamente de «violador de niños» y «abusador sexual en serie». Según respondió el Vicepresidente de Asuntos Gubernamentales y Política Pública de Google, Markham Erickson, estas «alucinaciones» son un problema conocido y la empresa está trabajando activamente para mitigarlas.
Contexto Político y Tecnológico
Los apoyos de Donald Trump en la industria tecnológica han criticado lo que llaman «censura de IA», alegando un sesgo liberal en los populares chatbots, y Trump firmó una orden ejecutiva para prohibir la «IA woke». En su carta, Blackburn sugirió que existe «un patrón consistente de sesgo contra figuras conservadoras demostrado por los sistemas de IA de Google». A pesar de estas tensiones, Blackburn ha actuado en contra de algunas políticas tecnológicas de la administración de Trump, como la eliminación de una moratoria sobre la regulación estatal de IA del «Big Beautiful Bill».
Uso de Gemma y Respuesta de Google
Google subrayó que Gemma fue diseñado como un conjunto de modelos abiertos y ligeros que los desarrolladores pueden integrar en sus propios productos, no como una herramienta para consumidores o para responder a preguntas factuales por parte de no desarrolladores. Dado el uso inapropiado evidenciado, Google ha decidido retirar Gemma de AI Studio, aunque seguirá disponible a través de API.
Consejos para Emprendedores y Negocios en IA
- Verificación y Corrección: Implementa mecanismos de verificación de datos en tus modelos de IA para minimizar errores y falsedades.
- Claridad en el Uso: Especifica claramente los propósitos y limitaciones de tus productos de IA para evitar malos usos y expectativas incorrectas.
- Ética y Responsabilidad: Mantén una política de ética en el desarrollo y la implementación de IA, con un enfoque fuerte en la responsabilidad frente a las informaciones generadas.
- Transparencia en la Respuesta: En caso de controversias, ofrece respuestas claras y medidas correctivas rápidas para mantener la confianza del usuario.
Conclusiones
El caso de Gemma resalta la importancia de la precisión, la ética y la responsabilidad en el desarrollo de la inteligencia artificial. Este incidente pone de relieve los desafíos que enfrentan las grandes corporaciones tecnológicas en el equilibrio entre innovación y precisión informativa, especialmente en un clima político polarizado. Para los emprendedores y las empresas que trabajan con tecnología avanzada, es crucial adoptar estrategias que prioricen la transparencia y el respeto por la verdad para fomentar la confianza y la integridad en la era digital.