Campbell Brown ha dedicado su carrera a la búsqueda de información precisa, primero como reconocida periodista de televisión y luego como la primera y única responsable de noticias en Facebook. En la actualidad, con la creciente influencia de la IA en la manera en que las personas consumen información, observa que la historia podría repetirse. Esta vez, no está dispuesta a esperar que otros lo solucionen. Ha creado su propia empresa, Forum AI, para abordar los desafíos que plantea el uso de modelos de IA en temas de alta relevancia.
Creación de Forum AI
Orígenes e inspiraciones
Forum AI, fundada hace 17 meses en Nueva York, surgió de un momento crucial en la carrera de Brown. Durante su tiempo en Meta, se dio cuenta de que herramientas como ChatGPT serían la vía principal a través de la cual fluiría la información. Alarmada por la falta de calidad en la información que circula en estas plataformas, Brown reflexionó sobre el futuro de sus hijos: “Si no logramos corregir esto, mis hijos serán realmente tontos”.
Objetivo de la empresa
El objetivo de Forum AI es evaluar cómo los modelos de IA se comportan en temas que Brown denomina «temas de alta importancia», como la geopolítica, la salud mental, la finanza y la contratación. Para llevar a cabo esta tarea, busca la ayuda de expertos en cada campo, quienes diseñan estándares para evaluar los modelos de IA, y a partir de ahí, entrena jueces de IA para realizar evaluaciones a gran escala.
Desafíos y hallazgos iniciales
Resultados preocupantes
Cuando Forum AI empezó a evaluar los modelos líderes, los hallazgos no fueron alentadores. Por ejemplo, Brown menciona situaciones en las que modelos como Gemini extraen información de sitios web del Partido Comunista Chino para historias que no están relacionadas con China, además de detectar un sesgo político en prácticamente todos los modelos analizados. También destaca errores más sutiles pero significativos como la falta de contexto o de perspectivas.
Reflexiones sobre la optimización de plataformas
A lo largo de su experiencia en Facebook, Brown observó las consecuencias de optimizar plataformas para el compromiso sin priorizar la precisión. La lección que extrajo fue clara: esta estrategia ha tenido efectos negativos en la sociedad, dejando a muchos con menos información de la que deberían tener. Según ella, optimizar para la verdad debería ser la nueva meta.
La IA como posibilidad de cambio
Brown ve en la IA una oportunidad para romper con el ciclo vicioso del desinformación. Las empresas que utilizan IA en decisiones de credito, prestamos, seguros y contratación están motivadas por su responsabilidad y buscarán herramientas que les ayuden a obtener resultados acertados en sus decisiones.
Perspectivas de negocio y cumplimiento de normativas
La demanda empresarial
La empresa Forum AI se basa en la creciente demanda empresarial por información precisa y responsable. Sin embargo, la conversión de este interés en ingresos consistentes sigue siendo un reto, especialmente porque muchas organizaciones aún se conforman con auditorías superficiales.
Deficiencias en el paisaje de cumplimiento
Brown critica el panorama actual de cumplimiento, señalando que la ley de sesgo en contrataciones de Nueva York no ha logrado detectar más de la mitad de las violaciones posibles. Para que la evaluación sea efectiva, se requiere de experiencia en el dominio y de un enfoque que contemple no solo los escenarios conocidos, sino también casos límite que podrían ser problemáticos.
Consejos para emprendedores y negocios
- Prioriza la calidad sobre la cantidad: Al desarrollar contenido o servicios, asegúrate de que la información proporcionada sea precisa y confiable.
- Colabora con expertos: Investiga y trabaja con profesionales del sector que puedan aportar valor y credibilidad a tu negocio.
- Invierte en tecnología de IA responsable: Si decides utilizar inteligencia artificial, asegúrate de que tus modelos estén diseñados para brindar respuestas precisas y equilibradas.
- Sé transparente: Comunica claramente cómo funciona tu tecnología y los datos que utilizas, para fomentar la confianza entre tus clientes o usuarios.
Conclusiones
Campbell Brown, a través de Forum AI, está navegando un terreno complicado donde la tecnología y la información se entrelazan. La necesidad de un cambio en cómo se evalúa y presenta la información en la era de la IA es crucial. Si los emprendedores y las empresas siguen su ejemplo, existe la posibilidad de crear un entorno informativo más confiable y responsable. La clave estará en la calidad, el compromiso con la verdad y la búsqueda constante de experticia.