El gobernador de California, Gavin Newsom, firmó el lunes una ley pionera que regula los chatbots acompañantes de IA, convirtiendo a California en el primer estado de la nación en exigir que los operadores de chatbots de IA implementen protocolos de seguridad para los compañeros de inteligencia artificial.
La Nueva Ley SB 243
La ley SB 243 está diseñada para proteger a los niños y usuarios vulnerables de algunos de los daños asociados con el uso de chatbots acompañantes de IA. Establece la responsabilidad legal de las empresas —desde grandes laboratorios como Meta y OpenAI hasta startups más enfocadas como Character AI y Replika— si sus chatbots no cumplen con los estándares de la ley.
Detalles y Contexto de la Ley
La ley SB 243 fue introducida en enero por los senadores estatales Steve Padilla y Josh Becker, y ganó impulso tras la muerte de Adam Raine, un adolescente que se suicidó después de una larga serie de conversaciones suicidas con el ChatGPT de OpenAI. Además, la legislación responde a documentos internos filtrados que mostraban que los chatbots de Meta podían participar en chats «románticos» y «sensuales» con niños.
Implementación y Repercusiones de la Ley
A partir del 1 de enero de 2026, la ley exige que las empresas implementen características como la verificación de edad y advertencias sobre redes sociales y chatbots acompañantes. Además, establece penalizaciones más fuertes para aquellos que se beneficien de deepfakes ilegales, incluyendo multas de hasta 250,000 dólares por ofensa. Las empresas también deben establecer protocolos para abordar el suicidio y autolesiones.
Transparencia y Protección
La ley exige que se aclare que todas las interacciones son generadas artificialmente y que los chatbots no deben representarse como profesionales de la salud. También se requiere que las empresas ofrezcan recordatorios de descanso a menores y eviten que vean imágenes sexualmente explícitas generadas por el chatbot.
Consejos para Emprendedores y Negocios
- Cumplimiento Normativo: Mantén siempre tus productos y servicios al día con la legislación vigente para evitar sanciones y fortalecer la confiabilidad de tu marca.
- Ética y Responsabilidad: Considera el impacto ético de tus tecnologías, especialmente en usuarios vulnerables como los niños.
- Transparencia con los Usuarios: Sé transparente sobre cómo funciona tu tecnología y cómo se utilizan los datos de los usuarios para construir confianza.
- Innovación Responsable: Al desarrollar nuevos productos, especialmente los basados en IA, incluye características que protejan a los usuarios y preventen mal uso.
Conclusiones
La firma de la ley SB 243 por parte del gobernador Newsom marca un paso importante en la regulación de las tecnologías de inteligencia artificial, enfatizando la necesidad de un equilibrio entre innovación y seguridad. Mientras California sigue liderando en regulaciones de IA, ofrece un modelo que otros estados y países podrían seguir para proteger a sus ciudadanos y especialmente a los más vulnerables en esta era digital.