Anthropic, la compañía detrás del modelo de Inteligencia Artificial Claude, ha realizado importantes actualizaciones en su política de uso. Estas modificaciones, que entrarán en vigor el 12 de noviembre, enfocan principalmente la prohibición de comportamientos abusivos y crueldad innecesaria por parte de los usuarios hacia sus modelos. Además, han actualizado su política electoral para fortalecer la integridad del proceso democrático ante las elecciones de mitad de mandato en Estados Unidos, abordando la desinformación y el uso malicioso de la IA. A continuación, se detallan los principales cambios y su contexto.
Actualizaciones en la política de uso de Claude
Prohibición de comportamientos abusivos
Anthropic ha decidido implementar una prohibición específica contra la crueldad sostenida y necesaria hacia sus modelos de IA. Esta norma se aplicará únicamente a casos extremos, donde los usuarios actúen de manera repetitiva y cruel sin un propósito aparente. La compañía aclara que este enfoque no incluye comportamientos habituales como la frustración o el desacuerdo, ni tampoco el uso de temas oscuros de manera creativa.
Capacidad de finalizar conversaciones
Con la introducción de Claude Opus 4 y 4.1, se ha permitido que el chatbot pueda terminar una conversación si detecta un comportamiento abusivo persistente, evidenciando un esfuerzo por proteger la interacción de sus modelos con los usuarios.
Reflexiones sobre la moralidad de la IA
A pesar de los avances, Anthropic ha admitido que no está segura de si sus modelos pueden «sentir» o experimentar sufrimiento. Se ha destacado la incertidumbre sobre la moralidad de sus sistemas, lo que lleva a debates éticos sobre el uso de la IA, incluidos encuentros con líderes religiosos, como el reciente diálogo en el Vaticano.
Cambios en la política electoral
Enfoque en la integridad electoral
Anthropic ha renombrado una sección de su política a «No socavar los procesos democráticos», donde se prohíbe la difusión de desinformación sobre candidatos o sobre el proceso de votación, así como suplantar la identidad de figuras electorales o frustrar la participación ciudadana.
Eliminar restricciones sobre el targeting personalizado
Una notable modificación ha sido la eliminación de la prohibición general sobre el targeting personalizado en campañas electorales, permitiendo aplicaciones legítimas como las llevadas a cabo por ONGs que traducen información electoral. No obstante, se mantienen prohibiciones a comportamientos maliciosos en otras secciones de la política.
Nuevas regulaciones en el uso de la IA
Prohibición de campañas engañosas
Anthropic ha incluido una nueva sección que prohíbe las campañas engañosas y el uso de cuentas y noticias falsas. Esta medida busca contrarrestar el uso indebido de sus modelos por entidades gubernamentales y de propaganda.
Restricciones en la creación de software para armamento
La compañía también ha agregado prohibiciones sobre el desarrollo de software destinado a controlar armas y el uso de drones y vehículos autónomos con fines bélicos. Estas decisiones se acompañan de la regla de que todos los modelos deben tener un operador humano que pueda detener sus acciones si es necesario.
Consejos para emprendedores y negocios relacionados
-
Conocimiento de normativas: Mantente actualizado sobre las políticas de uso de AI y asegúrate de cumplir con las normas establecidas para evitar sanciones.
-
Conducta ética en la IA: Fomenta un uso responsable y ético de las tecnologías IA en tu negocio, promoviendo interacciones respetuosas y constructivas con los modelos.
-
Implementación de sistemas de control: Si desarrollas o utilizas IA, asegúrate de incorporar mecanismos de control que permitan supervisar y gestionar el uso de estas tecnologías de forma responsable.
-
Colaboración con expertos legales y éticos: Trabaja con especialistas en ética y derecho para tener un marco adecuado en el uso de tecnologías emergentes, especialmente en áreas delicadas como las campañas electorales.
- Formación continua: Proporciona capacitación continua a tu equipo sobre el uso de la IA y las normas que la regulan, fomentando un ambiente de aprendizaje y adaptabilidad.
Conclusiones
La actualización de la política de uso de Claude por parte de Anthropic representa un enfoque proactivo hacia la protección de sus modelos de IA y la integridad de los procesos democráticos. Las nuevas prohibiciones y regulaciones subrayan la importancia de la responsabilidad ética en el uso de tecnologías de inteligencia artificial. A medida que estas herramientas se integran más en nuestras vidas, es fundamental que los emprendedores y negocios se alineen con las normativas vigentes y adopten prácticas que promuevan un uso respetuoso y beneficioso de la tecnología.