Anthropic ha lanzado su nuevo modelo Fable, presentado como una versión pública y limitada de su aclamado modelo de ciberseguridad Mythos. Este lanzamiento ha causado controversia, ya que muchos expertos en ciberseguridad no están satisfechos con las restricciones impuestas, las cuales limitan la funcionalidad del modelo para evitar su uso en la creación de malware o el compromiso de software.
Controversias en torno a las restricciones de Fable
Algunos investigadores y profesionales de la ciberseguridad han expresado su descontento en diversas plataformas sociales. Valentina «Chompie» Palmiotti, investigadora de seguridad en IBM X-Force, ha indicado que «Fable rechaza cualquier solicitud que pueda estar relacionada tangencialmente con ciberseguridad«, lo que afecta incluso a tareas que consideran inocuas, como leer un blog.
Cuando una solicitud activa sus medidas de seguridad, Fable pausa la conversación y notifica que su «sistema de seguridad ha señalado este mensaje por ser de temas de ciberseguridad o biología». Estas medidas han sido implementadas para limitar el riesgo de que Fable sea utilizado para fines maliciosos, aunque han generado frustraciones en los usuarios.
Las limitaciones en el uso de Fable
Anthropic implementó estas restricciones como parte del esfuerzo de Project Glasswing, que tenía el objetivo de desplegar Mythos de manera segura entre un número restringido de organizaciones. A pesar de que la compañía ha ampliado el acceso a Mythos a cientos de organizaciones en 15 países, los expertos siguen cuestionando la forma en que se gestionan estas limitaciones.
Matt Suiche, un veterano en ciberseguridad, explicó que «si pides que escriba código seguro, asume que se trata de trabajo relacionado con la ciberseguridad en vez de las mejores prácticas de ingeniería de software». Esta confusión ha llevado a que el modelo retroceda a su versión anterior, Claude Opus 4.8, al encontrarse con las restricciones.
Críticas a la implementación de las restricciones
Algunos investigadores han denunciado que solicitudes incluso sencillas, como una revisión de código, activan las cortinas de seguridad de Fable. Estas limitaciones han sido criticadas por ser, en esencia, desproporcionadas.
A pesar de las críticas, algunos expertos consideran que es comprensible, ya que se encuentran en una etapa temprana de desarrollo. Esto sugiere que estas limitaciones pueden adaptarse a medida que progresen en su colaboración con expertos en ciberseguridad.
Programas de verificación en ciberseguridad
Aparte de las restricciones en su modelo, Anthropic ha establecido un Programa de Verificación Cibernética que permite a los profesionales de ciberseguridad solicitar menos limitaciones si son aprobados. Esta iniciativa es similar al programa Trusted Access for Cyber de OpenAI, con el objetivo de facilitar el uso seguro de sus herramientas por parte de expertos en el área.
Consejos para Emprendedores y Negocios
-
Mantén actualizado tu entendimiento sobre ciberseguridad: La ciberseguridad es un campo en constante evolución. Asegúrate de estar al tanto de las mejores prácticas y herramientas disponibles.
-
Busca asociaciones estratégicas: Colaborar con startups de ciberseguridad puede fortalecer tu negocio y proporcionarte recursos clave en tecnología.
-
Establece protocolos claros: Asegúrate de tener protocolos de seguridad que sigan las mejores prácticas y compliquen los requisitos de cumplimiento normativo.
-
Informa y entrena a tu equipo: Proporciona formación regular sobre ciberseguridad a todos los empleados, no solo al equipo técnico.
- Considera la implementación de IA: Utiliza herramientas de inteligencia artificial para mejorar la detección y respuesta a amenazas de ciberseguridad.
Conclusiones
El lanzamiento de Fable por parte de Anthropic ha puesto de manifiesto la importancia de la ciberseguridad y las dificultades implicadas en el manejo de tecnología avanzada. Aunque la compañía tiene buenas intenciones al implementar restricciones, estas han generado incomodidad en la comunidad de ciberseguridad. Los profesionales deben estar dispuestos a adaptarse en un entorno de innovación veloz, y ese mismo espíritu de adaptación es algo que todos los emprendedores y negocios deben adoptar en sus estrategias de ciberseguridad.