Microsoft ha confirmado que un error permitió a su IA Copilot resumir correos electrónicos confidenciales de los clientes durante semanas sin su permiso. Este problema, que fue reportado por primera vez por Bleeping Computer, habilitó a Copilot Chat para leer y detallar el contenido de los correos electrónicos desde enero, incluso cuando los clientes habían implementado políticas de prevención de pérdida de datos para evitar que su información sensible se incorporara al modelo de lenguaje de Microsoft.
Detalles del Bug
El bug en cuestión ha afectado a los clientes de Microsoft 365 que utilizan la función de chat impulsada por IA en productos de Office, como Word, Excel y PowerPoint. Según Microsoft, el error, que se puede rastrear por los administradores con el código CW1226324, significa que los mensajes de correo electrónico, ya sean borradores o enviados, que tengan una etiqueta de confidencialidad aplicada fueron procesados incorrectamente por el chat de Copilot 365.
Medidas Adoptadas
Microsoft ha afirmado que comenzó a desplegar una solución para este bug a principios de febrero. Sin embargo, un portavoz de la empresa no respondió a la solicitud de comentarios, incluyendo preguntas sobre cuántos clientes se han visto afectados por este problema.
Reacción de Instituciones
En una acción relacionada, el departamento de TI del Parlamento Europeo informó a los legisladores que ha bloqueado las funciones de IA integradas en sus dispositivos de trabajo, citando preocupaciones de que estas herramientas de IA podrían subir correspondencia potencialmente confidencial a la nube.
Consejos para Emprendedores y Negocios
-
Auditoría de Seguridad: Realiza auditorías regulares sobre las herramientas que utilizas, especialmente aquellas que involucran manejo de datos sensibles, para asegurarte de que cumplen con las normativas de seguridad y privacidad.
-
Capacitación del Personal: Asegúrate de que todos los empleados estén formados en la prevención de fugas de información y en el uso seguro de herramientas de IA.
-
Revisión de Políticas de Privacidad: Evalúa y actualiza las políticas de privacidad y seguridad en tu organización, considerando la inclusión de herramientas tecnológicas innovadoras.
-
Uso de Etiquetas de Confidencialidad: Implementa el uso de etiquetas de confidencialidad en todos los documentos y correos electrónicos que manejen información sensible para mitigar riesgos de exposición.
- Comunicación Clara: Establece lineamientos claros sobre el uso de herramientas de IA, asegurando que todos los empleados entiendan sus implicaciones y limitaciones.
Conclusiones
Este incidente destaca la importancia de la seguridad de la información en un mundo cada vez más digital y dependiente de la tecnología. Los errores en el manejo de datos pueden tener consecuencias graves, tanto para las empresas como para sus clientes. Los emprendedores deben ser proactivos en la implementación de medidas de seguridad y en la capacitación de su personal para evitar situaciones similares en el futuro. Al final, la confianza de los clientes en cómo se manejan sus datos depende en gran medida de la capacidad de las empresas para proteger esa información sensible.