La inteligencia artificial generativa ya forma parte del trabajo diario de muchas empresas. Los colaboradores la utilizan para resumir documentos, analizar información, redactar propuestas, preparar presentaciones, revisar contratos, crear código y responder preguntas sobre datos internos.
Estas capacidades pueden aumentar considerablemente la productividad, pero también plantean una pregunta crítica:
¿Qué sucede cuando un empleado introduce información confidencial en Copilot, ChatGPT u otra herramienta de inteligencia artificial?
El problema no está únicamente en la tecnología. La exposición de información suele producirse porque los usuarios comparten datos sin conocer su nivel de sensibilidad, los documentos tienen permisos demasiado amplios, no existen políticas de prevención de pérdida de datos o la empresa permite aplicaciones de IA sin una evaluación previa.
Proteger la información confidencial al utilizar inteligencia artificial requiere combinar tecnología, gobierno de datos, administración de identidades, políticas internas y capacitación de los colaboradores.
¿Qué información confidencial podría exponerse al utilizar herramientas de IA?
Una empresa genera y almacena información cuyo acceso debería limitarse según el puesto, el área y las responsabilidades de cada persona. Entre los datos que podrían compartirse accidentalmente con una herramienta de IA se encuentran:
- Información personal de empleados o clientes.
- Estados financieros y proyecciones de ventas.
- Contratos, propuestas y documentos legales.
- Credenciales, claves de acceso o configuraciones técnicas.
- Código fuente y documentación de sistemas.
- Estrategias comerciales y planes de lanzamiento.
- Datos bancarios o fiscales.
- Propiedad intelectual.
- Expedientes médicos o información regulada.
- Información relacionada con investigaciones internas.
Un colaborador podría copiar esta información en un prompt para solicitar un resumen, analizar tendencias, traducir un documento o redactar una respuesta. Aunque la intención sea legítima, la acción puede representar un riesgo cuando no existe una plataforma empresarial autorizada o cuando la organización carece de controles de seguridad.
¿Microsoft 365 Copilot utiliza la información empresarial para entrenar modelos públicos?
Microsoft indica que los prompts, las respuestas y los datos empresariales procesados por Microsoft 365 Copilot no se utilizan para entrenar los modelos fundacionales subyacentes. En Microsoft 365 Copilot Chat, los prompts y las respuestas se procesan dentro del límite de servicio de Microsoft 365 y cuentan con protección de datos empresarial.
Sin embargo, esto no significa que la empresa pueda implementar Copilot sin revisar previamente su información.
Microsoft 365 Copilot trabaja con los datos a los que cada usuario ya tiene acceso. Por lo tanto, cuando un empleado cuenta con permisos innecesarios sobre carpetas, sitios de SharePoint, conversaciones, correos o documentos, Copilot podría encontrar y utilizar esa información para generar una respuesta.
En otras palabras:
Copilot no elimina los problemas de permisos existentes; puede hacer que la información accesible sea más fácil de localizar y utilizar.
Por ello, la seguridad de la IA comienza antes de habilitar la herramienta.
Principales riesgos al utilizar Copilot y otras herramientas de IA
- Introducir datos sensibles en aplicaciones no autorizadas
Uno de los riesgos más comunes ocurre cuando los empleados utilizan versiones personales o gratuitas de herramientas de IA para trabajar con información empresarial.
Por ejemplo, una persona podría copiar una lista de clientes en una aplicación para solicitar una segmentación, cargar un contrato para obtener un resumen o ingresar fragmentos de código para encontrar un error.
Cuando la herramienta no ha sido revisada y autorizada por la empresa, puede ser difícil determinar:
- Dónde se procesa la información.
- Durante cuánto tiempo se conserva.
- Quién puede acceder a ella.
- Si se utiliza para mejorar modelos.
- Qué compromisos contractuales ofrece el proveedor.
- Qué controles de auditoría y cumplimiento están disponibles.
La organización debe definir claramente qué soluciones de IA pueden utilizarse, con qué cuentas y para qué tipos de información.
- Permisos excesivos dentro de Microsoft 365
Con el tiempo, los empleados pueden acumular acceso a documentos, carpetas, equipos de Microsoft Teams o sitios de SharePoint que ya no necesitan.
Este problema recibe con frecuencia el nombre de sobreexposición de datos u oversharing.
Como Microsoft 365 Copilot utiliza la información que el usuario tiene permiso para consultar, una estructura de accesos demasiado amplia puede permitir que una persona encuentre información que, aunque técnicamente está disponible para ella, no debería necesitar para realizar su trabajo.
Antes de implementar Copilot, la empresa debe revisar:
- Documentos compartidos con toda la organización.
- Enlaces que permiten acceso general.
- Grupos de Microsoft 365 con demasiados integrantes.
- Sitios de SharePoint sin propietarios definidos.
- Permisos heredados.
- Accesos de exempleados o proveedores.
- Archivos antiguos con información confidencial.
- Falta de clasificación de la información
Cuando todos los archivos reciben el mismo tratamiento, los empleados y los sistemas tienen dificultades para distinguir entre información pública, interna, confidencial y altamente restringida.
Microsoft Purview permite utilizar etiquetas de confidencialidad para clasificar y proteger documentos, correos electrónicos y otros recursos. Microsoft 365 Copilot puede respetar las etiquetas de confidencialidad, el cifrado y las restricciones de acceso aplicadas sobre el contenido.
Una clasificación empresarial sencilla podría incluir:
- Pública: información que puede compartirse externamente.
- Uso interno: información operativa de bajo riesgo.
- Confidencial: datos comerciales, personales o financieros.
- Altamente confidencial: información legal, estratégica o regulada.
Las etiquetas pueden incorporar medidas de protección como cifrado, marcas visuales, restricciones de acceso o limitaciones para compartir documentos.
- Ausencia de políticas de prevención de pérdida de datos
Las políticas de prevención de pérdida de datos, conocidas como DLP, permiten identificar información sensible y establecer controles para evitar que salga de los canales autorizados.
Microsoft Purview Data Loss Prevention puede aplicar controles sobre las interacciones con Microsoft 365 Copilot y Copilot Chat. Entre sus capacidades se encuentran restringir determinados prompts sensibles y evitar que cierto contenido etiquetado se utilice para generar respuestas.
Una empresa podría crear políticas para detectar:
- Números de tarjetas bancarias.
- Información fiscal.
- Datos personales.
- Expedientes médicos.
- Identificadores oficiales.
- Información financiera.
- Datos personalizados propios de la organización.
Las políticas no deben diseñarse solamente para bloquear. También pueden advertir al usuario, solicitar una justificación, generar una alerta o permitir excepciones controladas.
- Uso de extensiones, conectores y agentes sin gobierno
Las herramientas de IA actuales pueden conectarse con aplicaciones, bases de datos, servicios en la nube y repositorios empresariales. Además, los agentes pueden consultar información y ejecutar acciones en nombre del usuario.
Cada nueva conexión puede ampliar la superficie de riesgo.
Antes de aprobar un agente, complemento o conector, la empresa debe evaluar:
- Qué datos puede consultar.
- Qué acciones puede ejecutar.
- Con qué identidad funciona.
- Qué permisos solicita.
- Si almacena información fuera del entorno corporativo.
- Qué registros de auditoría produce.
- Quién será responsable de administrarlo.
- Cómo se retirará cuando deje de utilizarse.
En Copilot Studio, Microsoft proporciona controles de seguridad y gobierno, incluidas políticas de prevención de pérdida de datos y opciones administrativas para limitar la publicación de agentes que utilizan capacidades generativas.
- Resultados de IA compartidos sin revisión
La protección de datos no termina cuando la herramienta genera una respuesta.
Un resultado podría contener información confidencial recuperada desde documentos empresariales. Si el usuario lo copia en un correo externo, lo publica en una presentación o lo comparte con un proveedor, la información podría salir de su contexto autorizado.
Por eso, los colaboradores deben comprender que:
- Una respuesta generada por IA puede seguir siendo confidencial.
- El contenido debe revisarse antes de compartirse.
- Los resultados no deben copiarse automáticamente en canales externos.
- La clasificación del documento de origen también debe considerarse en el resultado.
- La responsabilidad final permanece en la persona y en la organización.
Cómo proteger la información confidencial cuando los empleados utilizan IA
- Crear una política empresarial de uso de inteligencia artificial
La política debe explicar de forma sencilla qué está permitido, qué está prohibido y qué requiere autorización.
Como mínimo, debe responder:
- ¿Qué herramientas de IA están autorizadas?
- ¿Se pueden utilizar cuentas personales?
- ¿Qué información nunca debe introducirse?
- ¿Qué casos requieren aprobación?
- ¿Quién evalúa nuevas aplicaciones?
- ¿Cómo se reporta un incidente?
- ¿Qué responsabilidades tiene cada colaborador?
Una política demasiado general puede resultar difícil de aplicar. Es mejor acompañarla con ejemplos relacionados con las actividades reales de cada área.
Por ejemplo:
Permitido: solicitar a la herramienta que mejore la redacción de un comunicado que no contiene datos personales ni estratégicos.
Requiere validación: analizar una base de datos anonimizada para identificar tendencias.
No permitido: introducir contraseñas, credenciales, información bancaria, datos médicos o documentos clasificados en una plataforma no autorizada.
- Utilizar cuentas y soluciones empresariales autorizadas
La empresa debe evitar que cada colaborador elija libremente herramientas de IA para procesar información corporativa.
Las soluciones empresariales suelen ofrecer mejores capacidades de administración, identidad, auditoría, cumplimiento y protección de datos que las cuentas personales de consumo.
Para Microsoft 365 Copilot y Copilot Chat, Microsoft ofrece protección empresarial vinculada al inicio de sesión organizacional y a los controles existentes dentro de Microsoft 365.
La organización debe verificar visualmente y mediante sus configuraciones administrativas que los usuarios estén accediendo con la cuenta corporativa correcta.
- Revisar permisos antes de implementar Copilot
La revisión debe enfocarse en los repositorios que Copilot puede utilizar como contexto, especialmente:
- SharePoint.
- OneDrive.
- Microsoft Teams.
- Exchange Online.
- Grupos de Microsoft 365.
- Aplicaciones conectadas.
- Agentes y complementos.
No es suficiente revisar solamente quién puede abrir un archivo. También debe evaluarse si el usuario realmente necesita ese acceso para su función.
El principio recomendado es el de mínimo privilegio: cada persona debe contar únicamente con los permisos necesarios para realizar su trabajo.
- Clasificar y etiquetar la información sensible
La empresa debe identificar qué datos requieren mayor protección y establecer etiquetas de confidencialidad acordes con su riesgo.
Un proceso práctico puede comenzar así:
- Identificar los principales tipos de información.
- Definir niveles de clasificación.
- Seleccionar las áreas con mayor riesgo.
- Aplicar etiquetas inicialmente a un grupo piloto.
- Configurar protección y restricciones.
- Capacitar a los usuarios.
- Automatizar el etiquetado cuando sea viable.
- Revisar periódicamente la efectividad de las políticas.
El objetivo no debe ser etiquetar absolutamente todo desde el primer día, sino proteger primero la información cuyo impacto sería mayor en caso de exposición.
- Implementar políticas DLP
Una política DLP puede detectar información sensible dentro de documentos, correos, mensajes y determinadas interacciones con Copilot.
Dependiendo del riesgo, la empresa puede:
- Mostrar una advertencia.
- Recomendar una alternativa segura.
- Bloquear la acción.
- Solicitar una justificación.
- Enviar una alerta al equipo de seguridad.
- Registrar el evento para investigación.
- Aplicar una excepción controlada.
La implementación debe equilibrar seguridad y productividad. Un exceso de bloqueos puede provocar que los usuarios busquen soluciones fuera de los canales autorizados.
- Aplicar controles de identidad y acceso
La protección de los datos depende también de verificar quién está utilizando la herramienta.
Las organizaciones deben considerar:
- Autenticación multifactor.
- Acceso condicional.
- Revisiones periódicas de acceso.
- Administración de privilegios.
- Separación de cuentas administrativas.
- Eliminación oportuna de accesos.
- Gobierno de invitados y proveedores.
- Acceso basado en riesgo.
Microsoft Entra permite administrar identidades y derechos de acceso dentro de los entornos empresariales de Microsoft. La capacitación especializada ayuda a los equipos a configurar estos controles de forma correcta y sostenible.
- Supervisar el uso de aplicaciones de IA
La empresa necesita visibilidad sobre las herramientas de IA que utilizan los empleados, especialmente aquellas que no han sido aprobadas.
La supervisión debe ayudar a responder:
- ¿Qué aplicaciones de IA se están utilizando?
- ¿Qué usuarios las utilizan?
- ¿Desde qué dispositivos?
- ¿Qué tipos de datos podrían estar compartiendo?
- ¿Existen comportamientos anómalos?
- ¿Se están ignorando advertencias?
- ¿Qué incidentes requieren investigación?
Microsoft Purview incorpora capacidades para administrar riesgos de seguridad y cumplimiento asociados con Microsoft 365 Copilot, otros copilotos, agentes y aplicaciones de IA generativa.
- Capacitar a los empleados con casos reales
La mayoría de los usuarios no comparte información sensible de forma maliciosa. Lo hace porque busca terminar una tarea con mayor rapidez y no identifica el riesgo.
Una capacitación efectiva debe mostrar ejemplos como:
- Subir un contrato para resumirlo.
- Copiar una conversación con un cliente.
- Analizar una hoja de cálculo con datos personales.
- Solicitar ayuda con código que contiene credenciales.
- Traducir un expediente confidencial.
- Crear una presentación utilizando información financiera aún no publicada.
- Usar una cuenta personal para trabajar con documentos de la empresa.
Los colaboradores deben aprender a reconocer datos sensibles, verificar la herramienta que están utilizando, anonimizar información y solicitar apoyo cuando tengan dudas.
¿Cómo utilizar IA sin bloquear la innovación?
Prohibir todas las herramientas de IA rara vez es una estrategia sostenible. Los usuarios pueden recurrir a aplicaciones no autorizadas cuando sienten que la empresa no les proporciona alternativas.
La mejor estrategia es establecer un entorno seguro para innovar:
- Aprobar herramientas empresariales.
- Publicar reglas claras.
- Proporcionar ejemplos de uso.
- Crear espacios controlados para pilotos.
- Incluir seguridad desde el diseño.
- Evaluar nuevos casos antes de escalarlos.
- Medir productividad, riesgo y adopción.
- Capacitar continuamente a los equipos.
La seguridad debe funcionar como un habilitador de la adopción, no únicamente como una barrera.
Checklist para proteger datos confidenciales al utilizar Copilot e IA
Antes de ampliar el uso de inteligencia artificial en la empresa, conviene verificar los siguientes puntos:
- Existe una política de uso aceptable de IA.
- Los empleados conocen las herramientas autorizadas.
- Se restringe el uso de cuentas personales.
- Los permisos de Microsoft 365 fueron revisados.
- Los documentos sensibles están identificados.
- Existen etiquetas de confidencialidad.
- Se implementaron políticas DLP.
- Se utiliza autenticación multifactor.
- Se revisan periódicamente los accesos.
- Los agentes y conectores pasan por un proceso de autorización.
- Se supervisan aplicaciones de IA no administradas.
- Existen registros y alertas para investigar incidentes.
- Los empleados reciben capacitación práctica.
- Hay un procedimiento para reportar una posible exposición.
- Las políticas se actualizan conforme surgen nuevos casos de uso.
Preguntas frecuentes sobre seguridad de datos y Copilot
¿Es seguro utilizar Microsoft 365 Copilot con información empresarial?
Microsoft 365 Copilot incorpora controles empresariales de privacidad, seguridad y cumplimiento. Los prompts, respuestas y datos empresariales no se utilizan para entrenar los modelos fundacionales subyacentes. Sin embargo, la seguridad depende también de la configuración del entorno, los permisos, las etiquetas, las políticas DLP y las prácticas de los usuarios.
¿Copilot puede acceder a todos los documentos de la empresa?
No. Copilot utiliza información a la que el usuario ya tiene acceso dentro del entorno de Microsoft 365. El riesgo aparece cuando los permisos existentes son demasiado amplios o incorrectos.
¿Qué es la sobreexposición de datos en Microsoft 365?
Es una situación en la que documentos, sitios o carpetas pueden ser consultados por más personas de las necesarias. Copilot puede facilitar que un usuario encuentre esa información porque trabaja con el contenido que ya tiene permitido consultar.
¿Qué información no debe introducirse en una herramienta de IA pública?
No deberían introducirse credenciales, información personal, datos financieros, contratos, código propietario, secretos comerciales, expedientes médicos o cualquier documento clasificado, salvo que exista una autorización formal y la plataforma haya sido evaluada para ese uso.
¿Qué es Microsoft Purview?
Microsoft Purview reúne capacidades de gobierno, seguridad y cumplimiento de datos. Puede ayudar a clasificar información, aplicar etiquetas de confidencialidad, implementar políticas DLP, administrar riesgos y proteger el uso de Microsoft 365 Copilot y otras aplicaciones de IA.
¿Qué es una política DLP?
Una política de prevención de pérdida de datos identifica información sensible y aplica acciones para evitar que sea compartida o utilizada de manera inadecuada. Puede advertir, bloquear, registrar o generar alertas según el nivel de riesgo.
¿Microsoft Purview puede proteger las interacciones con Copilot?
Sí. Microsoft Purview puede aplicar controles de seguridad y cumplimiento sobre Microsoft 365 Copilot y Copilot Chat, incluidas políticas relacionadas con información confidencial, etiquetas y prevención de pérdida de datos.
¿La empresa debe prohibir ChatGPT y otras herramientas de IA?
No necesariamente. La decisión debe basarse en una evaluación de seguridad, privacidad, contratos, cumplimiento y casos de uso. La organización puede autorizar ciertas herramientas, limitar los datos permitidos y bloquear aquellas que no cumplan sus requisitos.
¿Quién debe participar en el gobierno de la IA?
Deben participar las áreas de tecnología, seguridad de la información, cumplimiento, legal, recursos humanos, protección de datos y las unidades de negocio que utilizan las herramientas.
¿Por qué es importante capacitar al personal técnico?
Porque las herramientas de seguridad no se configuran ni administran automáticamente. Los equipos deben saber clasificar información, crear políticas DLP, gestionar permisos, investigar alertas y adaptar los controles a las necesidades reales de la empresa.
La capacitación como parte de la estrategia de protección de datos
Las empresas necesitan profesionales capaces de combinar productividad, seguridad y cumplimiento. No basta con adquirir licencias de Microsoft 365 Copilot o Microsoft Purview; es necesario saber configurar los controles, administrar identidades y responder ante posibles incidentes.
La oferta de capacitación en Microsoft Security, Compliance and Identity de ExecuTrain permite desarrollar competencias para proteger información, gestionar identidades, implementar políticas de cumplimiento y responder a amenazas dentro del ecosistema Microsoft.
Entre las capacitaciones relacionadas con este tema se encuentran:
SC-401: Information Security Administrator
Esta formación está orientada a la protección de datos en Microsoft 365 mediante soluciones como Microsoft Purview. Incluye conocimientos relacionados con protección de información, prevención de pérdida de datos y administración de riesgos.
SC-5003: Implement Information Protection and Data Loss Prevention by Using Microsoft Purview
Permite desarrollar habilidades para crear tipos de información confidencial, aplicar etiquetas de confidencialidad, configurar etiquetado automático e implementar políticas de prevención de pérdida de datos.
SC-300: Microsoft Identity and Access Administrator
Ayuda a desarrollar habilidades para administrar identidades y accesos mediante Microsoft Entra ID, aplicar controles de seguridad y fortalecer el acceso a recursos empresariales.
SC-5008: Configure and Govern Entitlement with Microsoft Entra ID
Se enfoca en la administración y gobierno de derechos de acceso, un aspecto fundamental para evitar que los usuarios mantengan permisos que ya no necesitan.
SC-900: Microsoft Security, Compliance, and Identity Fundamentals
Es una alternativa para quienes necesitan comprender los conceptos fundamentales de seguridad, cumplimiento e identidad dentro de los servicios Microsoft antes de avanzar hacia funciones especializadas.
Conclusión
La inteligencia artificial puede ayudar a las empresas a trabajar con mayor rapidez, pero también obliga a revisar cómo se almacenan, clasifican, consultan y comparten los datos.
Para proteger la información confidencial cuando los empleados utilizan Copilot y otras herramientas de IA, la organización debe comenzar por sus fundamentos: permisos adecuados, identidades protegidas, datos clasificados, políticas DLP, aplicaciones autorizadas, supervisión y capacitación.
Microsoft 365 Copilot puede heredar los controles de seguridad y cumplimiento del entorno empresarial, pero esos controles deben estar correctamente diseñados y administrados.
La adopción segura de la inteligencia artificial no consiste en impedir que los empleados utilicen nuevas herramientas, sino en proporcionarles el conocimiento y los controles necesarios para utilizarlas de manera responsable.
Prepara a tu equipo para proteger los datos en la era de la inteligencia artificial
Fortalece las capacidades de tu organización con cursos de Microsoft Security, Compliance and Identity. Capacita a tus colaboradores para administrar identidades, clasificar información, implementar políticas DLP, proteger Microsoft 365 y adoptar Copilot con mayor seguridad.
