Detrás de cada interacción, documento o conversación almacenada en la nube, existe un flujo de información sensible que podría ser vulnerable si los mecanismos de protección no están a la altura.
El problema no radica únicamente en los ciberataques externos, sino en la falta de estándares de seguridad sólidos por parte de los propios proveedores.
Y es que, la mayoría de las plataformas de IA comerciales no implementan medidas comparables a las que se exigen en servicios financieros o sanitarios, pese a que el tipo de información que gestionan puede ser igual o más delicado.
Esta brecha abre la puerta a filtraciones, accesos no autorizados y a un tipo de riesgo que aún no se está gestionando con la seriedad que requiere.
Las plataformas de IA tienen una protección insuficiente
A diferencia de otras plataformas digitales consolidadas, muchas herramientas de IA carecen de mecanismos básicos que hoy se consideran indispensables en cualquier entorno seguro.
La autenticación en dos pasos no siempre está activa por defecto, los registros de acceso son limitados y el usuario no tiene visibilidad sobre quién ha ingresado en su cuenta ni desde dónde.
Esta falta de control es el equivalente digital a dejar la puerta entreabierta, confiando en que nadie intentará entrar.
Además, no existen alertas automáticas ante accesos desde direcciones IP desconocidas.
En la práctica, alguien podría iniciar sesión en una cuenta desde otro país y comenzar a leer conversaciones o descargar documentos sin que el propietario reciba notificación alguna.
Para un usuario común puede ser una molestia; para una empresa, un desastre. La exposición de información estratégica, código fuente o documentos legales almacenados en conversaciones previas puede tener consecuencias económicas y reputacionales graves.
Un problema que va más allá de la contraseña
Las vulnerabilidades no surgen solo por contraseñas débiles o prácticas inseguras de los usuarios. Los especialistas señalan que el verdadero riesgo está en la arquitectura misma de estas plataformas.
Al tratarse de sistemas cerrados y administrados de manera centralizada, el usuario debe depositar su confianza absoluta en el proveedor.
No existe la posibilidad de auditar el cifrado de extremo a extremo ni de verificar si los datos almacenados en los servidores están protegidos con los estándares adecuados.
La seguridad, por tanto, se convierte en una cuestión de fe tecnológica. Y cuando una herramienta concentra millones de usuarios y conversaciones que pueden contener secretos comerciales, esa fe ciega se vuelve una amenaza.
Varios informes publicados por firmas de ciberseguridad en 2024 ya advertían sobre la falta de transparencia en la gestión de datos dentro de algunos modelos de lenguaje.
En uno de ellos, la consultora CyberEdge estimó que el 63% de las empresas que utilizan sistemas de IA generativa no cuentan con protocolos internos para controlar la información que se introduce en estas plataformas.
Los cibermalos apuntan ahora a ChatGPT
Los ciberdelincuentes han detectado en estas herramientas un objetivo atractivo. Las cuentas de usuarios se han convertido en puertas de entrada para acceder a información que antes estaba protegida por firewalls corporativos.
Un simple acceso no autorizado a una cuenta puede revelar estrategias de negocio, análisis financieros, diseños de productos o fragmentos de código que deberían permanecer confidenciales.
El riesgo no solo se limita al robo de datos. Existen casos documentados de manipulación de respuestas, suplantación de identidad dentro de entornos corporativos y recolección masiva de prompts para entrenar sistemas de manera ilícita.
El escenario es tan delicado que algunos expertos ya comparan la situación con los primeros años del correo electrónico, cuando las filtraciones y los ataques de phishing se dispararon por falta de protocolos claros de autenticación.
Entonces, ¿cómo protegerse?
Frente a este panorama, los especialistas en seguridad recomiendan adoptar modelos de inteligencia artificial soberanos, es decir, sistemas que se ejecuten en infraestructuras controladas por las propias organizaciones.
Estas soluciones permiten cifrado real de extremo a extremo, control de accesos mediante políticas Zero Trust y la posibilidad de auditar logs de actividad. Aunque su implantación implica un mayor coste inicial, la diferencia en protección y privacidad resulta decisiva para quienes manejan información sensible.
La tendencia apunta a modelos autoalojados, en servidores propios o nubes privadas, que garanticen que los datos nunca salen del entorno corporativo.
Este enfoque también exige cambios en la cultura interna: establecer normas de “higiene de prompts”, revisar los permisos de acceso y tratar a las plataformas de IA como activos críticos, no como simples herramientas de oficina.
Varias multinacionales ya han empezado a implementar esta estrategia, conscientes de que el siguiente gran incidente de ciberseguridad podría originarse en una cuenta de inteligencia artificial comprometida.
El debate sobre la seguridad de la inteligencia artificial apenas ha comenzado.
