Sophos, líder mundial en ciberseguridad, anunció la disponibilidad general de Sophos AI Defense, que detecta las herramientas de IA que utilizan los empleados y las aplicaciones —incluyendo aquellas que los equipos de seguridad nunca han aprobado— y aplica las políticas independientemente de dónde se ejecuten.
Cada herramienta de IA que una organización no puede detectar supone una posible brecha en la confidencialidad, la integridad y la disponibilidad. Sophos AI Defense, que se ofrece a través de Sophos Fusion —el sistema de defensa de ciberseguridad nativo de IA—, integra los controles del dispositivo, de la red, del inicio de sesión y del navegador en una única línea de defensa, de manera que los equipos puedan adoptar la IA de forma más rápida y segura sin tener que gestionar otra herramienta independiente.
Los atacantes ven en la IA la misma oportunidad que las empresas. Solo este año, Sophos X-Ops ha rastreado a un atacante que utilizaba agentes de IA dentro de la red de un cliente para crear y probar casi 80 módulos de malware; a actores maliciosos que vendían claves API intermediadas para modelos de IA de vanguardia; foros clandestinos en los que se intercambiaban técnicas de ‘jailbreak’; y reclutadores de ciberdelincuentes que buscaban ingenieros especializados en prompts de IA.
IA ‘en la sombra’
La mayoría de las organizaciones ya tienen en funcionamiento sistemas de IA que nunca han autorizado. El 69% sospechan o tienen pruebas de que sus empleados están utilizando agentes y herramientas de IA no autorizados, y el 82% han descubierto agentes de IA ‘en la sombra’ en sus entornos durante el último año.
De hecho, nueve de cada diez responsables de TI están preocupados por el riesgo que supone el AI shadow. Y este problema podría agravarse aún más, ya que IDC prevé que habrá 1.300 millones de agentes de IA para 2028.
Cada uno de esos agentes y herramientas supone tanto una nueva superficie de ataque como una nueva vía por la que los datos confidenciales pueden salir de la empresa. Sophos AI Defense recopila señales de las capas de dispositivo, red, identidad y navegador para trazar un mapa de la actividad de la IA en todo el entorno. A continuación, evalúa quién actúa, cómo se comporta y qué datos están implicados para distinguir el uso rutinario de la actividad que requiere una intervención.
Las medidas de protección en tiempo real, diseñadas para ayudar a prevenir la exposición de datos confidenciales, inspeccionan las solicitudes, las subidas de archivos y otras interacciones de la IA a medida que se producen.
Esa actividad también se transmite al sistema Sophos Fusion, de manera que los equipos de seguridad que utilizan Sophos XDR, junto con los analistas de Sophos MDR, pueden investigar y responder a través de los flujos de trabajo con los que ya están familiarizados.
“Las organizaciones están adoptando la IA más rápido de lo que tardan en protegerla, y la mayoría de los equipos de seguridad no pueden responder a tres preguntas básicas: qué herramientas de IA se están ejecutando, qué datos se introducen en ellas y si esa actividad se ajusta a las políticas”, afirma Kyle Falkenhagen, Vicepresidente Sénior de Gestión de Productos en Sophos.
Dado que Sophos AI Defense se ejecuta en Sophos Fusion, los equipos de seguridad con recursos limitados pueden activar la seguridad basada en IA desde el primer día, y los proveedores de servicios gestionados (MSPs) obtienen una nueva capacidad para ofrecerla a toda su base de clientes.
El lanzamiento tiene lugar durante el Mes de la Concienciación sobre la Ciberseguridad, en un momento en el que la adopción segura de la IA cobra cada vez más importancia para las organizaciones de cualquier tamaño.