El peligro oculto en la emisión de señales de los sistemas de ia

Un nuevo tipo de ataque pone en alerta al mundo de la inteligenciaartificial. Los investigadores han demostrado que es posible reconstruir un modelo completo sin acceder directamente al sistema, aprovechando únicamente las emisiones físicas que generan durante su funcionamiento.

El ataque modelspy: un golpe a la seguridad de la ia

Los científicos han desarrollado una técnica denominada ModelSpy, que utiliza un enfoque conocido como ataque de canal lateral. En lugar de buscar vulnerabilidades de software o red, este método captura señales electromagnéticas emitidas por los componentes de la GPU mientras procesan cargas de trabajo de IA.

Estas señales contienen patrones que reflejan la estructura interna del modelo. Para realizar el ataque, los investigadores utilizaron una antena de pequeño tamaño, que se puede ocultar en una mochila. Con este dispositivo lograron captar emisiones a varios metros de distancia, incluso a través de paredes.

Mediante el análisis de estos datos, pudieron inferir detalles clave de la arquitectura del modelo, incluyendo la disposición de capas y ciertos parámetros. Los resultados son impresionantes: el sistema alcanza una precisión del 97,6 % al identificar las estructuras internas de los modelos de IA.

Este hallazgo podría cambiar las reglas del juego, ya que hasta ahora la seguridad de los sistemas de IA se centraba principalmente en software y redes. El ataque demuestra que los efectos secundarios del hardware pueden convertirse en una fuente de fuga de información, representando un riesgo importante para las empresas tecnológicas.

Incluso sistemas aislados podrían dejar de ser seguros si sus emisiones no se controlan. Como posibles contramedidas, los investigadores proponen introducir ruido electromagnético o modificar los patrones de cálculo para dificultar la interpretación de las señales.