Científicos de IBM Research y Northeastern University han creado un nuevo método que utiliza la conectividad de modo para fortalecer los sistemas de aprendizaje profundo y proteger los sistemas de ejemplos adversos.
Hoy en día, contamos con empresas que tienen todo tipo de protocolos de seguridad para proteger tanto sus datos como el acceso de sus empleados a la compañía, sin embargo, esto también ha hecho que los ciberdelincuentes cambien sus artimañas para lograr vulnerar estos sistemas.
Ataques adversos mejorados a través del aprendizaje profundo
Es por ello, que los investigadores han presentado un proyecto titulado: “Conectividad de modo de puente en paisajes de pérdida y robustez adversaria”, un trabajo que muestra que las técnicas de generalización pueden ser utilizadas para crear sistemas robustos de inteligencia artificial (IA) resistentes a perturbaciones adversas.
A través de este proyecto los científicos muestran cómo la implementación de la conectividad de modo –una técnica que ayuda a mejorar las capacidades de generalización de los modelos de aprendizaje profundo– en ataques de backdoors adversos que pueden ofrecerle a los sistemas de seguridad una mayor robustez ante cualquier ataque.
La conectividad de modo como una opción
Adicionalmente, los científicos mencionan que la conectividad de modo le proporciona al sistema una ruta de aprendizaje entre los dos modelos, lo que le permite al desarrollador elegir un punto en el camino lejos de las características de los modelos pre-entrenados para mantener la precisión.
Una característica que según señala la fuente ayuda a disminuir de forma considerable los ataques adversos, ya que tan pronto como se distancia el modelo final de los extremos la precisión de los ataques se reduce.
Grandes avances a nivel de seguridad
Pin-Yu Chen, Científico Jefe, RPI-IBM AI Research Collaboration y coautor del artículo señala que este nuevo método denominado como: ‘modelo desinfectante’ tiene como objetivo mitigar los efectos adversos de un modelo dado (pre-entrenado) sin tener en cuenta el cómo puede ocurrir el ataque.
Finalmente, Chen señala que con este método se mostró como la conectividad de modo puede mitigar los efectos adversos en la fase de entrenamiento, dando pie a una futura investigación que permita mejorar la solidez de la red neuronal contra estos ataques, pero en la fase de inferencia.
