Resumen del trabajo fin de master

Un ataque adversario consiste en modificar sutilmente una imagen original de tal manera que los cambios sean casi imperceptibles para el ojo humano. La imagen modificada se llama imagen adversaria y cuando se envía a un clasificador se clasifica erróneamente, mientras que la original se clasifica correctamente. Las aplicaciones de estos ataques en la vida real pueden ser muy graves; por ejemplo, se podría modificar una señal de tráfico para que un vehículo autónomo la malinterprete y provocar un accidente. En estas prácticas se trabajará en algoritmos del estado del arte en lo relativo a los adversarial attacks a CNNs, así como en mecanismos de defensa para evitar que un modelo pueda ser vulnerable e este tipo de ataques.