Resumen del trabajo fin de master

Desde la aparición del modelo Transformer, el Procesamiento del Lenguaje Natural (PLN) ha experimentado una gran transformación. En los últimos años han surgido nuevas variantes y arquitecturas alternativas que buscan mejorar su eficiencia, reducir su complejidad y optimizar el uso de recursos. Este Trabajo Fin de Máster tiene como objetivo analizar y comparar distintas arquitecturas recientes aplicadas a tareas de PLN, incluyendo variantes del Transformer y modelos emergentes como Mamba o Dynamic Chunking. El estudio combinará una revisión teórica de las principales innovaciones con un análisis empírico, entrenando modelos desde cero sobre tareas de lenguaje natural. Se evaluarán los resultados mediante métricas de rendimiento y eficiencia, con el fin de identificar las ventajas y limitaciones de cada enfoque.