El fine-tuning o ajuste fino es un proceso de especialización donde se toma un
modelo de IA preentrenado y se refina con un
entrenamiento con datos específicos para una tarea concreta. Es como dar una formación especializada a un modelo que ya tiene conocimientos generales.
Durante el fine-tuning, un modelo que ya ha sido
entrenado con grandes cantidades de datos generales se adapta para un uso específico utilizando un
dataset más pequeño y especializado. Por ejemplo, se puede tomar un
modelo de lenguaje grande entrenado con textos generales y refinarlo con textos médicos para que se especialice en terminología y conceptos de medicina.
Este proceso es más eficiente que
entrenar un modelo desde cero, ya que aprovecha la
transferencia de conocimiento general previo del modelo y se añade conocimiento específico. Imagina un modelo
entrenado para reconocer objetos en imágenes que puede refinarse con fotos de aves para convertirse en un experto en identificar especies de pájaros, sin necesidad de aprender desde cero conceptos básicos como formas, colores o texturas.
A diferencia de otras técnicas de especialización de
modelos de IA como
LoRA, que añade capas adaptativas, el fine-tuning modifica el modelo completo para incorporar los nuevos conocimientos específicos. Necesitando más capacidad computacional y datos de
entrenamiento.