La transferència de coneixement en IA és el procés pel qual el coneixement d'un
model d'IA ja
entrenat s'aprofita per a una altra tasca o es transfereix a un altre model, permetent reutilitzar aprenentatges previs i reduint recursos necessaris per
entrenar des de zero.
Aquest concepte és fonamental per millorar l'eficiència del desenvolupament de
models d'IA. Com quan una persona aplica coneixements previs per aprendre alguna cosa nova més ràpidament, la transferència de coneixement permet que els models aprofitin aprenentatges anteriors.
En una de les seves formes, l'aprenentatge per transferència, un model
entrenat en una tasca general s'ajusta per a una tasca específica, com passar del reconeixement general d'imatges a identificar espècies concretes.
Una altra tècnica clau és la
destil·lació de models, on un model gran transfereix el seu coneixement a un de més petit, mantenint el rendiment amb menor consum computacional.
L'ajust fi (
fine-tuning) especialitza un model preentrenat en una tasca concreta sense
entrenar-lo des de zero, reduint dades i costos. L'
entrenament multitasca permet aprendre diverses tasques simultàniament, optimitzant la capacitat de generalització.
La transferència de coneixement facilita la creació de models més eficients, adaptables i accessibles per a diverses aplicacions.