La finestra de context és la quantitat màxima d'informació que un
model d'IA pot considerar simultàniament en una conversa o tasca. Determina quanta informació prèvia pot mantenir present per generar respostes coherents i contextualment rellevants.
Imagina la finestra de context com l'escriptori de treball de la IA. Si tens un escriptori petit, només pots tenir uns pocs documents oberts alhora; si és gran, pots treballar amb molts més. Quan la finestra s'omple, la IA ha de descartar la informació més antiga per incorporar la nova.
Aquesta capacitat es mesura en
tokens, que són les peces bàsiques amb què la IA divideix el text: paraules, parts de paraules, espais i signes de puntuació. Cada
token ocupa espai a la finestra. Segons el disseny i propòsit del model, alguns gestionen 4.000
tokens (unes 3.000 paraules o un article curt), mentre que altres poden arribar a 128.000
tokens o més (unes 96.000 paraules o un llibre complet).
A la pràctica, aquesta diferència de capacitat determina quin tipus de tasques pots realizar. Una finestra àmplia significa que pots analitzar informes complets, mantenir converses llargues sense perdre el fil, treballar amb codi extens, o fer que la IA compari múltiples documents simultàniament. Una finestra petita obliga a dividir tasques grans en fragments més petits, ja que el model perd de vista la informació inicial conforme avança el processament.