Anthropic detecta atacs massius de destil·lació de tres laboratoris xinesos d’IA

Anthropic ha revelat que tres laboratoris d'intel·ligència artificial xinesos —DeepSeek, Moonshot i MiniMax— van dur a terme campanyes organitzades per extreure il·legítimament les capacitats del seu model Claude mitjançant una tècnica coneguda com a destil·lació. Aquesta pràctica consisteix a entrenar un model menys capaç amb les respostes generades per un de més avançat. Tot i que la destil·lació és un mètode d'entrenament habitual i legítim a la indústria, el seu ús fraudulent permet a tercers adquirir capacitats avançades en molt menys temps i amb una fracció del cost de desenvolupament propi.

Segons la companyia, les tres campanyes van generar conjuntament més de 16 milions de converses amb Claude a través d'aproximadament 24.000 comptes fraudulents, en clara violació dels termes de servei d'Anthropic i de les restriccions d'accés regional vigents. Per esquivar el bloqueig comercial que impedeix l'accés des de la Xina, els laboratoris van recórrer a serveis intermediaris que revenien accés a l'API de Claude, operant a través de xarxes de comptes falsos que barrejaven trànsit de destil·lació amb peticions legítimes per dificultar-ne la detecció.

Cada campanya tenia objectius diferenciats. DeepSeek, amb més de 150.000 intercanvis registrats, es va centrar a generar dades de raonament pas a pas i a obtenir respostes que eludeixin la censura política. Moonshot, amb més de 3,4 milions d'intercanvis, va apuntar principalment a capacitats de raonament agèntic, ús d'eines i visió artificial. MiniMax va ser l'operació més voluminosa, amb més de 13 milions d'intercanvis orientats a la programació agèntica i l'orquestració d'eines. En aquest darrer cas, Anthropic va detectar la campanya mentre encara estava activa i va poder observar que, quan va llançar un nou model, MiniMax va redirigir gairebé la meitat del seu trànsit cap a ell en menys de 24 hores.

Anthropic adverteix que els models obtinguts mitjançant destil·lació il·lícita no disposen dels sistemes de seguretat que les empreses nord-americanes incorporen per impedir usos perillosos, com el desenvolupament d'armes biològiques o ciberatacs. La companyia ha anunciat mesures com la millora dels sistemes de detecció, el reforç dels controls d'accés i l'intercanvi d'informació amb altres laboratoris i autoritats. Tot i això, subratlla que cap empresa pot resoldre aquest problema per si sola i reclama una resposta coordinada de la indústria, els proveïdors d'infraestructura tecnològica i els responsables polítics.

Punts clau

• Anthropic va detectar campanyes fraudulentes de DeepSeek, Moonshot i MiniMax per extreure capacitats de Claude.
• Les tres operacions van generar més de 16 milions de converses des d'uns 24.000 comptes falsos.
• Van usar la destil·lació: entrenar models propis amb respostes d'un model més avançat.
• Per accedir-hi, van eludir el bloqueig comercial a la Xina mitjançant serveis intermediaris i xarxes de comptes fraudulents.
• MiniMax va ser la campanya més gran, amb 13 milions d'intercanvis; va redirigir el seu trànsit al nou model d'Anthropic en menys de 24 hores.
• Els models destil·lats il·legítimament no incorporen els sistemes de seguretat de l'original.
• Anthropic reclama una resposta coordinada entre la indústria, proveïdors d'infraestructura i governs.