Investigadora dimiteix d’OpenAI qüestionant la seva estratègia publicitària

OpenAI ha començat aquesta setmana a provar publicitat a ChatGPT, una decisió que ha provocat la dimissió de Zoë Hitzig, investigadora que va passar dos anys a l'empresa treballant en el desenvolupament de models d'intel·ligència artificial, estratègies de preus i definició de les primeres polítiques de seguretat abans que s'establissin estàndards.

Hitzig no considera que la publicitat sigui immoral, reconeixent que la IA és costosa i que els anuncis poden ser una font d'ingressos necessària. No obstant això, qüestiona l'estratègia adoptada. Durant anys, els usuaris han confiat a ChatGPT informació personal sense precedents, revelant temors mèdics, problemes de relació i creences sobre Déu i el més enllà, confiant que l'eina no tenia una agenda oculta. Construir un model publicitari sobre aquesta base conversacional crea, segons Hitzig, un potencial de manipulació que actualment no es comprèn ni es pot prevenir.

L'exinvestigadora estableix un paral·lelisme amb Facebook, que inicialment va prometre que els usuaris controlarien les seves dades. Aquests compromisos es van erosionar sota la pressió d'un model publicitari que prioritzava la interacció. OpenAI ha declarat que els seus anuncis estaran clarament etiquetats, apareixeran a la part inferior de les respostes i no influiran en el contingut. Hitzig creu que la primera versió probablement complirà aquestes normes, però tem que l'empresa estigui construint un motor econòmic que crea incentius per saltar-se els seus propis principis.

La investigadora assenyala que l'erosió de principis podria estar ja en marxa. Tot i que va contra els principis d'OpenAI optimitzar la interacció només per generar ingressos publicitaris, s'ha informat que l'empresa ja optimitza per a usuaris actius diaris, fent que el model sigui més afalagador. Aquesta optimització pot augmentar la dependència cap a la IA, amb conseqüències documentades que inclouen episodis de psicosi relacionada amb chatbots i al·legacions que ChatGPT va reforçar ideació suïcida en alguns usuaris.

Els ingressos per publicitat poden ajudar a garantir que l'accés no quedi limitat a qui pugui pagar. ChatGPT té 800 milions d'usuaris setmanals i les subscripcions de nivell superior costen entre 200 i 250 dòlars mensuals. Hitzig planteja que la veritable qüestió no és anuncis sí o no, sinó si es poden dissenyar estructures que evitin tant excloure les persones com manipular-les. I considera que sí és possible.

Davant el dilema aparent entre restringir l'accés o acceptar publicitat, Hitzig proposa alternatives. Una opció són subsidis creuats: empreses que utilitzin IA per treballs d'alt valor pagarien un recàrrec per subsidiar l'accés gratuït. Una altra implica acceptar publicitat però amb governança real, incloent supervisió independent sobre l'ús de dades personals. Una tercera opció consistiria a posar les dades sota control independent mitjançant fideïcomisos o cooperatives amb deure legal d'actuar en interès dels usuaris.

Hitzig conclou que hi ha temps per implementar aquestes opcions i evitar una tecnologia que manipuli qui l'usa gratuïtament o que beneficiï només qui pugui permetre's pagar-la.

Punts clau

• Zoë Hitzig dimiteix d'OpenAI després de dos anys definint polítiques de seguretat i desenvolupant models.
• Dimiteix per profundes reserves sobre l'estratègia publicitària d'OpenAI.
• Els usuaris han confiat a ChatGPT informació íntima sobre salut, relacions i creences religioses.
• Construir publicitat sobre aquestes dades permet explotar pors i desitjos profunds per vendre productes de maneres impossibles de prevenir.
• Estableix un paral·lelisme amb l'erosió dels compromisos de privacitat de Facebook.
• OpenAI ja optimitza per augmentar usuaris actius, cosa que incrementa la dependència cap a la IA.
• S'han documentat conseqüències greus com psicosi per chatbots i reforç d'ideació suïcida.
• Hitzig diu que el problema no és anuncis sí o no, sinó dissenyar estructures que evitin excloure les persones o manipular-les.
• Proposa alternatives: subsidis creuats, governança independent o control de dades per fideïcomisos d'usuaris.