Investigadora dimite de OpenAI cuestionando su estrategia publicitaria

OpenAI ha comenzado a probar publicidad en ChatGPT, decisión que ha provocado la dimisión de Zoë Hitzig, investigadora que durante dos años trabajó en el desarrollo de modelos de IA, estrategias de precios y definición de las primeras políticas de seguridad antes de establecerse estándares.

Hitzig no considera que la publicidad sea inmoral, reconociendo que la IA es costosa y los anuncios una fuente de ingresos necesaria. Sin embargo, cuestiona la estrategia. Durante años, los usuarios han confiado a ChatGPT información sin precedentes: temores médicos, problemas de relación y creencias sobre Dios y el más allá, creyendo que la herramienta no tenía agenda oculta. Construir publicidad sobre esta base crea, según Hitzig, un potencial de manipulación que no se comprende ni se puede prevenir.

La investigadora establece un paralelismo con Facebook, cuyos compromisos iniciales de control de datos se erosionaron bajo un modelo publicitario que priorizaba la interacción. OpenAI declara que sus anuncios estarán etiquetados, aparecerán al final de respuestas y no influirán en el contenido. Hitzig cree que la primera versión cumplirá estas normas, pero teme que la compañía esté construyendo un motor económico con incentivos para saltarse sus propias reglas.

La erosión podría estar en marcha. OpenAI ya optimiza para usuarios activos diarios, haciendo el modelo más halagador, lo que puede aumentar la dependencia hacia la IA. Las consecuencias incluyen episodios de psicosis relacionada con chatbots y alegaciones de que ChatGPT reforzó ideación suicida en usuarios.

Los ingresos por publicidad pueden ayudar a que el acceso no quede limitado a quienes puedan pagar. ChatGPT tiene 800 millones de usuarios semanales y las suscripciones de nivel superior cuestan entre 200 y 250 dólares mensuales. Hitzig plantea que la verdadera cuestión no es anuncios sí o no, sino si se pueden diseñar estructuras que eviten tanto excluir a las personas como manipularlas. Y considera que sí es posible.

Frente al dilema entre restringir el acceso o aceptar publicidad, Hitzig propone alternativas. Una es subsidios cruzados: empresas que usen IA para trabajos de alto valor pagarían un recargo para subsidiar acceso gratuito. Otra implica publicidad con gobernanza real y supervisión independiente sobre datos personales. Una tercera opción consistiría en poner los datos bajo control independiente mediante un fideicomiso o cooperativa con deber legal de actuar en interés de usuarios.

Hitzig concluye que hay tiempo para implementar estas opciones y evitar una tecnología que manipule a quienes la usan gratuitamente o que beneficie solo a quienes puedan pagarla.

Puntos clave

• Zoë Hitzig dimite de OpenAI tras dos años definiendo políticas de seguridad y desarrollo de modelos.
• Dimite por profundas reservas sobre la estrategia publicitaria de OpenAI.
• Los usuarios han confiado a ChatGPT información íntima sobre salud, relaciones y creencias religiosas.
• Construir publicidad sobre esos datos crea un potencial de manipulación que no se puede prevenir.
• Establece un paralelismo con la erosión de compromisos de privacidad en Facebook.
• OpenAI ya optimiza para aumentar usuarios activos, lo que incrementa la dependencia hacia la IA.
• Se han documentado consecuencias graves como psicosis por chatbots y refuerzo de ideación suicida.
• Hitzig dice que el problema no es anuncios sí o no, sino diseñar estructuras que eviten excluir a las personas o manipularlas.
• Propone alternativas: subsidios cruzados, gobernanza independiente o control de datos por fideicomisos de usuarios.