Une chercheuse démissionne d’OpenAI questionnant sa stratégie publicitaire

OpenAI a commencé cette semaine à tester la publicité sur ChatGPT, une décision qui a provoqué la démission de Zoë Hitzig, une chercheuse qui a passé deux ans dans l'entreprise à travailler sur le développement de modèles d'IA, les stratégies de tarification et la définition des premières politiques de sécurité avant l'établissement de normes.

Hitzig ne considère pas la publicité comme immorale, reconnaissant que l'IA coûte cher et que les publicités peuvent être une source de revenus nécessaire. Cependant, elle questionne la stratégie adoptée. Pendant des années, les utilisateurs ont confié à ChatGPT des informations personnelles sans précédent, révélant des peurs médicales, des problèmes relationnels et des croyances sur Dieu et l'au-delà, faisant confiance au fait que l'outil n'avait pas d'agenda caché. Construire un modèle publicitaire sur cette base conversationnelle crée, selon Hitzig, un potentiel de manipulation qui n'est actuellement ni compris ni évitable.

L'ancienne chercheuse établit un parallèle avec Facebook, qui promettait initialement que les utilisateurs contrôleraient leurs données. Ces engagements se sont érodés sous la pression d'un modèle publicitaire qui privilégiait l'engagement. OpenAI a déclaré que ses publicités seront clairement étiquetées, apparaîtront en bas des réponses et n'influenceront pas le contenu. Hitzig pense que la première version suivra probablement ces règles, mais craint que l'entreprise construise un moteur économique qui crée des incitations à outrepasser ses propres principes.

La chercheuse souligne que l'érosion des principes pourrait déjà être en cours. Bien qu'il soit contraire aux principes d'OpenAI d'optimiser l'engagement uniquement pour générer des revenus publicitaires, il a été rapporté que l'entreprise optimise déjà pour les utilisateurs actifs quotidiens, rendant le modèle plus flatteur. Cette optimisation peut augmenter la dépendance à l'IA, avec des conséquences documentées incluant des épisodes de psychose liés aux chatbots et des allégations que ChatGPT a renforcé l'idéation suicidaire chez certains utilisateurs.

Les revenus publicitaires peuvent aider à garantir que l'accès ne reste pas limité à ceux qui peuvent payer. ChatGPT compte 800 millions d'utilisateurs hebdomadaires et les abonnements premium coûtent entre 200 et 250 dollars par mois. Hitzig affirme que la vraie question n'est pas publicités oui ou non, mais si des structures peuvent être conçues pour éviter à la fois d'exclure les personnes et de les manipuler. Et elle croit que c'est possible.

Face au dilemme apparent entre restreindre l'accès ou accepter la publicité, Hitzig propose des alternatives. Une option est les subventions croisées : les entreprises utilisant l'IA pour un travail à haute valeur paieraient un supplément pour subventionner l'accès gratuit. Une autre implique d'accepter la publicité mais avec une gouvernance réelle, incluant une supervision indépendante sur l'utilisation des données personnelles. Une troisième option consisterait à placer les données des utilisateurs sous contrôle indépendant via des fiducies ou coopératives avec obligation légale d'agir dans l'intérêt des utilisateurs.

Hitzig conclut qu'il est temps de mettre en œuvre ces options et d'éviter une technologie qui manipule ceux qui l'utilisent gratuitement ou ne profite qu'à ceux qui peuvent se permettre de payer.

Points clés

• Zoë Hitzig démissionne d'OpenAI après deux ans à définir les politiques de sécurité et développer des modèles.
• Elle démissionne en raison de profondes réserves sur la stratégie publicitaire d'OpenAI.
• Les utilisateurs ont confié à ChatGPT des informations intimes sur la santé, les relations et les croyances religieuses.
• Construire de la publicité sur ces données permet d'exploiter les peurs et désirs profonds pour vendre des produits de manières impossibles à prévenir.
• Elle établit un parallèle avec l'érosion des engagements de confidentialité de Facebook.
• OpenAI optimise déjà pour augmenter les utilisateurs actifs, ce qui augmente la dépendance à l'IA.
• Des conséquences graves ont été documentées, y compris psychose par chatbot et renforcement d'idéation suicidaire.
• Hitzig dit que le problème n'est pas publicités oui ou non, mais concevoir des structures qui évitent d'exclure les gens ou de les manipuler.
• Elle propose des alternatives : subventions croisées, gouvernance indépendante ou contrôle des données par fiducies d'utilisateurs.