Des anciens employés d'OpenAI demandent aux procureurs de Californie et du Delaware de bloquer la conversion à des fins lucratives de l'éditeur de ChatGPT

Des anciens employés d'OpenAI demandent aux procureurs de Californie et du Delaware de bloquer la conversion à des fins lucratives de l'éditeur de ChatGPT, car ils s'inquiètent de ce qui se passerait si OpenAI construisait une IA plus performante que celle des humains. Cependant, OpenAI estime que cela est nécessaire pour attirer plus de capitaux afin d'aller au bout de sa mission, qui est de construire une intelligence artificielle générale (AGI).

Fin 2024, OpenAI a rendu publics les premiers détails de son projet visant à se restructurer en une structure à but lucratif. L'éditeur de ChatGPT avait annoncé que sa branche à but lucratif actuelle deviendra une société d'utilité publique avec des actions ordinaires. Cette nouvelle société ne sera plus sous le contrôle de son conseil d'administration et fonctionnera davantage comme une startup à forte croissance.

Pour rappel, OpenAI est une organisation américaine de recherche en intelligence artificielle (IA) fondée en décembre 2015. Elle vise à développer une intelligence générale artificielle (AGI) "sûre et bénéfique", qu'elle définit comme "des systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles". Mais l'organisation a une structure complexe. Actuellement, elle est dirigée par l'organisation à but non lucratif OpenAI, Inc, enregistrée dans le Delaware, et possède plusieurs filiales à but lucratif, dont OpenAI Holdings, LLC et OpenAI Global, LLC.

Récemment, d'anciens employés d'OpenAI ont demandé aux plus hauts responsables de l'application des lois de Californie et du Delaware d'empêcher l'entreprise de faire passer le contrôle de sa technologie d'intelligence artificielle (IA) d'une organisation caritative à but non lucratif à une entreprise à but lucratif. Ils s'inquiètent de ce qui se passera si l'éditeur de ChatGPT réalise son ambition de construire une IA plus performante que les humains, mais n'est plus tenu de rendre compte de sa mission publique consistant à empêcher cette technologie de causer de graves préjudices.

"En fin de compte, je m'inquiète de savoir qui possède et contrôle cette technologie une fois qu'elle est créée", a déclaré Page Hedley, ancien conseiller politique et éthique d'OpenAI. Soutenus par trois lauréats du prix Nobel et d'autres défenseurs et experts, Page Hedley et neuf autres anciens employés d'OpenAI ont envoyé cette semaine une lettre aux deux procureurs généraux des États.


Parmi les signataires figurent deux économistes lauréats du prix Nobel, Oliver Hart et Joseph Stiglitz, ainsi que les pionniers de l'IA et les informaticiens Geoffrey Hinton, qui a remporté le prix Nobel de physique l'année dernière, et Stuart Russell. "J'apprécie la mission d'OpenAI qui consiste à « veiller à ce que l'intelligence artificielle générale profite à l'ensemble de l'humanité », et j'aimerais qu'ils exécutent cette mission au lieu d'enrichir leurs investisseurs", a déclaré Hinton dans un communiqué mercredi. "Je suis heureux qu'il y ait un effort pour faire respecter la mission d'OpenAI qui n'implique pas Elon Musk."

La coalition demande au procureur général de Californie, Rob Bonta, et au procureur général du Delaware, Kathy Jennings, tous deux démocrates, d'user de leur autorité pour protéger l'objectif caritatif d'OpenAI et de bloquer sa restructuration prévue. OpenAI est constituée en société dans le Delaware et opère à partir de San Francisco.

OpenAI a répondu que "tout changement apporté à notre structure existante servirait à garantir que le grand public puisse bénéficier de l'IA". L'entreprise à but lucratif sera une société d'utilité publique, semblable à d'autres laboratoires d'IA comme Anthropic et xAI du milliardaire Elon Musk, à la différence qu'OpenAI conservera une branche à but non lucratif. "Cette structure continuera à garantir que le succès et la croissance de l'entreprise à but lucratif s'accompagneront de ceux de l'entreprise à but non lucratif, ce qui nous permettra d'accomplir notre mission", a déclaré l'entreprise dans un communiqué.

Cette lettre est la deuxième pétition adressée aux autorités de l'État ce mois-ci. La dernière émanait d'un groupe de dirigeants syndicaux et d'organisations à...