Des anciens employés d'OpenAI demandent aux procureurs de Californie et du Delaware de bloquer la conversion à des fins lucratives de l'éditeur de ChatGPT, car ils s'inquiètent de ce qui se passerait si OpenAI construisait une IA plus performante que celle des humains. Cependant, OpenAI estime que cela est nécessaire pour attirer plus de capitaux afin d'aller au bout de sa mission, qui est de construire une intelligence artificielle générale (AGI). Fin 2024, OpenAI a rendu publics les premiers détails de son projet visant à se restructurer en une structure à but lucratif. L'éditeur de ChatGPT avait annoncé que sa branche à but lucratif actuelle deviendra une société d'utilité publique avec des actions ordinaires. Cette nouvelle société ne sera plus sous le contrôle de son conseil d'administration et fonctionnera davantage comme une startup à forte croissance.
Pour rappel, OpenAI est une organisation américaine de recherche en intelligence artificielle (IA) fondée en décembre 2015. Elle vise à développer une intelligence générale artificielle (AGI) "sûre et bénéfique", qu'elle définit comme "des systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles". Mais l'organisation a une structure complexe. Actuellement, elle est dirigée par l'organisation à but non lucratif OpenAI, Inc, enregistrée dans le Delaware, et possède plusieurs filiales à but lucratif, dont OpenAI Holdings, LLC et OpenAI Global, LLC.
Récemment, d'anciens employés d'OpenAI ont demandé aux plus hauts responsables de l'application des lois de Californie et du Delaware d'empêcher l'entreprise de faire passer le contrôle de sa technologie d'intelligence artificielle (IA) d'une organisation caritative à but non lucratif à une entreprise à but lucratif. Ils s'inquiètent de ce qui se passera si l'éditeur de ChatGPT réalise son ambition de construire une IA plus performante que les humains, mais n'est plus tenu de rendre compte de sa mission publique consistant à empêcher cette technologie de causer de graves préjudices.
"En fin de compte, je m'inquiète de savoir qui possède et contrôle cette technologie une fois qu'elle est créée", a déclaré Page Hedley, ancien conseiller politique et éthique d'OpenAI. Soutenus par trois lauréats du prix Nobel et d'autres défenseurs et experts, Page Hedley et neuf autres anciens employés d'OpenAI ont envoyé cette semaine une lettre aux deux procureurs généraux des États.
Parmi les signataires figurent deux économistes lauréats du prix Nobel, Oliver Hart et Joseph Stiglitz, ainsi que les pionniers de l'IA et les informaticiens Geoffrey Hinton, qui a remporté le prix Nobel de physique l'année dernière, et Stuart Russell. "J'apprécie la mission d'OpenAI qui consiste à « veiller à ce que l'intelligence artificielle générale profite à l'ensemble de l'humanité », et j'aimerais qu'ils exécutent cette mission au lieu d'enrichir leurs investisseurs", a déclaré Hinton dans un communiqué mercredi. "Je suis heureux qu'il y ait un effort pour faire respecter la mission d'OpenAI qui n'implique pas Elon Musk."
La coalition demande au procureur général de Californie, Rob Bonta, et au procureur général du Delaware, Kathy Jennings, tous deux démocrates, d'user de leur autorité pour protéger l'objectif caritatif d'OpenAI et de bloquer sa restructuration prévue. OpenAI est constituée en société dans le Delaware et opère à partir de San Francisco.
OpenAI a répondu que "tout changement apporté à notre structure existante servirait à garantir que le grand public puisse bénéficier de l'IA". L'entreprise à but lucratif sera une société d'utilité publique, semblable à d'autres laboratoires d'IA comme Anthropic et xAI du milliardaire Elon Musk, à la différence qu'OpenAI conservera une branche à but non lucratif. "Cette structure continuera à garantir que le succès et la croissance de l'entreprise à but lucratif s'accompagneront de ceux de l'entreprise à but non lucratif, ce qui nous permettra d'accomplir notre mission", a déclaré l'entreprise dans un communiqué.
Cette lettre est la deuxième pétition adressée aux autorités de l'État ce mois-ci. La dernière émanait d'un groupe de dirigeants syndicaux et d'organisations à but non lucratif soucieux de protéger les milliards de dollars d'actifs caritatifs d'OpenAI.
Kathy Jennings a déclaré à l'automne dernier qu'elle "examinerait toute transaction de ce type pour s'assurer que les intérêts du public sont protégés de manière adéquate". Le bureau de Rob Bonta a demandé plus d'informations à OpenAI à la fin de l'année dernière, mais a déclaré qu'il ne pouvait pas faire de commentaires, même pour confirmer ou infirmer l'existence d'une enquête.
Hedley, avocat de formation, a travaillé pour OpenAI en 2017 et 2018, à une époque où l'organisation à but non lucratif cherchait encore les meilleurs moyens de gérer la technologie qu'elle voulait construire. En 2023, Altman a déclaré que l'IA avancée était prometteuse, mais a également mis en garde contre des risques extraordinaires, allant d'accidents radicaux à des perturbations sociétales.
Ces dernières années, cependant, Hedley a déclaré avoir observé avec inquiétude qu'OpenAI, portée par le succès de ChatGPT, rognait de plus en plus sur les tests de sécurité et lançait de nouveaux produits à la hâte pour devancer ses concurrents. "Les coûts de ces décisions continueront d'augmenter à mesure que la technologie deviendra plus puissante", a-t-il déclaré. "Je pense que dans la nouvelle structure souhaitée par l'OpenAI, les incitations à se précipiter pour prendre ces décisions augmenteront et il n'y aura plus personne pour leur dire de ne pas le faire, pour leur dire que ce n'est pas correct."
L'ingénieur logiciel Anish Tondwalkar, ancien membre de l'équipe technique d'OpenAI jusqu'à l'année dernière, a déclaré qu'une garantie importante dans la charte à but non lucratif d'OpenAI est une "clause d'arrêt et d'assistance" qui ordonne à OpenAI de se retirer et d'aider si une autre organisation est sur le point d'atteindre une IA meilleure que l'homme. "Si OpenAI est autorisée à devenir une organisation à but lucratif, ces garanties et le devoir de l'OpenAI envers le public peuvent disparaître du jour au lendemain" a-t-il affirmé.
Un autre ancien employé qui a signé la lettre l'exprime plus crûment. "OpenAI pourrait un jour construire une technologie qui pourrait tous nous faire tuer", a déclaré Nisan Stiennon, un ingénieur en IA qui a travaillé chez OpenAI de 2018 à 2020. "C'est tout à l'honneur d'OpenAI d'être contrôlée par un organisme à but non lucratif ayant un devoir envers l'humanité. Ce devoir exclut de renoncer à ce contrôle."
Les cofondateurs d'OpenAI, dont l'actuel PDG Sam Altman et Elon Musk, l'ont créée à l'origine en tant que laboratoire de recherche à but non lucratif ayant pour mission de construire en toute sécurité ce que l'on appelle l'intelligence artificielle générale (AGI), au bénéfice de l'humanité. Près de dix ans plus tard, OpenAI a annoncé une valeur de marché de 300 milliards de dollars et compte 400 millions d'utilisateurs hebdomadaires de ChatGPT, son produit phare.
OpenAI dispose déjà d'une filiale à but lucratif, mais la conversion de sa structure de gouvernance principale se heurte à un certain nombre de difficultés. L'un d'entre eux est un procès intenté par Musk, qui accuse la société et Altman de trahir les principes fondateurs qui ont conduit le PDG de Tesla à investir dans l'organisation caritative.
En février 2025, un consortium d'investisseurs dirigé par Elon Musk avait même proposé une offre pour acquérir le...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.