Nouveau décret de Trump sur l'IA : « l'IA doit refléter les opinions de l'administration sur le sexe et la race, et ne peut pas intégrer des biais inconscients, l'intersectionnalité ou le transgendérisme »

Nouveau décret de Trump sur l'IA : « l'IA doit refléter les opinions de l'administration sur le sexe et la race, et ne peut pas intégrer des biais inconscients, l’intersectionnalité ou le transgendérisme »

Le président Donald Trump a signé trois nouveaux décrets visant à renforcer son nouveau plan d'action en matière d'IA. L'un des décrets met en lumière les efforts du président pour influencer le comportement idéologique de l'IA. Il stipule que le gouvernement fédéral a l'interdiction d'acquérir « des modèles d'IA qui sacrifient la véracité et l'exactitude au profit d'agendas idéologiques », ce que l'administration Trump appelle « IA woke ». Cette directive pourrait impacter directement des chatbots populaires tels que Gemini de Google et ChatGPT d'OpenAI, car les républicains accusent ces chatbots d'être woke et de censurer les voix conservatrices.

Les entreprises qui souhaitent vendre leur technologie d'IA au gouvernement fédéral américain doivent désormais faire face à un nouvel obstacle réglementaire : prouver que leurs chatbots ne sont pas woke. L'administration Trump a dévoilé un plan d'action ambitieux en matière d'IA qui vise principalement à réduire le poids de la réglementation sur la technologie et à la débarrasser de toute idéologie woke, afin de gagner la compétition face à la Chine.

Ce plan a été suivi de trois nouveaux décrets de Donald Trump. L'un des décrets clarifie davantage les choses pour les entreprises : « les grands modèles de langage (LLM) doivent être des outils neutres et non partisans qui ne manipulent pas les réponses en faveur de dogmes idéologiques tels que la DEI (diversité, équité et inclusion) ». Selon ce décret, le gouvernement fédéral bannira systématiquement tout produit d'IA répondant à cette description.

La directive anti-woke de Donald Trump marque la première fois que le gouvernement fédéral américain tente explicitement d'influencer le comportement idéologique de l'IA. Elle doit encore faire l'objet d'une période d'étude avant d'être intégrée aux règles officielles en matière de marchés publics. Certains fournisseurs de modèles de langage visés par le décret - dont Google (Gemini) et Microsoft (Copilot) - sont pour le moment restés silencieux.


Le plan d'action en matière d'IA a suscité des réactions mitigées. Mais selon les analystes, le décret anti-woke oblige l'industrie à se lancer dans une guerre culturelle, ou à faire de son mieux pour l'éviter discrètement. « Cela aura une influence considérable sur le secteur à l'heure actuelle », a déclaré Alejandra Montoya-Boyer, défenseure des droits civiques et directrice principale du Centre pour les droits civiques et la technologie de Leadership Conference.

Les experts craignent également que cette décision pousse également le secteur technologique à abandonner des années de travail visant à lutter contre les formes omniprésentes de préjugés raciaux et sexistes qui, selon des études et des exemples concrets, sont intégrés dans les systèmes d'IA.

Une IA peut-elle être considérée comme woke ? La réponse des experts

Pour mémoire, le terme anglo-américain woke ("éveillé" en français) fait référence à un état d’éveil. Est qualifiée de woke une personne sensible aux injustices sociales et aux iniquités raciales. Par ailleurs, le terme woke peut également fait référence à une auto-injonction ou à une éthique personnelle qu'on se fixe en se disant, par exemple : « il faut que je reste éveillé vis-à-vis des discriminations envers les minorités ». Le wokisme est le mouvement.

La question de savoir si une IA peut être qualifiée de woke ou non est un sujet brulant dans l'industrie. Le milliardaire Elon Musk, propriétaire de xAI, a accusé ChatGPT d'OpenAI d'être woke et trop politiquement correcte. Il a créé son propre chatbot, Grok, qu'il qualifie de non woke, afin de concurrencer ChatGPT et d'autres modèles de langage. Les conservateurs ont accusé ChatGPT d'être woke, partial et une chambre d'écho pour les valeurs de gauche.

Mais certains experts affirment que qualifier une IA de woke simplifie le problème auquel la technologie est confrontée. « Tout d'abord, il n'existe pas d'IA woke », a déclaré Alejandra Montoya-Boyer. « Il existe des technologies d'IA qui sont discriminatoires et d'autres qui fonctionnent réellement pour tout le monde ».

Selon les experts, il est difficile de modeler les comportements des grands modèles de langage en raison de leur conception et du caractère aléatoire inhérent à leurs productions. Les modèles d'IA générative ont été entraînés à partir de la plupart des contenus disponibles sur Internet, reflétant ainsi les préjugés de toutes les personnes qui ont publié des commentaires, modifié une entrée dans l'encyclopédie Wikipédia ou partagé des images en ligne.

« Cela sera extrêmement difficile à respecter pour les entreprises technologiques », a déclaré Jim Secreto, ancien responsable de l'administration Biden, qui était chef de cabinet adjoint de la secrétaire américaine au Commerce Gina Raimondo. « Les grands modèles de langage reflètent les données sur lesquelles ils ont été formés, y compris toutes les contradictions et les biais du langage humain ». Selon ces experts, woke n'est pas le terme adapté.

Donald Trump est accusé d'emprunter le même chemin que la Chine

Comme souligné précédemment, les grands modèles de langages sont entraînés à partir de vastes ensembles de données glanées sur Internet. Mais en plus de cela, les travailleurs du secteur technologique ont également leur mot à dire sur la manière dont ils sont conçus, depuis les annotateurs du monde entier qui vérifient leurs réponses jusqu'aux ingénieurs de la Silicon Valley qui élaborent les instructions régissant leurs interactions avec les personnes.

Le décret de Donald Trump vise les efforts descendants des entreprises pour intégrer ce qu'il qualifie d’idéologie « destructrice » de la DEI dans les modèles d’IA, y compris des concepts comme la théorie critique de la race, le transgendérisme, les biais inconscients, l’intersectionnalité et le racisme systémique.

La directive a suscité des comparaisons avec les mesures plus sévères prises par la Chine pour garantir que les outils d'IA générative reflètent les valeurs fondamentales du Parti communiste au pouvoir. Selon Jim Secreto, le décret ressemble à la stratégie chinoise consistant à utiliser le pouvoir de l'État pour éliminer ce qu'il considère comme des points de vue indésirables. Les chatbots chinois sont connus pour éluder les questions sur les sujets sensibles.

La Chine s'appuie sur une réglementation directe en auditant les modèles, en les approuvant avant leur déploiement et en leur imposant de filtrer les contenus interdits, tels que la répression sanglante des manifestations prodémocratiques de la place Tiananmen en 1989. Le décret de Donald Trump ne prévoit pas de tels filtres, mais s'appuie plutôt sur les entreprises elles-mêmes pour démontrer que leur technologie d'IA est idéologiquement neutre.

« L'administration Trump adopte une approche plus douce, mais toujours coercitive, en utilisant les contrats fédéraux comme moyen de pression. Cela exerce une pression sur les entreprises pour qu'elles s'autocensurent afin de rester dans les bonnes grâces du gouvernement et de continuer à bénéficier de ses financements », affirme Jim Secreto. Un critique a noté : Trump veut juste pouvoir faire ce qu'il souhaite avec l'IA, y compris les deepfakes ».

Le gouvernement donnera la priorité aux IA qui recherchent la vérité

Au lieu d'une IA woke, le décret de Donald Trump indique que le gouvernement se procurera des modèles d'IA en quête de vérité qui privilégient l'exactitude historique, la recherche scientifique et l'objectivité, et reconnaissent l'incertitude lorsque les informations fiables sont incomplètes ou contradictoires. Toutefois, il ajoute que le gouvernement fédéral devrait hésiter à réglementer les fonctionnalités des grands modèles de langage sur le marché privé.

L'appel du décret en faveur d'une « IA en quête de vérité » fait écho au discours d'Elon Musk, ancien allié et conseiller du président Donald Trump, qui en a fait la mission de son chatbot Grok. Mais il reste à voir si Grok ou ses concurrents seront favorisés par la nouvelle politique en matière d'IA.

xAI a récemment annoncé avoir remporté un contrat de défense d'une valeur maximale de 200 millions de dollars. Cependant, une série de titres concernant Grok ces dernières semaines a mis en évidence les controverses qui peuvent surgir concernant la manière dont les modèles d'IA sont formés et leurs biais politiques perçus. Plus précisément, Grok a publié une série de commentaires antisémites tout en faisant l'éloge d'Adolf Hitler.

Neil Chilson, ancien responsable technologique républicain de la Federal Trade Commission (FTC), estime que le décret n'est pas difficile à respecter. Il conteste les comparaisons avec les modes de censure de l'IA plus brutaux pratiqués en Chine. « Elle n'interdit même pas un programme idéologique, mais exige simplement que toute méthode intentionnelle visant à orienter le modèle soit divulguée. Ce qui est franchement assez léger », a-t-il déclaré.

« Rien dans la directive n'indique que les entreprises doivent produire ou ne peuvent pas produire certains types de résultats. Elle stipule que les développeurs ne doivent pas intentionnellement intégrer des jugements partisans ou idéologiques », a ajouté Neil Chilson, responsable de la politique en matière d'IA à l'organisation à but non lucratif Abundance Institute. OpenAI a déclaré jeudi que l'entreprise attend des directives plus détaillées sur le sujet.

Conclusion

Le plan d'action sur l'IA de Donald Trump est fortement aligné avec les intérêts des grandes entreprises technologiques, ce qui suscite des préoccupations. Il vise à supprimer les obstacles réglementaires, accélérer la construction d’infrastructures (centres de données, semiconducteurs, etc.) et renforcer la position américaine face à la Chine. Pour ses partisans, c’est une opportunité de reconquérir le leadership technologique mondial.

Selon Donald Trump et ses alliés, l’IA actuelle censure les opinions conservatrices. Ils citent des exemples comme des réponses biaisées de ChatGPT ou des systèmes de modération sur les réseaux sociaux. Ce plan vise à imposer des modèles d’IA supposés « neutres », mais en réalité alignés sur leur vision politique.

« L'idée même d'atteindre la neutralité idéologique avec les modèles de langage est tout simplement irréalisable. Et qu'obtenons-nous ? Nous obtenons ces laboratoires de pointe qui modifient simplement leur discours pour répondre aux exigences politiques du moment », a déclaré Ryan Hauser du Mercatus Center, un groupe de réflexion sur le libre marché. Les critiques dénoncent ce plan d'action, affirmant qu'il s'agit d'une croisade contre la réglementation.

Source : la Maison Blanche

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la neutralité idéologique exigée par Donald Trump en matière d'IA ?
Est-il possible de développer des grands modèles de langage neutres sur le plan idéologique ? Pourquoit ?
Le décret de Donald Trump est comparé aux mesures de censures des modèles d'IA appliquées en Chine. Qu'en pensez-vous ?

Voir aussi

Le plan d'action de Trump en matière d'IA est une « croisade contre les préjugés et la réglementation ». Il vise également à bloquer les exportations de puces vers la Chine, mais manque de détails essentiels

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas

La Maison Blanche prépare un décret visant « l'IA woke » qui imposerait aux entreprises d'IA bénéficiant de contrats fédéraux de proposer des modèles d'IA politiquement neutres et impartiaux