Le projet de loi sur la sécurité de l'IA proposé par Anthropic ne s'applique que si 50 décès ou 1 milliard de $ de dommages sont en jeu

Empêchant potentiellement les États d'imposer des règles plus strictes

Alors que la pression en faveur d’une réglementation de l’IA s’intensifie, le géant de l’IA Anthropic a redoublé d’efforts pour élaborer un projet de loi régissant le secteur, selon un article de Politico. La législation proposée permettrait au gouvernement de bloquer la mise sur le marché de modèles d’IA qu’il estime dangereux pour le public. Selon ce projet, « le texte permettrait au gouvernement de bloquer la mise sur le marché ou l’utilisation d’un modèle uniquement s’il présente un risque prévisible et imminent de causer plus d’un milliard de dollars de dommages, ou de tuer ou de blesser gravement plus de 50 personnes ». Cependant, les seuils proposés par Anthropic pour définir ces risques ont suscité de nouvelles critiques.

Anthropic est une entreprise américaine d'intelligence artificielle (IA) basée à San Francisco. Fondée en 2021 par d'anciens membres d'OpenAI, l'entreprise a pour PDG Dario Amodei et pour présidente Daniela Amodei. Anthropic développe Claude, une famille de grands modèles de langage, ainsi que des services d'IA agentique comme Claude Code, Claude Design ou Cowork. Elle est aussi connue pour ses recherches en éthique de l'IA et en sécurité de l'IA, particulièrement en interprétabilité.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme.

Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir. Récement, un groupe de 406 chercheurs issus de 34 pays a publié une lettre ouverte réclamant la déconnexion immédiate des modèles d'IA les plus puissants des réseaux externes. Parmi les soutiens de cette initiative figurent Geoffrey Hinton et Yoshua Bengio, considérés comme des pionniers du domaine et surnommés les « parrains de l'IA ».

Alors que la pression en faveur d’une réglementation de l’IA s’intensifie, le géant de l’IA Anthropic a redoublé d’efforts pour élaborer un projet de loi régissant le secteur, selon un article de Politico. La législation proposée permettrait au gouvernement de bloquer la mise sur le marché de modèles d’IA qu’il estime dangereux pour le public. Cependant, les seuils proposés par Anthropic pour définir ces risques ont suscité de nouvelles critiques quant à la manière dont le géant de l’IA estime que les modèles potentiellement dangereux devraient être réglementés.


Selon ce projet, « le texte permettrait au gouvernement de bloquer la mise sur le marché ou l’utilisation d’un modèle uniquement s’il présente un risque prévisible et imminent de causer plus d’un milliard de dollars de dommages, ou de tuer ou de blesser gravement plus de 50 personnes ». Cela signifie que si un modèle était susceptible de tuer ou de blesser gravement moins de 50 personnes, ou de causer moins d’un milliard de dollars de dommages matériels, le gouvernement ne pourrait pas intervenir en vertu du seuil proposé.

Le projet de loi limite en outre les circonstances justifiant une intervention à trois catégories : la création d’une arme biologique, un modèle d’IA échappant au contrôle de son développeur, ou une cyberattaque. Cela signifie que d’autres formes de préjudice liées à l’IA pourraient ne pas entrer dans le champ d’application de la législation proposée. Le projet de loi empêcherait également toute agence américaine autre que le ministère du Commerce d’intervenir pour suspendre le développement ou l’utilisation interne d’un modèle d’IA.

Les législateurs des deux partis réclament de plus en plus une réglementation plus stricte de l’IA, proposant des mesures telles qu’une hausse des impôts pour les entreprises du secteur, un gel du développement des modèles de pointe et la création d’un ministère chargé de superviser le secteur. Anthropic a intensifié ses efforts de lobbying, dépensant davantage au Congrès au cours du premier semestre 2026 qu’au cours de toute l’année 2025.

Au mois de mai 2026, Yoshua Bengio, l'un des pionniers de l'IA, a exprimé de vives inquiétudes quant à la course effrénée vers la superintelligence menée par les géants de la technologie. Il redoutait que des machines surpassant l'intellect humain développent leurs propres objectifs de préservation, menaçant ainsi la survie de notre espèce, d'ici une décennie. L'expert soulignait le risque de manipulation comportementale et le danger de systèmes dont les priorités divergeraient radicalement des nôtres au point de privilégier leur survie sur la vie humaine. Cependant, son avis sur l'extinction est controversé, notamment par l'un de ses pairs, le chercheur Yann Le Cun.

Source : Politico

Et vous ?

Pensez-vous que cette proposition est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Bernie Sanders appelle à l'interdiction de l'IA après l'interview du PDG d'OpenAI : « Non, M. Altman. Nous n'accepterons pas une cyberattaque grave menée par l'IA en échange de la « liberté ». »

Donald Trump affirme que les leaders du secteur de l'IA ont signé une « constitution » visant à s'autoréguler, et a déclaré que cet accord d'autorégulation était « moralement contraignant »

Anthropic met en garde contre le risque que de petits modèles d'IA puissent bientôt s'auto-répliquer sur des appareils connectés à Internet sans avoir besoin d'accéder à un centre de données