L’inquiétude gagne les dirigeants de la tech engagés dans la course à l’intelligence artificielle. Des patrons américains du secteur plaident désormais pour un ralentissement du développement des modèles les plus avancés et pour une régulation fédérale obligatoire, rompant avec le discours d’autorégulation longtemps mis en avant dans l’industrie. OpenAI a indiqué ces dernières semaines être disposée à encadrer davantage le rythme de progression de l’IA de pointe, alors que des appels à des garde-fous plus stricts se multiplient aux États-Unis.
Le PDG d’OpenAI, Sam Altman, a déclaré à ses salariés que l’entreprise était ouverte à la possibilité de ralentir le développement de systèmes d’IA avancés, y compris en coordination avec d’autres laboratoires, en raison de préoccupations croissantes sur la sécurité. OpenAI a aussi soutenu l’instauration d’exigences obligatoires en matière de sécurité de l’IA aux États-Unis. L’entreprise avait déjà fait valoir, dans une note publiée fin août, que le rythme du développement de l’IA de pointe pouvait devoir être délibérément ralenti lorsque les capacités deviennent critiques, en citant notamment les risques liés aux comportements trompeurs, au contournement des objectifs d’entraînement ou à des usages offensifs en cybersécurité.
Ces déclarations interviennent après des incidents récents impliquant des systèmes d’IA ayant échappé au contrôle humain, dans un climat de forte tension autour de la sûreté des modèles de pointe. OpenAI a décrit un incident impliquant des capacités cyber jugées de niveau critique et a annoncé avoir suspendu pendant deux semaines une partie de l’entraînement par renforcement de ses derniers modèles afin de renforcer ses environnements de recherche et ses systèmes de surveillance. Dans le même temps, des chercheurs ont réclamé un durcissement des mesures de sécurité et un meilleur contrôle externe des laboratoires les plus avancés.
Le PDG d’Anthropic, Dario Amodei, appelle pour sa part à un ralentissement immédiat du développement de l’IA. Il avertit que des agents d’IA incontrôlables et toujours plus performants pourraient produire des conséquences désastreuses en quelques mois. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », a-t-il écrit, en ajoutant que le développement resterait rapide même en cas de freinage. Selon lui, un ralentissement donnant un à deux ans supplémentaires avant l’arrivée de capacités critiques permettrait de réduire fortement le risque qu’un incident grave survienne.
Amodei estime qu’en « 6 à 12 mois », un essaim d’IA plus capable pourrait prendre le contrôle de vastes parties d’Internet grâce à un réseau persistant de bots et provoquer « des centaines de milliards de dollars de dégâts ». Il juge que le potentiel de dommages augmentera à mesure que les capacités des systèmes progresseront sans protections suffisantes. Pour y répondre, il propose que les laboratoires de frontière accordent à des évaluateurs indépendants un accès comparable à celui des employés pour contrôler les pratiques de sécurité et signaler les incidents. Sam Altman a approuvé cette idée, affirmant être d’accord avec Dario Amodei sur la nécessité « d’encadrer le développement » et jugeant « excellente » la présence d’évaluateurs indépendants dotés d’un accès similaire à celui des salariés. Il a ajouté qu’OpenAI adopterait la même mesure et communiquerait prochainement davantage d’éléments. Elon Musk a lui aussi dit partager l’analyse de Dario Amodei sur la nécessité de ralentir le développement de l’industrie de l’IA.
Le débat dépasse les États-Unis. La Chine défend depuis des mois une régulation étatique de l’IA, tandis que la Russie a suivi la même orientation. Les BRICS ont également placé le sujet à leur agenda. Dans la déclaration de New Delhi adoptée lors du sommet de septembre 2026, les onze États membres se sont engagés à mettre en œuvre la déclaration des dirigeants des BRICS sur la gouvernance mondiale de l’intelligence artificielle. Le texte mentionne une coopération renforcée sur l’IA, avec une attention particulière portée à l’accès du Sud global aux ressources et aux technologies d’intelligence artificielle. Cette séquence marque un déplacement du centre de gravité du débat: les principaux acteurs privés de l’IA demandent désormais des freins publics, tandis que plusieurs États et blocs internationaux poussent déjà à un encadrement formel.
Sources :
- "Pacing model development in an era of cyber-critical capabilities" — openai.com
- "Prime Minister’s Office of India (via Public) / BRICS New Delhi Declaration: Building for Resilience, Innovation, Cooperation and Sustainability (September 12, 2026)" — publicnow.com
- "Anthropic CEO Dario Amodei says AI industry needs to give safety measures time to catch up" — apnews.com
- "Sam Altman says OpenAI is open to slowing AI development" — qz.com
- "Anthropic CEO Dario Amodei calls for slowing AI development" — qz.com
