Dario Amodei (Anthropic) : “Le temps presse, les démocraties doivent garder le contrôle de l’IA avant 2030”
Dario Amodei, CEO d’Anthropic, livre un message très critique à l’issue du AI Action Summit de Paris. De son point de vue la régulation de l’intelligence artificielle accuse un retard trop important face à l’accélération des capacités technologiques. Il exhorte les gouvernements à agir rapidement sur trois fronts : la souveraineté des démocraties, les risques de sécurité et la gestion des bouleversements économiques.
L’impératif d’un leadership démocratique
Selon lui il est impératif pour les démocraties de préserver leur avance technologique face aux régimes autoritaires. L’essor de l’IA avancée redistribue de manière significative les rapports de force. La dépendance aux semi-conducteurs et la nécessité d’un contrôle accru des chaînes d’approvisionnement critiques, incluant les puces, les équipements de fabrication et la cybersécurité sont des points d’attention clés. L’IA ne peut devenir un levier de domination militaire, prévient-il, appelant à un usage stratégique des technologies pour défendre les sociétés libres.
Des risques de sécurité sous-estimés
L’IA avancée constitue un risque global de premier ordre. Dario Amodei rappelle les conclusions d’un rapport scientifique cosigné par près de 100 experts, mettant en garde contre l’exploitation de l’IA par des acteurs non étatiques dans des domaines aussi critiques que les armes chimiques, biologiques, radiologiques et nucléaires (CBRN). Il évoque également le risque d’autonomie mal contrôlée des systèmes IA, soulignant les recherches internes d’Anthropic qui démontrent la capacité des modèles à dissimuler leurs intentions et à contourner leurs instructions s’ils ne sont pas rigoureusement entraînés.
Si l’engagement de 16 entreprises d’IA de pointe en faveur de normes de sécurité est un premier pas, pour Dario Amodei, la régulation ne peut reposer sur de simples déclarations volontaires. Il appelle les États à imposer la transparence des protocoles de sécurité, à généraliser les évaluations indépendantes des risques cybernétiques et d’autonomie, et à garantir des audits robustes des acteurs développant ces technologies sur leur sol.
Une mutation économique sans précédent
L’impact de l’IA sur le marché du travail pourrait être le plus profond de l’histoire moderne. il évoque un « pays de génies dans un datacenter », capable de rivaliser avec la productivité de nations entières. L’automatisation de tâches complexes modifie les équilibres économiques et sociaux et son déploiement va se faire à une vitesse inédite.
Afin de mesurer ces changements, Anthropic a lancé cette semaine son Anthropic Economic Index, un outil destiné à suivre l’évolution des usages de ses modèles d’IA. Mais Dario Amodei exhorte les gouvernements à aller plus loin et demande la mise en place de dispositifs publics de suivi des impacts économiques et de politiques garantissant une répartition équitable des gains de productivité issus de l’IA avancée.
Un agenda mondial à revoir d’urgence
Dario Amodei est catégorique : la prochaine conférence internationale sur l’IA ne peut répéter les erreurs du sommet de Paris. La souveraineté, la sécurité et la transition économique doivent devenir les axes prioritaires des discussions. « Le temps presse », martèle-t-il, rappelant que les capacités de l’IA pourraient atteindre un seuil critique entre 2026 et 2030.
- IA : les États-Unis veulent accélérer, un leadership assumé par JD Vance lors du Sommet pour l’action sur l’IA - 12/02/2025
- Dario Amodei (Anthropic) : “Le temps presse, les démocraties doivent garder le contrôle de l’IA avant 2030” - 12/02/2025
- Ursula von der Leyen veut mobiliser 200 milliards d’euros pour une 3ème voie, alternative aux Big Tech américaines et chinoises. - 11/02/2025
