Superintelligence : une IA pas comme les autres
Sam Altman, fondateur d’OpenAI, Greg Brockman, le CTO d’Open AI, et Ilya Sutskever, chef scientifique de la startup, ont ensemble rédigé un texte sur l’avenir de l’intelligence artificielle dite superintelligente. Ils prévoient qu’au cours de la prochaine décennie, l’IA surpassera les compétences expertes dans la majorité des domaines et aura une productivité inégalée. Toutefois ils soulignent que le potentiel de la superintelligence, tant en termes de bénéfices que de risques, est comparable à celui d’autres technologies auxquelles l’humanité a dû faire face par le passé, comme l’énergie nucléaire et la biologie synthétique.
Conscients des défis que pose l’IA superintelligente, Altman, Brockman et Sutskever plaident pour une gestion proactive des risques et une réglementation ciselée. Selon eux, il est crucial de ne pas simplement réagir aux dangers potentiels, mais de les anticiper, comme nous l’avons fait pour le nucléaire et la biologie synthétique. Ils insistent sur le fait que si nous devons atténuer les risques de l’IA actuelle, la superintelligence nécessitera une approche spéciale et une coordination accrue entre pay.
Dans cette perspective, les auteurs proposent trois principes fondamentaux pour réguler efficacement la superintelligence. Tout d’abord, ils préconisent une coordination parmi les principaux efforts de développement. Ensuite, ils appellent à la création d’une autorité internationale similaire à l’Agence internationale de l’énergie atomique pour superviser les projets liés à la superintelligence. Enfin, ils soulignent la nécessité d’acquérir la capacité technique de rendre la superintelligence sûre, une question de recherche encore ouverte.
Altman, Brockman et Sutskever défendent l’idée que les entreprises et les projets open-source devraient pouvoir développer des modèles d’IA de moindre capacité sans subir une régulation trop lourde. Ils reconnaissent que ces systèmes peuvent apporter une valeur immense au monde tout en présentant des risques qui sont, selon eux, comparables à ceux d’autres technologies Internet. La distinction entre les différentes formes d’IA est de leur point de vue fondamentale
Ils insistent sur le rôle crucial de la surveillance publique dans la gouvernance des systèmes d’IA les plus puissants. Altman, Brockman et Sutskever estiment que les décisions concernant le déploiement de ces systèmes devraient être soumises à un contrôle public rigoureux et que les citoyens du monde entier devraient être en mesure de décider démocratiquement des limites et des paramètres par défaut des systèmes d’IA.
- 5 outils essentiels pour optimiser votre relation client - 16/01/2025
- La France au CES 2025 : Une délégation d’envergure mondiale portée par l’innovation technologique - 20/12/2024
- Gestion financière, quels sont les nouveaux outils qui s’imposent à tous dirigeants et CFO pour piloter leurs activités? - 04/12/2024
