Crise existentielle chez OpenAI, la crainte de dérives de l’IA en question
Par Glenn CHAPMAN avec Thomas URBAIN à New York / AFP
Roi de l’intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l’IA.
Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d’administration refusait de démissionner, selon plusieurs médias.
Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d’OpenAI, créateur de l’interface ChatGPT, sans prendre le temps d’analyser les risques associés, ont rapporté des médias américains.
Pour Brendan Dolan-Gavitt, professeur d’informatique à l’université NYU Tandon, cette thèse est validée par l’arrivée d’Emmett Shear, désigné pour succéder à Sam Altman. « Il a souvent exprimé sa préoccupation quant à la sûreté de l’intelligence artificielle », rappelle l’universitaire.
« On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation », a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d’OpenAI.
Parmi les menaces posées par le développement de l’IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s’en prennent aux humains.
« Il est temps de s’intéresser aux risques de l’IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages », a plaidé Vinod Khosla.
Les événements des derniers jours ont mis en évidence les limites du modèle d’OpenAI, qui voulait placer sous le contrôle d’une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.
Les administrateurs « avaient perdu le sens des réalités », a estimé Carolina Milanesi, du cabinet Creative Strategies. « Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft? »
Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.
– Microsoft en vainqueur –
La séquence « met en lumière le fait qu’on ne peut pas laisser les entreprises auto-réguler l’IA, alors qu’il existe des divergences au sein de leur propre gouvernance », a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d’intelligence artificielle et entrepeneur.
« S’il vous plaît, ne renoncez pas à l’+AI Act+; nous en avons plus besoin que jamais », a-t-il poursuivi, en référence au texte destiné à encadrer l’intelligence artificielle et en cours de discussion au sein de l’Union européenne.
Le schisme d’OpenAI « va accélérer beaucoup de choses sur le front de la régulation », a prévenu Ryan Steelberg, directeur général de Veritone, société d’analyse de données grâce à l’IA.
Pour autant, « cela ne va pas ralentir la course à l’IA générative », prévient Carolina Milanesi. « Il s’agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position. »
Même si la situation est loin d’être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.
Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.
Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s’est engagé à embaucher tous les salariés d’OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.
Le géant des systèmes d’exploitation devenu monstre de l’informatique à distance (cloud) et de l’IA aurait alors absorbé les forces vives d’OpenAI sans avoir à se préoccuper de l’aval du régulateur.
« Si Microsoft avait essayé d’acheter OpenAI, ils n’auraient jamais eu le feu vert des autorités de la concurrence », considère Carolina Milanesi.
« Microsoft vient de réaliser l’acquisition la moins chère jamais vue », a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l’université NYU Stern.
« Mon souci », tempère l’universitaire, « c’est que cela va accélérer la course à l’IA », menée par des entreprises privées, à but lucratif, « et faire oublier aux gens que tout cela devrait faire l’objet d’un débat public. »
- EDEN AI lève 3 millions d’euros pour démocratiser l’accès à l’IA en entreprise - 21/11/2024
- Plan marketing 2025 : la méthode de Maxime Baumard pour structurer la stratégie B2B de PENNYLANE - 21/11/2024
- Freqens lève 3 millions d’euros pour accompagner les équipes achats dans leurs décisions. - 21/11/2024
