ACTUALITE

Crise existentielle chez OpenAI, la crainte de dérives de l’IA en question

Par Glenn CHAPMAN avec Thomas URBAIN à New York / AFP

Roi de l’intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l’IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d’administration refusait de démissionner, selon plusieurs médias.

NOUVEAU 👉 Suivez l’essentiel de la tech sans le blabla. Des insights, des exclus, et ce qui compte vraiment. Abonnez-vous à notre channel WhatsApp et gardez une longueur d’avance !

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d’OpenAI, créateur de l’interface ChatGPT, sans prendre le temps d’analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d’informatique à l’université NYU Tandon, cette thèse est validée par l’arrivée d’Emmett Shear, désigné pour succéder à Sam Altman. « Il a souvent exprimé sa préoccupation quant à la sûreté de l’intelligence artificielle », rappelle l’universitaire.

« On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation », a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d’OpenAI.

Parmi les menaces posées par le développement de l’IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s’en prennent aux humains.

« Il est temps de s’intéresser aux risques de l’IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages », a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d’OpenAI, qui voulait placer sous le contrôle d’une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs « avaient perdu le sens des réalités », a estimé Carolina Milanesi, du cabinet Creative Strategies. « Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft? »

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

– Microsoft en vainqueur –
La séquence « met en lumière le fait qu’on ne peut pas laisser les entreprises auto-réguler l’IA, alors qu’il existe des divergences au sein de leur propre gouvernance », a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d’intelligence artificielle et entrepeneur.

« S’il vous plaît, ne renoncez pas à l’+AI Act+; nous en avons plus besoin que jamais », a-t-il poursuivi, en référence au texte destiné à encadrer l’intelligence artificielle et en cours de discussion au sein de l’Union européenne.

Le schisme d’OpenAI « va accélérer beaucoup de choses sur le front de la régulation », a prévenu Ryan Steelberg, directeur général de Veritone, société d’analyse de données grâce à l’IA.

Pour autant, « cela ne va pas ralentir la course à l’IA générative », prévient Carolina Milanesi. « Il s’agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position. »

Même si la situation est loin d’être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s’est engagé à embaucher tous les salariés d’OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d’exploitation devenu monstre de l’informatique à distance (cloud) et de l’IA aurait alors absorbé les forces vives d’OpenAI sans avoir à se préoccuper de l’aval du régulateur.

« Si Microsoft avait essayé d’acheter OpenAI, ils n’auraient jamais eu le feu vert des autorités de la concurrence », considère Carolina Milanesi.

« Microsoft vient de réaliser l’acquisition la moins chère jamais vue », a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l’université NYU Stern.

« Mon souci », tempère l’universitaire, « c’est que cela va accélérer la course à l’IA », menée par des entreprises privées, à but lucratif, « et faire oublier aux gens que tout cela devrait faire l’objet d’un débat public. »

Découvrez WE-INNOVATE.EU, la plateforme d'intelligence économique consacrée à l'innovation en europe. Retrouvez les informations de plus de 6000 startups et 700 fonds d'investissements Pour en savoir plus, cliquez ici
Bouton retour en haut de la page