Ce qu’Elon Musk et Ilya Sutskever craignaient à propos de l’OpenAI est en train de devenir réalité

Dans le cadre de l’évolution d’OpenAI vers l’intelligence artificielle générale (A.G.I.), terme désignant une technologie dont l’intelligence est équivalente à celle de l’homme, l’entreprise tenterait de permettre aux modèles d’A.I. d’effectuer des raisonnements avancés. Ces travaux sont menés dans le cadre d’un projet secret dont le nom de code est “Strawberry”, comme le rapporte Reuters, qui précise que le projet était auparavant connu sous le nom de Q* ou Q Star. Si le nom a changé, le projet n’est pas tout à fait nouveau. Les chercheurs et les cofondateurs d’OpenAI ont déjà mis en garde contre cette initiative, et les inquiétudes qu’elle suscite auraient joué un rôle dans la brève éviction de Sam Altman du poste de PDG d’OpenAI en novembre. 

Strawberry utilise une méthode unique de post-entraînement des modèles d’IA, un processus qui améliore leurs performances après avoir été entraînés sur des ensembles de données, selon Reuters, qui cite des documents internes d’OpenAI et une personne familière avec le projet. Avec l’aide d’ensembles de données de “recherche approfondie”, l’entreprise vise à créer des modèles qui affichent un raisonnement de niveau humain. OpenAI serait en train d’étudier comment Strawberry peut permettre aux modèles d’accomplir des tâches sur une période prolongée, de faire des recherches sur le web par eux-mêmes et de prendre des mesures en fonction de leurs résultats, ainsi que d’effectuer le travail d’ingénieurs. OpenAI n’a pas répondu aux demandes de commentaires de l’Observer. 

M. Altman, qui a déjà réitéré le désir d’OpenAI de créer des modèles capables de raisonner, a brièvement perdu le contrôle de son entreprise l’année dernière lorsque son conseil d’administration l’a licencié pendant quatre jours. Peu avant cette éviction, plusieurs employés d’OpenAI s’étaient inquiétés des percées présentées par ce qui était alors connu sous le nom de Q*, un projet dirigé par Ilya Sutskever, l’ancien directeur scientifique d’OpenAI. Sutskever lui-même aurait commencé à s’inquiéter de la technologie du projet, tout comme les employés d’OpenAI travaillant sur la sécurité de l’I.A. à l’époque. Après sa réintégration, M. Altman a qualifié les informations sur Q* de “fuite malheureuse” dans une interview accordée à The Verge. 

Elon Musk, un autre cofondateur d’OpenAI, a également tiré la sonnette d’alarme au sujet de Q* par le passé. Le milliardaire, qui a rompu ses liens avec l’entreprise en 2018, a fait référence au projet dans un procès intenté contre OpenAI et Altman, qui a depuis été abandonné. Tout en discutant du partenariat étroit d’OpenAI avec Microsoft (MSFT), le procès de Musk affirmait que les termes de l’accord dictent que Microsoft n’a que des droits sur la technologie pré-A.G.I. d’OpenAI et qu’il appartient au conseil d’administration d’OpenAI de déterminer quand la société a atteint l’A.G.I.. 

Musk a soutenu que le modèle GPT-4 d’OpenAI constitue une I.G.A. qui, selon lui, “représente une grave menace pour l’humanité”, d’après le procès. Les documents déposés au tribunal indiquent qu'”OpenAI développe actuellement un modèle connu sous le nom de Q* qui a une prétention encore plus forte à l’I.G.A.”. 

De récentes réunions internes ont suggéré qu’OpenAI progresse rapidement vers le type de raisonnement humain sur lequel travaille Strawberry. Lors d’une réunion générale d’OpenAI qui s’est tenue au début du mois, la société a dévoilé un système à cinq niveaux pour suivre ses progrès vers l’I.G.A., comme l’a rapporté Bloomberg. Alors que l’entreprise a déclaré qu’elle en était actuellement au premier niveau, connu sous le nom de “chatbots”, elle a révélé qu’elle avait presque atteint le deuxième niveau, celui des “raisonneurs”, qui implique une technologie capable de résoudre des problèmes à l’échelle humaine. Les étapes suivantes consistent en des systèmes d’IA agissant comme des “agents” qui peuvent prendre des mesures, des “innovateurs” qui aident à l’invention et des “organisations” qui font le travail d’une organisation.