Le mystère de ce qui a conduit le conseil d’administration d’OpenAI à prendre la décision précipitée de licencier le PDG Sam Altman est peut-être maintenant résolu. Un nouveau rapport indique qu’un certain nombre de chercheurs les ont avertis d’une nouvelle avancée qui, selon eux, pourrait menacer l’humanité – après qu’Altman n’ait apparemment pas réussi à les en informer.
Dans une lettre adressée au conseil d’administration, les chercheurs ont suggéré que cette avancée – baptisée Q* et prononcée Q-Star – pourrait permettre à l’IA de « surpasser les humains dans les tâches les plus rentables sur le plan économique »…
L’histoire jusqu’ici
OpenAI annoncé Vendredi, quatre membres du conseil d’administration de la société avaient licencié Altman et démis Brockman du conseil d’administration. Seules les raisons les plus vagues ont été avancées, à savoir qu’Altman n’aurait « pas toujours été franc dans ses communications avec le conseil d’administration ».
Le monde de la technologie a soutenu Altman et les principaux investisseurs d’OpenAI ont tenté de le faire réintégrer. Des négociations ont eu lieu entre le conseil d’administration et les hauts dirigeants, mais elles n’ont pas abouti.
Microsoft a proposé des emplois à Altman, Brockman et à toute autre personne de l’équipe OpenAI souhaitant les rejoindre. Presque tout le personnel a ensuite envoyé une lettre ouverte au conseil d’administration déclarant qu’ils démissionneraient à moins qu’Altman ne soit réintégré et que le conseil d’administration soit licencié.
OpenAI a initialement déclaré que la CTO Mira Murati agirait en tant que PDG par intérim, mais dans les 48 heures, elle a déclaré que le co-fondateur de Twitch, Emmett Shear, la remplacerait – également à titre intérimaire.
Une deuxième série de négociations a ensuite eu lieu. Cela a abouti à la destitution de tous les membres du conseil d’administration sauf un et à la réintégration de Sam Altman en tant que PDG – avec quelques compromis notables.
Qu’est-ce que la percée Q* ?
Actuellement, si vous demandez à ChatGPT de résoudre un problème mathématique, il utilisera toujours son approche prédictive de texte sous stéroïdes consistant à compiler une réponse en utilisant une énorme base de données de texte et à décider mot par mot de la manière dont un humain répondrait. . Cela signifie qu’il peut ou non obtenir la bonne réponse, mais dans tous les cas, il n’a aucune compétence en mathématiques.
OpenAI semble avoir fait une percée dans ce domaine, permettant à un modèle d’IA de résoudre véritablement des problèmes mathématiques qu’il n’a jamais vus auparavant. Ce développement est appelé Q*. Malheureusement, l’équipe n’a pas utilisé un modèle de dénomination suffisamment intelligent pour éviter quelque chose qui ressemble à un pointeur vers une note de bas de page, je vais donc utiliser la version Q-Star.
On dit que les capacités mathématiques actuelles de Q-Star sont celles d’un élève d’une école primaire, mais on s’attend à ce que ces capacités s’améliorent rapidement.
Le modèle Q-Star menace-t-il l’humanité ?
À première vue, un système d’IA capable de résoudre des équations ne semble pas être un cauchemar dystopique. Soit les humains vont travailler dans les mines de sel, soit Q-Star détermine laquelle des quatre lignes est parallèle à 2.oui=X+7.
Mais un Reuters Le rapport indique que la recherche Q-Star pourrait ouvrir la voie au Saint Graal de l’IA : l’intelligence artificielle générale (AGI).
Certains chez OpenAI pensent que Q* (prononcer Q-Star) pourrait constituer une avancée majeure dans la recherche par la startup de ce que l’on appelle l’intelligence artificielle générale (AGI), a déclaré l’une des personnes à Reuters. OpenAI définit l’AGI comme des systèmes autonomes qui surpassent les humains dans les tâches les plus rentables.
Grâce à de vastes ressources informatiques, le nouveau modèle a pu résoudre certains problèmes mathématiques, a déclaré la personne sous couvert d’anonymat, car l’individu n’était pas autorisé à parler au nom de l’entreprise. Bien qu’ils n’effectuent des mathématiques qu’au niveau des élèves du primaire, la réussite de ces tests a rendu les chercheurs très optimistes quant au succès futur de Q*, a indiqué la source.
AGI est le nom donné à un système d’IA suffisamment intelligent pour fonctionner n’importe lequel tâche que les êtres humains peuvent accomplir. Si cet objectif était un jour atteint, cela conduirait effectivement au remplacement des emplois de presque tous les êtres humains par l’IA.
Le licenciement d’Altman pourrait désormais avoir du sens
Si la percée de Q-Star rend effectivement le développement d’AGI encore plus légèrement plus probablement, et qu’Altman n’a pas informé le conseil d’administration de ce fait, cela expliquerait alors le commentaire du conseil sur son manque de franchise et l’urgence perçue du licenciement.
Cependant, il convient de noter qu’il s’agit – à notre connaissance – d’une préoccupation partagée par un nombre relativement restreint de chercheurs, comme l’indique la grande majorité du personnel d’IA soutenant Altman contre le conseil d’administration. L’argent intelligent (ou les gens intelligents) semble être du côté des préoccupations exagérées.
Il est néanmoins logique de conserver la structure d’entreprise existante, dans laquelle un conseil d’administration indépendant – sans investissement financier dans l’aile commerciale de l’IA – assure la surveillance et prend des décisions sur l’ampleur et la rapidité avec lesquelles l’entreprise à but lucratif devrait pousser.
Ou non …
Cependant, Le bord cite une source réfutant le Reuters histoire.
Une personne proche du dossier a déclaré Le bord que le conseil d’administration n’a jamais reçu de lettre concernant une telle avancée et que les progrès de la recherche de l’entreprise n’ont pas joué de rôle dans le licenciement soudain d’Altman.
C’est juste une personne, et le Reuters La pièce offre une explication très plausible, mais il semble que le mystère et le drame continuent encore pendant un certain temps !
FTC : Nous utilisons des liens d’affiliation automatique générateurs de revenus. Plus.
