Q*
L'admissibilité de cette page est à vérifier ().
Motif : Un projet "porté à la connaissance du public en novembre 2023" : difficile d'espérer des sources secondaires à deux ans d'écart. Et un RI rédigé au conditionnel devrait allumer plusieurs feux rouges... Quel recul encyclopédique ?
Vous êtes invité à compléter l'article pour expliciter son admissibilité, en y apportant des sources secondaires de qualité, ainsi qu'à discuter de son admissibilité. Si rien n'est fait, cet article sera proposé au débat d'admissibilité un an au plus tard après la mise en place de ce bandeau.| 1. | Préciser le motif de la pose du bandeau. | Précisez le motif de la pose du bandeau en utilisant la syntaxe suivante :
{{admissibilité à vérifier|date=mai 2024|motif=remplacez ce texte par le motif}} |
|---|---|---|
| ou | Créer l'espace de discussion. (cette méthode est préférable) |
Créez une section "Admissibilité" en page de discussion de l'article en y précisant le motif de la pose du bandeau. Dans ce cas, utilisez la syntaxe suivante :
{{admissibilité à vérifier|date=mai 2024|motif=pdd}} |
| 2. | Informer les utilisateurs concernés. | Pensez à avertir le créateur de l'article, par exemple, en insérant le code ci-dessous sur sa page de discussion :
{{subst:avertissement admissibilité à vérifier|Q*}}
|
| Type |
Projet informatique (d) |
|---|
Q* (prononcer « Q-star ») est un projet (présenté comme confidentiel), révélé en 2023 par Reuters[1], et développé au sein d'OpenAI ; il s'agirait d'un projet de recherche et développement d'un nouveau modèle de langage (une intelligence artificielle) au raisonnement logique et mathématique ; un modèle qui pourrait s'approcher de ce qu'on appelle l'intelligence artificielle générale (IAG), c'est-à-dire d'un type d'IA qui serait capable de rapidement comprendre, apprendre et s'adapter à une grande variété de tâches.
Q* aurait déjà réussi à résoudre des exercices de mathématiques simples (de « niveau primaire ») mais qui peuvent laisser augurer de nouveaux progrès[2].
Enjeux[modifier | modifier le code]
Le projet Q*, s'il aboutissait, aurait le potentiel de révolutionner le domaine de l'intelligence artificielle en lui faisant faire un grand pas vers l'intelligence artificielle générale, définie, selon Reuters, par OpenAI « comme des systèmes autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles »[1].
En effet, il rendrait l'intelligence artificielle capable de résoudre des problèmes très complexes, mieux et plus rapidement que ne le feraient les humains. L'intelligence artificielle pourrait aussi formuler et probablement résoudre des problèmes qui ne sont pas à la portée actuelle des humains.
Un tel projet soulève cependant des questions éthiques nouvelles et importantes. Ainsi, si une intelligence artificielle générale dépasse l'intelligence humaine, comment les humains peuvent s'assurer qu'elle sera utilisée à des fins bénéfiques ?
Histoire[modifier | modifier le code]
Le projet Q* a été porté à la connaissance du public en novembre 2023. Selon Reuters : « une équipe de "scientifiques de l’IA" » a été formé « en combinant les équipes précédentes de "Code Gen" et de "Math Gen" », pour « optimiser les modèles d’IA existants pour améliorer leur raisonnement et éventuellement effectuer des travaux scientifiques »[1].
À propos d'une supposée « percée du modèle Q* », Sam Altman, interrogé par le journal The Verge le 30 novembre 2023 a répondu :
- « Pas de commentaire particulier sur cette malheureuse fuite. Mais ce que nous avons dit — il y a deux semaines, ce que nous disons aujourd'hui, ce que nous disions il y a un an, ce que nous disions plus tôt — c'est que nous nous attendons à ce que les progrès dans cette technologie continuent d'être rapides et que nous nous attendons à continuer à travailler très fort pour trouver comment la rendre sûre et bénéfique »[3].
Dans le domaine de l'IA, la lettre Q peut désigner la fonction qui mesure la qualité d'une action exécutée dans un état donné du système[4].
En novembre 2023, certains employés d'OpenAI auraient fait part de leurs inquiétudes au conseil d'administration de l'entreprise, suggérant que Q* pourrait aboutir de manière imminente à l'émergence d'une intelligence artificielle générale[5] capable de rivaliser avec l'humain. Selon eux, cette IA aurait déjà atteint le niveau de mathématiques des élèves du primaire[5],[6],[7] (l'utilisation autonome d'une logique mathématique est jusqu'ici l'une des frontières que IAg (IA générative, comme Bard ou ChatGPT).
Selon Reuters, ceci aurait justifié le licenciement brutal de Sam Altman (PDG d'OpenAI)[5] par son conseil d'administration[8],[1].
Le conseil d'administration d'OpenAI a expliqué que le départ de Sam Altman aurait été dû à un manque de franchise à l'égard du Conseil, notamment concernant la commercialisation rapide d'avancées de l'IA sans une compréhension adéquate des implications[9].
Lindsey Held Bolton (porte-parole d'OpenAI), a contesté cette perspective dans une déclaration transmise au média The Verge où OpenAI explique que Mira Murati (ingénieure logiciel ayant contribué à développer ChatGPt et DALL-E, devenue directrice technique d'OpenAI) a expliqué aux employés de quoi parlaient les reportages des médias, mais sans avoir commenté l'exactitude de l'information.
Une source proche de la situation a informé The Verge que le conseil d'administration n'avait jamais reçu de lettre concernant un développement aussi révolutionnaire et que les progrès des recherches de l'entreprise n'avaient pas été pris en compte dans le licenciement brutal d'Altman[10].
D'autres acteurs du domaine de l'IA ont émis des doutes concernant les allégations d'apparition d'une intelligence artificielle générale (IAG).
- Pour François Chollet, chercheur en IA chez Google qui travaille sur la façon d'atteindre une plus grande généralité en matière d'intelligence artificielle[11] : « Chaque mois à partir de maintenant, il y aura des rumeurs selon lesquelles une IAG aurait été réalisée en interne ; des rumeurs, pas de véritable article, ni de sortie d'un produit ou quelque chose du genre.
- Yann LeCun, scientifique en chef de l'IA chez Meta, a qualifié les rumeurs à propos de Q* de « déluge d'absurdités totales » : « Ignorez le déluge de non-sens complet à propos de Q*. L'un des principaux défis pour améliorer la fiabilité des LLM est de remplacer la prédiction de tokens Auto-Régressive par la planification. Pratiquement tous les principaux laboratoires (FAIR, DeepMind, OpenAI, etc.) travaillent sur cela et certains ont déjà publié des idées et des résultats. Il est probable que Q* soit la tentative d'OpenAI en matière de planification. Ils ont pratiquement embauché Noam Brown (de Libratus/poker et Cicero/Diplomacy fame) pour travailler sur ce sujet.
Note : Je plaide pour une architecture d'apprentissage profond capable de planifier depuis 2016 »[12].
La première panique à propos de l'imminence d'une IAG avait eu lieu vers 2013 à propos d'Atari Q-learning par DeepMind. La seconde a eu lieu vers 2016 à propos de Deep RL (partiellement déclenchée par AlphaGo).
Références[modifier | modifier le code]
- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Q* » (voir la liste des auteurs).
- (en) Anna Tong, Jeffrey Dastin et Krystal Hu, « OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say » [« Les chercheurs d'OpenAI ont mis en garde le conseil d'administration contre une percée de l'IA avant l'éviction du PDG, selon des sources »], communiqué de presse, sur reuters.com, .
- (en) Jon Victor et Amir Efrati, « OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern », sur The Information, (consulté le ).
- (en) Alex Heath, « Interview: Sam Altman on being fired and rehired by OpenAI », sur The Verge, (consulté le ).
- (en) Tambet Matiisen, « Demystifying Deep Reinforcement Learning », sur neuro.cs.ut.ee, (consulté le ).
- (en) Anna Tong, Jeffrey Dastin et Krystal Hu, « OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say », sur reuters.com, (consulté le ) : « Some at OpenAI believe Q* (pronounced Q-Star) could be a breakthrough in the startup's search for what's known as artificial general intelligence (AGI), one of the people told Reuters. OpenAI defines AGI as autonomous systems that surpass humans in most economically valuable tasks. »
- PRM800K: 800,000 step-level correctness labels on LLM solutions to MATH problems
- (en) Hunter Lightman, Vineet Kosaraju, Yura Burda, Harri Edwards, Bowen Baker, Teddy Lee, Jan Leike, John Schulman, Ilya Sutskever et Karl Cobbe, « Let's Verify Step by Step », .
- (en) Richard Lawler, « Turmoil at OpenAI: Now that Sam Altman is back, what's next for the creators of ChatGPT? », sur The Verge, (consulté le ).
- Marie-Claude Benoit, « Q*, le modèle d'IA qui pourrait être la cause du licenciement de Sam Altman », sur ActuIA, (consulté le ).
- (en) Alex Heath, « A recent OpenAI breakthrough on the path to AGI has caused a stir », sur The Verge, (consulté le ).
- (en) Matthew Hutson, « To Really Judge an AI's Smarts, Give it One of These IQ Tests », IEEE Spectrum, (consulté le ).
- « https://twitter.com/ylecun/status/1728126868342145481 », sur twitter.com (consulté le ).
Voir aussi[modifier | modifier le code]
Bibliographie[modifier | modifier le code]
- (en) Matthew Field, « OpenAI board warned Project Q* could 'threaten humanity' prior to Sam Altman’s sacking », The Telegraph, (lire en ligne).
