L'intelligence artificielle générative ou IA générative (en anglais: generative artificial intelligence ou GenAI) est un type de système d'intelligence artificielle (IA) capable de générer du texte, des images, des vidéos ou d'autres médias en réponse à des requêtes (aussi appelées invites, ou en anglais prompts)[1],[2].
Elle semble avoir des applications possibles dans presque tous les domaines, avec une balance des risques et des opportunités encore discutée: l'IA générative est en effet aussi source d'inquiétudes et de défis éthiques, techniques et socioéconomiques à la hauteur des espoirs qu'elle suscite. Elle peut contribuer à des usages abusifs, accidentels ou détournés (militaires notamment), à une suppression massive d'emplois, à une manipulation de la population via la création de fausses nouvelles, de deepfakes[3] ou de nudges numériques[4].
L'IA générative questionne aussi philosophiquement la nature de la conscience, de la créativité, de la paternité[5], et crée de nouvelles interactions humain-machine. Elle est encore (en 2024) peu régulée et la difficulté d’évaluer la qualité et la fiabilité des contenus générés ou l’impact sur la créativité et la propriété intellectuelle humaines est croissante. Certains experts craignent que des IA génératives à venir soient capables de manipuler les humains, d'accéder à des systèmes d'armes, d'exploiter des failles de cybersécurité, voire peut-être bientôt d'acquérir une forme de conscience ou de devenir incontrôlable au point de menacer l'existence de l'humanité[6]. Un premier sommet mondial en sûreté de l'IA a été organisé en à Bletchley Park au Royaume-Uni, où la création d'un équivalent du GIEC pour informer sur les risques liés à l'IA a notamment été discutée[7].
La littérature anglophone spécialisée parle aussi d'AIGC, l'acronyme de Artificial Intelligence Generated Content («Contenu Généré par Intelligence Artificielle»)[8].
L'IA générative est associée à des «modèles génératifs», qui produisent de multiples sorties (outputs ou résultats, qui vont du texte et de l'image à des agents conversationnels ou à l'impression 3D). Un modèle génératif peut être utilisé comme «fondation» d’autres systèmes[9]. Et plusieurs modèles génératifs peuvent être associés. Par exemple avec ChatGPT, où le générateur de texte GPT-4 peut envoyer des requêtes à DALL-E 3 pour générer des images[10].
Une IA est dite multimodale quand elle peut analyser ou générer différents types de données. Par exemple, l'IA générative Google Gemini est multimodale, car bien que ne générant que du texte, elle peut analyser du texte, des images, du son, et des vidéos[11].
L'IA générative ne doit pas être confondue avec l'IA générale, qui est souvent définie comme une IA au moins aussi compétente que l'humain dans pratiquement toutes les tâches cognitives[12].
Un modèle de fondation, tel que défini par l’université de Stanford, est un modèle large (de grande taille) fondé sur une architecture de réseau de neurones profond, et entraîné sur une quantité massive de données non annotées (généralement par apprentissage auto-supervisé)[9]. Les grands modèles de langage (LLM pour Large Language Model) en font partie (entraînés sur un grand corpus de textes)[9]. Leur préentraînement est long et couteux, mais ils peuvent ensuite, moyennant quelques réglages, être adaptés et optimisés pour de nouvelles tâches, sans nécessiter beaucoup de données supplémentaires[9].
Le , Open source initiative propose une première version de sa définition d'IA open source[13], inspirée des 4 libertés de la définition du logiciel libre par la Free Software Foundation[14]. Celle-ci impose une description complète des données d'entraînement sans pour autant imposer de mécanisme juridique pour décrire ces données. Cette définition exclut notamment Llama, l'IA générative de l'entreprise Meta, anciennement Facebook[15].
L'origine des médias générés par algorithme remonte au développement de la chaîne de Markov, utilisée pour modéliser le langage naturel depuis le début du XXe siècle. Le mathématicien russe Andreï Markov a introduit ce concept en 1906[16],[17], notamment par une analyse des schémas vocaliques et consonantiques d'Eugène Onéguine. Une fois entraînée sur un corpus textuel, une chaîne de Markov peut générer du texte probabiliste[18],[19].
Au début des années 1970, les artistes ont commencé à utiliser l'informatique pour étendre les techniques génératives au-delà des modèles de Markov. Harold Cohen a développé et exposé des œuvres produites par AARON, un programme informatique novateur conçu pour créer des peintures de manière autonome[20]. Les termes «planification par IA générative» ou «planification générative» ont été utilisés dans les années 1980 et 1990 pour désigner les systèmes de planification par IA, en particulier la planification des processus assistée par ordinateur, utilisés pour générer des séquences d'actions permettant d'atteindre un objectif précis[21],[22]. Les systèmes de planification par IA générative utilisaient des méthodes d'IA symbolique telles que la recherche état-espace et la satisfaction de contraintes, et constituaient une technologie «relativement mature» au début des années 1990. Ils ont été utilisés pour générer des plans d'action de crise à usage militaire[23], des plans de processus pour la production[21] et des plans de décision, notamment pour les prototypes de vaisseaux spatiaux autonomes[24].
Réseaux de neurones génératifs (depuis la fin des années 2000)
En 2014, l'introduction de modèles tels que l'auto-encodeur variationnel (variational autoencoder, VAE) et le réseau antagoniste génératif (generative adversarial network, GAN) a permis une modélisation générative profonde efficace de données complexes telles que les images[27],[28].
En 2017, l'architecture transformeur a permis de réaliser de nouvelles avancées dans la modélisation générative par rapport aux précédents réseaux LSTM (long short-term memory, signifiant mémoire à long et court terme)[29]. Ces avancées ont conduit au développement de modèles transformeur génératifs préentraînés (generative pre-trained transformer, GPT), à commencer par GPT-1 en 2018[30].
Les images générées par l'IA sont devenues beaucoup plus sophistiquées.
En mars 2020, le lancement de 15.ai, une application web gratuite créée par un chercheur anonyme du MIT capable de générer des voix de personnages convaincantes à partir de données d'entraînement minimales, a constitué l'une des premières applications publiques de l'IA générative[31]. La plateforme est considérée comme le premier service grand public de deepfakes audios[32],[33].
D'autres projets, notamment des approches open source telles que VQGAN+CLIP et DALL·E Mini (renommé plus tard Craiyon), ont rendu des systèmes similaires plus accessibles au public[35].
En novembre 2022, la publication de ChatGPT a popularisé l'IA générative pour les tâches textuelles générales[38],[39],[40].
Investissements privés dans l'IA (rose) et l'IA générative (vert)
Selon une enquête menée en 2024 par le cabinet d'études de marché Ipsos, les pays d'Asie-Pacifique se montraient nettement plus optimistes que les sociétés occidentales quant à l'IA générative, affichant des taux d'adoption plus élevés. Malgré certaines inquiétudes concernant la protection de la vie privée et le rythme d'évolution, 68% des personnes interrogées en Asie-Pacifique estimaient que l'IA avait un impact positif sur le monde, contre 57% à l'échelle mondiale[41]. D'après une enquête réalisée par SAS et Coleman Parkes Research, en 2023, 83% des répondants chinois utilisaient cette technologie, dépassant ainsi la moyenne mondiale de 54% et le taux américain de 65%. Un rapport de l'ONU indiquait que les entités chinoises avaient déposé plus de 38 000 brevets relatifs à l'IA générative entre 2014 et 2023, un nombre supérieur à tout autre pays[42]. Une enquête menée en 2024 par l’application de médias sociaux Just So Soul a révélé que 18% des répondants nés après 2000 utilisaient l’IA générative «presque tous les jours», et que plus de 60% des répondants aimaient ou adoraient le contenu généré par l’IA (CGIA), tandis que moins de 3% le détestaient ou ne n’aimaient pas[43].
Vers le milieu de l'année 2025, les entreprises ont abandonné de plus en plus les projets pilotes d'IA générative en raison de difficultés d'intégration et de qualité des données et des retours sur investissement insuffisants, ce qui a conduit les analystes de Gartner et de The Economist à caractériser cette période comme le début de la phase de «désillusion» du cycle du hype de Gartner[44].
En décembre 2025, une étude publiée par Science montre que l'adoption de grands modèles de langages par les scientifiques augmente leur productivité, de 36% à 60%, mais diminue la qualité de leurs travaux et la probabilité d'être acceptés par des revues spécialisées[45].
Selon une analyse d’OpenAI en 2018: «depuis 2012, la quantité de calcul utilisée dans les plus grands entraînements d’IA a augmenté de manière exponentielle avec un temps de doublement de 3,4 mois (en comparaison, la loi de Moore avait une période de doublement de deux ans).
Depuis 2012, cette métrique[46] a augmenté de plus de 300 000 fois (une période de doublement de deux ans ne donnerait qu’une augmentation de sept fois)»[47]. Cette augmentation de la puissance de calcul a facilité l’émergence d’IA pouvant générer du texte, du code informatique, de la musique, des voix, des images, de la vidéo[48], des modèles 3D ou encore des séquences de mouvements.
Ces systèmes d'IA s'inspirent des données d'entraînement pour créer du contenu inédit. Ils ne se contentent pas de classer les données d'entrée qu'on leur a fournies, ni de prédire des données statistiquement probables. Ils génèrent des contenus nouveaux qui ne sont en général que partiellement similaires aux données sur lesquelles ils ont été entraînés[48]. Divers filtres ou curseurs permettent de donner une plus ou moins grande liberté à l'IA[9]. Certains modèles d'IA permettent d'ajouter aux invites textuelles des «prompts négatifs» (qui sont des invites expliquant ce qu'on ne veut pas voir dans la réponse attendue de l'IA).
Les versions publiques de grands modèles d'IA générative disponibles en 2022 et 2023 produisent des contenus modulés et filtrés de manière à limiter leurs biais, les contenus trompeurs, dangereux, racistes, biaisés, choquants, haineux, non sollicités, les images pornographiques ou sexuellement explicites[49],[50],[51],[52]. Au début des années 2020, la puissance de calcul de l’IA a doublé tous les six à dix mois, permettant aux modèles d’IA de progresser à un rythme exponentiel.
Les anglophones parlent de «Frontier AI» pour désigner les modèles d'IA aux capacités les plus élevées et générales, et qui pourraient présenter des risques nouveaux[53]. Ce type d'IA s'est fait connaître du public par ChatGPT (et sa variante Bing Chat), un chatbot (agent conversationnel programmable) conçu par OpenAI à partir de ses grands modèles de langagede fondationGPT-3 et GPT-4[54], ainsi que par Bard, un chatbot de Google basé sur LaMDA, qui a évolué vers Gemini. D'autres modèles d'IA générative incluent des systèmes artistiques d'intelligence artificielle tels que Stable Diffusion, Midjourney et DALL-E[55]. Ces IA ont un très large spectre d'applications potentielles dans des domaines créatifs (arts plastiques, cinéma, musique, écriture, design, météo, architecture…), mais aussi dans les secteurs de la santé, de la finance, des jeux vidéo et des simulateurs, dans tous les domaines des sciences et techniques, des sciences sociales, de l'industrie et de la connaissance. Elles ont récemment permis un bond en avant en biologie moléculaire et en compréhension de phénomènes physiques complexes. Elles permettent de synthétiser des visages et des voix humaines à l'apparence réaliste. Elles offrent de nouveaux modes d'exploration d'hypothèses et de scenarios (notamment depuis peu grâce à la production de données synthétiques sophistiquées, issues du domaine de la recherche générative assistée par IA)[réf.nécessaire].
Les cadres technologiques et conceptuels les plus importants pour aborder l'IA générative sont en cours d’élaboration depuis un certain temps[5], mais ils n'ont vraiment abouti que dans les années 2020 à plusieurs types de modèles d'IA particulièrement efficaces:
les réseaux antagonistes génératifs (GAN), composés de deux parties: un réseau générateur créant de nouveaux échantillons de données, et un réseau discriminateur, qui évalue si les échantillons sont réels ou faux. Les deux réseaux sont entraînés ensemble dans le cadre d'un processus concurrentiel, le réseau générateur essayant continuellement de produire des échantillons de meilleure qualité et plus réalistes, tandis que le réseau discriminateur s'efforce d'identifier avec précision les faux échantillons[56];
les modèles de diffusion(en)[57] (ex.: Stable Diffusion), qui consistent à débruiter une image de façon à y faire apparaître le motif demandé alors que celui-ci est absent de l'image de départ[56];
L'IA générative est encore loin de répondre «de manière fiable ou digne de confiance, et il reste encore beaucoup de travail à faire pour rendre ces sources fiables et impartiales»[5], mais elle a des applications (actuelles ou potentielles) dans des domaines aussi variés que l’art, l'industrie, le jeu vidéo, la musique, la médecine, le développement logiciel, le marketing, les biotechnologies, la finance ou encore la mode[62],[63].
Une IA générative est souvent entraînée par apprentissage auto-supervisé sur de vastes ensembles de données. Ses capacités dépendent des types de données (modalité) utilisés pour l'entraînement, ce qui peut inclure du texte, des images fixes, du son ou des vidéos.
Une IA générative est dite «unimodale» quand elle ne peut accepter et créer qu'un seul type de données, comme du texte. Elle est appelée «multimodale» quand elle peut traiter ou générer plusieurs types de données, par exemple du texte et des images[64].
Les modalités possibles incluent:
du texte: les systèmes d'IA générative peuvent être entraînés sur des mots par l'intermédiaire de jetons (tokens). C'est le cas des transformeurs génératifs préentraînés comme GPT-4, LaMDA, LLaMA, Gemini ou BLOOM. Ils sont entre autres capables de tenir des conversations, de traduire, ou de résumer. BookCorpus(en) et Wikipédia figurent parmi les ensembles de données souvent utilisés pour l'entraînement. Le code informatique étant une forme de texte structuré, les grands modèles de langage peuvent être entraînés sur des langages de programmation. Cela leur permet de générer le code source de nouveaux programmes informatiques.
des images: les systèmes d'IA générative peuvent être entraînés sur des ensembles d'images associés à leur description textuelle. Par exemple avec Imagen, DALL-E, Midjourney, Stable Diffusion ou Flux. Ils sont couramment utilisés pour la génération d'images à partir de texte et pour le transfert de style pictural[65]. Les jeux de données sont notamment LAION-5B et d'autres.
de la musique: les systèmes d'IA générative tels que MusicLM sont entraînés sur les formes d'ondes sonores de la musique enregistrée associée à des annotations textuelles. Ils peuvent générer de nouveaux échantillons musicaux à partir de descriptions textuelles telles qu'«une mélodie de violon apaisante soutenue par un riff de guitare distordu».
Vidéo générée par Sora en février 2024.de la vidéo: les systèmes d'IA générative entraînés sur des vidéos annotées peuvent générer des clips vidéo à partir d'une description textuelle. C'est le cas notamment de Gen-4 (Runway AI)[66], Make-A-Video (Meta)[67], Veo (Google DeepMind) ou Sora (OpenAI).
des actions: certains systèmes d'IA peuvent être entraînés à contrôler des robots. Des modèles vision-langage-action(en) comme Gemini Robotics peuvent analyser un flux d'images et réagir à des requêtes textuelles par des séries de mouvements[68].
L'IA générative est notamment utilisée dans la production audiovisuelle. Le producteur et réalisateur français Guillaume Sanjorge souligne son utilisation pour le traitement du son, le doublage, certaines transitions visuelles et la création d'éléments de décor[69],[70]. Il défend l'idée que ces outils facilitent la production mais que la créativité humaine demeure essentielle, les systèmes génératifs tendant à reproduire des modèles existants[69],[71]. Interrogé par Télérama sur l'essor des Duanju, Guillaume Sanjorge affirme également que l'IA permet à des producteurs indépendants de créer des univers visuels auparavant réservés aux grands studios, notamment par la génération de décors numériques[72]. Dans une analyse consacrée au développement mondial des Duanju, L'Express cite également Guillaume Sanjorge parmi les pionniers européens du format, en évoquant son positionnement sur ce marché émergent marqué par l'essor de la production assistée par intelligence artificielle[73].
L'investissement public et privé dans l'IA générative a bondi, à partir du début des années 2020, principalement avec de grandes entreprises telles que Microsoft, Google et Baidu, mais aussi avec de nombreuses petites entreprises développant des modèles d'IA générative[1],[74],[75].
Les grands acteurs du cloud public cherchent aussi à tirer des revenus de l'IA générative, via des acquisitions et des partenariats stratégiques[76].
Selon le PitchBook report () de la plateforme sur le capital-risque PitchBook, le marché de l'IA générative devrait atteindre 42,6 milliards de dollars en 2023. Si les chatbots, les assistants virtuels et les voicebots ont capté 57,8% des investissements en capital-risque dans les interfaces en langage naturel en 2022, les secteurs de la programmation et de la santé devraient aussi générer des revenus importants[77]. Cependant, peu de start-up de l'IA ont éprouvé le besoin d'entrer en bourse en 2023, ce qui a limité les bénéfices à court terme des investisseurs («baisse de 94% par rapport à la même période [3 premiers trimestres de l'année] en 2021»)[78],[79].
Selon un rapport du cabinet de conseil McKinsey[80], l'IA générative est en 2023 déjà utilisée par environ un tiers des organisations interrogées, notamment dans les secteurs de la technologie, des médias et du divertissement, de la santé et des services financiers. Elle a un fort potentiel de transformation de l'économie, en augmentant la productivité, l'innovation, la personnalisation et la qualité des produits et services, en créant de nouveaux produits et services; l'IA générative devrait apporter l'équivalent de 2,6 à 4,4 milliards de dollars par an à l'économie mondiale de 2023 à 2040 (2 à 4% du PIB mondial), avec des opportunités, mais aussi avec des défis, risques et effets complexes sur le travail, les compétences et la société. Les organisations qui n'investissent pas dans cette technologie risquent de se trouver dépassées.
De son côté J.P. Morgan Private Bank Asia confirme en des opportunités d'investissement et estime que les secteurs des semi-conducteurs, des cartes graphiques et autres puces de calcul hautement performantes, des fonderies de circuits intégrés, des centres de données, des hyperscalers et des logiciels devraient profiter de l'IA. Cependant, la banque met en garde contre les risques de sécurité, d'éthique, de réglementation et de concurrence, et recommande aux investisseurs une approche prudente et responsable[81],[82].
En 2023, il est reproché aux systèmes d’IA et notamment d'IA générative de ne pas être transparents, autrement dit d'être des «boites noires» dont même les développeurs de l'IA ne comprennent pas le fonctionnement interne[83].
Une étude laisse penser qu'il pourrait être possible de rendre plus transparente cette boite noire grâce à l’analyse de Fourier appliquée aux réseaux de neurones profonds. Des chercheurs de l’Université Rice ont en effet formé un réseau de neurones profonds à reconnaître les flux complexes d’air ou d’eau et à prédire comment ces flux évoluent. Ils lui ont ensuite appliqué une analyse de Fourier (sur les équations régissant le réseau de neurones). Cette méthode a révélé ce que le réseau de neurones avait appris, et surtout comment il était parvenu à ces connaissances[84].
De grands concepteurs d’IA comme OpenAI[49] et Meta[85] ont commencé à publier des «Fiches Système»[86] (ou «System Cards», inspirées des «Model Cards», une norme largement acceptée pour la documentation des modèles d’IA). Ces fiches contiennent des informations sur l’architecture et le fonctionnement de leurs IA: objectifs, composants, données, performances, impacts potentiels d’un système d’IA et mesures d’atténuation… C’est une première étape vers une documentation des systèmes d’IA, lesquels combinent souvent plusieurs modèles et technologies interagissant pour accomplir des tâches spécifiques.
Les détecteurs d'IA génératives sont généralement assez peu efficaces sur des textes dans des langues différentes de l'anglais, tout en présentant une notation de certitude faussement précise. Le détecteur d'OpenAI n'identifie ainsi que 26% des textes écrits par des IA tout en classant par erreur 9% des textes écrit par des humains comme générés par une IA[87].
Différents tests comme HELM[88] ou MMLU[89] permettent d'estimer les capacités ou les comportements indésirables (réponses biaisées, fausses, hallucinations, reprise de contenu protégé par le droit d'auteur…) de grands modèles de langage.
L'Union européenne, les États-Unis et la Chine ont commencé à se doter de législations relatives au numérique prenant en compte l'IA, mais ces législations se sont rapidement avérées dépassées par les progrès de l'IA générative.
Concernant l'éthique de l'intelligence artificielle: en France, le Comité national pilote d'éthique du numérique (CNPEN) a été saisi par le ministre délégué chargé de la Transition numérique et des Télécommunications () à propos des questions d'éthique«liées à la conception, aux usages, aux impacts sur la société des systèmes d'intelligence artificielle générative ainsi que les accompagnements nécessaires à leur mise en œuvre, en considérant prioritairement la génération automatisée de textes». Dans son avis du [9]: après avoir fait un rappel des concepts, techniques et vocabulaire des systèmes d'IA générative, le CNPEN a produit une réponse, des préconisations, une analyse des enjeux juridiques en environnementaux; et des suggestions sur les recherches à conduire dès à présent sur le sujet[90].
Les systèmes d'IA générative font l'objet de cadres de gouvernance et de régulation émergents. L'Union européenne a inclus ces technologies dans le champ de l'AI Act, visant à encadrer les usages à haut risque, tandis que l’OCDE publie des lignes directrices sur la transparence, la responsabilité et la sécurité des modèles génératifs[91],[92].
En avril 2024, Gabriel Attal présente Albert, une IA développée par la Direction interministérielle du Numérique (DINUM) pour le compte de l'État français[93]. Son objectif est d'assister les agents publics dans leurs tâches quotidiennes, notamment en facilitant la rédaction de réponses aux demandes des usagers et en automatisant certaines procédures administratives[94].
L'usage du contenu généré par l'IA générative peut être limité par les conditions d'utilisation du modèle utilisé. Ainsi, ChatGPT interdit l'utilisation des contenus générés pour développer de nouveaux modèles concurrents à OpenAI, Google Bard (renommé Gemini) introduit la même limitation, tandis que Bing n'autorise l'usage des contenus générés que pour un usage personnel et non commercial[95]. D'autres plateformes, comme Mistral IA, appliquent des restrictions d'usage dans des contextes commerciaux[96].
Les œuvres et créations générées par des systèmes d'IA générative soulèvent de nombreuses questions concernant la protection des droits d'auteur[97] et la capacité à associer des droits d'auteur à un contenu généré par IA générative. Le droit de l'Union européenne et celui des États-Unis considèrent que, pour être soumise au droit d'auteur, une œuvre doit faire preuve d'originalité et porter l'empreinte de l'auteur, ce qui n'est pas évident dans ce cas[95].
Aux États-Unis, le , l'United States Copyright Office (USCO), qui est responsable de l'enregistrement des droits d'auteur dans le pays, a annoncé qu'elle refuserait le dépôt d'œuvres uniquement générées par des intelligences artificielles[97]. Cette décision a considéré que l'image Théâtre d’opéra spatial générée par Midjourney après 624 prompts manque de l'empreinte d'auteur humain nécessaire à sa protection par le droit d'auteur[95]. Cette position est confirmée par la Cour suprême des États-Unis en , lorsqu'elle refuse de se saisir du dossier opposant le chercheur Stephen Thaler au Bureau américain du copyright[98].
En Chine, le tribunal de Shenzhen a considéré que le droit d'auteur d'un texte généré par l'IA appartient à l'éditeur de l'IA[97].
En France, comme dans l'Union européenne, le droit d'auteur repose sur l'idée que seules les créations issues de l'esprit humain peuvent être protégées. L'article L111-1 du code de la propriété intellectuelle prévoit, par exemple, que «L'auteur d'une œuvre de l'esprit jouit sur cette œuvre, du seul fait de sa création, d'un droit de propriété incorporelle exclusif et opposable à tous.»[99] Par conséquent, les œuvres créées par une intelligence artificielle devraient porter l'empreinte d'un être humain, au-delà des instructions données à l'IA, pour bénéficier des protections garanties par le code de la propriété intellectuelle[97].
Au niveau européen, la directive sur le droit d'auteur dans le marché unique numérique (Directive 2019/790) ne prévoit pas de dispositions spécifiques applicables aux œuvres générées par l'IA. Toutefois, des débats sont en cours quant à la possibilité de reconnaître une forme de protection juridique à ces créations, notamment lorsqu'un auteur humain intervient dans le processus de génération.
En réalité, le débat est actuellement aussi bien juridique que philosophique quant au véritable propriétaire de l'œuvre: est-ce le créateur de l'IA ou l'utilisateur qui a rédigé le prompt?
En 2024, un employé d'une multinationale de Hong Kong a été trompé par une visioconférence où tous les participants avaient été générés à l'aide de l'intelligence artificielle pour imiter de vrais collègues. Il a reçu l'ordre d'effectuer des virements, et plus de 25 millions de dollars ont ainsi été détournés[100].
Selon Heidy Khlaaf (directrice chargée de l'assurance de l'apprentissage automatique chez Trail of Bits, une société de recherche et de conseil en cybersécurité), les centrales nucléaires ont des milliers de pages de documents pour prouver que le système ne cause de tort à personne, et pour Melissa Heikkilä: «la chose la plus importante que la communauté de l'IA pourrait apprendre du risque nucléaire est l'importance de la traçabilité»[102], deux choses encore peu développées dans le secteur de l'IA. La réglementation de l'IA est parfois comparée à celle du secteur nucléaire[103]. Sam Altman (PDG d'OpenAI) a suggéré la mise en place d'un système de licences, dans lequel l'entraînement de systèmes d'IA ayant des capacités élevées nécessiterait l'octroi d'une licence, et pour ce faire de se conformer à des exigences de sécurité (de même que les opérateurs d'installations nucléaires sont tenus d'être licenciés par un régulateur nucléaire)[103]. Aidan Gomez (cofondateur de Cohere) a jugé cette formule excessive et détournant l'attention de risques —selon lui plus réels— de l'IA mal utilisée dans les médias sociaux et la médecine[104], de même que Yann Le Cun (embauché comme scientifique en chef de l'IA chez Meta, le groupe qui détient Facebook et travaille à la création d'un Métavers) et Joëlle Pineau (vice-présidente de la recherche en IA chez Meta) qui jugent ces craintes ridicules et déraisonnables, affirmant que les systèmes d'IA comme ChatGPT ne sont pas encore conscientes et ne peuvent donc pas selon eux manipuler ou détruire l'humanité[105]. Mais en 2023, des chercheurs d'Oxford, de Cambridge, de l'Université de Toronto, de l'Université de Montréal, de Google DeepMind, d'OpenAI, d'Anthropic, de plusieurs organismes de recherche à but non lucratif sur l'IA et Yoshua Bengio (lauréat du prix Turing) suggèrent dans un article[106] que les créateurs des modèles d'IA les plus puissants doivent pouvoir évaluer si ces modèles présentent des capacités susceptibles de produire des risques «extrêmes» (planification à long terme, manipulation, autoprolifération, conscience de la situation, capacités à mener des cyberattaques ou à acquérir des armes notamment biologiques…). Les développeurs doivent également apprendre à mesurer la propension des modèles à exercer leurs capacités à nuire (ce qui peut se faire grâce à des «évaluations d'alignement»). Selon eux, «ces évaluations deviendront cruciales pour informer les décideurs politiques et les autres parties prenantes, et pour prendre des décisions responsables concernant l'entraînement, le déploiement et la sécurité des modèles d'IA»[106],[102].
Rishi Sunak (premier ministre britannique) a invité la communauté internationale à Bletchey park en pour un premier sommet mondial en sûreté de l'IA, abordant notamment les risques existentiels liés à l'IA[107]. Sunak propose la création d'un groupe d'experts internationaux, sur le modèle du GIEC, qui serait dans un premier temps chargé de publier un état des lieux de l'IA. Le , la Chine, les États-Unis, l'Union européenne et une vingtaine de pays ont signé la déclaration de Bletchley pour un développement «sûr» de l'intelligence artificielle[108]. La veille, trois de ces pays (France, Allemagne et Italie) avaient signé à Rome un accord de coopération sur l'IA «dans le prolongement des efforts globaux déployés en faveur de la transition numérique et écologique»[109].
Selon un rapport de l'Arcep de 2026, l'IA générative est un facteur d'accélération d'impacts environnementaux du numérique même si elle peut favoriser l'innovation dans le sens de la transition environnementale[110]. Des tensions peuvent apparaître sur des ressources limitées telles que l'énergie, l'eau, les métaux et terres rares associés à la mise en place et l'exploitation des infrastructures[110]. L'évaluation de l'empreinte environnementale reste difficile en 2026, notamment par manque de transparence des acteurs du secteur[110],[111]. Les projections de développement de l'IA générative ont mené de grands acteurs du numérique à déjà revoir leurs objectifs de décarbonation à la baisse[112].
Par rapport aux infrastructures du numérique que sont les centres de données, terminaux et réseaux, les premiers sont au cœur des effets avec des questions sur la consommation d'énergie impliquant des émissions de gaz à effet de serre variant selon les mix électriques des pays d'implantation ainsi que sur la consommation d'eau et l'artificialisation des sols[112].
Les effets restent incertains pour les terminaux avec notamment un éventuel renouvellement du parc pour l'adapter à ces systèmes, et pour les réseaux qui semblent en 2026 pouvoir suivre une possible augmentation du trafic à court terme[112].
Par rapport au cycle de vie des systèmes, l'impact environnemental de l'entraînement des modèles a été plus étudié que celui de leur usage, la phase dite d'inférence[112]. Il dépend de leur taille, du mix électrique et du matériel utilisé, mais les données ou études fournies par les industriels restent sujettes à discussion[112]. Une étude réalisée pour Google indiquerait ainsi que ses progrès sur l'efficacité énergétique et sur l'architecture des modèles auraient réduit d'un facteur 80 les émissions de gaz à effet de serre liées à l'entraînement. L'entraînement de GPT-3 aurait ainsi mené à 552 tCO2e émis par les serveurs, tandis que Meta annonçait 9 000 tCO2e pour LLaMa3-405 B et Mistral AI 20 400 tCO2e pour Mistral Large 2[113].
En phase d'inférence, la taille du modèle impacte la consommation d'énergie mais d'une manière assez variable, et il serait possible de l'optimiser avec des techniques de compression ou des choix de modèle de taille plus limitée sans perte de pertinence[112].
Aleksander Mądry (professeur d'informatique au Cadence Design Systems du MIT, et directeur du Center for Deployable Machine Learning du MIT) a été audité en par le Sous-comité sur la cybersécurité, les technologies de l'information et l'innovation gouvernementale lors d'une session intitulée «Progrès de l'IA: sommes-nous prêts pour une révolution technologique?»[114]. Selon Mądry, «nous sommes à un point d'inflexion en ce qui concerne ce que l'IA du futur apportera […] le gouvernement devrait plutôt s'interroger sur l'objectif et l'explicabilité des algorithmes utilisés par les entreprises, en tant que précurseur de la réglementation» afin de s'assurer que l'IA est cohérente avec les objectifs de la société. Ce serait une erreur selon lui de réglementer l'IA comme si elle était humaine —par exemple en demandant à l'IA d'expliquer son raisonnement et en supposant que les réponses qui en résultent sont fiables[115].
Quelques nouveaux métiers apparaissent (architecte de l'IA, manager d'algorithmes…). Cependant, le risque de suppression massive d'emplois est préoccupant, en particulier dans les métiers intellectuels, mais aussi dans les métiers manuels. Les progrès de l'IA et de la robotique avancée, grâce à des capteurs de données sensorielles et des algorithmes décisionnels avancés, permettent l'automatisation de nombreuses tâches avec des niveaux d'agilité et d'adaptation comparables, voire meilleurs que ceux des humains. Infirmiers, plombiers, ouvriers spécialisés, artisans et artistes, ainsi que d'autres professions manuelles complexes qui exigent une prise de décision en contexte d'incertitude et de la dextérité, risquent d'être confrontés à des machines de plus en plus autonomes, capables de les remplacer[réf.souhaitée]. OpenAI a publié en 2024 les résultats d'une étude sur les effets d'un revenu universel[116],[117].
En France, un Observatoire des Emplois Menacés et Émergents (OEM) a été créé avec 3 missions principales[118]:
«identifier les emplois les plus exposés à court, moyen et long terme, en analysant l'évolution des tendances et des scénarios d'impact de l'IA», en tenant compte de l'évolution de la demande de biens et de services liés à chaque type d'emploi aux échelles microéconomiques (analyse détaillée des tâches que l'IA peut remplir) et macroéconomiques (effets de la demande) afin de comprendre et d'anticiper les dynamiques du marché du travail.
«Cartographier les secteurs et les régions les plus vulnérables, afin d'anticiper les bouleversements économiques et territoriaux et d'éclairer la prise de décision»
«Imaginer quels seront les nouveaux métiers qui émergeront avec la nouvelle organisation de la production»
En , l'Autorité de la concurrence s'auto-saisit et lance un consultation publique des acteurs de l'IA générative en vue d'émettre un avis[119], rendu le [120].
L'Autorité y souligne la main mise croissante du privé sur ce marché; elle encourage le soutien dans toute l'Europe à un accès du privé local aux supercalculateurs publics, tels que, en France, le supercalculateur Jean Zay), en échange de produits open[120]; et tout en maintenant une priorité aux recherches académiques[121].
L'Autorité s'inquiète de l'importance des «barrières à l'entrée» pour les nouveaux entrants de l'IA générative. Ces derniers manquent d'accès aux puissances nécessaires de calcul, à d'énormes volumes de données (pour entrainer les modèles), au recrutement de talents rares et coûteux, que les GAFAM américains captent, grâce à des avantages concurrentiels exorbitants (intégration verticale et maitrise des marchés connexes, verrouillage dans les services Cloud, accords non transparents d'exclusivité, prises de participation minoritaires)[121] et fixations arbitraires et déloyales de prix, de restrictions de production et de conditions contractuelles déloyales, comportements discriminatoires[120]. Les IA génératives comme Anthropic, Mistral, Open AI, Claude, Perplexity… sont toutes au moins en partie financées par Google, Amazon, Microsoft, Intel, Salesforce et/ou Nvidia. L'Autorité note que le secteur est dépendant du «logiciel de programmation de puces CUDA de Nvidia (seul environnement parfaitement compatible avec les GPU devenus incontournables pour le calcul accéléré)» et s'inquiète des «investissements de Nvidia dans des fournisseurs de services cloud spécialisés dans l'IA, tels que Coreweave», un secteur scruté par l'Autorité[120] (cf. visite et saisie inopinée en )[122]. En intégrant l'IA générative à leurs écosystèmes de produits et de services —comme le fait Microsoft avec Copilot— les GAFAM renforcent leur position dominante[121]. L'Autorité de la concurrence note que «les investissements dans le secteur ont été multipliés par près de six entre 2022 et 2023. Les entreprises du secteur ont ainsi levé plus de 22 milliards de dollars en 2023 (soit environ 20 milliards d'euros), contre environ 4 milliards de dollars en 2022 (soit environ 3,7 milliards d'euros)»[120]. L'Autorité suggère notamment, à la Commission européenne, d'exiger, via le DMA, la transparence sur les participations minoritaires. Pour l'Autorité, les IA génératives entraînées sur des supercalculateurs publics devraient se voir imposer des critères d'ouverture; et il faut inventer un équilibre entre une juste rémunération des ayants-droit et l'accès des développeurs d'IA aux données nécessaires pour innover[121].
De plus, les données francophones utilisées pour entraîner les LLM ne comptent que pour 0,2% du total. Face à ce taux qui est source de biais culturels anglo-saxons dans l'IA et d'appauvrissement langagier[123], la France a lancé le projet Villers-Cotterêts (Cité internationale de la langue française) qui doit notamment ouvrir un large corpus numérique francophone (et de langues régionales), via une base centralisée ouverte à l'apprentissage des IA (dont Albert, l'IA de l'État). Ce corpus est construit à partir des Archives de France, de la Bibliothèque nationale de France, du CNRS et de diverses ONG. Un autre projet dit Argimi (Artefact, Giskard et Mistral), soutenu par l'AAP «Communs numériques pour l'intelligence artificielle générative», est porté par un consortium de startups souhaitant ouvrir le patrimoine de la BNF et de l'INA à l'apprentissage de LLM créés par ces trois start-ups françaises.
↑(en) Will Douglas Heaven, «How existential risk became the biggest meme in AI», MIT Technology Review, (lire en ligne, consulté le ).
↑Alexandre Piquard, «Intelligence artificielle: au sommet de Londres, PDG et dirigeants face au défi de la régulation», Le Monde.fr, (lire en ligne, consulté le ).
↑(en-US) Qianqian Yang, Ngai Cheong, Dejiang Wang et Shi Li, «Visualization for a new era: Impact and application of large language models and AIGC to traditional business models», Open Journal Systems, (DOI10.32629/jai.v7i4.1487, lire en ligne, consulté le ).
↑Martin Clavey, «IA générative et open source: les services du gouvernement proposent leur grille de lecture», Next Impact, (lire en ligne).
↑Martin Clavey, «L’IA open-source a sa définition 1.0 qui exclut les modèles Llama de Meta», Next Impact, (lire en ligne).
↑(en-US) Charles Miller Grinstead et James Laurie Snell, Introduction to Probability, American Mathematical Society, , 464–466 (ISBN978-0-8218-0749-1, lire en ligne)
↑Bergen et Huang, «A Brief History of Generative AI», Dichotomies: Generative AI: Navigating Towards a Better Future, no2, , p.4 (lire en ligne[archive du ], consulté le )
12(en) Alting et Zhang, «Computer aided process planning: the state-of-the-art survey», The International Journal of Production Research, vol.27, no4, , p.553–585 (DOI10.1080/00207548908942569, lire en ligne[archive du ], consulté le )
↑(en) Chien, «Automated planning and scheduling for goal-based autonomous spacecraft», IEEE Intelligent Systems and Their Applications, vol.13, no5, , p.50–55 (DOI10.1109/5254.722362, Bibcode1998IISA...13e..50C)
↑ARPA/Rome Laboratory Knowledge-based Planning and Scheduling Initiative Workshop Proceedings, The Advanced Research Projects Agency, Department of Defense, and Rome Laboratory, US Air Force, Griffiss AFB, (ISBN1-55860-345-X), p.219
↑(en) Barney Pell, Douglas E. Bernard, Steve A. Chien, Erann Gat, Muscettola, Nayak, Wagner et Williams, An Autonomous Spacecraft Agent Prototype, Autonomous Robots Volume 5, No. 1, , 29–45p.:
«Our deliberator is a traditional generative AI planner based on the HSTS planning framework (Muscettola, 1994), and our control component is a traditional spacecraft attitude control system (Hackney et al. 1993). We also add an architectural component explicitly dedicated to world modeling (the mode identifier), and distinguish between control and monitoring.»
↑(en) Krizhevsky, Ilya Sutskever et Geoffrey E. Hinton, «ImageNet Classification with Deep Convolutional Neural Networks», Advances in Neural Information Processing Systems, (lire en ligne)
↑(en) Tony Jebara, Machine learning: discriminative and generative, Springer Science & Business Media,
↑(en) Kingma et Max Welling, «Auto-Encoding Variational Bayes», arXiv preprint arXiv:1312.6114, (lire en ligne)
↑(en) Goodfellow, Jean Pouget-Abadie, Mehdi Mirza et Bing Xu, «Generative Adversarial Nets», Advances in Neural Information Processing Systems, (lire en ligne)
↑(en) Vaswani, Noam Shazeer, Niki Parmar et Jakob Uszkoreit, «Attention Is All You Need», Advances in Neural Information Processing Systems, (lire en ligne)
↑Alec Radford, Karthik Narasimhan, Tim Salimans et Ilya Sutskever, «Improving Language Understanding by Generative Pre-Training», OpenAI, (lire en ligne)
↑(en) Yusuf Temitope, «15.ai Creator reveals journey from MIT Project to internet phenomenon», The Guardian, Lagos, Nigeria, (lire en ligne[archive du ])
↑«Welcome to the AI trough of disillusionment», The Economist, (lire en ligne, consulté le )
↑Célia Cuordifede, «L’IA générative transforme la recherche scientifique, quitte à sacrifier sa qualité», L'Express, (lire en ligne)
↑En général, le petaflop/jour est utilisé comme métrique. Un petaflop-jour (pf-jour) consiste à effectuer 10^15 opérations de réseau neuronal par seconde pendant une journée, soit un total d’environ 10^20 opérations. C’est une unité de mesure pratique, similaire au kW/h pour l’énergie. Plutôt que les FLOPS théoriques maximaux du matériel, on cherche à estimer le nombre réel d’opérations faites; additions et multiplications sont comptées comme des opérations distinctes, et on ignore les modèles d’ensemble. Sur cette période, le temps de doublement pour la ligne de meilleure adéquation est de 3,4 mois.
↑(en) Charlotte Bird, Eddie L. Ungless et Atoosa Kasirzadeh, «Typology of Risks of Generative Text-to-Image Models», AAAI/ACM Conference on AI, Ethics, and Society, (arXiv2307.05543).
↑(en) Abeba Birhane, Vinay Uday Prabhu et Emmanuel Kahembwe, «Multimodal datasets: misogyny, pornography, and malignant stereotypes», Arxiv, (arXiv2110.01963).
↑(en) Jaemin Cho, Abhay Zala et Mohit Bansal, «DALL-Eval: Probing the Reasoning Skills and Social Biases of Text-to-Image Generation Models», ICCV 2023, (arXiv2202.04053).
12David Louapre, Le Labo du jeu vidéo, Paris, Albin Michel, coll.«Sciences», , 432p. (ISBN978-2-226-49023-0), 3 – Algorithmes et comportements, chap.17 («L'intelligence artificielle générative et les grands modèles de langage»), p.229-231.
↑(en) Prafulla Dhariwal et Alex Nichol, «Diffusion Models Beat GANs on Image Synthesis», NeurIPS, (arXiv2105.05233).
↑(en) Aditya Ramesh, Mikhail Pavlov, Gabriel Goh et Scott Gray, «Zero-Shot Text-to-Image Generation», Proceedings of the 38th International Conference on Machine Learning, PMLR, , p.8821-8831 (arXiv2102.12092, lire en ligne, consulté le ).
123(en) Paweł Kamocki, Toby Bond, Krister Lindén, Thomas Margoni, Aleksei Kelli et Andrius Puksas, «Mind the Ownership Gap? Copyright in AI-generated Language Data», CLARIN Annual Conference 2023, , p.10 (DOI10.3384/ecp210008, lire en ligne[PDF])
↑«Sam Altman, PDG d'OpenAI, a testé l'utopie du revenu universel en donnant de l'argent gratuitement. Résultat? Une réduction des heures de travail des bénéficiaires sans aucunes améliorations utiles», Developpez.com, (lire en ligne, consulté le ).
.webp)
).
