Voir la source de Apprentissage automatique

{{Voir homonymes|Apprentissage (homonymie)}}
{{Redirect|Machine Learning|homonymie=Machine Learning (revue)|autres=la revue scientifique}}
{{Infobox Discipline
|image = Carto IA deepLearning.svg
|légende = 
}}

L''''apprentissage automatique'''<ref name="GDT">{{GDT|apprentissage automatique|fiche=8395061|consulté le=28 janvier 2020}}.</ref>{{,}}<ref name="JORF">[[Commission d'enrichissement de la langue française]], « Vocabulaire de l'intelligence artificielle (liste de termes, expressions et définitions adoptés) », [[Journal officiel de la République française|''Journal officiel'' de la République française]] {{numéro|0285}} du {{date-|9 décembre 2018}} {{lire en ligne|url=https://www.legifrance.gouv.fr/jo_pdf.do?id=JORFTEXT000037783813}} {{PDF}}.</ref> (en [[anglais]] : ''{{Langue|en|machine learning}}'', {{litt.}} « '''apprentissage machine'''<ref name="GDT"/>{{,}}<ref name="JORF"/> »), '''apprentissage artificiel'''<ref name="GDT"/> ou '''apprentissage statistique''' est un  champ d'étude de l'[[intelligence artificielle]] qui se fonde sur des approches mathématiques et statistiques pour donner aux [[ordinateur]]s la capacité d'« apprendre » à partir de données, c'est-à-dire d'améliorer leurs performances à résoudre des tâches sans être explicitement programmés pour chacune. Plus largement, il concerne la conception, l'analyse, l'[[optimisation (mathématiques)|optimisation]], le développement et l'implémentation de telles méthodes. On parle d'apprentissage ''statistique'' car l'apprentissage consiste à créer un modèle dont l'erreur ''statistique moyenne'' est la plus faible possible.

L'apprentissage automatique comporte généralement deux phases. La première consiste à estimer un modèle à partir de données, appelées observations, qui sont disponibles et en nombre fini, lors de la phase de conception du système. L'estimation du modèle consiste à résoudre une tâche pratique, telle que [[traduction automatique|traduire un discours]], estimer une [[Variable aléatoire à densité|densité de probabilité]], reconnaître la présence d'un chat dans une photographie ou participer à la conduite d'un [[véhicule autonome]]. Cette phase dite « d'apprentissage » ou « d'entraînement » est généralement préalable à l'utilisation pratique du modèle. La seconde phase est la mise en production : le modèle étant déterminé, de nouvelles données peuvent alors être soumises afin d'obtenir le résultat correspondant à la tâche souhaitée. 

Certains systèmes peuvent continuer à apprendre une fois en production, s'ils disposent d'un retour sur la qualité des résultats produits. C'est l'apprentissage en ligne, ou l'apprentissage continu.

Selon le type de données utilisées pour l'apprentissage, on distingue :
* l'[[apprentissage supervisé]] : l'algorithme apprend à partir de données étiquetées (la réponse à la tâche, qui est la donnée de sortie, est donc connue pour chaque données d'entrée). L'objectif est de prédire les sorties pour de nouvelles données ;
* l'[[apprentissage non supervisé]] : l'algorithme apprend à partir de données non étiquetées. Il cherche à découvrir des structures sous-jacentes, cachées (qui peuvent par exemple être une densité de probabilité) ; des motifs dans les données permettent la classification ou le classement des données<ref>« Classement » est la traduction correcte du terme anglais ''{{lang|en|classification}}'' ; la « classification » française correspond plutôt au ''{{lang|en|clustering}}'' en anglais. Voir par exemple « [http://bdl.oqlf.gouv.qc.ca/bdl/gabarit_bdl.asp?id=3283 Classer et classifier] », sur la [[Banque de dépannage linguistique]].</ref> ;
* l'[[apprentissage semi-supervisé]] : il tire parti d'une grande quantité de données non étiquetées pour améliorer la performance du modèle, tout en utilisant une moindre quantité de données étiquetées pour guider son apprentissage. Il diminue les coûts d'étiquetage manuel des données ;
* l'[[apprentissage auto-supervisé]] : c'est une forme d'apprentissage non supervisé, où le modèle génère ses propres étiquettes à partir des données brutes. Le modèle peut ainsi créer des représentations internes utiles, sans nécessiter de données étiquetées manuellement.

L'apprentissage automatique peut être appliqué à divers types de données, tels des [[théorie des graphes|graphes]], des [[Carte heuristique|arbres]], des [[courbe]]s, ou plus simplement des [[Extraction de caractéristique|vecteurs de caractéristiques]], qui peuvent être des variables [[Variable catégorielle|qualitatives]] ou [[variable quantitative|quantitatives]] continues ou [[Variable aléatoire discrète|discrètes]].

Si le modèle apprend de manière incrémentale, en fonction d'une récompense reçue par le programme pour chacune des actions entreprises, on parle d'[[apprentissage par renforcement]]. 

== Historique ==
{{Article détaillé|Histoire de l'intelligence artificielle}}

Depuis l'antiquité, le sujet des machines pensantes préoccupe les esprits. Ce concept est la base de pensées pour ce qui deviendra ensuite l'[[intelligence artificielle]], ainsi qu'une de ses sous-branches : l'apprentissage automatique.

La concrétisation de cette idée est principalement due à [[Alan Turing]] (mathématicien et cryptologue britannique) et à son concept de la « machine universelle » en 1936<ref>{{Article |langue=en |auteur1=[[Alan Turing]] |titre=On computable numbers, with an application to the entscheidungsproblem |périodique=Proceedings of the London Mathematical Society, s2-42 |page=230-265 |date=12/11/1936 |lire en ligne=https://www.cs.virginia.edu/~robins/Turing_Paper_1936.pdf |format électronique=pdf |accès url=libre |doi=10.1112/plms/s2-42.1.230 |consulté le=23/09/2022}}.</ref>, qui est à la base des ordinateurs d'aujourd'hui. Il continuera à poser les bases de l'apprentissage automatique, avec son article sur « L'ordinateur et l'intelligence » en 1950<ref>{{article|langue=en|prénom1=Alan|nom1=Turing|lien auteur=Alan Turing|éditeur=Oxford University Press|périodique=[[Mind (journal)|Mind]]|titre=[[Computing machinery and intelligence]]|volume=59|numéro=236|doi=10.1093/mind/LIX.236.433|mois=octobre|année=1950 }}.</ref>, dans lequel il développe, entre autres, le [[test de Turing]].

En 1943, le neurophysiologiste [[Warren McCulloch]] et le mathématicien [[Walter Pitts]] publient un article décrivant le fonctionnement de [[Neurone|neurones]] en les représentant à l'aide de circuits électriques. Cette représentation sera la base théorique des [[Réseau de neurones artificiels|réseaux neuronaux]]<ref>{{Lien web|langue=en|titre=Neural Networks|url=https://cs.stanford.edu/people/eroberts/courses/soco/projects/neural-networks/History/history1.html|site=standford.edu|consulté le=11.05.2018}}.</ref>.

[[Arthur Samuel]], informaticien américain pionnier dans le secteur de l'intelligence artificielle, est le premier à faire usage de l'expression ''machine learning'' (en français, « apprentissage automatique ») en 1959 à la suite de la création de son programme pour [[International Business Machines|IBM]] en 1952. Le programme jouait au [[Dames|Jeu de Dames]] et s'améliorait en jouant. À terme, il parvint à battre le {{4e}} meilleur joueur des États-Unis<ref>{{Lien web|langue=en|titre=Arthur Lee Samuel|url=http://history.computer.org/pioneers/samuel.html|site=history.computer.org|consulté le=11.05.2018}}.</ref>{{,}}<ref>{{Lien web|langue=en|titre=Arthur Samuel: Pioneer in Machine Learning|url=http://infolab.stanford.edu/pub/voy/museum/samuel.html|site=standford.edu|consulté le=11.05.2018}}.</ref>.

Une avancée majeure dans le secteur de l'intelligence machine est le succès de l'ordinateur développé par IBM, [[Deep Blue]], qui est le premier à vaincre le champion mondial d'échecs [[Garry Kasparov]] en 1997. Le projet Deep Blue en inspirera nombre d'autres dans le cadre de l'intelligence artificielle, particulièrement un autre grand défi : [[Watson (intelligence artificielle)|IBM Watson]], l'ordinateur dont le but est de gagner au jeu [[Jeopardy!]]<ref>{{Lien web|langue=en-US|titre=IBM100 - Deep Blue|url=http://www-03.ibm.com/ibm/history/ibm100/us/en/icons/deepblue/|site=www-03.ibm.com|date=2012-03-07|consulté le=2018-05-11}}.</ref>. Ce but est atteint en 2011, quand Watson gagne à Jeopardy! en répondant aux questions par traitement de langage naturel<ref>{{Article|langue=en-US|prénom1=John|nom1=Markoff|titre=On ‘Jeopardy!’ Watson Win Is All but Trivial|périodique=The New York Times|date=2011-02-16|issn=0362-4331|lire en ligne=https://www.nytimes.com/2011/02/17/science/17jeopardy-watson.html|consulté le=2018-05-11}}.</ref>.

Durant les années suivantes, les applications de l'apprentissage automatique médiatisées se succèdent bien plus rapidement qu'auparavant.

En 2012, un réseau neuronal développé par [[Google]] parvient à reconnaître des visages humains ainsi que des chats dans des vidéos [[YouTube]]<ref>{{Lien web|langue=en|titre=Google's Artificial Brain Learns to Find Cat Videos|url=https://www.wired.com/2012/06/google-x-neural-network/|site=wired.com|date=20.06.2012|consulté le=11.05.2018}}.</ref>{{,}}<ref>{{Lien web|langue=en|auteur1=Jamie Condliffe|titre=Google's Artificial Brain Loves to Watch Cat Videos|url=https://gizmodo.com/5921296/googles-artificial-brain-loves-to-watch-cat-videos|site=gizmodo.com|date=26.06.2012|consulté le=11.05.2018}}.</ref>.

En 2014, 64 ans après la prédiction d'Alan Turing, le [[dialogueur]] [[Eugene Goostman]] est le premier à réussir le test de Turing en parvenant à convaincre 33 % des juges humains au bout de cinq minutes de conversation qu'il est non pas un ordinateur, mais un garçon ukrainien de 13 ans<ref>{{Lien web|langue=en|auteur1=Doug Aamoth|titre=Interview with Eugene Goostman, the Fake Kid Who Passed the Turing Test|url=http://time.com/2847900/eugene-goostman-turing-test/|site=time.com|date=09.06.2014|consulté le=11.05.2018}}.</ref>.

En 2015, une nouvelle étape importante est atteinte lorsque l'ordinateur « [[AlphaGo]] » de Google gagne contre un des meilleurs joueurs au [[Go (jeu)|jeu de Go]], jeu de plateau considéré comme le plus dur du monde<ref>{{Lien web|langue=en|auteur1=Christof Koch|titre=How the Computer Beat the Go Master|url=https://www.scientificamerican.com/article/how-the-computer-beat-the-go-master/ |site=scientificamerican.com|date=19.03.2016|consulté le=11.05.2018}}.</ref>.

En 2016, un système d'intelligence artificielle à base d'apprentissage automatique nommé LipNet parvient à lire sur les lèvres avec un grand taux de succès<ref>{{Lien web|langue=en|auteur1=Jamie Condliffe|titre=AI Has Beaten Humans at Lip-reading|url=https://www.technologyreview.com/s/602949/ai-has-beaten-humans-at-lip-reading/|site=technologyreview.com|date=21.11.2016|consulté le=11.05.2018}}.</ref>{{,}}<ref>{{Lien web|langue=en|titre=A history of machine learning|url=https://cloud.withgoogle.com/build/data-analytics/explore-history-machine-learning/|site=cloud.withgoogle.com|consulté le=11.05.2018}}.</ref>.

== Principes ==
[[Fichier:Gradient descent.gif|vignette|Illustration de la [[descente de gradient]] pour trois points de départ différents, faisant varier deux paramètres de sorte à minimiser la [[Fonction objectif|fonction de coût]] représentée par la hauteur.]]
Les modèles d'apprentissage automatique contiennent des paramètres dont les valeurs sont ajustées tout au long de l'apprentissage. La méthode de la [[rétropropagation du gradient]] est capable de détecter, pour chaque paramètre, dans quelle mesure il a contribué à une bonne réponse ou à une erreur du modèle, et peut l'ajuster en conséquence<ref>{{Lien web |langue=fr |prénom=Daniel |nom=Nelson |titre=Qu'est-ce que la rétropropagation ? |url=https://www.unite.ai/fr/qu'est-ce-que-la-r%C3%A9tropropagation/ |site=Unite.AI |date=2020-01-10 |consulté le=2024-10-12}}</ref>.

L'apprentissage automatique permet à un système piloté ou assisté par ordinateur comme un programme, une IA ou un robot, d'adapter ses réponses ou comportements aux situations rencontrées, en se fondant sur l'analyse de données empiriques passées issues de bases de données, de capteurs, ou du web.

L'apprentissage automatique permet de surmonter la difficulté qui réside dans le fait que l'ensemble de tous les comportements possibles compte tenu de toutes les entrées possibles devient rapidement trop complexe à décrire et programmer de manière classique (on parle d'[[explosion combinatoire]]). On confie donc à des programmes d'apprentissage automatique le soin d'ajuster un modèle pour simplifier cette complexité et de l'utiliser de manière opérationnelle. Idéalement, l'apprentissage visera à être [[Apprentissage non supervisé|non supervisé]], c'est-à-dire que les réponses aux données d'entraînement ne sont pas fournies au modèle<ref>[https://www.industrie-techno.com/yann-lecun-facebook-l-apprentissage-predictif-est-le-grand-defi-scientifique-de-l-intelligence-artificielle.43641 Yann Le Cun sur l'apprentissage prédictif], 2016.</ref>.

Ces programmes, selon leur degré de perfectionnement, intègrent éventuellement des capacités de traitement probabiliste des données, d'analyse de données issues de capteurs, de reconnaissance (reconnaissance vocale, de forme, d'écriture…), de [[data-mining|fouille de données]], d'[[informatique théorique]]…

== Applications ==
L'apprentissage automatique est utilisé dans un large spectre d'applications pour doter des ordinateurs ou des machines de capacité d'analyser des données d'entrée comme : [[perception]] de leur environnement ([[vision humaine|vision]], [[Reconnaissance de formes]] tels des [[Système de reconnaissance faciale|visages]], schémas, [[segmentation d'image]], [[Reconnaissance automatique de la parole|langages naturels]], caractères [[Reconnaissance optique de caractères|dactylographiés]] ou [[reconnaissance de l'écriture manuscrite|manuscrits]] ; [[moteur de recherche|moteurs de recherche]], analyse et [[indexation automatique|indexation]] d'images et de vidéo, en particulier pour la [[recherche d'image par le contenu]] ; [[aide au diagnostic|aide aux diagnostics]], médical notamment, [[bio-informatique]], [[chémoinformatique]] ; [[Interface neuronale directe|interfaces cerveau-machine]] ; détection de [[fraude]]s à la carte de crédit, [[cybersécurité]], [[analyse financière]], dont analyse du [[marché boursier]] ; classification des séquences d'ADN ; jeu ; [[génie logiciel]] ; adaptation de sites Web ; [[robotique]] (locomotion de robots{{etc.}}) ; analyse prédictive dans de nombreux domaines (financière, médicale, juridique, judiciaire), diminution des temps de calcul pour les [[Simulation informatique|simulations informatiques]] en physique (calcul de structures, de mécanique des fluides, de neutronique, d'astrophysique, de biologie moléculaire, etc.)<ref>{{Lien web |langue=anglais |auteur=Guo, S. |titre=An introduction to Surrogate modeling, Part I: fundamentals |url=https://towardsdatascience.com/an-introduction-to-surrogate-modeling-part-i-fundamentals-84697ce4d241 |site=Towards Data Science |date=2020}}</ref>{{,}}<ref>{{Lien web |langue=anglais |auteur=Hutson, M. |titre=Supercomputer Emulator: AI's New Role in Science |url=https://spectrum.ieee.org/ai-for-science |site=IEEE.org |date=2022}}</ref>, optimisation de design dans l'industrie<ref>{{Ouvrage|langue=anglais|auteur1=Jiang, P.|titre=Surrogate Model-Based Engineering Design and Optimization|éditeur=Springer|date=2020|isbn=978-981-15-0731-1}}</ref>{{,}}<ref name=":3" />{{,}}<ref>{{Lien web |langue=anglais |auteur=Macqueron, C. |titre=Engineering Applications of Artificial Intelligence |url=https://www.researchgate.net/publication/356791545_Engineering_Applications_of_Artificial_Intelligence_L'Intelligence_Artificielle_au_service_de_l'Ingenierie |site=Research Gate, World Nuclear Exhibition - WNE 2021 |date=2021 |doi=10.13140/RG.2.2.32067.53280}}</ref>, etc.

Exemples :
* un système d'apprentissage automatique peut permettre à un [[robot]] ayant la capacité de bouger ses membres, mais ne sachant initialement rien de la coordination des mouvements permettant la marche, d'apprendre à marcher. Le robot commencera par effectuer des mouvements aléatoires, puis, en sélectionnant et privilégiant les mouvements lui permettant d'avancer, mettra peu à peu en place une marche de plus en plus efficace{{refnec|date=septembre 2019}} ;
* la reconnaissance de caractères manuscrits est une tâche complexe car deux caractères similaires ne sont jamais exactement identiques. Il existe des systèmes d'apprentissage automatique qui apprennent à reconnaître des caractères en observant des « exemples », c'est-à-dire des caractères connus. Un des premiers système de ce type est celui de reconnaissance des codes postaux US manuscrits issu des travaux de recherche de [[Yann Le Cun]], un des pionniers du domaine <ref>{{Lien web |titre=Retour d'expérience sur l'étude de la base MNIST pour la reconnaissance de chiffres manuscrits {{!}} Connect - Editions Diamond |url=https://connect.ed-diamond.com/GNU-Linux-Magazine/GLMFHS-102/Retour-d-experience-sur-l-etude-de-la-base-MNIST-pour-la-reconnaissance-de-chiffres-manuscrits |site=connect.ed-diamond.com |consulté le=2021-04-10}}.</ref>{{,}}<ref>{{Article |prénom1=Y. |nom1=LeCun |prénom2=B. |nom2=Boser |prénom3=J. S. |nom3=Denker |prénom4=D. |nom4=Henderson |titre=Backpropagation Applied to Handwritten Zip Code Recognition |périodique=Neural Computation |volume=1 |numéro=4 |date=1989-12-01 |issn=0899-7667 |doi=10.1162/neco.1989.1.4.541 |lire en ligne=https://doi.org/10.1162/neco.1989.1.4.541 |consulté le=2021-04-10 |pages=541–551 }}.</ref>, et ceux utilisés pour la  [[Reconnaissance optique de caractères|reconnaissance d'écriture ou OCR]].

== Types d'apprentissage ==
Les algorithmes d'apprentissage peuvent se catégoriser selon le mode d'apprentissage qu'ils emploient.

=== Apprentissage supervisé ===
{{Article détaillé|Apprentissage supervisé}}
[[Fichier:Apprentissage Supervisé Vs Non Supervisé.png|vignette|upright=1.4|En apprentissage supervisé, les réponses souhaitées sont connues et utilisées pour entraîner le modèle. En apprentissage non supervisé, aucune réponse n'est fournie, l'algorithme cherche à découvrir des structures dans les données<ref>{{Lien web |langue= |prénom=Kariappa |nom=Bheemaiah |prénom2=Mark |nom2=Esposito |titre=Vous avez dit « machine learning » ? Quand l'ordinateur apprend à apprendre |url=https://theconversation.com/vous-avez-dit-machine-learning-quand-lordinateur-apprend-a-apprendre-76049 |site=The Conversation |date=2017-05-01 |consulté le=2024-10-12}}</ref>.]]
Si les ''classes'' sont prédéterminées et les ''exemples'' connus, le système apprend à classer selon un ''modèle'' de classification ou de classement ; on parle alors d'apprentissage supervisé (ou d'[[analyse discriminante]]). Un [[expert]] (ou ''oracle'') doit préalablement étiqueter des exemples. Le processus se passe en deux phases. Lors de la première phase (hors ligne, dite d{{'}}''apprentissage''), il s'agit de déterminer un modèle à partir des données étiquetées. La seconde phase (en ligne, dite de ''test'') consiste à prédire l'étiquette d'une nouvelle donnée, connaissant le modèle préalablement appris. Parfois il est préférable d'associer une donnée non pas à une classe unique, mais une probabilité d'appartenance à chacune des classes prédéterminées ; on parle alors d'apprentissage supervisé probabiliste.

Fondamentalement, le machine learning supervisé revient à apprendre à une machine à construire une fonction f telle que Y = f(X), Y étant un ou plusieurs résultats d'intérêt calculé en fonction de données d'entrées X effectivement à la disposition de l'utilisateur. Y peut être une grandeur [[Continuité (mathématiques)|continue]] (une température par exemple), et on parle alors de [[Régression (statistiques)|régression]], ou [[Topologie discrète|discrète]] (une classe, chien ou chat par exemple), et on parle alors de classification.

Des cas d'usage typiques d'apprentissage automatique peuvent être d'estimer la météo du lendemain en fonction de celle du jour et des jours précédents, de prédire le vote d'un électeur en fonction de certaines données économiques et sociales, d'estimer la résistance d'un nouveau matériau en fonction de sa composition, de déterminer la présence ou non d'un objet dans une image. L'[[analyse discriminante linéaire]] ou les [[support vector machine|SVM]] en sont d'autres exemples typiques. Autre exemple, en fonction de points communs détectés avec les [[symptôme]]s d'autres patients connus (les ''exemples''), le système peut catégoriser de nouveaux patients, au vu de leurs [[analyses médicales]], en [[risque]] estimé de développer telle ou telle maladie.

=== Apprentissage non supervisé ===
{{Article détaillé|Apprentissage non supervisé}}
Quand le système ou l'opérateur ne dispose que d'exemples, mais non d'étiquette, et que le nombre de classes et leur nature n'ont pas été prédéterminées, on parle d'apprentissage non supervisé ou ''[[partitionnement de données|clustering]]'' en anglais. Aucun expert n'est requis. L'algorithme doit découvrir par lui-même la structure plus ou moins ''cachée'' des données. Le [[partitionnement de données]], ''data clustering'' en anglais, est un algorithme d'apprentissage non supervisé.

Le système doit ici — dans l'espace de description (l'ensemble des données) — cibler les données selon leurs attributs disponibles, pour les classer en groupes ''homogènes'' d'exemples. La [[similarité (informatique)|similarité]] est généralement calculée selon une fonction de distance entre paires d'exemples. C'est ensuite à l'opérateur d'associer ou déduire du [[signification (philosophie)|sens]] pour chaque groupe et pour les motifs (''patterns'' en anglais) d{{'}}''apparition'' de groupes, ou de groupes de groupes, dans leur « espace ». Divers outils mathématiques et [[logiciel]]s peuvent l'aider. On parle aussi d'analyse des données en régression (ajustement d'un modèle par une procédure de type moindres carrés ou autre optimisation d'une fonction de ''coût''). Si l'approche est [[probabiliste]] (c'est-à-dire que chaque exemple, au lieu d'être classé dans une seule classe, est caractérisé par un jeu de probabilités d'appartenance à chacune des classes), on parle alors de « ''soft clustering'' » (par opposition au « ''hard clustering'' »).

Cette méthode est souvent source de [[sérendipité]]. {{retrait|1= {{Ex}} Pour un [[épidémiologiste]] qui voudrait dans un ensemble assez large de victimes de [[cancer du foie]] tenter de faire émerger des hypothèses explicatives, l'ordinateur pourrait différencier différents groupes, que l'épidémiologiste chercherait ensuite à associer à divers facteurs explicatifs, origines géographique, [[génétique]], habitudes ou pratiques de consommation, expositions à divers agents potentiellement ou effectivement toxiques ([[métal lourd|métaux lourds]], [[toxine]]s telle que l'[[aflatoxine]]{{etc}}). }}Contrairement à l'apprentissage supervisé où l'apprentissage automatique consiste à trouver une fonction f telle que Y = f(X), où Y est un résultat connu et objectif (par exemple Y = « présence d'une tumeur » ou « absence de tumeur » en fonction de X = image radiographique), dans l'apprentissage non supervisé, on ne dispose pas de valeurs de Y, uniquement de valeurs de X (dans l'exemple précédent, on disposerait uniquement des images radiographiques sans connaissance de la présence ou non d'une tumeur. L'apprentissage non supervisé pourrait découvrir deux "clusters" ou groupes correspondant à "présence" ou "absence" de tumeur, mais les chances de réussite sont moindres que dans le cas supervisé où la machine est orientée sur ce qu'elle doit trouver).

L'apprentissage non supervisé est généralement moins performant que l'apprentissage supervisé, il évolue dans une zone « grise » où il n'y a généralement pas de « bonne » ou de « mauvaise » réponse mais simplement des similarités mathématiques discernables ou non. L'apprentissage non supervisé présente cependant l'intérêt de pouvoir travailler sur une base de données de X sans qu'il soit nécessaire d'avoir des valeurs de Y correspondantes, or les Y sont généralement compliqués et/ou coûteux à obtenir, alors que les seuls X sont généralement plus simples et moins coûteux à obtenir (dans l'exemple des images radiographiques, il est relativement aisé d'obtenir de telles images, alors qu'obtenir les images avec le label « présence de tumeur » ou « absence de tumeur » nécessite l'intervention longue et coûteuse d'un spécialiste en imagerie médicale).

L'apprentissage non supervisé permet potentiellement de détecter des anomalies dans une base de données, comme des valeurs singulières ou aberrantes pouvant provenir d'une erreur de saisie ou d'une singularité très particulière. Il peut donc s'agir d'un outil intéressant pour vérifier ou nettoyer une base de données.

=== Apprentissage semi-supervisé ===
{{Article détaillé|Apprentissage semi-supervisé}}
Effectué de manière probabiliste ou non, il vise à faire apparaître la distribution sous-jacente des ''exemples'' dans leur espace de description. Il est mis en œuvre quand des données (ou « étiquettes ») manquent… Le modèle doit utiliser des exemples ''non étiquetés'' pouvant néanmoins renseigner. Par exemple, en médecine, il peut constituer une aide au diagnostic ou au choix des moyens les moins onéreux de tests de diagnostic.

=== Apprentissage partiellement supervisé ===
Probabiliste ou non, quand l'étiquetage des données est partiel<ref>Ambroise et Govaert, 2000.</ref>. C'est le cas quand un modèle énonce qu'une donnée n'appartient pas à une classe ''A'', mais peut-être à une classe ''B'' ou ''C'' (''A, B ''et'' C'' étant trois maladies par exemple évoquées dans le cadre d'un [[diagnostic différentiel]]).

=== Apprentissage auto-supervisé ===
L'[[apprentissage auto-supervisé]] consiste à construire un problème d'apprentissage supervisé à partir d'un problème non supervisé à l'origine.

Pour rappel, l'apprentissage supervisé consiste à construire une fonction Y = f(X) et nécessite donc une base de données où l'on possède des Y en fonction des X (par exemple, en fonction du texte X correspondant à la critique d'un film, retrouver la valeur du Y correspondant à la note attribuée au film), alors que dans l'apprentissage non supervisé, on dispose uniquement des valeurs de X et pas de valeurs de Y (on disposerait par exemple ici uniquement du texte X correspondant à la critique du film, et pas de la note Y attribuée au film).

L'apprentissage auto-supervisé consiste donc à créer des Y à partir des X pour passer à un apprentissage supervisé, en "masquant" des X pour en faire des Y<ref>{{Lien web |langue=anglais |auteur=Zisserman, A. |titre=Self-Supervised Learning |url=https://project.inria.fr/paiss/files/2018/07/zisserman-self-supervised.pdf |site=Inria}}</ref>. Dans le cas d'une image, l'apprentissage auto-supervisé peut consister à reconstruire la partie manquante d'une image qui aurait été tronquée. Dans le cas du langage, lorsqu'on dispose d'un ensemble de phrases qui correspondent aux X sans cible Y particulière, l'apprentissage auto-supervisé consiste à supprimer certains X (certains mots) pour en faire des Y. L'apprentissage auto-supervisé revient alors pour la machine à essayer de reconstruire un mot ou un ensemble de mots manquants en fonction des mots précédents et/ou suivants, en une forme d'auto-complétion. Cette approche permet potentiellement à une machine de « comprendre » le langage humain, son sens sémantique et symbolique. Les modèles IA de langage comme [[BERT (modèle de langage)|BERT]] ou [[GPT-3]] sont conçus selon ce principe<ref>{{Lien web |langue=anglais |auteur=Causevic, S. |titre=Self-supervised Transformer Language Models — BERT, GPT3, MUM and PaML |url=https://towardsdatascience.com/self-supervised-transformer-models-bert-gpt3-mum-and-paml-2b5e29ea0c26 |site=Towards Data Science |date=2022}}</ref>. Dans le cas d'un film, l'apprentissage auto-supervisé consisterait à essayer de prédire les images suivantes en fonction des images précédentes, et donc à tenter de prédire « l'avenir » sur la base de la logique probable du monde réel.

Certains chercheurs, comme [[Yann Le Cun]], pensent que si l'IA générale est possible, c'est probablement par une approche de type auto-supervisé qu'elle pourrait être conçue<ref>{{Lien web |langue=anglais |auteur=Dickson, B. |titre=Meta's Yann LeCun is betting on self-supervised learning to unlock human-compatible AI |url=https://thenextweb.com/news/metas-yann-lecun-is-betting-on-self-supervised-learning-to-unlock-human-compatible-ai |site=The Next Web |date=2022}}</ref>, par exemple en étant immergée dans le monde réel pour essayer à chaque instant de prédire les images et les sons les plus probables à venir, en comprenant qu'un ballon en train de rebondir et de rouler va encore continuer à rebondir et à rouler, mais de moins en moins haut et de moins en moins vite jusqu'à s'arrêter, et qu'un obstacle est de nature à arrêter le ballon ou à modifier sa trajectoire, ou à essayer de prédire les prochains mots qu'une personne est susceptible de prononcer ou le prochain geste qu'elle pourrait accomplir. L'apprentissage auto-supervisé dans le monde réel serait une façon d'apprendre à une machine le sens commun, le bon sens, la réalité du monde physique qui l'entoure, et permettrait potentiellement d'atteindre une certaine forme de conscience. Il ne s'agit évidemment que d'une hypothèse de travail, la nature exacte de la conscience, son fonctionnement et sa définition même restant un domaine actif de recherche.

=== Apprentissage par renforcement ===
{{Article détaillé|Apprentissage par renforcement}}
[[Fichier:Reinforcement learning diagram fr.svg|droite|sans_cadre]]
L'algorithme apprend un comportement étant donné une observation<ref>Voir ''[[Référence:Machine Learning|{{Langue|en|Machine Learning}}]]'', chap. 13 ''{{Langue|en|Reinforcement Learning}}'', {{p.|367-390}}.</ref>. L'algorithme interagit avec un environnement dynamique dans lequel il doit atteindre un certain but et apprendre à identifier le comportement le plus efficace dans l'environnement considéré<ref>{{Ouvrage |prénom1=Peter |nom1=Norvig |prénom2=Fabrice |nom2=Popineau |prénom3=Stuart J. |nom3=Traduction de : Russell |titre=Intelligence artificielle|date=2010 |isbn=978-2-7440-7455-4 |isbn2=2-7440-7455-1 |oclc=708384789 |consulté le=2023-04-13 |numéro chapitre=21 |titre chapitre=Apprentissage par renforcement}}.</ref>.

Par exemple, l'algorithme de {{lang|en|[[Q-learning]]}}<ref>Voir ''[[Référence:Machine Learning|{{Langue|en|Machine Learning}}]]'', {{p.|373-380}}.</ref> est un exemple classique.

L'apprentissage par renforcement peut aussi être vu comme une forme d'apprentissage auto-supervisé. Dans un problème d'apprentissage par renforcement, il n'y a en effet à l'origine pas de données de sorties Y, ni même de données d'entrée X, pour construire une fonction Y = f(X). Il y a simplement un « écosystème » muni de règles qui doivent être respectées, et un « objectif » à atteindre. Par exemple, pour le football, il y a des règles du jeu à respecter et des buts à marquer. Dans l'apprentissage par renforcement, le modèle crée ''lui-même'' sa base de données en « jouant » (d'où le concept d{{'}}''auto''-supervisé) : il teste des combinaisons de données d'entrée X et il en découle un résultat Y qui est évalué ; s'il est conforme aux règles du jeu et atteint son objectif, le modèle est récompensé et sa stratégie est ainsi validée, sinon le modèle est pénalisé. Par exemple pour le football, dans une situation du type « ballon possédé, joueur adverse en face, but à 20 mètres », une stratégie peut être de « tirer » ou de « dribbler », et en fonction du résultat (« but marqué », « but raté », ou « balle toujours possédée, joueur adverse franchi »), le modèle apprend de manière incrémentale comment se comporter au mieux en fonction des situations rencontrées.

=== Apprentissage par transfert ===
{{Article détaillé|Apprentissage par transfert}}
L'apprentissage par transfert peut être vu comme la capacité d'un système à reconnaître et à appliquer des connaissances et des compétences, apprises à partir de tâches antérieures, sur de nouvelles tâches ou domaines partageant des similitudes<ref>{{Article|langue=en|auteur1=Sinno Jialin Pan|auteur2=Qiang Yang|titre=A Survey on Transfer Learning|périodique=[[Institute of Electrical and Electronics Engineers|IEEE]] Transactions on Knowledge and Data Engineering|volume=22|numéro=10|date=octobre 2010|pages=1345-1359|issn=1041-4347|e-issn=1558-2191|doi=10.1109/TKDE.2009.191|lire en ligne=https://www.ntu.edu.sg/home/sinnopan/publications/TLsurvey_0822.pdf|format=pdf}}.</ref>. Il s'agit d'identifier les similitudes entre la ou les tâche(s) cible(s) et la ou les tâche(s) source(s), puis de transférer la connaissance de la ou des tâche(s) source(s) vers la ou les tâche(s) cible(s)<ref name="Brownlee">{{Lien web |langue=anglais |auteur=Brownlee, J. |titre=How to Classify Photos of Dogs and Cats (with 97% accuracy) |url=https://machinelearningmastery.com/how-to-develop-a-convolutional-neural-network-to-classify-photos-of-dogs-and-cats/ |site=Machine Learning Mastery}}</ref>{{,}}<ref>{{Lien web |langue=anglais |auteur=Chollet, F. |titre=Transfer learning & fine-tuning |url=https://keras.io/guides/transfer_learning/ |site=Keras.io}}</ref>.

Une application classique de l'apprentissage par transfert est l'analyse d'images. Pour une problématique de classification, l'apprentissage par transfert consiste à repartir d'un modèle existant plutôt que de repartir de zéro. Si par exemple on dispose déjà d'un modèle capable de repérer un chat parmi tout autre objet du quotidien, et que l'on souhaite classifier les chats par races, il est possible que réentraîner partiellement le modèle existant permette d'obtenir de meilleures performances et à moindre coût qu'en repartant de zéro<ref>{{Lien web |langue=anglais |auteur=Chollet, F. |titre=Transfer learning & fine-tuning |url=https://keras.io/guides/transfer_learning/ |site=Keras}}</ref>{{,}}<ref name="Brownlee" />. Un modèle souvent utilisé pour réaliser un apprentissage par transfert de ce type est VGG-16, un réseau de neurones conçu par l'[[Université d'Oxford]], entraîné sur ~14 millions d'images, capable de classer avec ~93% de précision mille objets du quotidien<ref>{{Article|langue=anglais|auteur1=Simonyan, K.|titre=VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION|périodique=[[International Conference on Learning Representations]] (ICLR)|date=2015|lire en ligne=https://arxiv.org/pdf/1409.1556.pdf}}</ref>.

== Algorithmes utilisés ==
Les algorithmes se classent en quatre familles ou types principaux<ref name=":1">{{Lien web |titre=Choosing the right estimator — scikit-learn 0.24.2 documentation |url=https://scikit-learn.org/stable/tutorial/machine_learning_map/index.html |site=scikit-learn.org |consulté le=2021-06-09}}.</ref> :
* [[régression (statistiques)|régression]]
* [[classification]]
* [[partitionnement de données]]
* réduction de dimensions.

Plus précisément<ref name=":1" /> :
* la [[régression linéaire]] ;
* la [[régression logistique]] ;
* les [[support vector machine|machines à vecteur de support]] ;
* les [[Réseau de neurones artificiels|réseaux de neurones]]<ref>Voir ''[[Référence:Machine Learning|{{Langue|en|Machine Learning}}]]'', chap. 4 ''{{Langue|en|Artificial Neural Networks}}'', {{p.|81-127}}.</ref>, dont les méthodes d'[[apprentissage profond]] (''deep learning'' en anglais) pour un apprentissage supervisé ou non-supervisé ;
* la [[méthode des k plus proches voisins]] pour un apprentissage supervisé ;
* les [[arbre de décision|arbres de décision]]<ref>Voir ''[[Référence:Machine Learning|{{Langue|en|Machine Learning}}]]'', chap. 3 ''{{Langue|en|Decision Tree Learning}}'', {{p.|52-80}}.</ref>, méthodes à l'origine des [[Forêt d'arbres décisionnels|Random Forest]], par extension également du boosting (notamment [[XGBoost]]) ;
* les méthodes [[statistique]]s comme le [[modèle de mixture gaussienne]] ;
* l'[[analyse discriminante linéaire]] ;
* les [[algorithme génétique|algorithmes génétiques]]<ref>Voir ''[[Référence:Machine Learning|Machine Learning]]'', chap. 9 ''{{Langue|en|Genetic Algorithms}}'', {{p.|249-273}}.</ref> et la ''[[programmation génétique]]'' ;
* le [[boosting]] ;
* le [[bagging]].

Ces méthodes sont souvent combinées pour obtenir diverses variantes d'apprentissage. Le choix d'un algorithme dépend fortement de la tâche à résoudre (classification, estimation de valeurs…), du volume et de la nature des données. Ces modèles reposent souvent sur des [[Modèle statistique|modèles statistiques]].

== Facteurs de pertinence et d'efficacité ==
La qualité de l'apprentissage et de l'analyse dépendent du besoin en amont et ''a priori'' de la compétence de l'opérateur pour préparer l'analyse. Elle dépend aussi de la complexité du modèle (spécifique ou généraliste), de son adéquation et de son adaptation au sujet à traiter. ''In fine'', la qualité du travail dépendra aussi du mode (de mise en évidence visuelle) des résultats pour l'utilisateur final (un résultat pertinent pourrait être caché dans un schéma trop complexe, ou mal mis en évidence par une représentation graphique inappropriée).

Avant cela, la qualité du travail dépendra de facteurs initiaux contraignants, liées à la [[base de données]] :
* ''nombre d'exemples'' (moins il y en a, plus l'analyse est difficile, mais plus il y en a, plus le besoin de mémoire informatique est élevé et plus longue est l'analyse) ;
* ''nombre et qualité des [[Attribut (informatique)|attributs]]'' décrivant ces exemples. La distance entre deux « exemples » [[Variable quantitative|numériques]] (prix, taille, poids, intensité lumineuse, intensité de bruit{{etc.}}) est facile à établir, celle entre deux [[Variable catégorielle|attributs catégoriels]] (couleur, beauté, utilité…) est plus délicate ;
* ''pourcentage de données renseignées'' et manquantes ;
* ''bruit'' : le nombre et la « localisation » des valeurs douteuses (erreurs potentielles, valeurs aberrantes…) ou naturellement non-conformes au ''{{lang|en|pattern}}'' de distribution générale des « exemples » sur leur espace de distribution impacteront sur la qualité de l'analyse.

== Étapes d'un projet d'apprentissage automatique ==
L'apprentissage automatique ne se résume pas à un ensemble d'algorithmes, mais suit une succession d'étapes<ref>{{Lien web |titre=Machine Learning : retour aux sources |url=https://nexworld.fr/machine-learning-retour-aux-sources/ |site=Nexworld |date=2017-10-02 |consulté le=2020-02-03}}.</ref>{{,}}<ref>{{Lien web |titre= Les étapes à réaliser pour mener à bien un projet de Machine Learning |série=Intelligence artificielle vulgarisée |url=https://www.editions-eni.fr/open/mediabook.aspx?idR=4a1d225f6d8933d9887444217128e604 |site=editions-eni.fr |consulté le=2021-04-08}}.</ref>.

# '''Définir le problème à résoudre'''.
# '''Acquérir des données''' : l'algorithme se nourrissant des données en entrée, c'est une étape importante. Il y va de la réussite du projet, de récolter des données pertinentes et en quantité et qualité suffisantes, et en évitant tout biais dans leur représentativité.
# '''Analyser et [[exploration de données|explorer les données]]'''. L'exploration des données peut révéler des données d'entrée ou de sortie déséquilibrées pouvant nécessiter un rééquilibrage, le machine learning non supervisé peut révéler des clusters qu'il pourrait être utile de traiter séparément ou encore détecter des anomalies qu'il pourrait être utile de supprimer.
# '''Préparer et nettoyer les données''' : les données recueillies doivent être retouchées avant utilisation. En effet, certains attributs sont inutiles, d'autre doivent être modifiés afin d'être compris par l'algorithme (les variables qualitatives doivent être encodées-binarisées), et certains éléments sont inutilisables car leurs données sont incomplètes (les valeurs manquantes doivent être gérées, par exemple par simple suppression des exemples comportant des variables manquantes, ou par remplissage par la médiane, voire par apprentissage automatique). Plusieurs techniques telles que la [[visualisation de données]], la {{lien|trad=Data transformation (statistics)|fr=transformation de données}} ou encore la [[Forme normale (bases de données relationnelles)|normalisation]] (variables projetées entre 0 et 1) ou la standardisation (variables centrées - réduites) sont employées afin d'homogénéiser les variables entre elles, notamment pour aider la phase de [[descente de gradient]] nécessaire à l'apprentissage.
# '''[[Ingénierie des caractéristiques|Ingénierie]] ou [[Extraction de caractéristique|extraction de caractéristiques]]''' : les attributs peuvent être combinés entre eux pour en créer de nouveaux plus pertinents et efficaces pour l'entraînement du modèle<ref>{{Ouvrage |langue=en |auteur1=Huan Liu |auteur2=Hiroshi Motoda |titre=Feature Extraction, Construction and Selection : A Data Mining Perspective |éditeur=Springer |date=1998 |isbn=978-1-4615-5725-8}}.</ref>. Ainsi, en physique, de la construction de [[Grandeur sans dimension|nombres adimensionnels]] adaptés au problème, de solutions analytiques approchées, de statistiques pertinentes, de corrélations empiriques ou l'extraction de spectres par [[Transformation de Fourier|transformée de Fourier]] <ref>{{Article|langue=anglais|auteur1=Montanez-Barrera, J. A.|titre=Correlated-informed neural networks: A new machine learning framework to predict pressure drop in micro-channels|périodique=International Journal of Heat and Mass Transfer|date=2022|doi=10.1016/j.ijheatmasstransfer.2022.123017|lire en ligne=https://www.researchgate.net/publication/360806101_Correlated-informed_neural_networks_A_new_machine_learning_framework_to_predict_pressure_drop_in_micro-channels|accès url=limité}}</ref>{{,}}<ref>{{Article|langue=anglais|auteur1=Bikmukhametov, T.|titre=Combining machine learning and process engineering physics towards enhanced accuracy and explainability of data-driven models|périodique=Computers & Chemical Engineering|date=2020|doi=https://doi.org/10.1016/j.compchemeng.2020.106834}}</ref>. Il s'agit d'ajouter l'expertise humaine au préalable de l'apprentissage machine pour favoriser celui-ci<ref>{{Article|langue=anglais|auteur1=Dash, T.|titre=A review of some techniques for inclusion of domain-knowledge into deep neural networks|périodique=Scientific Reports|date=2022|lire en ligne=https://www.nature.com/articles/s41598-021-04590-0}}.</ref>.
# '''Choisir ou construire un modèle d'apprentissage''' : un large choix d'algorithmes existe, et il faut en choisir un adapté au problème et aux données. La métrique optimisée doit être choisie judicieusement (erreur absolue moyenne, erreur relative moyenne, précision, rappel{{etc.}})
# '''Entraîner''', '''évaluer''' et '''optimiser''' : l'algorithme d'apprentissage automatique est entraîné et validé sur un premier jeu de données pour optimiser ses [[hyperparamètre]]s.
# '''Test''' : puis il est évalué sur un deuxième ensemble de données de test afin de vérifier qu'il est efficace avec un jeu de donnée indépendant des données d'entraînement, et pour vérifier qu'il ne fasse pas de [[surapprentissage]].
# '''Déployer''' : le modèle est alors déployé en production pour faire des prédictions, et potentiellement utiliser les nouvelles données en entrée pour se ré-entraîner et être amélioré.
# '''Expliquer''' : déterminer quelles sont les variables importantes et comment elles affectent les prédictions du modèle en général et au cas par cas

La plupart de ces étapes se retrouvent dans les méthodes et processus de projet KDD, [[Cross Industry Standard Process for Data Mining|CRISP-DM]] et [[SEMMA]], qui concernent les projets d'exploration de données<ref>{{Lien web |langue=en |titre=A Comparative Study of Data Mining Process Models (KDD, CRISP-DM and SEMMA) |url=http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.686.840&rep=rep1&type=pdf |format=pdf |site=[[CiteSeerX]] |consulté le=2021-04-21}}.</ref>.

Toutes ces étapes sont complexes et requièrent du temps et de l'expertise, mais il existe des outils permettant de les automatiser au maximum pour "démocratiser" l'accès à l'apprentissage automatique. Ces approches sont dites "[[:en:Automated_machine_learning|Auto ML]]" (pour machine learning ''automatique'') ou "No [[:en:No-code_development_platform|Code]]" (pour illustrer que ces approches ne nécessitent pas ou très peu de programmation informatique), elles permettent ''d'automatiser'' la construction de modèles d'apprentissage automatique pour limiter au maximum le besoin d'intervention humaine. Parmi ces outils, commerciaux ou non, on peut citer Caret, PyCaret, pSeven, Jarvis, Knime, MLBox ou DataRobot.

== Application à la voiture autonome ==
{{Article détaillé|Véhicule autonome}}
La [[Véhicule autonome|voiture autonome]] paraît en 2016 réalisable grâce à l'apprentissage automatique et les énormes quantités de données générées par la flotte automobile, de plus en plus connectée. Contrairement aux algorithmes classiques (qui suivent un ensemble de règles prédéterminées), l'apprentissage automatique apprend ses propres règles<ref>{{Ouvrage |langue=en |auteur1=Hod Lipson |auteur2=Melba Kurman |titre=Driverless: Intelligent Cars and the Road Ahead |éditeur=MIT Press |date=2016}}.</ref>.

Les principaux innovateurs dans le domaine insistent sur le fait que le progrès provient de l'automatisation des processus. Ceci présente le défaut que le processus d'apprentissage automatique devient privatisé et obscur. Privatisé, car les algorithmes d'AA constituent des gigantesques opportunités économiques, et obscurs car leur compréhension passe derrière leur optimisation. Cette évolution peut potentiellement nuire à la confiance du public envers l'apprentissage automatique, mais surtout au potentiel à long terme de techniques très prometteuses<ref name=":0">{{Article |langue=en |auteur1=Jack Stilgoe |titre=Machine learning, social learning and the governance of self-driving cars|périodique=Social Studies of Science|date=2018|lire en ligne=http://journals.sagepub.com/doi/abs/10.1177/0306312717741687}}.</ref>.

La voiture autonome présente un cadre test pour confronter l'apprentissage automatique à la société. En effet, ce n'est pas seulement l'algorithme qui se forme à la circulation routière et ses règles, mais aussi l'inverse. Le principe de responsabilité est remis en cause par l'apprentissage automatique, car l'algorithme n'est plus écrit mais apprend et développe une sorte d'intuition numérique. Les créateurs d'algorithmes ne sont plus en mesure de comprendre les « décisions » prises par leurs algorithmes, ceci par construction mathématique même de l'algorithme d'apprentissage automatique<ref>{{Ouvrage |langue=en |prénom1=Ed |nom1=Finn |titre=What algorithms want |sous-titre=imagination in the age of computing |lieu=Cambridge, Massachusetts |éditeur=The MIT press |pages totales=257 |isbn=978-0-262-03592-7 |isbn2=0262035928 |oclc=958795990 |bnf=45476175 }}.</ref>.

Dans le cas de l'AA et les voitures autonomes, la question de la responsabilité en cas d'accident se pose. La société doit apporter une réponse à cette question, avec différentes approches possibles. Aux États-Unis, il existe la tendance à juger une technologie par la qualité du résultat qu'elle produit, alors qu'en Europe le principe de précaution est appliqué, et on y a plus tendance à juger une nouvelle technologie par rapport aux précédentes, en évaluant les différences par rapport à ce qui est déjà connu. Des processus d'évaluation de risques sont en cours en Europe et aux États-Unis<ref name=":0" />.

La question de responsabilité est d'autant plus compliquée que la priorité chez les concepteurs réside en la conception d'un algorithme optimal, et non pas de le comprendre. L'interprétabilité des algorithmes est nécessaire pour en comprendre les décisions, notamment lorsque ces décisions ont un impact profond sur la vie des individus. Cette notion d'interprétabilité, c'est-à-dire de la capacité de comprendre pourquoi et comment un algorithme agit, est aussi sujette à interprétation.

La question de l'accessibilité des données est sujette à controverse : dans le cas des voitures autonomes, certains défendent l'accès public aux données, ce qui permettrait un meilleur apprentissage aux algorithmes et ne concentrerait pas cet « or numérique » dans les mains d'une poignée d'individus, de plus d'autres militent pour la privatisation des données au nom du libre marché, sans négliger le fait que des bonnes données constituent un avantage compétitif et donc économique<ref name=":0" />{{,}}<ref>{{Article |langue=en |auteur1=Andrew J. Hawkins |titre=Self-driving car makers don't sound super excited to share data with the federal government |périodique=The Verge |lire en ligne=https://www.theverge.com/2016/9/20/12991302/google-uber-ford-lyft-volvo-self-driving-car-reaction-dot-nhtsa |consulté le=2018-05-11 |date=20 septembre 2016}}.</ref>.

La question des choix moraux liés aux décisions laissées aux algorithmes d'AA et aux voitures autonomes en cas de situations dangereuses ou mortelles se pose aussi. Par exemple en cas de défaillance des freins du véhicule, et d'accident inévitable, quelles vies sont à sauver en priorité: celle des passagers ou bien celle des piétons traversant la rue<ref>{{Lien web |titre=Moral Machine |url=http://moralmachine.mit.edu/ |site=Moral Machine |consulté le=2021-04-10}}.</ref> ?

== Prospective ==
Dans les années 2000-2010, l'apprentissage automatique est encore une technologie émergente, mais polyvalente, qui est par nature théoriquement capable d'accélérer le rythme de l'automatisation et de l'autoapprentissage lui-même. Combiné à l'apparition de nouveaux moyens de produire, stocker et faire circuler l'énergie, ainsi qu'à l'informatique ubiquiste, il pourrait bouleverser les technologies et la société comme l'ont fait la [[machine à vapeur]] et l'[[électricité]], puis le pétrole et l'[[informatique]] lors des [[Révolution industrielle|révolutions industrielles]] précédentes.

L'apprentissage automatique pourrait générer des innovations et des capacités inattendues, mais avec un risque selon certains observateurs de perte de maîtrise de la part des humains sur de nombreuses tâches qu'ils ne pourront plus comprendre et qui seront faites en routine par des entités informatiques et robotisées. Ceci laisse envisager des impacts spécifiques complexes et encore impossibles à évaluer sur l'emploi, le travail et plus largement l'économie et les inégalités. Selon le journal ''Science'' fin 2017 : {{Citation|Les effets sur l'emploi sont plus complexes que la simple question du remplacement et des substitutions soulignées par certains. Bien que les effets économiques du BA soient relativement limités aujourd'hui et que nous ne soyons pas confrontés à une « fin du travail » imminente comme cela est parfois proclamé, les implications pour l'économie et la main-d'œuvre sont profondes}}<ref>{{en}} [[Erik Brynjolfsson]] et Tom Mitchell, « ''What can machine learning do? Workforce implications'' », ''Science'', 22 décembre 2017, vol. 358, n°6370, p. 1530-1534, {{DOI|10.1126/science.aap8062}} [http://science.sciencemag.org/content/358/6370/1530 résumé].</ref>.
 
Il est tentant de s'inspirer des [[êtres vivants]] sans les copier naïvement<ref>[https://www.youtube.com/watch?v=qzn8wMwSaRQ Computer Science Colloquium - March 28, 2013], Anne Menendez & Guy Paillet].</ref> pour concevoir des machines capables d'apprendre. Les notions de [[percept]] et de concept comme phénomènes neuronaux ''physiques'' ont d'ailleurs été popularisés dans le monde francophone par [[Jean-Pierre Changeux]]. L'apprentissage automatique reste avant tout un sous-domaine de l'[[informatique]], mais il est étroitement lié opérationnellement aux [[sciences cognitives]], aux [[neuroscience]]s, à la [[biologie]] et à la [[psychologie]], et pourrait à la croisée de ces domaines, [[nanotechnologies, biotechnologies, informatique et sciences cognitives]], aboutir à des systèmes d'intelligence artificielle ayant une assise plus vaste. Des enseignements publics ont notamment été dispensés au [[Collège de France]], l'un par [[Stanislas Dehaene]]<ref>{{lien web |auteur=Stanislas Dehaene |titre=Psychologie cognitive expérimentale |url=http://www.college-de-france.fr/site/stanislas-dehaene/_course.htm |site=[[Collège de France]] |date=11-04-2022 |consulté le=13-04-2023}}.</ref> orienté sur l'aspect bayésien des neurosciences, et l'autre par  [[Yann Le Cun]]<ref>{{lien web |auteur=Yann LeCun  |titre=Informatique et sciences numériques |url=https://www.college-de-france.fr/site/yann-lecun/Recherches-sur-l-intelligence-artificielle.htm |site=[[Collège de France]] |date=11-04-2022 |consulté le=13-04-2023}}.</ref> sur les aspects théoriques et pratiques de l'[[apprentissage profond]].

== Enjeux et limites ==
=== Quantité et qualité des données ===
L'apprentissage automatique demande de grandes quantités de [[donnée]]s pour fonctionner correctement. Il est impossible de savoir a priori quelle taille la base de données doit avoir pour que l'apprentissage automatique fonctionne correctement, en fonction de la complexité de la problématique étudiée et de la qualité des données, mais un ordre de grandeur assez usuel est que, pour une problématique de régression ou de classification basée sur des données tabulaires, il faut dix fois plus d'exemples dans la base de données que de variables d'entrées du problème ([[Degré de liberté (statistiques)|degrés de liberté]])<ref>{{Ouvrage|langue=anglais|auteur1=Maloof, M. A.|titre=Machine Learning and Data Mining for Computer Security|éditeur=Springer|date=2006|isbn=978-1-84628-029-0}}</ref>{{,}}<ref>{{Lien web |langue=anglais |auteur=Brownlee, J. |titre=How Much Training Data is Required for Machine Learning? |url=https://machinelearningmastery.com/much-training-data-required-machine-learning/ |site=Machine Learning Mastery |date=2017}}.</ref>. Pour des problématiques complexes, il est possible qu'il faille plutôt cent à mille fois plus d'exemples que de degrés de liberté. Pour de la classification d'images, en partant de zéro, il est usuellement nécessaire d'avoir ~1000 images par classe, ou ~100 images par classe si on réalise de l'apprentissage par transfert depuis un modèle existant plutôt que de partir de zéro<ref>{{Lien web |langue=anglais |auteur=Mitsa, T. |titre=How Do You Know You Have Enough Training Data? |url=https://towardsdatascience.com/how-do-you-know-you-have-enough-training-data-ad9b1fd679ee |site=Towards Data Science |date=2019}}</ref>{{,}}<ref>{{Lien web |langue=anglais |auteur=Warden, P. |titre=How many images do you need to train a neural network? |url=https://petewarden.com/2017/12/14/how-many-images-do-you-need-to-train-a-neural-network/ |site=Pete Warden's Blog |date=2017}}</ref>.

La qualité des données se traduit par leur richesse et leur équilibre statistique, leur complétude (pas de valeurs manquantes), ainsi que leur précision (incertitudes faibles).

Il peut s'avérer difficile de contrôler l'intégrité des jeux de données, notamment dans le cas de données générées par les réseaux sociaux<ref>{{Article |langue=en |auteur1=Danah Boyd |auteur2=[[Kate Crawford]] |titre=Critical Questions for Big Data |sous-titre=Provocations for a cultural, technological, and scholarly phenomenon |périodique=Information, Communication & Society |date=2011}}.</ref>.

La qualité des « décisions » prises par un algorithme d'AA dépend non seulement de la qualité (donc de leur homogénéité, fiabilité{{etc.}}) des données utilisées pour l’entraînement mais surtout de leur quantité. Donc, pour un jeu de données sociales collecté sans attention particulière à la représentation des minorités, l'AA est statistiquement injuste vis-à-vis de celles-ci. En effet, la capacité à prendre de « bonnes » décisions dépend de la taille des données, or celle-ci sera proportionnellement inférieure pour les minorités. Il convient donc de réaliser l'apprentissage automatique avec des données les plus équilibrées possibles, quitte à passer par un pré-traitement des données afin de rétablir l'équilibre ou par une modification/pénalisation de la fonction objectif.

L'AA ne distingue actuellement pas [[cause]] et [[corrélation (science cognitive)|corrélation]] de par sa construction mathématique : usuellement, ce sont des ''causalités'' qui sont recherchées par l'utilisateur, mais l'AA ne peut trouver que des ''corrélations''. Il incombe à l'utilisateur de vérifier la nature du lien mis en lumière par l'AA, causal ou non. Plusieurs variables corrélées peuvent être liées causalement à une autre variable cachée qu'il peut être utile d'identifier.

Mathématiquement, certaines méthodes d'AA, notamment les méthodes à base d'arbres comme les [[Arbre de décision|arbres de décision]], les [[Forêt d'arbres décisionnels|forêts aléatoires]] ou les méthodes de [[boosting]], sont incapables d'extrapoler (produire des résultats en dehors du domaine connu)<ref>{{Lien web |langue=anglais |auteur=Thompson, B. |titre=A limitation of Random Forest Regression |url=https://towardsdatascience.com/a-limitation-of-random-forest-regression-db8ed7419e9f#:~:text=A%20Random%20Forest's%20nonlinear%20nature,average%20of%20previously%20observed%20labels. |site=Towards Data Science |date=2019}}.</ref>. D'autres méthodes d'AA, comme les modèles polynomiaux ou les réseaux de neurones, sont mathématiquement tout à fait capables de produire des résultats en extrapolation. Ces résultats en extrapolation peuvent ne pas être fiables du tout<ref>{{Ouvrage|langue=anglais|auteur1=Lohninger, H.|titre=Teach/Me Data Analysis|éditeur=Springer|date=1999|isbn=3-540-14743-8|lire en ligne=http://www.vias.org/tmdatanaleng/}}.</ref> (c'est typiquement le cas pour les modèles polynomiaux) mais peuvent également être relativement corrects, au moins qualitativement, si l'extrapolation n'est pas exagérément grande (réseaux de neurones notamment)<ref>{{Article|langue=anglais|auteur1=Xu, K.|titre=How neural networks extrapolate: from feedforward to graph neural networks |périodique=Proceedings of ICLR 2021|date=2021|lire en ligne=https://arxiv.org/pdf/2009.11848.pdf |format=pdf}}.</ref>. En "grandes" dimensions (à partir de ~100 variables), toute nouvelle prédiction doit de toute façon très probablement être considérée comme de l'extrapolation<ref>{{Article |langue=en |auteur1=R. Balestriero |titre=Learning in High Dimension Always Amounts to Extrapolation |périodique=Facebook AI Research - NYU |date=2021 |url=https://arxiv.org/pdf/2110.09485.pdf |format=pdf}}</ref>.

L'utilisation d'algorithmes d'apprentissage automatique demande donc d'avoir conscience du cadre de données que l'on a utilisé pour l'apprentissage lors de leur utilisation. Il est donc prétentieux d'attribuer des vertus trop grandes aux algorithmes d'apprentissage automatique<ref>{{Ouvrage|langue=en|auteur1=Gary Marcus|titre=Deep Learning, a Critical Appraisal|lieu=New York University|lire en ligne=https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf |format=pdf }}.</ref>.

=== Biais des algorithmes et des données ===
{{Article détaillé|Biais algorithmique|Échantillon biaisé}}

Un algorithme peut être biaisé lorsque son résultat dévie par rapport à un résultat neutre, loyal ou équitable. Dans certains cas, les biais algorithmiques peuvent conduire à des situations de [[discrimination]]<ref name=bertail>{{Lien web | auteurs =  Patrice Bertail, David Bounie, Stephan Clémençon et Patrick Waelbroeck | titre = Algorithmes : biais, discrimination et équité | url = https://www.telecom-paris.fr/wp-content-EvDsK19/uploads/2019/02/Algorithmes-Biais-discrimination-equite.pdf| site =[[Télécom Paris]] | consulté le = 14 juillet 2020}}.</ref>.

Les données peuvent aussi être biaisées, si l'échantillon de données utilisées pour l'apprentissage du modèle n'est pas neutre et représentatif de la réalité ou déséquilibré. Ce biais est alors appris et reproduit par le modèle<ref>{{Article |prénom1=James J. |nom1=Heckman |titre=Sample Selection Bias as a Specification Error |périodique=Econometrica |volume=47 |numéro=1 |date=1979 |issn=0012-9682 |doi=10.2307/1912352 |lire en ligne=https://www.jstor.org/stable/1912352 |consulté le=2021-04-09 |pages=153–161 }}.</ref>{{,}}<ref>{{Article |prénom1=Byungju |nom1=Kim |prénom2=Hyunwoo |nom2=Kim |prénom3=Kyungsu |nom3=Kim |prénom4=Sungjin |nom4=Kim |titre=Learning Not to Learn: Training Deep Neural Networks With Biased Data |périodique=IEEE/CVF Conference on Computer Vision and Pattern Recognition (conférence) |date=2019 |lire en ligne=https://openaccess.thecvf.com/content_CVPR_2019/html/Kim_Learning_Not_to_Learn_Training_Deep_Neural_Networks_With_Biased_CVPR_2019_paper.html |consulté le=2021-04-09 |pages=9012–9020 }}.</ref>.

Cette notion de biais est si importante qu'elle est traitée clairement depuis 2018 dans quatre des sept exigences clefs sur l'[[intelligence artificielle digne de confiance]] (« Respect de la vie privée et gouvernance des données », « Transparence », « Diversité, non-discrimination et équité » et « Responsabilité ») issues des travaux de référence<ref>{{Ouvrage |auteur institutionnel=Groupe d'experts indépendants de haut niveau sur l'intelligence artificielle mandatés par la Commission européenne (GEHN IA) |titre=Lignes directrices en matière d'éthique pour une IA digne de confiance |passage={{p.|15}} (52) « Le principe de l'équité », p.22 (73) « Qualité et intégrité des données », p.23 (80) « Absence de biais injustes », p.35 §2. « Robustesse technique et sécurité / Précision », p.37 §4. « Transparence / Communication », p.38 §5. « Diversité, non-discrimination et équité » / « Éviter les biais injustes », p.41 §7. « Responsabilité / Auditabilité / Minimisation et documentation des incidences négatives » |lieu=Bruxelles |éditeur=[[Commission européenne]] |date=8 avril 2019 |pages totales=56 |lire en ligne=https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60427 |consulté le=9 mai 2023}}.</ref> des experts de la [[Commission européenne]]<ref>{{Lien web |auteur=Johanna Diaz |titre=La Commission européenne dévoile l'European AI Alliance et les 52 experts de son comité consultatif sur l'IA |description=introduction du futur groupe d'experts indépendants de haut niveau sur l'intelligence artificielle (GEHN IA) mandatés par la Commission européenne |url=https://www.actuia.com/actualite/la-commission-europeenne-devoile-leuropean-ai-alliance-et-les-52-experts-de-son-comite-consultatif-sur-lia/ |date=15 juin 2018 |consulté le=4 mai 2023}}.</ref>, qui préludent à la future réglementation européenne, l'{{anglais|IA Act}}<ref>{{Ouvrage |titre=Proposition de règlement établissant des règles harmonisées en matière d'intelligence artificielle, aka "IA Act" |lieu=Bruxelles |éditeur=[[Commission européenne]] |date=21 avril 2021 |pages totales=108 |lire en ligne=https://digital-strategy.ec.europa.eu/fr/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence |consulté le=9 mai 2023}}.</ref>.

=== Explicabilité et explications des décisions ===

Les algorithmes d'apprentissage automatique posent des problèmes d'explicabilité globale du système. Si certains modèles comme la [[régression linéaire]] ou la [[régression logistique]] ont un nombre de paramètres limité et peuvent être interprétés, d'autres types de modèle comme les [[réseau de neurones artificiels|réseaux de neurones artificiels]] n'ont pas d'interprétation évidente<ref>{{Article | langue = en | auteur =Tim  Miller | titre = Explanation in Artificial Intelligence: Insights from the Social Sciences | périodique = arxiv.org | année = 2017 | arxiv= abs/1706.07269}}.</ref>, ce qui fait avancer à de nombreux auteurs que l'apprentissage automatique serait une « [[Boîte noire (système)|boîte noire]] » et poserait ainsi un problème de confiance. À ce titre, les experts de la Commission européenne prennent pour position que l'explicabilité est l'un des quatre grands principes fondateurs de leurs lignes directrices en matière d'éthique pour une [[intelligence artificielle digne de confiance]]<ref>{{Ouvrage |auteur institutionnel=Groupe d'experts indépendants de haut niveau sur l'intelligence artificielle mandatés par la Commission européenne (GEHN IA) |titre=Lignes directrices en matière d'éthique pour une IA digne de confiance |passage=p.14 (48) §2 2.2 « Principes éthiques dans le contexte des systèmes d'IA », p.16 (53) « Le principe de l'explicabilité », p.22 (77) « Transparence / Explicabilité » |lieu=Bruxelles|éditeur=[[Commission européenne]] |date=8 avril 2019 |pages totales=56 |lire en ligne=https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60427 |consulté le=4 mai 2023}}.</ref>. En cas d'arbitrage, parce qu'intimement liée aux droits relatifs à la justice, l'explicabilité fait ainsi écho aux notions de traçabilité, d'auditabilité et de responsabilité d'un système d'IA de confiance.

Des outils mathématiques permettent d'« auditer » un modèle d'apprentissage automatique afin de voir ce qu'il a « compris » et comment il fonctionne.

La {{anglais|feature importance}} ou « importance des variables »<ref>[https://inria.github.io/scikit-learn-mooc/python_scripts/dev_features_importance.html "feature importance" ou "importance des variables"]</ref> permet de quantifier comment, en moyenne, chacune des variables d'entrée du modèle affecte chacune de ses variables de sortie et permet de révéler que, par exemple, une variable est majoritaire, ou que certaines variables n'ont aucun impact sur la « décision » du modèle. L'importance des variables n'est cependant accessible que pour un ensemble restreint de modèles, comme les modèles linéaires, la [[régression logistique]] ou les méthodes à base d'arbres comme les [[Arbre de décision|arbres de décision]], les [[Forêt d'arbres décisionnels|forêts aléatoires]] ou les méthodes de [[boosting]].

Pour les modèles plus complexes comme les [[Réseau de neurones artificiels|réseaux de neurones]], on peut recourir à l'[[analyse de la variance]] par [[Plan d'expériences|plan d'expérience]] numérique par [[Méthode de Monte-Carlo|Monte Carlo]] pour calculer les [[Indice de Sobol|indices de Sobol]] du modèle, qui jouent alors un rôle similaire à celui de l'importance des variables. L'importance des variables et les indices de Sobol ne renseignent néanmoins que sur l'importance ''moyenne'' des variables et ne permettent donc pas aisément d'analyser la « décision » du modèle au cas par cas. Ces indicateurs ne renseignent pas non plus sur le poids ''qualitatif'' des variables (« telle variable d'entrée à la hausse entraîne t-elle telle variable de sortie à la hausse, à la baisse, en « cloche », linéairement, avec effet seuil ? »). Pour pallier ces problèmes, on peut recourir à la [[théorie des jeux]] pour calculer et visualiser les valeurs et les graphes de [[Valeur de Shapley|Shapley]], qui permettent d'accéder à une grandeur similaire à l'importance des variables au cas par cas, ainsi que de tracer la réponse d'une variable de sortie en fonction d'une variable d'entrée pour voir comment évolue qualitativement la réponse du modèle. Enfin, les graphes de dépendances partielles<ref>[https://scikit-learn.org/stable/modules/partial_dependence.html#:~:text=Partial%20dependence%20plots%20(PDP)%20show,the%20%27complement%27%20features). graphes de dépendances partielles]</ref> permettent également de voir comment évolue la réponse moyenne du modèle en fonction des variables d'entrée (allure qualitative), et permettent également de tester le modèle en [[Extrapolation (mathématiques)|extrapolation]] pour vérifier que son comportement reste un minimum plausible (pas de rupture de pente ou d'effet de seuil, par exemple).

Ces concepts permettent à Christoph Molnar, scientifique des données spécialisé dans l'explicabilité, d'avancer que l'apprentissage automatique n'est pas réellement une boîte noire, mais plutôt une « boîte grise » : il est possible d'avoir une bonne compréhension de ce que fait l'apprentissage automatique, sans que cette compréhension ne puisse cependant être totalement exhaustive, ni dénuée de potentiels effets de bords<ref>{{en}} Christoph Molnar, [https://christophm.github.io/interpretable-ml-book/ ''{{lang|en|Interpretable Machine Learning}}''].</ref>.

== Apprentissage profond ==
L'[[apprentissage profond]] ([[Réseau de neurones artificiels|réseaux de neurones]] profonds) est une méthode d'apprentissage automatique. En pratique, depuis l'amélioration significative des performances de l'apprentissage profond depuis le début des années 2010<ref name=":2">{{Ouvrage|langue=anglais|auteur1= F. Chollet |titre=Deep Learning with Python|éditeur=Manning|date=2021|isbn=9781617296864}}.</ref>, on distingue communément l'apprentissage automatique « classique » (tout type d'apprentissage automatique comme les [[Modèle linéaire|modèles linéaires]], les méthodes à base d'arbres comme le [[bagging]] ou le [[boosting]], les [[processus gaussien]]s, les [[Machine à vecteurs de support|machines à vecteur de support]] ou les [[spline]]s) de l'apprentissage profond.

Un réseau de neurones comporte toujours au moins trois couches de neurones : couche d'entrée, couche "cachée" et couche de sortie<ref>{{Lien web |langue=anglais |titre=Neural network models (supervised) |url=https://scikit-learn.org/stable/modules/neural_networks_supervised.html}}</ref>. Usuellement, un réseau de neurones n'est considéré réellement "profond" que lorsqu'il comporte au moins trois couches cachées<ref>{{Lien web |langue=anglais |auteur=C. Nicholson |titre=A Beginner's Guide to Neural Networks and Deep Learning |url=https://wiki.pathmind.com/neural-network |site=Pathmind}}.</ref>, mais cette définition est quelque peu arbitraire et, par abus de langage, on parle souvent d'apprentissage profond même si un réseau de neurones comporte moins de trois couchées cachées.

Il est généralement admis que l'apprentissage profond domine l'apprentissage automatique dans certains domaines d'application comme l'analyse [[Traitement d'images|d'images]], [[Traitement du son|de sons]] ou [[Traitement automatique des langues|de textes]]<ref>{{Article |langue=en |auteur1= C. Janiesch |titre=Machine learning and deep learning|périodique=Electronic Markets, Springer|date=2021|doi=10.1007/s12525-021-00475-2|lire en ligne=https://link.springer.com/content/pdf/10.1007/s12525-021-00475-2.pdf |format=pdf }}.</ref>.

Dans d'autres domaines, où les bases de données sont plus « simples » que des images, des sons ou des corpus de textes, et généralement « tabulaires », l'apprentissage automatique se révèle généralement plus performant que l'apprentissage profond lorsque les bases de données sont relativement petites (moins de {{unité|10000 exemples}}) ; au-delà, la supériorité de l'apprentissage automatique se rétablit généralement. (Des données tabulaires sont des informations formatées en [[Tableau (structure de données)|tableaux de données]]{{Pas clair|date=août 2022}}<!-- Une image est aussi un tableau de données, n'est-ce pas ? -->regroupant par exemple des indicateurs socio-économiques relatifs à l'emploi, des indicateurs sur les données immobilières à Paris, des marqueurs bio-médicaux relatifs au diabète, des variables sur la composition chimique et la résistance du béton, [[Iris de Fisher|des données décrivant la morphologie de fleurs]]{{etc.}} Des tableaux de données de ce type, qui se prêtent bien à l'apprentissage automatique, peuvent par exemple être trouvés sur le Machine Learning Repository de l'Université de Californie). Certains chercheurs expliquent cette supériorité de l'apprentissage automatique sur l'apprentissage profond dans le cas des "petites" bases de données par le fait que les réseaux de neurones sont surtout performants pour trouver des fonctions [[Continuité (mathématiques)|continues]], or beaucoup de fonctions rencontrées avec ces petites bases de données tabulaires sont apparemment ''irrégulières'' ou discontinues<ref>{{Article |langue=en |auteur1=L. Grinsztajn |titre=Why do tree-based models still outperform deep learning on tabular data? |périodique=Proceedings of NeurIPS |date=2022 |lire en ligne=https://hal.archives-ouvertes.fr/hal-03723551/document }}.</ref>. Une autre explication serait la moins grande robustesse des réseaux de neurones aux variables « non importantes », or il arrive que dans les bases de données tabulaires il y ait des dizaines voire des centaines de variables qui n'affectent pas le résultat recherché et que les réseaux de neurones auraient du mal à discriminer. Enfin, une autre explication serait la très grande force du réseau de neurones qui est sa capacité à rechercher des informations invariantes par position, rotation et échelle (cruciales en analyse d'images), qui deviendrait une faiblesse sur ces petites bases de données tabulaires, cette capacité ne présentant alors pas d'utilité. La supériorité de l'apprentissage automatique sur l'apprentissage profond pour ces cas d'usage semble statistiquement avérée, mais n'est néanmoins pas absolue, notamment si les bases de données ne contiennent pas ou peu de variables non importantes et si les fonctions recherchées sont continues ; c'est notamment le cas pour les {{lien|trad=Surrogate model|texte=modèles de substitution}} ({{anglais|surrogate model}}) en [[Simulation informatique|simulation numérique]] en physique<ref name=":3">{{Lien web |langue=anglais |auteur=Rukavina, T. |titre=Structural design optimization of reinforced concrete slabs using a machine learning approach |url=https://www.researchgate.net/publication/356344402_Structural_design_optimization_of_reinforced_concrete_slabs_using_a_machine_learning_approach |accès url=libre |site=Research Gate - World Congresses on Computational Mechanics |date=2021}}</ref>{{,}}<ref>{{Lien web |langue=anglais |auteur=Siddharth, S. P. |titre=Machine learning based surrogate modeling with SVD enabled training for nonlinear civil structures subject to dynamic loading |url=https://arxiv.org/abs/2206.05720 |format=PDF |accès url=libre |site=arXiv |date=2022}}.</ref>{{refins|date=août 2022}}. Il convient donc, pour rechercher la méthode la plus performante, de tester sans ''a priori'' un large éventail d'algorithmes disponibles.

Le temps de calcul pour l'apprentissage des modèles est aussi généralement très différenciant entre les apprentissages automatique et profond<ref>{{Lien web |langue=en |auteur=Dahey |titre=How To Chart Your Machine Learning Roadmap And Land An AI Role |url=https://answerlyst.com/machine-learning-roadmap/ |site=Answerlyst |date=2022}}</ref>. L'apprentissage automatique est usuellement beaucoup plus rapide à entraîner que l'apprentissage profond (des facteurs 10, 100 ou {{formatnum:1000}} sont possibles), mais lorsque les bases de données sont petites, cet avantage n'est plus toujours significatif, les temps de traitement restant raisonnables. Par ailleurs, l'apprentissage automatique est généralement beaucoup moins capable de tirer parti du calcul sur [[Processeur graphique|GPU]] que l'apprentissage profond, or celui-ci a considérablement progressé depuis les années 2000 et peut être 10 ou 100 fois plus rapide que le calcul « classique » sur [[Processeur|CPU]], ce qui peut permettre, avec un matériel adapté, de combler une large part de l'écart de temps de calcul entre les deux méthodes<ref name=":2" />{{,}}<ref>{{Article |langue=en |auteur1=M. Pandey |titre=The transformational role of GPU computing and deep learning in drug discovery |périodique=Nature Machine Intelligence |date=2022 |doi=10.1038/s42256-022-00463-x }}.</ref>. 

La supériorité du GPU sur le CPU dans ce contexte s'explique par le fait qu'un GPU est constitué de centaines voire de milliers d'unités de [[Parallélisme_(informatique)|calcul parallèle]] (à comparer aux quelques unités de calcul parallèle seulement qui équipent les CPU)<ref name=":4">{{Lien web |titre=GPU, IA et Big Data : comprendre le rôle des cartes graphiques en Data Science |url=https://www.lebigdata.fr/gpu-ia-big-data |site=LeBigData.Fr |date=2021}}</ref>, or le calcul matriciel, fondement des réseaux de neurones, est massivement parallélisable<ref>{{Lien web |langue=anglais |auteur=Danka, T. |titre=How GPUs accelerate deep learning |url=https://towardsdatascience.com/how-gpus-accelerate-deep-learning-3d9dec44667a |site=Towards Data Science |date=2020}}</ref>. Les GPU sont également capables d'atteindre des bandes passantes (quantité de données traitées par seconde) bien supérieures à celles des CPU<ref name=":4" />. Une autre raison tient à la capacité des GPU à réaliser des calculs en simple précision ([[nombre flottant]], {{anglais|floating point}}, sur 32 bits, notés [[FP32]]) plus efficacement que les CPU, dont les fonctions sont très générales et ne sont pas spécifiquement optimisées pour un type de précision donné. Certains GPU peuvent être très performants en demi-précision ([[FP16]]). Or, l'entraînement des réseaux de neurones peut recourir principalement à la simple précision (FP32) voire la demi-précision (FP16), voire une précision mixte (FP32-FP16) ; peu d'applications de calcul scientifique permettent cela, comme la [[mécanique des fluides numérique]], qui requiert généralement de la double précision ([[FP64]])<ref>{{Lien web |titre=Précision Mixte |url=https://www.tensorflow.org/guide/mixed_precision |site=TensorFlow.org |date=2022}}.</ref>.

== Dans la littérature ==
Il existe de nombreuses œuvres de [[science-fiction]] sur le sujet de l'[[intelligence artificielle]] en général et de l'apprentissage automatique en particulier. Le traitement scientifique est généralement peu détaillé et quelque peu fantaisiste, mais des auteurs comme [[Peter Watts]] approchent le sujet avec un semblant de réalisme. Ainsi, dans la trilogie de romans ''Rifteurs'', Peter Watts détaille l'architecture des réseaux de neurones et leurs modes de "raisonnement" et de fonctionnement basés sur l'optimisation de métriques mathématiques et, dans le roman ''Eriophora'', il détaille le fonctionnement d'une IA en parlant de [[Fonction d'activation|fonctions d'activation]] [[Sigmoïde (mathématiques)|sigmoïdes]], d'[[Arbre de décision|arbres de décision]], de cycles d'apprentissage et d'effet de seuil de convergence.

== Notes et références ==
{{Références}}

== Voir aussi ==
{{Autres projets|wiktionary=apprentissage automatique}}

=== Bibliographie ===
* {{Ouvrage|langue=en|prénom1=Trevor|nom1=Hastie|lien auteur1=Trevor Hastie|prénom2=Robert|nom2=Tibshirani|lien auteur2=Robert Tibshirani|prénom3=Jerome|nom3=Friedman|titre=The Elements of Statistical Learning|sous-titre=Data Mining, Inference, and Prediction|année=2009|numéro d'édition=2|url=https://hastie.su.domains/ElemStatLearn/}}
* {{Ouvrage |langue=en |nom=Bishop |prénom=Christopher M. |année=1995 |titre=Neural Networks for Pattern Recognition |édition=[[Oxford University Press]] |isbn=0-19853-864-2}}.
* {{DudaHartStork}}
* {{CornuéjolsMiclet}}
* {{MacKay}}
* {{Mitchell}}
* {{Bishop06}}
* {{en}} T.-M. Huang, V. Kecman, I. Kopriva (2006), ''Kernel Based Algorithms for Mining Huge Data Sets, Supervised, Semi-supervised, and Unsupervised Learning'', Springer-Verlag, Berlin, Heidelberg, 260 {{p.|96}} illus., Hardcover, {{ISBN|3-54031-681-7}} ([http://learning-from-data.com learning-from-data.com])
* {{en}} Vojislav Kecman (2001), Learning and Soft Computing, Support Vector Machines, Neural Networks and Fuzzy Logic Models, The MIT Press, Cambridge, MA, 608 pp., 268 illus., {{ISBN|0-26211-255-8}} ([http://support-vector.ws support-vector.ws])
* {{en}} Sholom Weiss, Casimir Kulikowski (1991). ''Computer Systems That Learn'', Morgan Kaufmann. {{ISBN|1-55860-065-5}}
* {{Ouvrage |langue=en |auteur1=Krzysztof Wołk |titre=Machine learning in translation corpora processing |lieu=Boca Raton, FL |éditeur=Taylor & Francis |année=2019 |pages totales=264 |isbn=978-0-367-18673-9}}

=== Articles connexes ===
{{Colonnes|taille=30|
* [[Algorithme]]
* [[Algorithme espérance-maximisation]]
* [[Analyse en composantes principales]]
* [[Deep learning|Apprentissage profond]]
* [[Apprentissage par renforcement]]
* [[Apprentissage par renforcement inverse]]
* [[Apprentissage par renforcement profond]]
* [[Apprentissage supervisé]]
* [[Apprentissage fédéré]]
* [[Biais algorithmique]]
* [[Carte auto-adaptative]]
* [[Extraction de connaissances]]
* [[Intelligence artificielle]]
* [[Intelligence artificielle digne de confiance]]
* [[John Giannandrea]]
* [[Méthode des nuées dynamiques]]
* [[MLOps]]
* [[Partitionnement de données]]
* [[Réduction de la dimensionnalité]]
* [[Régression logistique]]
* [[Regroupement hiérarchique]]
* [[Réseau de neurones artificiels|Réseau de neurones]]
* [[Science des données]]
* [[Théorème de Cox-Jaynes]]
* [[Théorie de l'apprentissage statistique]]
}}

=== Liens externes ===
*[http://www.journaldunet.com/solutions/analytics/machine-learning.shtml Machine learning : décryptage d'une technologie qui monte], Alain Clapaud, [[Le Journal du Net]], {{date-|10 avril 2015}}
*[http://www.journaldunet.com/solutions/expert/56923/le---machine-learning-----quand-les-donnees-remplacent-les-algorithmes.shtml Le « machine learning » – quand les données remplacent les algorithmes], Pirmin Lemberger, Le Journal du Net, {{date-|28 mars 2014}}.

{{Palette|Apprentissage automatique|Domaines de l'informatique|Intelligence artificielle}}
{{Portail|intelligence artificielle|Informatique|informatique théorique|probabilités et statistiques}}

[[Catégorie:Apprentissage automatique]]
[[Catégorie:Science des données]]