Seppo Linnainmaa

Un article de Wikipédia, l'encyclopédie libre.

Seppo Ilmari Linnainmaa (né le 28 septembre 1945) est un mathématicien et informaticien finlandais. Il s'est fait connaitre en créant la version moderne de la rétropropagation du gradient (rétropropagation).

Éléments de biographie[modifier | modifier le code]

Seppo Linnainmaa est né à Pori[1].

En 1970, il obtient une maîtrise, puis dans sa thèse de maîtrise, il introduit un mode inverse de différenciation automatique[2]. En 1974, il obtient le premier doctorat jamais décerné en informatique à l'université d'Helsinki[3].

En 1976, il est nommé professeur adjoint. De 1984 à 1985, il est professeur invité à l'université du Maryland, aux États-Unis.

De 1986 à 1989, il préside la Société finlandaise d'intelligence artificielle.

De 1989 à 2007, il est professeur-chercheur au Centre de recherche technique VTT de Finlande, retraité depuis 2007.

Algorithme de rétropropagation[modifier | modifier le code]

La rétropropagation d'erreur explicite et efficace dans des réseaux de type réseaux de neurones arbitraires, discrets, éventuellement peu connectés, a été décrite pour la première fois dans la thèse de maîtrise de Linnainmaa en 1970[2],[4], bien que sans référence aux réseaux de neurones[5], lorsqu'il a introduit le mode inverse de différenciation automatique (DA) pour calculer efficacement la dérivée d'une fonction composite différentiable qui peut être représentée sous forme de graphique, en appliquant récursivement la règle de chaîne aux éléments constitutifs de la fonction[3],[4],[6]. Linnainmaa l'a publié le premier, à la suite de Gerardi Ostrowski qui l'avait utilisé dans le contexte de certains modèles de processus en génie chimique environ cinq ans plus tôt, mais sans l'avoir publié.

Avec l'apparition de puces et d’ordinateurs de plus en plus rapides et puissants, cette méthode s'est répandue dans de nombreuses applications. Ainsi, la rétropropagation des erreurs dans les perceptrons multicouches, une technique utilisée en apprentissage automatique, est un cas particulier de l'AD en mode inverse.[C'est-à-dire ?] .

Références[modifier | modifier le code]

  1. (fi) Suomen professorit 1640–2007, Helsinki, Professoriliitto, (ISBN 978-952-99281-1-8), p. 405.
  2. a et b (en) « Seppo Linnainmaa (Mathematician and Computer Scientist) », OnThisDay.com (consulté le ).
  3. a et b Andreas Griewank, « Who Invented the Reverse Mode of Differentiation? », dans Documenta Matematica, Extra Volume ISMP, , 389–400 p. (S2CID 15568746).
  4. a et b Linnainmaa, « Taylor expansion of the accumulated rounding error », BIT Numerical Mathematics, vol. 16, no 2,‎ , p. 146–160 (DOI 10.1007/BF01931367, S2CID 122357351).
  5. Jürgen Schmidhuber, (2015). Who Invented Backpropagation?
  6. (en) Andreas Griewank et Andrea Walther, Evaluating Derivatives : Principles and Techniques of Algorithmic Differentiation, Philadelphie, Society for Industrial and Applied Mathematics, , 2e éd., 459 p. (ISBN 978-0-89871-659-7 et 978-0-89871-776-1, DOI 10.1137/1.9780898717761, lire en ligne).[page à préciser].

Voir aussi[modifier | modifier le code]

Articles connexes[modifier | modifier le code]

Liens externes[modifier | modifier le code]