Plasticité fonction du temps d'occurrence des impulsions

Cet article est une ébauche concernant les neurosciences.

Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.

La plasticité fonction du temps d'occurrence des impulsions (en anglais : Spike-timing-dependent plasticity, STDP) est un processus de modification du poids des synapses. Cette modification dépend du moment de déclenchement du potentiel d'action dans les neurones pré- et post-synaptique. Ce processus permettrait d'expliquer partiellement le développement cérébral et la mémorisation, en provoquant potentialisation à long terme (en anglais : Long-term potentiation, LTP) et dépression à long terme (en anglais : Long-term depression, LTD) des synapses.

Processus[modifier | modifier le code]

La STDP est une interprétation de la théorie de Hebb, souvent résumée par la formule : « des neurones qui s'excitent ensemble se lient entre eux. ». L'objectif de ce mécanisme de plasticité est de renforcer les connexions synaptiques où les activations du neurone pré-synaptique mènent aux activations du neurone post-synaptique et de diminuer les connexions où le neurone pré-synaptique n'a pas d'influence sur les activations du neurone post-synaptique^[1].

Modélisation[modifier | modifier le code]

La STDP s'implémente dans les réseaux de neurones à impulsions pour modéliser un processus d'apprentissage non supervisé et local (c'est-à-dire que la mise à jour des poids synaptiques ne dépend uniquement que des deux neurones reliés). Elle permet aux réseaux de neurones d'apprendre, sans supervision, des caractéristiques propres aux données d'entrées^[2]^,^[3]^,^[4]^,^[5].

Différentes implémentations existent^[6], plus ou moins fidèles aux observations biologiques, et leur utilisation varie selon les besoins, l'architecture du réseau ou encore le modèle de neurone utilisé.

Règle biologique[modifier | modifier le code]

La règle biologique est la plus proche du mécanisme de plasticité observé dans notre cerveau. La mise à jour des poids d'une connexion synaptique dépend de la différence entre les temps d'occurrence des impulsions et peut se formuler de la manière suivante :

$\Delta W={\begin{cases}A_{+}\times \exp({(\mathrm {tpre} -\mathrm {tpost} ) \over \tau }),&{\text{if }}\mathrm {tpost} >\mathrm {tpre} \\A_{-}\times \exp({(\mathrm {tpost} -\mathrm {tpre} ) \over \tau }),&{\text{if }}\mathrm {tpost} <\mathrm {tpre} \end{cases}}$

avec $W$ les poids synaptiques, $A_{+}$ et $A_{-}$ les taux d'apprentissages, $\mathrm {tpre}$ et $\mathrm {tpost}$ les temps d'occurrences des impulsions des neurones pré et post-synaptiques, et $\tau$ la constante de temps.

Règle additive[modifier | modifier le code]

Une simplification de la règle biologique peut être réalisée en s'abstrayant des temps exacts d’occurrences des impulsions :

$\Delta W={\begin{cases}A_{+},&{\text{if }}\mathrm {tpost} >\mathrm {tpre} \\A_{-},&{\text{if }}\mathrm {tpost} <\mathrm {tpre} \end{cases}}$

Cette simplification dépend uniquement du signe de $\mathrm {tpost} -\mathrm {tpre}$ , ce qui permet notamment de diminuer la complexité de calcul.

Règle multiplicative[modifier | modifier le code]

Une autre adaptation de la STDP améliore la règle additive en ajoutant des termes pour contrôler la saturation des poids^[7] :

$\Delta W={\begin{cases}A_{+}\times \exp(-\beta {w-w_{min} \over w_{max}-w_{min}}),&{\text{if }}\mathrm {tpost} >\mathrm {tpre} \\A_{-}\times \exp(-\beta {w_{max}-w \over w_{max}-w_{min}}),&{\text{if }}\mathrm {tpost} <\mathrm {tpre} \end{cases}}$

avec $\beta$ le facteur de saturation, $w$ le poids de la connexion, $w_{min}$ et $w_{max}$ les valeurs minimum et maximum des poids.

Cette règle peut aussi se formuler de la manière suivante, où la saturation des poids est contrôlée par le terme $w(1-w)$ ^[2]^,^[3]^,^[8] :

$\Delta W={\begin{cases}A_{+}\times w(1-w),&{\text{if }}\mathrm {tpost} >\mathrm {tpre} \\A_{-}\times w(1-w),&{\text{if }}\mathrm {tpost} <\mathrm {tpre} \end{cases}}$

À noter que, si le modèle de synapse utilisé n'intègre pas de délai synaptique, il peut être judicieux de considérer $\mathrm {tpost} \geq \mathrm {tpre}$ pour la potentialisation à long terme. Dans ce cas, les neurones pré-synaptiques qui s'activent en même temps que le neurone post-synaptique contribuent à son activation. De plus, de nombreux travaux^[2]^,^[3]^,^[5]^,^[8] appliquent la dépression à long terme pour les connexions où le neurone pré-synaptique ne s'active pas, considérant donc son temps d'occurrence $\mathrm {tpre} =+\infty$ .

Modulation par la récompense[modifier | modifier le code]

De nombreuses études suggèrent que le système de récompense de notre cerveau joue un rôle important dans notre apprentissage. Notamment, certaines montrent que ce système utilise la dopamine pour modifier la polarité de la plasticité synaptique^[9] ou encore pour prédire les futures récompenses d'une action^[10].

La STDP modulée par la récompense (en anglais : reward-modulated STDP, R-STDP)^[11] est une interprétation de la plasticité synaptique qui permet de prendre en compte le rôle du système de récompense de notre cerveau. Ce mécanisme de plasticité, similaire à la STDP, intègre un processus permettant de moduler ou même de changer le signe de la mise à jour des poids synaptiques.

Notes et références[modifier | modifier le code]

↑ (en) Henry Markram, Wulfram Gerstner et Per Jesper Sjöström, « Spike-Timing-Dependent Plasticity: A Comprehensive Overview », Frontiers in Synaptic Neuroscience, vol. 4,‎ 2012 (ISSN 1663-3563, PMID 22807913, PMCID PMC3395004, DOI 10.3389/fnsyn.2012.00002, lire en ligne, consulté le 26 janvier 2023)
↑ ^{a b et c} (en) Paul Ferré, Franck Mamalet et Simon J. Thorpe, « Unsupervised Feature Learning With Winner-Takes-All Based STDP », Frontiers in Computational Neuroscience, vol. 12,‎ 2018 (ISSN 1662-5188, PMID 29674961, PMCID PMC5895733, DOI 10.3389/fncom.2018.00024, lire en ligne, consulté le 27 janvier 2023)
↑ ^{a b et c} (en) Meng Dong, Xuhui Huang et Bo Xu, « Unsupervised speech recognition through spike-timing-dependent plasticity in a convolutional spiking neural network », PLOS ONE, vol. 13, n^o 11,‎ 29 novembre 2018, e0204596 (ISSN 1932-6203, PMID 30496179, PMCID PMC6264808, DOI 10.1371/journal.pone.0204596, lire en ligne, consulté le 27 janvier 2023)
↑ (en) Chankyu Lee, Priyadarshini Panda, Gopalakrishnan Srinivasan et Kaushik Roy, « Training Deep Spiking Convolutional Neural Networks With STDP-Based Unsupervised Pre-training Followed by Supervised Fine-Tuning », Frontiers in Neuroscience, vol. 12,‎ 2018 (ISSN 1662-453X, PMID 30123103, PMCID PMC6085488, DOI 10.3389/fnins.2018.00435, lire en ligne, consulté le 27 janvier 2023)
↑ ^{a et b} (en) Pierre Falez, Pierre Tirilly, Ioan Marius Bilasco et Philippe Devienne, « Multi-layered Spiking Neural Network with Target Timestamp Threshold Adaptation and STDP », 2019 International Joint Conference on Neural Networks (IJCNN), IEEE,‎ juillet 2019, p. 1–8 (ISBN 978-1-7281-1985-4, DOI 10.1109/IJCNN.2019.8852346, lire en ligne, consulté le 27 janvier 2023)
↑ (en) Alex Vigneron et Jean Martinet, « A critical survey of STDP in Spiking Neural Networks for Pattern Recognition », 2020 International Joint Conference on Neural Networks (IJCNN), IEEE,‎ juillet 2020, p. 1–9 (ISBN 978-1-7281-6926-2, DOI 10.1109/IJCNN48605.2020.9207239, lire en ligne, consulté le 27 janvier 2023)
↑ (en) M. C. W. van Rossum, G. Q. Bi et G. G. Turrigiano, « Stable Hebbian Learning from Spike Timing-Dependent Plasticity », Journal of Neuroscience, vol. 20, n^o 23,‎ 1^er décembre 2000, p. 8812–8821 (ISSN 0270-6474 et 1529-2401, PMID 11102489, PMCID PMC6773092, DOI 10.1523/JNEUROSCI.20-23-08812.2000, lire en ligne, consulté le 26 janvier 2023)
↑ ^{a et b} (en) Timothée Masquelier et Simon J. Thorpe, « Unsupervised Learning of Visual Features through Spike Timing Dependent Plasticity », PLOS Computational Biology, vol. 3, n^o 2,‎ 16 février 2007, e31 (ISSN 1553-7358, PMID 17305422, PMCID PMC1797822, DOI 10.1371/journal.pcbi.0030031, lire en ligne, consulté le 29 janvier 2023)
↑ (en) Geun Hee Seol, Jokubas Ziburkus, ShiYong Huang et Lihua Song, « Neuromodulators Control the Polarity of Spike-Timing-Dependent Synaptic Plasticity », Neuron, vol. 55, n^o 6,‎ 20 septembre 2007, p. 919–929 (ISSN 0896-6273, PMID 17880895, PMCID PMC2756178, DOI 10.1016/j.neuron.2007.08.013, lire en ligne, consulté le 27 janvier 2023)
↑ (en) Wolfram Schultz, « Predictive Reward Signal of Dopamine Neurons », Journal of Neurophysiology, vol. 80, n^o 1,‎ 1^er juillet 1998, p. 1–27 (ISSN 0022-3077 et 1522-1598, DOI 10.1152/jn.1998.80.1.1, lire en ligne, consulté le 27 janvier 2023)
↑ (en) Nicolas Frémaux et Wulfram Gerstner, « Neuromodulated Spike-Timing-Dependent Plasticity, and Theory of Three-Factor Learning Rules », Frontiers in Neural Circuits, vol. 9,‎ 19 janvier 2016 (ISSN 1662-5110, PMID 26834568, PMCID PMC4717313, DOI 10.3389/fncir.2015.00085, lire en ligne, consulté le 27 janvier 2023)

Voir aussi[modifier | modifier le code]

[1] (en) Henry Markram, Wulfram Gerstner et Per Jesper Sjöström, « Spike-Timing-Dependent Plasticity: A Comprehensive Overview », Frontiers in Synaptic Neuroscience, vol. 4,‎ 2012 (ISSN 1663-3563, PMID 22807913, PMCID PMC3395004, DOI 10.3389/fnsyn.2012.00002, lire en ligne, consulté le 26 janvier 2023)

[:0-2] {a b et c} (en) Paul Ferré, Franck Mamalet et Simon J. Thorpe, « Unsupervised Feature Learning With Winner-Takes-All Based STDP », Frontiers in Computational Neuroscience, vol. 12,‎ 2018 (ISSN 1662-5188, PMID 29674961, PMCID PMC5895733, DOI 10.3389/fncom.2018.00024, lire en ligne, consulté le 27 janvier 2023)

[:1-3] {a b et c} (en) Meng Dong, Xuhui Huang et Bo Xu, « Unsupervised speech recognition through spike-timing-dependent plasticity in a convolutional spiking neural network », PLOS ONE, vol. 13, n^o 11,‎ 29 novembre 2018, e0204596 (ISSN 1932-6203, PMID 30496179, PMCID PMC6264808, DOI 10.1371/journal.pone.0204596, lire en ligne, consulté le 27 janvier 2023)

[4] (en) Chankyu Lee, Priyadarshini Panda, Gopalakrishnan Srinivasan et Kaushik Roy, « Training Deep Spiking Convolutional Neural Networks With STDP-Based Unsupervised Pre-training Followed by Supervised Fine-Tuning », Frontiers in Neuroscience, vol. 12,‎ 2018 (ISSN 1662-453X, PMID 30123103, PMCID PMC6085488, DOI 10.3389/fnins.2018.00435, lire en ligne, consulté le 27 janvier 2023)

[:2-5] {a et b} (en) Pierre Falez, Pierre Tirilly, Ioan Marius Bilasco et Philippe Devienne, « Multi-layered Spiking Neural Network with Target Timestamp Threshold Adaptation and STDP », 2019 International Joint Conference on Neural Networks (IJCNN), IEEE,‎ juillet 2019, p. 1–8 (ISBN 978-1-7281-1985-4, DOI 10.1109/IJCNN.2019.8852346, lire en ligne, consulté le 27 janvier 2023)

[6] (en) Alex Vigneron et Jean Martinet, « A critical survey of STDP in Spiking Neural Networks for Pattern Recognition », 2020 International Joint Conference on Neural Networks (IJCNN), IEEE,‎ juillet 2020, p. 1–9 (ISBN 978-1-7281-6926-2, DOI 10.1109/IJCNN48605.2020.9207239, lire en ligne, consulté le 27 janvier 2023)

[7] (en) M. C. W. van Rossum, G. Q. Bi et G. G. Turrigiano, « Stable Hebbian Learning from Spike Timing-Dependent Plasticity », Journal of Neuroscience, vol. 20, n^o 23,‎ 1^er décembre 2000, p. 8812–8821 (ISSN 0270-6474 et 1529-2401, PMID 11102489, PMCID PMC6773092, DOI 10.1523/JNEUROSCI.20-23-08812.2000, lire en ligne, consulté le 26 janvier 2023)

[:3-8] {a et b} (en) Timothée Masquelier et Simon J. Thorpe, « Unsupervised Learning of Visual Features through Spike Timing Dependent Plasticity », PLOS Computational Biology, vol. 3, n^o 2,‎ 16 février 2007, e31 (ISSN 1553-7358, PMID 17305422, PMCID PMC1797822, DOI 10.1371/journal.pcbi.0030031, lire en ligne, consulté le 29 janvier 2023)

[9] (en) Geun Hee Seol, Jokubas Ziburkus, ShiYong Huang et Lihua Song, « Neuromodulators Control the Polarity of Spike-Timing-Dependent Synaptic Plasticity », Neuron, vol. 55, n^o 6,‎ 20 septembre 2007, p. 919–929 (ISSN 0896-6273, PMID 17880895, PMCID PMC2756178, DOI 10.1016/j.neuron.2007.08.013, lire en ligne, consulté le 27 janvier 2023)

[10] (en) Wolfram Schultz, « Predictive Reward Signal of Dopamine Neurons », Journal of Neurophysiology, vol. 80, n^o 1,‎ 1^er juillet 1998, p. 1–27 (ISSN 0022-3077 et 1522-1598, DOI 10.1152/jn.1998.80.1.1, lire en ligne, consulté le 27 janvier 2023)

[11] (en) Nicolas Frémaux et Wulfram Gerstner, « Neuromodulated Spike-Timing-Dependent Plasticity, and Theory of Three-Factor Learning Rules », Frontiers in Neural Circuits, vol. 9,‎ 19 janvier 2016 (ISSN 1662-5110, PMID 26834568, PMCID PMC4717313, DOI 10.3389/fncir.2015.00085, lire en ligne, consulté le 27 janvier 2023)

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]