Nick Bostrom
Pour les articles homonymes, voir Boström.
| Naissance | |
|---|---|
| Nom de naissance |
Niklas Boström |
| Nationalité | |
| Formation | |
| Activités |
| A travaillé pour | |
|---|---|
| Directeurs de thèse | |
| Site web |
(en) www.nickbostrom.com |
Nick Bostrom, né Niklas Boström le en Suède, est un philosophe connu pour ses travaux sur les risques existentiels, le principe anthropique, l'hypothèse de la simulation et l'impact de technologies futuristes[1] telles que la superintelligence.
Il intervient régulièrement aussi sur des sujets tels que le transhumanisme, le clonage, l'intelligence artificielle, le téléchargement de l'esprit, la colonisation de l'espace, les biotechnologies, les nanotechnologies, les pandémies, la réalité simulée et le principe d'indépendance du support[1].
Nick Bostrom a été le directeur de l'Institut pour le Futur de l'Humanité de l'université d'Oxford de 2005 à 2024, et est maintenant chercheur principal à Macrostrategy Research Initiative[2].
Jeunesse et éducation
[modifier | modifier le code]Né sous le nom de Niklas Boström en 1973[3] à Helsingborg en Suède, il a une aversion pour l'école dès son jeune âge[4] et a passé sa dernière année de lycée à étudier chez lui[5].
Il a été diplômé en physique, philosophie et en neurosciences computationelles. En 2000, il obtient un doctorat en philosophie[6].
Risques existentiels
[modifier | modifier le code]Nick Bostrom définit en 2002 le concept de risque existentiel comme un risque d'annihilation de la vie intelligente venant de la Terre ou de perte drastique et irréversible de son potentiel[7],[8].
En 2008, il publie le livre Global Catastrophic Risks, où il définit la notion plus large de catastrophe planétaire. Une catastrophe existentielle est un type particulièrement grave et permanent de catastrophe planétaire[9].
Nick Bostrom a fondé en 2005 l'Institut pour le Futur de l'Humanité (Future of Humanity Institute) de l'université d'Oxford, et en est depuis le directeur[10]. L'institut a été dissous en 2024 pour cause d'obstacles administratifs croissants[11]. Nick Bostrom est désormais chercheur principal à Macrostrategy Research Initiative[2]. Il est aussi conseiller pour le Centre pour l'étude des risques existentiels[12].
Hypothèse du monde vulnérable
[modifier | modifier le code]Il publie en 2019 un article sur l'hypothèse du monde vulnérable[13], où il décrit un cadre théorique pour classifier et gérer d'éventuelles technologies pouvant détruire l'humanité si elles sont mises au point. Il propose quelques expériences de pensée illustrant comment de telles vulnérabilités auraient pu historiquement survenir (par exemple si les bombes nucléaires avaient été moins difficiles à produire, ou si leur explosion était capable d'embraser l'atmosphère)[14].
Superintelligence
[modifier | modifier le code]Dans son livre Superintelligence : chemins, dangers, stratégies publié en 2014, Bostrom argumente qu'il est possible de créer des superintelligences, et explore les différents types de superintelligences, leurs motivations, et les risques associés[15]. Il définit une superintelligence comme « un système qui surpasse largement tous les individus humains dans tous les domaines cognitifs »[16]. Selon lui, ces superintelligences permettraient des avantages sociétaux importants, et posent en même temps un risque existentiel significatif pour l’humanité[15].
Bostrom fait une distinction importante entre objectif final et objectif instrumental. Pour un agent intelligent, un objectif final a une valeur là où un objectif instrumental n'est utile que comme un moyen d'accomplir des objectifs finaux. Bostrom introduit le concept de convergence instrumentale, qui suggère que certains objectifs instrumentaux (tels que le fait de préserver son intégrité physique ou d'acquérir plus de ressources) sont utiles pour accomplir un grand nombre d'objectifs finaux. Il introduit aussi la thèse d'orthogonalité, qui est l'idée que tout niveau d'intelligence puisse en théorie être combiné avec pratiquement n'importe quel objectif final. Il illustre ces deux principes avec l'expérience de pensée du maximiseur de trombones, une superintelligence ayant l'objectif final absurde de créer autant de trombones que possible[17] :
« Supposons que nous ayons une IA dont l'unique but soit de faire autant de trombones que possible. L'IA se rendra vite compte que ce serait bien mieux s'il n'y avait pas d'humains, parce que les humains pourraient décider de l'éteindre. Parce que si les humains le faisaient, il y aurait moins de trombones. De plus, le corps humain contient beaucoup d'atomes qui pourraient être transformés en trombones. L'avenir vers lequel l'IA essaierait de se diriger serait un futur avec beaucoup de trombones mais aucun humain. »
— Nick Bostrom[18]
Bostrom considère que chercher à maîtriser une superintelligence n'est pas une solution viable, et qu'il faut aligner la superintelligence avec des valeurs morales de sorte qu'elle soit « fondamentalement de notre côté »[19]. Il écrit aussi que la superintelligence pourrait être un atout dans la réduction d'autres risques existentiels, comme celui lié aux nanotechnologies, et pourrait gagner à être développée avant[20]. Et il estime que les machines superintelligentes pourraient radicalement améliorer le monde, par exemple dans la lutte contre le vieillissement, la maladie et la pauvreté ou en facilitant les voyages spatiaux[16].
Bostrom met aussi en garde contre d'autres catégories de risque existentiel liés à l'IA, tels que le risque pour que des humains l'utilisent à des fins destructrices, ou au risque pour que l'humanité échoue à tenir compte du statut moral qu'auraient des IAs sentientes[21].
Éthique de l'augmentation humaine
[modifier | modifier le code]En 1998, Bostrom fonde avec David Pearce la World Transhumanist Association[3] (depuis renommé Humanity+) et en 2004 il fonde avec James Hughes l'Institut d'Éthique pour les Technologies Émergentes (Institute for Ethics and Emerging Technologies)[22].
Il publie en 2005 la Fable du Dragon Tyran[23], qui personnifie la mort sous la forme d'un dragon qui demande tous les jours des sacrifices humains. Cette fable dresse une analogie entre le fait de tuer le dragon et le fait d'adopter des techniques potentiellement accessibles dans le futur pour contrer le vieillissement[24]. Elle critique une attitude de rationalisation de la mort, le but étant que les arguments soutenant cette acceptation de la mort semblent moins rationnels quand il s'agit d'accepter que des humains soient mangés par le dragon.
Avec le philosophe Toby Ord, il propose en 2006 le test de l'inversion[25]. Selon lui, si une action est jugée comme mauvaise mais que l'action inverse est aussi jugée mauvaise, cela met généralement en évidence un biais du status quo[26]. Il prend pour exemple l'augmentation de l'intelligence, comparant le fait d'augmenter et de réduire l'intelligence humaine (en faisant l'hypothèse que le coût et les risques médicaux de l'opération soient négligeables)[25].
Conscience artificielle
[modifier | modifier le code]Bostrom soutient le principe d'indépendance du substrat, qui suggère que la sentience puisse émerger sur divers types de substrats physiques, et pas uniquement sur des « réseaux de neurones biologiques à base de carbone » comme dans le cerveau[27]. Il considère qu'il y a différents degrés de sentience[28], et qu'il est possible en théorie de concevoir des consciences artificielles dont le rythme et l'intensité de l'expérience subjective seraient bien plus élevés que chez l'humain, tout en consommant relativement peu de ressources. Ces machines particulièrement sentientes, qu'il appelle des « super-bénéficiaires », pourraient être extrêmement efficaces pour ressentir du bonheur. Il recommande de chercher un cadre politique et éthique nous permettant de coexister avec ces consciences artificielles de manière mutuellement bénéfique[29].
Principe anthropique
[modifier | modifier le code]Bostrom a publié de nombreux articles sur le raisonnement anthropique, ainsi que le livre Anthropic Bias: Observation Selection Effects in Science and Philosophy, où il critique les précédentes formulations du principe anthropique. Il introduit un nouveau cadre pour analyser ce que la présence d'un observateur conscient permet d'apprendre sur le monde[30].
Il a par la suite mis en avant la notion d'ombre anthropique (anthropic shadow), un biais de sélection de l'observateur qui pousse à sous-estimer les risques de catastrophes suffisamment graves pour ne laisser aucun observateur, puisque dans ce cas il ne reste personne pour savoir que ça s'est produit[31].
L'argument de la simulation
[modifier | modifier le code]Bostrom considère que si les progrès technologiques continuent, il deviendra possible de créer des simulations de conscience. Ces consciences artificielles pourraient être créées en quantité tellement massive qu'un individu conscient pris au hasard dans le temps et dans l'espace serait quasiment à coup sûr une simulation de conscience. L'argument de la simulation consiste à montrer que l'une de ces trois choses est vraie[32],[33]:
- Les civilisations n'atteignent très souvent pas ce niveau de technologie (par exemple à cause d'extinctions prématurées).
- Les civilisations choisissent très souvent de ne pas créer un grand nombre de ces simulations.
- Il est très probable d'être dans une simulation informatique.
Stratégie technologique
[modifier | modifier le code]Bostrom suggère qu'une politique technologique de réduction des risques existentiels devrait chercher à influencer l'ordre dans lequel arrivent ces technologies. Bostrom a proposé le principe de développement technologique différentiel, qui consiste à accélérer le développement de technologies bénéfiques, principalement celles réduisant les risques existentiels, et à retarder le développement de technologies dangereuses, principalement celles augmentant les risques existentiels[8].
Bostrom a introduit le concept de malédiction de l'unilatéraliste (unilateralist's curse), qui fait que si une action néfaste peut être accomplie par un grand nombre d'agents bien intentionnés, le fait que ces agents agissent selon leur propre jugement augmente le risque que cette action soit accomplie[34].
Utopie
[modifier | modifier le code]Dans son livre Deep Utopia: Life and Meaning in a Solved World publié en 2024, Bostrom explore le concept de vie idéale, dans un monde où l'humanité aurait accompli avec succès la transition vers un monde post-superintelligence. Bostrom remarque que la question n’est « pas de savoir à quel point un futur est intéressant à observer, mais dans quelle mesure il est bon d’y vivre ». Il décrit certaines technologies qu’il considère physiquement possibles en théorie et disponibles à maturité technologique, telles que l’amélioration cognitive, l’inversion du vieillissement, des entrées sensorielles arbitraires (goût, son...), ou le contrôle précis de la motivation, de l’humeur, du bien-être et de la personnalité. Selon lui, non seulement les machines seraient meilleures que les humains pour travailler, rendant le travail humain superflu, mais de nombreuses activités de loisir perdraient aussi leur raison d'être. Il indique ainsi qu'une telle utopie offrirait un bien-être extrême tout en remettant en question la quête de sens[35],[36].
Références
[modifier | modifier le code]- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Nick Bostrom » (voir la liste des auteurs).
- « Professor Nick Bostrom | University of Oxford », sur www.ox.ac.uk (consulté le )
- (en) « Nick Bostrom’s Home Page », sur nickbostrom.com (consulté le )
- « Nick Bostrom : « Le but ultime de l’intelligence artificielle doit être la disparition du travail » », sur Les Echos, (consulté le )
- ↑ (en-GB) Tim Adams, « Artificial intelligence: ‘We’re like children playing with a bomb’ », The Observer, (ISSN 0029-7712, lire en ligne, consulté le )
- ↑ (en-US) Condé Nast, « The Doomsday Invention », sur The New Yorker, (consulté le )
- ↑ (en) Nick Bostrom, « Curriculum Vitae » [PDF]
- ↑ (en) Anthony Wing Kosner, « What Really Scares Tech Leaders About Artificial Intelligence? », sur Forbes (consulté le ) : « One where an adverse outcome would either annihilate Earth-originating intelligent life or permanently and drastically curtail its potential. »
- « Existential Risks: Analyzing Human Extinction Scenarios », sur nickbostrom.com (consulté le )
- ↑ Global catastrophic risks, Oxford University Press, (ISBN 978-0-19-960650-4), chap. 1
- ↑ (en) Sam Shead, « How Britain's oldest universities are trying to protect humanity from risky A.I. », sur CNBC, (consulté le )
- ↑ (en) Emanuel Maiberg ·, « Institute That Pioneered AI ‘Existential Risk’ Research Shuts Down », sur 404 Media, (consulté le )
- ↑ (en) « Will humans be around in a billion years? Or a trillion? | Aeon Essays », sur Aeon (consulté le )
- ↑ (en) Nick Bostrom, The Vulnerable World Hypothesis, (lire en ligne)
- ↑ (en) Kelsey Piper, « How technological progress is making it likelier than ever that humans will destroy ourselves », sur Vox, (consulté le )
- (en) Jim Lebans, « Imagining the singularity: What happens when computers transcend us? », sur CBC,
- « Nick Bostrom : "Une superintelligence pourrait nous convaincre des vertus de presque n’importe quoi" », sur Philosophie magazine, (consulté le )
- ↑ (en) Nick Bostrom, Superintelligence: paths, dangers, strategies, Oxford University Press, (ISBN 978-0-19-967811-2), « The superintelligent will »
- ↑ Kathleen Miles, « Artificial Intelligence May Doom The Human Race Within A Century, Oxford Professor Says », Huffington Post, , « Suppose we have an AI whose only goal is to make as many paper clips as possible. The AI will realize quickly that it would be much better if there were no humans because humans might decide to switch it off. Because if humans do so, there would be fewer paper clips. Also, human bodies contain a lot of atoms that could be made into paper clips. The future that the AI would be trying to gear towards would be one in which there were a lot of paper clips but no humans ». (lire en ligne)
- ↑ Nick Bostrom, « What happens when our computers get smarter than we are? », (consulté le )
- ↑ (en) Nick Bostrom, Superintelligence: paths, dangers, strategies, Oxford University Press, (ISBN 978-0-19-967811-2), « The strategic picture » :
« The ground for preferring superintelligence to come before other potentially dangerous technologies, such as nanotechnology, is that superintelligence would reduce the existential risks from nanotechnology but not vice versa. »
- ↑ (en-US) « Nick Bostrom on the birth of superintelligence », sur Big Think (consulté le )
- ↑ (en) Marouane Jaouat, « Transhumanistes : qui sont-ils ? », sur The Conversation, (consulté le )
- ↑ « The Fable of the Dragon-Tyrant », sur nickbostrom.com (consulté le )
- ↑ (en) Lucinda April Campbell, « Motivations for Pursuing Radical Life Extension », Te Herenga Waka—Victoria University of Wellington, Open Access Te Herenga Waka-Victoria University of Wellington, (lire en ligne, consulté le )
- Nick Bostrom et Toby Ord, « The reversal test: eliminating status quo bias in applied ethics », Ethics, vol. 116, no 4, , p. 656–679 (ISSN 0014-1704, PMID 17039628, DOI 10.1086/505233, lire en ligne, consulté le )
- ↑ (en-US) Julian Koplin and Christopher Gyngell, « Bringing woolly mammoths back from extinction could help environment », sur The New Daily, (consulté le )
- ↑ (en) « Are You Living in a Computer Simulation? », sur www.simulation-argument.com (consulté le ) : « Substrate-independence is a common assumption in the philosophy of mind.[...] It is not an essential property of consciousness that it is implemented on carbon-based biological neural networks inside a cranium »
- ↑ (en-US) Lauren Jackson, « What if A.I. Sentience Is a Question of Degree? », The New York Times, (ISSN 0362-4331, lire en ligne, consulté le )
- ↑ (en) Richard Fisher, « The intelligent monster that you should let eat you », sur www.bbc.com (consulté le )
- ↑ Nick Bostrom, Anthropic bias: observation selection effects in science and philosophy, Routledge, coll. « Studies in philosophy », (ISBN 978-0-415-93858-7 et 978-0-415-88394-8)
- ↑ (en) Milan M. Cirković, Anders Sandberg et Nick Bostrom, « Anthropic shadow: observation selection effects and human extinction risks », Risk Analysis: An Official Publication of the Society for Risk Analysis, vol. 30, no 10, , p. 1495–1506 (ISSN 1539-6924, PMID 20626690, DOI 10.1111/j.1539-6924.2010.01460.x, lire en ligne, consulté le )
- ↑ Nick Bostrom, « Are We living in a computer simulation? », Philosophical Quarterly, vol 53, N° 211, (DOI 10.1111/1467-9213.00309).
- ↑ (en) Anil Ananthaswamy, « Do We Live in a Simulation? Chances Are about 50–50 », sur Scientific American (consulté le )
- ↑ (en-US) Lucien Crowder, « Horsepox synthesis: A case of the unilateralist’s curse? », sur Bulletin of the Atomic Scientists, (consulté le )
- ↑ (en) Peter Coy, « If A.I. Takes All Our Jobs, Will It Also Take Our Purpose? », sur The New York Times,
- ↑ (en) Nick Bostrom, Deep utopia: life and meaning in a solved world, Ideapress Publishing, (ISBN 978-1-64687-164-3 et 978-1-64687-176-6), « Technological maturity »
Publications
[modifier | modifier le code]Article
[modifier | modifier le code]- (en) Nick Bostrom, « Are you living in a computer simulation ? », Philosophical Quarterly, vol 53, No 211, 2003 (version en ligne)
Livres
[modifier | modifier le code]- (en) Nick Bostrom, Anthropic Bias : Observation Selection Effects in Science and Philosophy, Routledge, , 240 p. (ISBN 978-0415938587)
- (en) Nick Bostrom, Global Catastrophic Risks, Oxford University Press, , 578 p. (ISBN 978-0198570509)
- (en) Nick Bostrom, Human Enhancement, Oxford University Press, , 432 p. (ISBN 978-0199299720)
- (en) Nick Bostrom, Superintelligence : Paths, Dangers, Strategies, , 328 p. (ISBN 978-0-19-967811-2, lire en ligne)
- (en) Nick Bostrom, Deep Utopia : Life and Meaning in a Solved World, Vicara Books, , 536 p. (ISBN 978-1646871643)
Traduction de livre en français
[modifier | modifier le code]- Nick Bostrom (trad. de l'anglais par Françoise Parot), Superintelligence, Malakoff, Dunod, coll. « Quai des Sciences », , 496 p. (ISBN 978-2-10-076486-0)
Voir aussi
[modifier | modifier le code]Articles connexes
[modifier | modifier le code]- Transhumanisme
- Test de l'inversion
- La Fable du Dragon Tyran, écrite par N. Bostrom
Liens externes
[modifier | modifier le code]
- (en) Site officiel
- Ressources relatives à la recherche :
- Ressource relative à la littérature :
- Ressource relative à la musique :
- Ressource relative à l'audiovisuel :
- Notice dans un dictionnaire ou une encyclopédie généraliste :
- Entretiens avec Nick Bostrom sur Automates intelligents,
- (en) We're Underestimating the Risk of Human Extinction, par Ross Andersen: interview de Nick Bostrom, The Atlantic, (commentée en français dans le blog Passeur de sciences)
