Qu'est-ce que le risque existentiel?

Un risque existentiel est une catastrophe si grande qu'elle efface toute l'humanité ou nous paralyse définitivement.Il peut s'agir de catastrophes naturelles ou de catastrophes artificielles de nature intentionnelle ou accidentelle.Un risque existentiel peut être là depuis longtemps, ou seulement quelques décennies, ou peut-être que cela réside dans notre avenir.Des exemples de risque existentiel comprennent de grandes grèves d'astéroïdes, la guerre nucléaire et l'intelligence artificielle voyou.

Le concept de risque existentiel a d'abord été articulé dans sa forme actuelle par le Dr Nick Bostrom, un philosophe d'Oxford.Il utilise un tableau de risque similaire à ce qui suit pour expliquer les risques existentiels:

papier vous êtes abattu négligeable

Portée du risque
Global	El Niño	Déforestation	Risque existentiel
local	oragers	ralentissement économique
Personnel	entorse cheville		Intensité du risque

gérable

Terminal

• Les risques existentiels sont mondiaux et terminaux, ou peut-être presque terminaux.Un virus extrêmement contagieux avec un taux de létalité de 99,9% auquel personne n'est à l'abri est un exemple de risque existentiel.
• Bostrom souligne que nos esprits et nos institutions sont mal équipés pour faire face à la réflexion sur le risque existentiel, car nous n'avons jamaisExpérigé un avant - si nous l'avions fait, nous ne serions pas là pour y penser.Comme un enfant qui ne sait pas qu'un poêle est chaud jusqu'à ce qu'il le touche, nous avons peu d'expérience avec les catastrophes à ce niveau.La peste bubonique de l'Europe médiévale et la grippe espagnole de la Première Guerre mondiale nous offrent un avant-goût de ce que serait une catastrophe existentielle.Des dizaines de millions de personnes en bonne santé ont été mortes en quelques heures par les deux maladies.

Dans son article canonique sur le sujet, Bostrom répertorie environ une douzaine de risques existentiels et les catégorise en fonction de leur gravité et de leur récupérabilité.Certains des plus plausibles sont répertoriés ici: Virus génétiquement modifiés Races d'armes nanotechnologiques Guerre nucléaire catastrophique Robotique auto-répliquant l'auto-contrôle SuperIntelligent AI indifférent aux humains Physique désastreL'explosion bloque le Soleil En raison de l'extrême gravité et de l'irréversibilité du risque existentiel, les contre-mesures possibles valent la peine de réfléchir et de mettre en œuvre.Même si les chances d'une menace existentielle donnée deviennent une réalité est petite, les immenses enjeux impliqués exigent un programme d'évitement sérieux.Pour les menaces d'origine humaine, les contre-mesures incluent des systèmes sophistiqués d'observation et d'alerte et de régulation de certaines technologies pour s'assurer qu'elles ne sont pas utilisées pour la destruction massive.Les pays soupçonnés de posséder des armes de destruction massive sont parfois envahis par d'autres pays inquiets des conséquences à long terme, comme la guerre en Irak le démontre avec vis.