Wat is existentieel risico?

Een existentieel risico is een ramp die zo groot is dat het de hele mensheid wegvaagt of ons permanent verlamt.Dit kunnen natuurrampen zijn, of door de mens gemaakte rampen van opzettelijke of toevallige aard.Een existentieel risico kan al lang bestaan, of slechts enkele decennia, of misschien ligt het in onze toekomst.Voorbeelden van existentieel risico zijn grote asteroïde stakingen, nucleaire oorlog en malafide kunstmatige intelligentie.

Het concept van existentieel risico werd eerst in zijn huidige vorm gearticuleerd door Dr. Nick Bostrom, een oxford -filosoof.Hij gebruikt een risicokaart vergelijkbaar met het volgende om existentiële risico's uit te leggen:

reikwijdte van risico
Global	el niño	ontbossing	existentieel risico
Lokaal	onweersbui	Economische neergang	Hurricane
Persoonlijk	PaperCut	verstuikte enkel	U wordt neergeschoten
Intensiteit van risico	Verwaarloosbaar	Beheersbaar	Terminal

Existentiële risico's zijn globaal en terminaal, of misschien op de buurt van terminaal.Een extreem besmettelijk virus met een dodelijkheidspercentage van 99,9% waarvoor niemand immuun is, is een voorbeeld van een existentieel risico.

Bostrom wijst erop dat onze geesten en instellingen slecht uitgerust zijn om na te denken over het existentiële risico, omdat we nooit hebbenEerder ervaren - als we dat hadden gedaan, zouden we hier niet zijn om over hen na te denken.Als een kind dat niet weet dat een fornuis heet is totdat hij het aanraakt, hebben we weinig ervaring met catastrofes op dit niveau.De bubonische pest van het middeleeuwse Europa en de Spaanse griep van de Tweede Wereldoorlog bieden ons een voorproefje van hoe een existentiële ramp eruit zou zien.Tientallen miljoenen gezonde mensen werden in slechts enkele uren door beide ziekten dood geslagen.

In zijn canonieke paper over het onderwerp staat Bostrom over een dozijn existentiële risico's en categoriseert ze op basis van hun ernst en herstelbaarheid.Enkele van de meest plausibele worden hier vermeld:

• Genetisch gemanipuleerde virussen
• Nanotechnologische armen rassen
• Catastrofale nucleaire oorlog
• Out-of-Control zelfreplicerende robotica
• Superintelligente AI onverschillig voor mensen
• fysische ramp in een deel van de deelstiek
• Superolcano

Superolcano

SuperolcanoExplosie blokkeert de zon

vanwege de extreme ernst en onomkeerbaarheid van het existentiële risico, mogelijke tegenmaatregelen zijn de moeite waard om te brainstormen en te implementeren.Zelfs als de kans dat een bepaalde existentiële dreiging een realiteit wordt klein, de immense belangen betrokken zijn, eisen een serieus vermijdingsprogramma.Voor bedreigingen van mens-oorsprong zijn tegenmaatregelen geavanceerde observatie-en-alert systemen en regulering van bepaalde technologieën om ervoor te zorgen dat ze niet worden gebruikt voor massavernietiging.Landen die ervan worden verdacht van het bezit van massavernietigingswapens worden soms binnengevallen door andere landen die zich zorgen maken over de gevolgen op lange termijn, zoals de oorlog in Irak levendig aantoont.