Hva er eksistensiell risiko?

En eksistensiell risiko er en katastrofe som er så stor at den enten utsletter hele menneskeheten eller forgår oss permanent.Dette kan være naturkatastrofer, eller menneskeskapte katastrofer av forsettlig eller tilfeldig karakter.En eksistensiell risiko kan ha eksistert i lang tid, eller bare noen få tiår, eller kanskje det ligger i fremtiden vår.Eksempler på eksistensiell risiko inkluderer store asteroide streik, atomkrig og useriøs kunstig intelligens.

Begrepet eksistensiell risiko ble først artikulert i sin nåværende form av Dr. Nick Bostrom, en Oxford -filosof.Han bruker et risikokart som ligner på følgende for å forklare eksistensielle risikoer:

Risikomomfang
Global	El Niño	avskoging	Eksistensiell risiko
Lokal	tordenvær	Økonomisk nedtur	Orkan
Personlig	Papercut	forstuet ankel	Du blir skutt
Risikointensitet	Ubetydelig	håndterbar	Terminal

Eksistensielle risikoer er globale og terminale, eller kanskje nesten terminal.Et ekstremt smittsomt virus med en 99,9% dødelighetsrate som ingen er immun mot er et eksempel på en eksistensiell risiko.

Bostrom påpeker at våre sinn og institusjoner er dårlig utstyrt for å takle å tenke på eksistensiell risiko, fordi vi aldri har harOpplevd en før - hvis vi hadde hatt det, ville vi ikke være her for å tenke på dem.Som et barn som ikke vet at en komfyr er varm før han berører den, har vi liten erfaring med katastrofer på dette nivået.Den buboniske pesten i middelalderens Europa og den spanske influensa fra WWI gir oss en smak av hvordan en eksistensiell katastrofe ville være.Dusinvis av millioner sunne mennesker ble slått døde i bare timer av begge sykdommer.

I hans kanoniske papir om emnet lister Bostrom omtrent et dusin eksistensielle risikoer og kategoriserer dem basert på deres alvorlighetsgrad og utvinning.Noen av de mest plausible er listet opp her:

• Genetisk konstruerte virus
• Nanoteknologiske våpenløp
• Katastrofisk atomkrig
• UT-fra-CONTROL Self-Replicating Robotics
• Superintelligent AI Intifferent to Hans
• Physics Disaster in a Particle Accelerator
• SuperivlollcanoEksplosjon blokkerer solen

På grunn av den ekstreme alvorlighetsgraden og irreversibiliteten av eksistensiell risiko, er mulige mottiltak verdt å brainstorme og implementere.Selv om sjansen for at en gitt eksistensiell trussel blir en realitet er liten, krever de enorme innsatsen som er involvert et alvorlig unngåelsesprogram.For trusler om menneskelig originering inkluderer mottiltak sofistikert observasjon-og-alert-systemer og regulering av visse teknologier for å sikre at de ikke brukes til masseødeleggelse.Land som mistenkes for å ha masseødeleggelsesvåpen blir noen ganger invadert av andre land som er bekymret for de langsiktige konsekvensene, som krigen i Irak levende demonstrerer.