Hvad er eksistentiel risiko?
En eksistentiel risiko er en katastrofe, der er så stor, at den enten udsletter hele menneskeheden eller permanent lurer os.Disse kan være naturkatastrofer eller menneskeskabte katastrofer af forsætlig eller utilsigtet karakter.En eksistentiel risiko kan have eksisteret i lang tid eller kun et par årtier, eller måske ligger den i vores fremtid.Eksempler på eksistentiel risiko inkluderer store asteroide strejker, atomkrig og useriøs kunstig intelligens.
Begrebet eksistentiel risiko blev først formuleret i sin nuværende form af Dr. Nick Bostrom, en Oxford -filosof.Han bruger et risikokort, der ligner følgende for at forklare eksistentielle risici:
| Risikoomfang | |||
| Global | El Niño | Skovrydning | Eksistentiel risiko |
| Lokal | Tordenvejr | Økonomisk nedtur | Orkan |
| Personlig | Papercut | Forstuvet ankel | Du er skudt |
| Intensitet af risiko | ubetydelig | Håndterbar | terminal |
Eksistentielle risici er globale og terminale eller måske næsten terminale.En ekstremt smitsom virus med en 99,9% dødelighed, som ingen er immun mod, er et eksempel på en eksistentiel risiko.
Bostrom påpeger, at vores sind og institutioner er dårligt udstyret til at tackle detOplevet en før - hvis vi havde gjort det, ville vi ikke være her for at tænke på dem.Som et barn, der ikke ved, at en komfur er varm, indtil han rører ved det, har vi ringe erfaring med katastrofer på dette niveau.Den buboniske pest i det middelalderlige Europa og den spanske influenza fra WWI giver os en forsmag på, hvordan en eksistentiel katastrofe ville være.Dusinvis af millioner af raske mennesker blev ramt døde på blotte timer af begge sygdomme.
I hans kanoniske papir om emnet lister Bostrom om et dusin eksistentielle risici og kategoriserer dem baseret på deres sværhedsgrad og inddrivelighed.Nogle af de mest plausible er anført her:
- Genetisk konstruerede vira
- Nanoteknologiske våbenløb
- Katastrofalt atomkrig
- Uden kontrol af selvreplicerende robotik
- Superintelligent AI-ligeglad for mennesker
- Fysikkatastrofe i en partikelaccelerator
- Overvogskano.Eksplosion blokerer for solen
På grund af den ekstreme sværhedsgrad og irreversibilitet af eksistentiel risiko, er mulige modforanstaltninger værd at brainstorming og implementering.Selv hvis chancen for, at en given eksistentiel trussel bliver en realitet, er lille, kræver de enorme indsatser et alvorligt undgåelsesprogram.Til trusler med menneskelig oprindelse inkluderer modforanstaltninger sofistikerede observation-og-alarmeringssystemer og regulering af visse teknologier for at sikre, at de ikke bruges til masseødelæggelse.Lande, der mistænkes for at besidde masseødelæggelsesvåben, er undertiden invaderet af andre lande, der er bekymrede for de langsigtede konsekvenser, som krigen i Irak levende viser.