Vad är vänligt AI?

Friendly AI är en term som används av konstgjord intelligens (AI) forskare för att hänvisa till AI -system som i allmänhet utför handlingar som är användbara för mänskligheten snarare än neutrala eller skadliga.Detta betyder inte blind lydnad - tvärtom används termen för att beskriva AI -system som är vänliga eftersom de vill vara, inte på grund av någon externt påtvingad kraft.Förutom att hänvisa till färdiga system är vänlig AI också namnet på den teoretiska och tekniska disciplinen som skulle användas för att skapa sådana system framgångsrikt.

Termen Friendly AI har sitt ursprung i Eliezer Yudkowsky från Singularity Institute for Artificial Intelligence, vars målär skapandet av den vänliga AI smart nog att förbättra sin egen källkod utan programmerarintervention.Hans boklängda arbete med ämnet, Skapa vänligt AI , publicerad online 2001, är förmodligen den första strikta behandlingen av ämnet var som helst.Yudkowsky åberopar argument från evolutionär psykologi och andra kognitiva vetenskaper för att stödja hans inställning till problemet med vänlig AI.

Friendly AI anses vara viktig som en akademisk disciplin eftersom tidigare försök att svara på problemet med Rogue AI i allmänhet åberopade strikta programmatiska begränsningar, som är som ärBundet till kollaps under alternativa tolkningar, när AI blir smartare än människor, eller helt enkelt när det får förmågan att omprogrammera sig själv.Antropomorfism är också ett problem i AI.Eftersom Evolution bygger organismer som tenderar att vara själviska, antar många tänkare att alla AI vi bygger skulle ha samma tendens, antingen omedelbart eller efter att ha blivit smart nog.

Evolution bygger organismer med självcentrerade målsystem eftersom det inte finns något annat sätt.Altruistiska målsystem tog många miljoner år att utvecklas, och gjorde det bara under förhållanden där medlemmar av samma stam hade mycket att vinna genom att hjälpa varandra och mycket att förlora genom att försumma att göra det.Men om vi skulle utforma ett sinne från grunden, kunde vi bygga det utan ett självcentrerat målsystem.Detta skulle inte begränsa AI - det skulle helt enkelt vara att skapa en AI som är osjälvisk av naturen.

Ovanstående observation är en av många som bidrar till området Friendly AI, som är extremt nytt och fortfarande behöver mycket arbete.Vissa AI -forskare hävdar att vi inte kan bestämma de designfunktioner som krävs för att implementera vänlig AI förrän vi har smartare AI -system att experimentera med.Andra hävdar att en rent teoretisk strategi inte bara är möjlig, utan etiskt nödvändig innan de börjar ett allvarligt försök på General Ai.