Hva er vennlig AI?

Vennlig AI er et begrep som brukes av kunstig intelligens (AI) forskere for å referere til AI -systemer som generelt utfører handlinger som er nyttige for menneskeheten i stedet for nøytrale eller skadelige.Dette betyr ikke blind lydighet - tvert imot, brukes begrepet for å beskrive AI -systemer som er vennlige fordi de vil være, ikke på grunn av noen eksternt pålagt kraft.I tillegg til å referere til fullførte systemer, er vennlig AI også navnet på den teoretiske og ingeniørdisiplinen som vil bli brukt til å lage slike systemer etableringen av vennlig AI smart nok til å forbedre sin egen kildekode uten programmererinngrep.Hans boklengdearbeid om emnet,

Å skape vennlig AI

, publisert på nettet i 2001, er sannsynligvis den første strenge behandlingen av emnet hvor som helst.Yudkowsky påkaller argumenter fra evolusjonspsykologi og andre kognitive vitenskaper for å støtte hans tilnærming til problemet med vennlig AI.

Friendly AI anses som viktig som en akademisk disiplin fordi tidligere forsøk på å svare på problemet med Rogue AI generelt påkalt strenge programmerte begrensninger,Bundet til å kollapse under alternative tolkninger, når AI blir smartere enn mennesker, eller bare når den får evnen til å omprogrammere seg selv.Antropomorfisme er også et problem i AI.Fordi evolusjon bygger organismer som har en tendens til å være egoistiske, antar mange tenkere at enhver AI vi bygger ville ha samme tendens, enten umiddelbart eller etter å ha blitt smart nok.

Evolusjon bygger organismer med selvsentrerte målsystemer fordi det ikke er noen annen måte.Altruistiske målsystemer tok mange millioner år å utvikle seg, og gjorde det bare under forhold der medlemmer av samme stamme hadde mye å vinne ved å hjelpe hverandre og mye å tape ved å forsømme å gjøre det.Men hvis vi skulle designe et sinn fra bunnen av, kunne vi bygge det uten et selvsentrert målsystem.Dette ville ikke være å begrense AI - det vil ganske enkelt skape en AI som er uselvisk av natur. Ovennevnte observasjon er en av mange som bidrar til det vennlige AI -feltet, som er ekstremt ny og fremdeles trenger mye arbeid.Noen AI -forskere hevder at vi ikke kan bestemme designfunksjonene som er nødvendige for å implementere vennlig AI til vi har smartere AI -systemer å eksperimentere på.Andre hevder at en rent teoretisk tilnærming ikke bare er mulig, men etisk nødvendig før de begynner et alvorlig forsøk på general AI.