Hvad er venlig AI?

Friendly AI er et udtryk, der bruges af forskere fra kunstig intelligens (AI) til at henvise til AI -systemer, der generelt udfører handlinger, der er nyttige for menneskeheden snarere end neutral eller skadelig.Dette betyder ikke blind lydighed - tværtimod bruges udtrykket til at beskrive AI -systemer, der er venlige, fordi de vil være, ikke på grund af nogen eksternt pålagt kraft.Ud over at henvise til færdige systemer, er venlig AI også navnet på den teoretiske og tekniske disciplin, der ville blive brugt til at skabe sådanne systemer med succes.

Udtrykket venligt AI stammer fra Eliezer Yudkowsky fra Singularity Institute for Artificial Intelligence, hvis måler oprettelsen af venlig AI -smart nok til at forbedre sin egen kildekode uden programmørintervention.Hans boglængde arbejde om emnet, Oprettelse af venlig AI , der blev udgivet online i 2001, er sandsynligvis den første strenge behandling af emnet overalt.Yudkowsky påkalder argumenter fra evolutionær psykologi og andre kognitive videnskaber for at støtte hans tilgang til problemet med venlige AI.

Venlige AI betragtes som vigtige som en akademisk disciplin, fordi tidligere forsøg på at besvare problemet med Rogue AI generelt påkaldte strenge programmatiske begrænsninger, som erbundet til at kollapse under alternative fortolkninger, når AI bliver smartere end mennesker, eller simpelthen når det får evnen til at omprogrammere sig selv.Antropomorfisme er også et problem i AI.Fordi evolution bygger organismer, der har tendens til at være egoistiske, antager mange tænkere, at enhver AI, vi bygger, ville have den samme tendens, enten umiddelbart eller efter at være smart nok.

Evolution bygger organismer med selvcentrerede målsystemer, fordi der ikke er nogen anden måde.Altruistiske målsystemer tog mange millioner af år at udvikle sig, og gjorde det kun under forhold, hvor medlemmer af den samme stamme havde meget at vinde ved at hjælpe hinanden og meget at tabe ved at forsømme at gøre det.Men hvis vi skulle designe et sind fra bunden, kunne vi bygge det uden et selvcentreret målsystem.Dette ville ikke begrænse AI - det ville simpelthen skabe en AI, der er uselvisk af naturen.

Ovenstående observation er en af mange, der bidrager til området med venlig AI, som er ekstremt ny og stadig har brug for meget arbejde.Nogle AI -forskere hævder, at vi ikke kan bestemme de designfunktioner, der er nødvendige for at implementere venlige AI, før vi har smartere AI -systemer at eksperimentere på.Andre hævder, at en rent teoretisk tilgang ikke kun er mulig, men etisk nødvendigt, før det begynder et alvorligt forsøg på generel AI.