Co to jest przyjazna AI?

Przyjazna AI to termin używany przez naukowców sztucznej inteligencji (AI) w odniesieniu do systemów AI, które ogólnie wykonują działania, które są pomocne dla ludzkości, a nie neutralnej lub szkodliwej.Nie oznacza to ślepego posłuszeństwa - przeciwnie, termin ten jest używany do opisania systemów AI, które są przyjazne, ponieważ chcą być, a nie z powodu jakiejkolwiek siły narzuconej zewnętrznie.Oprócz odnoszenia się do ukończonych systemów, Friendly AI to także nazwa dyscypliny teoretycznej i inżynierskiej, która zostałaby wykorzystana do skutecznego tworzenia takich systemów.

Termin Friendly AI pochodzi z Eliezera Yudkowskiego z Instytutu Sztucznej Inteligencji, której celto tworzenie przyjaznej AI Smart, aby poprawić własny kod źródłowy bez interwencji programisty.Jego długości książki na ten temat, Creating Friendly AI , opublikowane online w 2001 roku, jest prawdopodobnie pierwszym rygorystycznym traktowaniem tematu w dowolnym miejscu.Yudkowsky przywołuje argumenty z psychologii ewolucyjnej i innych nauk poznawczych, aby poprzeć jego podejście do problemu przyjaznej sztucznej inteligencji.

Przyjazna sztuczna inteligencja jest uważana za ważną jako dyscyplinę akademicką, ponieważ przeszłość próbuje odpowiedzieć na problem nieuczciwości AI, powołując się na ścisłe ograniczenia programowe, które sąZwiązany z upadkiem w alternatywnych interpretacjach, gdy sztuczna inteligencja staje się mądrzejsza niż ludzie, lub po prostu, gdy zyskuje zdolność do przeprogramowania.Antropomorfizm stanowi również problem w sztucznej inteligencji.Ponieważ ewolucja buduje organizmy, które zwykle są samolubne, wielu myślicieli zakłada, że każda budowana przez nas sztuczna inteligencja miałaby taką samą tendencję, natychmiast lub po wystarczającej liczbie inteligentnych. Ewolucja buduje organizmy z egocentrycznymi systemami celów, ponieważ nie ma innego sposobu.Altruistyczne systemy celów zajęły wiele milionów lat, a zrobiły to tylko w warunkach, w których członkowie tego samego plemienia mieli wiele do zdobycia, pomagając sobie nawzajem i wiele do stracenia, zaniedbując to.Ale gdybyśmy zaprojektowali umysł od zera, moglibyśmy go zbudować bez egocentrycznego systemu celów.Nie ograniczałoby to sztucznej inteligencji - po prostu stworzyłoby to AI, która jest z natury bezinteresowna. Powyższa obserwacja jest jedną z wielu, które przyczyniają się do dziedziny przyjaznej sztucznej inteligencji, która jest niezwykle nowa i nadal wymaga dużo pracy.Niektórzy badacze AI twierdzą, że nie możemy określić funkcji projektowych niezbędnych do wdrożenia przyjaznej sztucznej inteligencji, dopóki nie będziemy mieć mądrzejszych systemów AI do eksperymentowania.Inni twierdzą, że podejście czysto teoretyczne jest nie tylko możliwe, ale etycznie konieczne przed rozpoczęciem poważnej próby ogólnej AI.