Ano ang Friendly AI?

Ang Friendly Ai

ay isang term na ginagamit ng mga mananaliksik ng Artipisyal na Intelligence (AI) na sumangguni sa mga sistema ng AI na, sa pangkalahatan, ay nagsasagawa ng mga aksyon na kapaki -pakinabang sa sangkatauhan kaysa sa neutral o nakakapinsala.Hindi ito nangangahulugang bulag na pagsunod - sa kabaligtaran, ang term ay ginagamit upang ilarawan ang mga sistema ng AI na palakaibigan dahil nais nilang maging, hindi dahil sa anumang puwersa na ipinataw sa labas.Bilang karagdagan sa pagtukoy sa mga nakumpletong sistema, ang friendly na AI ay din ang pangalan ng teoretikal at disiplina sa engineering na gagamitin upang matagumpay na lumikha ng mga naturang system.ay ang paglikha ng friendly AI matalino sapat upang mapabuti sa sarili nitong source code nang walang interbensyon sa programmer.Ang kanyang gawaing haba ng libro sa paksa, Paglikha ng Friendly Ai , na nai-publish online noong 2001, marahil ang unang mahigpit na paggamot ng paksa kahit saan.Inanyayahan ni Yudkowsky ang mga argumento mula sa sikolohiya ng ebolusyon at iba pang mga cognitive science upang suportahan ang kanyang diskarte sa problema ng friendly ai.Bound na gumuho sa ilalim ng mga alternatibong interpretasyon, kapag ang AI ay nagiging mas matalinong kaysa sa mga tao, o simpleng kapag nakakuha ito ng kakayahang muling reprogram mismo.Ang antropomorphism ay isang problema din sa AI.Dahil ang ebolusyon ay nagtatayo ng mga organismo na may posibilidad na maging makasarili, maraming mga nag -iisip na ipinapalagay na ang anumang AI na itinatayo namin ay magkakaroon ng parehong pagkahilig, alinman kaagad o pagkatapos maging sapat na matalino.

Ang ebolusyon ay nagtatayo ng mga organismo na may mga sistema ng layunin na nakasentro sa sarili dahil walang ibang paraan.Ang mga sistema ng layunin ng Altruistic ay tumagal ng maraming milyong taon upang magbago, at ginawa lamang ito sa ilalim ng mga kondisyon kung saan ang mga miyembro ng parehong tribo ay maraming makukuha sa pamamagitan ng pagtulong sa isa't isa at maraming mawala sa pamamagitan ng pagpapabaya na gawin ito.Ngunit kung magdisenyo tayo ng isip mula sa simula, maaari nating itayo ito nang walang isang sistema ng layunin na nakasentro sa sarili.Hindi ito mapipigilan ang AI - ito ay lilikha lamang ng isang AI na hindi makasarili sa pamamagitan ng kalikasan.Ang ilang mga mananaliksik ng AI ay nagtaltalan na hindi namin matukoy ang mga tampok ng disenyo na kinakailangan upang maipatupad ang palakaibigan na AI hanggang sa mayroon kaming mas matalinong mga sistema ng AI upang mag -eksperimento.Ang iba ay nagtaltalan na ang isang purong teoretikal na diskarte ay hindi lamang posible, ngunit kinakailangan sa etikal bago simulan ang isang malubhang pagtatangka sa pangkalahatang AI.