Co je to přátelská AI?

Přátelský AI je termín používaný vědci umělé inteligence (AI) k odkazování na systémy AI, které obecně provádějí akce, které jsou pro lidstvo užitečné spíše než neutrální nebo škodlivé.To neznamená slepá poslušnost - naopak se tento termín používá k popisu systémů AI, které jsou přátelské, protože chtějí být, ne kvůli žádné externě uložené síle.Kromě odkazování na dokončené systémy je přátelská AI také názvem teoretické a inženýrské disciplíny, která by byla použita k úspěšnému vytvoření takových systémů.je vytvoření přátelské AI dostatečně inteligentního, aby se zlepšila ve svém vlastním zdrojovém kódu bez zásahu programátora.Jeho práce s dlouhou knihou na toto téma,

Vytváření přátelského AI

, publikované online v roce 2001, je pravděpodobně prvním přísným zacházením s tématem kdekoli.Yudkowsky vyvolává argumenty z evoluční psychologie a dalších kognitivních věd na podporu jeho přístupu k problému přátelské AI.vázán se zhroucení pod alternativními interpretacemi, když se AI stane chytřejší než lidé, nebo jednoduše, když získá schopnost přeprogramovat se.Antropomorfismus je také problém AI.Protože evoluce buduje organismy, které mají tendenci být sobecké, mnoho myslitelů předpokládá, že jakákoli AI, kterou budujeme, by měla stejnou tendenci, buď okamžitě nebo po dostatečně chytré. Evoluce vytváří organismy s cílovými systémy zaměřenými na sebe, protože neexistuje žádný jiný způsob.Altruistické cílové systémy trvalo mnoho milionů let, než se vyvíjely, a učinili tak pouze za podmínek, za kterých museli členové stejného kmene hodně získat tím, že si navzájem pomáhali a hodně ztratili zanedbáváním.Ale pokud bychom měli navrhnout mysl od nuly, mohli bychom ji postavit bez cílového cílového systému.To by neomezilo AI - to by jednoduše vytvořilo AI, která není přirozeně nesobecké.

Výše uvedené pozorování je jedním z mnoha, které přispívají k oblasti přátelské AI, která je extrémně nová a stále potřebuje hodně práce.Někteří vědci AI tvrdí, že nemůžeme určit konstrukční funkce nezbytné k implementaci přátelské AI, dokud nebudeme mít chytřejší systémy AI, na kterých budeme experimentovat.Jiní tvrdí, že čistě teoretický přístup je nejen možný, ale eticky nezbytný před zahájením vážného pokusu o obecnou AI.