Mi a barátságos AI?

A barátságos AI egy olyan kifejezés, amelyet a mesterséges intelligencia (AI) kutatók használnak az AI rendszerekre való hivatkozásra, amelyek általában az emberiség számára hasznosak, nem pedig semleges vagy káros cselekedeteket végeznek.Ez nem azt jelenti, hogy a vak engedelmesség - éppen ellenkezőleg, a kifejezést olyan AI rendszerek leírására használják, amelyek barátságosak, mert akarnak lenni, nem pedig a külsőleg bevezetett erő miatt.Amellett, hogy a befejezett rendszerekre utal, a barátságos AI az elméleti és mérnöki tudományág neve is, amelyet az ilyen rendszerek sikeres létrehozására használnának.Elég intelligens a barátságos AI létrehozása, hogy javítsa a saját forráskódját programozó beavatkozás nélkül.Könyvhosszú munkája a témával kapcsolatban,

A barátságos AI

létrehozása, amelyet a 2001-ben online közzétettek, valószínűleg a téma első szigorú kezelése.Yudkowsky az evolúciós pszichológia és más kognitív tudományok érveit idézi elő, hogy támogassa a barátságos AI problémájához való megközelítését.Az alternatív értelmezések alatt összeomlik, amikor az AI okosabbá válik, mint az emberek, vagy egyszerűen akkor, amikor megszerezheti magát.Az antropomorfizmus szintén problémát jelent az AI -ben.Mivel az evolúció olyan organizmusokat épít, amelyek általában önzőek, sok gondolkodó feltételezi, hogy bármely olyan AI, amelyet felépítettünk, ugyanazt a tendenciát mutatja, akár azonnal, akár elég okossá válása után. Az evolúció organizmusokat épít az önközpontú célrendszerekkel, mivel nincs más út.Az altruista célrendszerek sok millió évig tartottak a fejlődéshez, és csak olyan körülmények között tették meg, amelyekben ugyanazon törzs tagjainak sokat kellett nyerniük, ha segítenek egymásnak, és sokat veszítenek azáltal, hogy elhanyagolják.De ha a semmiből megterveznénk az elmét, akkor öncentrikus célrendszer nélkül felépíthetjük.Ez nem korlátozza az AI -t - egyszerűen csak egy AI -t hoz létre, amely természeténél fogva önzetlen.

A fenti megfigyelés egyike annak, amely hozzájárul a barátságos AI területéhez, amely rendkívül új és még mindig sok munkára van szüksége.Egyes AI kutatók azt állítják, hogy nem határozhatjuk meg a barátságos AI megvalósításához szükséges tervezési funkciókat, amíg nem rendelkezünk okosabb AI rendszerekre, amelyekkel kísérletezni kell.Mások azt állítják, hogy a pusztán elméleti megközelítés nemcsak lehetséges, hanem etikailag is szükséges, mielőtt elkezdené az általános AI általános kísérletet.