Cos'è l'IA amichevole?

AI amichevole è un termine utilizzato dai ricercatori di intelligenza artificiale (AI) per riferirsi a sistemi di intelligenza artificiale che, in generale, eseguono azioni utili all'umanità piuttosto che neutra o dannosa.Ciò non significa obbedienza cieca - al contrario, il termine viene utilizzato per descrivere i sistemi di intelligenza artificiale che sono amichevoli perché vogliono essere, non a causa di qualsiasi forza imposta esternamente.Oltre a fare riferimento ai sistemi completati, l'IA amichevole è anche il nome della disciplina teorica e ingegneristica che verrebbe utilizzata per creare tali sistemi con successo.

Il termine AI amichevole è nato con Eliezer Yudkowsky del Singularity Institute for Artificial Intelligence, il cui obiettivo èè la creazione di AI Friendly AI abbastanza intelligente da migliorare il proprio codice sorgente senza intervento del programmatore.Il suo lavoro di lunghezza sul libro sull'argomento, Creare AI

, pubblicato online nel 2001, è probabilmente il primo trattamento rigoroso dell'argomento ovunque.Yudkowsky invoca argomenti dalla psicologia evolutiva e da altre scienze cognitive per supportare il suo approccio al problema dell'IA amichevole.

tivamente l'inteicatodio è considerato importante come una disciplina accademica perché i tentativi passati di rispondere al problema di Rogue hanno generalmente invocato rigorosi vincoli di programmazione, che sonoLegato a crollare sotto interpretazioni alternative, quando l'IA diventa più intelligente degli umani, o semplicemente quando guadagna la capacità di riprogrammare se stessa.L'antropomorfismo è anche un problema nell'intelligenza artificiale.Poiché l'evoluzione costruisce organismi che tendono ad essere egoisti, molti pensatori presumono che qualsiasi AI che costruiamo avrebbe la stessa tendenza, immediatamente o dopo essere diventata abbastanza intelligente. L'evoluzione costruisce organismi con sistemi di obiettivi egocentrici perché non c'è altro modo.I sistemi di obiettivi altruistici hanno impiegato molti milioni di anni per evolversi, e lo hanno fatto solo in condizioni in cui i membri della stessa tribù avevano molto da guadagnare aiutandosi a vicenda e molto da perdere trascurando di farlo.Ma se dovessimo progettare una mente da zero, potremmo costruirla senza un sistema di obiettivi egocentrico.Ciò non limiterebbe l'IA - sarebbe semplicemente creazione di un'intelligenza artificiale che è altruista per natura. L'osservazione di cui sopra è una delle tante che contribuiscono al campo dell'IA amichevole, che è estremamente nuovo e ha ancora bisogno di molto lavoro.Alcuni ricercatori di intelligenza artificiale sostengono che non possiamo determinare le caratteristiche di progettazione necessarie per implementare l'IA amichevole fino a quando non avremo sistemi di intelligenza artificiale più intelligenti su cui sperimentare.Altri sostengono che un approccio puramente teorico non è solo possibile, ma eticamente necessario prima di iniziare un serio tentativo di Ai generale.