Qu'est-ce que l'IA amicale?

AI amicalement AI est un terme utilisé par les chercheurs de l'intelligence artificielle (IA) pour désigner les systèmes d'IA qui, en général, effectuent des actions utiles à l'humanité plutôt qu'à neutre ou nocive.Cela ne signifie pas l'obéissance aveugle - au contraire, le terme est utilisé pour décrire les systèmes d'IA qui sont amicaux parce qu'ils veulent l'être, et non à cause d'une force imposée à l'extérieur.En plus de se référer aux systèmes terminés, l'IA amicale est également le nom de la discipline théorique et d'ingénierie qui serait utilisée pour créer de tels systèmes avec succès.

Le terme IA amical est originaire d'Eliezer Yudkowsky du Singularity Institute for Artificial Intelligence, dont l'objectifest la création d'une IA amicale suffisamment intelligente pour améliorer son propre code source sans intervention du programmeur.Son travail sur le sujet sur le sujet, Création d'une AI amicale, publiée en ligne en 2001, est probablement le premier traitement rigoureux du sujet n'importe où.Yudkowsky invoque les arguments de la psychologie évolutive et d'autres sciences cognitives pour soutenir son approche du problème de l'IA amicale.

a ii est considérélié à s'effondrer sous des interprétations alternatives, lorsque l'IA devient plus intelligente que les humains, ou simplement lorsqu'elle gagne la capacité de se reprogrammer.L'anthropomorphisme est également un problème dans l'IA.Parce que l'évolution construit des organismes qui ont tendance à être égoïstes, de nombreux penseurs supposent que toute IA que nous construisons aurait la même tendance, immédiatement ou après être suffisamment intelligente. L'évolution construit des organismes avec des systèmes d'objectifs égocentriques car il n'y a pas d'autre moyen.Les systèmes d'objectifs altruistes ont pris plusieurs millions d'années à évoluer, et ne l'ont fait que dans des conditions dans lesquelles les membres de la même tribu avaient beaucoup à gagner en s'entraidant et beaucoup à perdre en négligeant de le faire.Mais si nous devions concevoir un esprit à partir de zéro, nous pourrions le construire sans système d'objectifs égocentriques.Cela ne limiterait pas l'IA - il serait simplement de créer une IA qui est désintéressée par nature. L'observation ci-dessus est l'une des nombreuses qui contribuent au domaine de l'IA amicale, qui est extrêmement nouveau et a encore besoin de beaucoup de travail.Certains chercheurs d'IA soutiennent que nous ne pouvons pas déterminer les caractéristiques de conception nécessaires pour mettre en œuvre l'IA amicale jusqu'à ce que nous ayons des systèmes d'IA plus intelligents pour expérimenter.D'autres soutiennent qu'une approche purement théorique est non seulement possible, mais éthiquement nécessaire avant de commencer une tentative sérieuse de Général IA.