Apa itu Friendly AI?

Friendly AI adalah istilah yang digunakan oleh peneliti kecerdasan buatan (AI) untuk merujuk pada sistem AI yang, secara umum, melakukan tindakan yang membantu kemanusiaan daripada netral atau berbahaya.Ini tidak berarti kepatuhan buta - sebaliknya, istilah ini digunakan untuk menggambarkan sistem AI yang ramah karena mereka ingin menjadi, bukan karena kekuatan yang dipaksakan secara eksternal.Selain merujuk pada sistem yang telah selesai, AI yang ramah juga merupakan nama disiplin teoretis dan teknik yang akan digunakan untuk membuat sistem seperti itu dengan sukses.

Istilah Friendly AI berasal dari Eliezer Yudkowsky dari Singularity Institute for Kecerdasan Buatan, yang tujuannya yang tujuannyaadalah penciptaan AI yang cukup pintar untuk meningkatkan kode sumbernya sendiri tanpa intervensi programmer.Karya bukunya yang panjang tentang topik ini, Membuat AI Friendly , yang diterbitkan secara online pada tahun 2001, mungkin merupakan perlakuan pertama yang ketat dari topik ini di mana saja.Yudkowsky mengajukan argumen dari psikologi evolusioner dan ilmu kognitif lainnya untuk mendukung pendekatannya terhadap masalah AI yang ramah.Terikat untuk runtuh di bawah interpretasi alternatif, ketika AI menjadi lebih pintar dari manusia, atau hanya ketika ia mendapatkan kemampuan untuk memprogram ulang dirinya sendiri.Antropomorfisme juga menjadi masalah di AI.Karena evolusi membangun organisme yang cenderung egois, banyak pemikir berasumsi bahwa AI yang kita bangun akan memiliki kecenderungan yang sama, baik segera atau setelah menjadi cukup pintar.

Evolusi membangun organisme dengan sistem tujuan yang berpusat pada diri sendiri karena tidak ada cara lain.Sistem tujuan altruistik membutuhkan waktu jutaan tahun untuk berkembang, dan hanya melakukannya dalam kondisi di mana anggota suku yang sama memiliki banyak keuntungan dengan saling membantu dan banyak kehilangan dengan mengabaikan untuk melakukannya.Tetapi jika kita merancang pikiran dari awal, kita bisa membangunnya tanpa sistem tujuan yang berpusat pada diri sendiri.Ini tidak akan membatasi AI - itu hanya akan menciptakan AI yang secara alami tidak mementingkan diri sendiri.

Pengamatan di atas adalah salah satu dari banyak yang berkontribusi pada bidang AI yang ramah, yang sangat baru dan masih membutuhkan banyak pekerjaan.Beberapa peneliti AI berpendapat bahwa kami tidak dapat menentukan fitur desain yang diperlukan untuk mengimplementasikan AI yang ramah sampai kami memiliki sistem AI yang lebih cerdas untuk bereksperimen.Yang lain berpendapat bahwa pendekatan teoretis murni tidak hanya mungkin, tetapi secara etis diperlukan sebelum memulai upaya serius pada AI umum.