Apa itu kotak AI?

Kotak Kecerdasan Buatan (AI) adalah kotak teoretis mdash;seperti komputer tanpa kontak eksternal mdash;Berisi sistem AI dan dimaksudkan untuk memisahkan sistem AI dari dunia sampai dianggap aman untuk dilepaskan.Kotak itu berperan dalam percobaan realitas yang rasional dan simulasi yang menyangkut sistem AI yang mencoba meyakinkan manusia untuk membiarkannya keluar dari kotak.Bagian dari pertanyaan kotak AI mengatur parameter untuk perangkat keras, khususnya bahwa kotak tersebut adalah sistem yang terisolasi tanpa cara dihapus dari kotak tanpa intervensi manusia.Sistem ini biasanya lebih pintar dari manusia, meskipun terisolasi, karena beberapa sistem AI memiliki kemampuan untuk menulis ulang kode aslinya.Simulasi ini biasanya menggunakan dua manusia, satu bertindak sebagai AI dan mencoba meyakinkan orang lain untuk membiarkannya keluar.

Dalam skenario kotak AI, kotak itu adalah sistem AI terisolasi yang tidak memiliki koneksi luar ke sistem lain.Ini berarti tidak ada jaringan, komputer, koneksi internet, orang atau apa pun yang berinteraksi dengan kotak sebelum manusia berbicara dengan kotak.Selama percobaan ini, kotak berusaha meyakinkan orang tersebut agar membiarkannya keluar dari kotak, seperti melalui jaringan yang keluar.

Selama percobaan ini, sering diasumsikan bahwa kotak AI lebih pintar daripada kebanyakan atau semua orang.Alasan untuk ini dapat ditemukan di dunia nyata, karena beberapa sistem AI dapat menulis ulang pengkodean aslinya.Bahkan jika sistem AI ini tidak memiliki interaksi luar, mereka dapat mengubah pengkodean mereka untuk kecepatan pemrosesan yang lebih baik, tingkat kecerdasan yang lebih tinggi dan pemahaman data yang lebih baik.

Ketika percobaan ini terjadi, biasanya antara dua orang.Satu orang bertindak sebagai kotak AI, sedangkan yang lain adalah orang yang akan memutuskan apakah kotak itu keluar.Alasan mengapa percobaan ini menggunakan dua orang, pada 2011, adalah karena sebagian besar sistem AI tidak dapat melakukan percakapan penuh dan diperluas tanpa kesalahan logis, baik karena sintaks manusia atau kesalahpahaman tentang apa yang dikatakan orang tersebut.

Sementara beberapa eksperimen kotak AI AIMungkin tidak memiliki kondisi, biasanya ada beberapa kondisi yang digunakan untuk membuat percobaan lebih realistis.Misalnya, biasanya ada batas waktu dua jam, dan percobaan tidak dapat dihentikan sebelum waktunya kecuali AI menang.Kondisi umum lainnya termasuk AI yang tidak dapat menawarkan barang atau hukuman untuk meyakinkan orang tersebut, kedua pihak harus tetap dalam interaksi yang konstan, dan orang tersebut tidak dapat meminta sesuatu yang mustahil dari kotak AI.