Yapay bir zeka (AI) kutusu, bir AI sistemi içeren ve AI sisteminin serbest bırakılmasının güvenli olduğu kabul edilene kadar dünyadan ayrı tutulması amaçlanan - harici teması olmayan bir bilgisayar gibi - teorik bir kutudur. Kutu, bir insanı kutudan çıkarmasına ikna etmeye çalışan AI sisteminin ilgisini çeken rasyonel ve simüle edilmiş bir gerçeklik deneyinde devreye giriyor. AI kutusu sorusunun bir kısmı donanım için parametreler belirler, özellikle kutunun insan müdahalesi olmadan kutudan çıkarılmasının hiçbir yolu olmayan izole bir sistem olduğu anlamına gelir. Sistem, izole edilmiş olsa bile tipik olarak bir insandan daha akıllıdır, çünkü bazı AI sistemleri orijinal kodlarını yeniden yazma yeteneğine sahiptir. Bu simülasyon normalde biri AI olarak görev yapan ve diğer kişiyi dışarı çıkarmaya ikna etmeye çalışan iki insanı kullanır.
AI kutusu senaryosunda, kutu, diğer sistemlerle dış bağlantısı olmayan izole edilmiş bir AI sistemidir. Bu, herhangi bir ağ, bilgisayar, İnternet bağlantısı, insan ya da kutusuyla konuşmadan önce kutuyla etkileşime giren herhangi bir şey olmadığı anlamına gelir. Bu deney sırasında, kutu kişiyi giden bir ağ gibi kutudan çıkarmasına ikna etmeye çalışır.
Bu deney sırasında, AI kutusunun çoğu insandan veya hepsinden daha akıllı olduğu varsayılır. Bunun nedenleri gerçek dünyada bulunabilir çünkü bazı AI sistemleri orijinal kodlamalarını yeniden yazabilirler. Bu AI sistemleri dış etkileşime sahip olmasalar bile, daha iyi işlem hızı, daha yüksek zeka seviyeleri ve daha iyi veri anlama için kodlamalarını değiştirebilirler.
Bu deney gerçekleştiğinde, normal olarak iki kişi arasındadır. Biri AI kutusu gibi davranırken, diğeri kutunun dışarı çıkıp çıkmayacağına karar verecek kişidir. Bu denemenin 2011 yılı itibariyle iki kişiyi kullanmasının nedeni, çoğu AI sisteminin, insan sözdizimi veya kişinin ne söylediğine ilişkin yanlış anlamalar nedeniyle, mantıksal hatalar olmadan tam ve genişletilmiş konuşmalar yapamamasıdır.
Bazı AI kutusu deneylerinin hiçbir koşulu olmayabilirken, genellikle deneyi daha gerçekçi hale getirmek için kullanılan bazı koşullar vardır. Örneğin, genellikle iki saatlik bir zaman sınırı vardır ve AI kazanmadıkça deney erken durdurulamaz. Diğer yaygın koşullar arasında AI'nın kişiyi ikna etmek için ürün sunamaması veya ceza vermemesi, iki tarafın sürekli etkileşimde kalması gerekir ve kişi AI kutusundan imkansız bir şey talep edemez.
