Τι είναι ένα κουτί AI;

Ένα κιβώτιο τεχνητής νοημοσύνης (AI) είναι ένα θεωρητικό κουτί mdash;όπως ένας υπολογιστής χωρίς εξωτερική επαφή mdash;που περιέχει ένα σύστημα AI και προορίζεται να διατηρήσει το σύστημα AI ξεχωριστό από τον κόσμο μέχρι να θεωρηθεί ασφαλές για απελευθέρωση.Το κουτί μπαίνει στο παιχνίδι σε ένα λογικό και προσομοιωμένο πείραμα πραγματικότητας που αφορά το σύστημα AI που προσπαθεί να πείσει έναν άνθρωπο να το αφήσει έξω από το κουτί.Μέρος της ερώτησης AI Box δημιουργεί παραμέτρους για το υλικό, συγκεκριμένα ότι το κουτί είναι ένα απομονωμένο σύστημα χωρίς τρόπο απομάκρυνσης από το κουτί χωρίς ανθρώπινη παρέμβαση.Το σύστημα είναι συνήθως πιο έξυπνο από έναν άνθρωπο, παρόλο που είναι απομονωμένο, επειδή ορισμένα συστήματα AI έχουν τη δυνατότητα να ξαναγράψουν τον αρχικό τους κώδικα.Αυτή η προσομοίωση χρησιμοποιεί κανονικά δύο ανθρώπους, κάποιος που ενεργεί ως AI και προσπαθεί να πείσει το άλλο άτομο να το αφήσει έξω.

Στο σενάριο AI Box, το κουτί είναι ένα απομονωμένο σύστημα AI που δεν έχει εξωτερική σύνδεση με άλλα συστήματα.Αυτό σημαίνει ότι δεν υπάρχουν δίκτυα, υπολογιστές, συνδέσεις στο διαδίκτυο, άνθρωποι ή οτιδήποτε άλλο που αλληλεπιδρά με το κουτί πριν από τον άνθρωπο που μιλάει στο κουτί.Κατά τη διάρκεια αυτού του πειράματος, το κουτί προσπαθεί να πείσει το άτομο να το αφήσει έξω από το κουτί, όπως μέσω ενός εξερχόμενου δικτύου.Λόγοι για αυτό μπορούν να βρεθούν στον πραγματικό κόσμο, επειδή ορισμένα συστήματα AI είναι σε θέση να ξαναγράψουν την αρχική τους κωδικοποίηση.Ακόμη και αν αυτά τα συστήματα AI δεν έχουν εξωτερική αλληλεπίδραση, μπορούν να αλλάξουν την κωδικοποίησή τους για καλύτερη ταχύτητα επεξεργασίας, υψηλότερα επίπεδα νοημοσύνης και καλύτερη κατανόηση δεδομένων.

Όταν συμβαίνει αυτό το πείραμα, είναι κανονικά μεταξύ δύο ατόμων.Ένα άτομο ενεργεί ως κιβώτιο AI, ενώ το άλλο είναι το άτομο που θα αποφασίσει αν το κουτί βγαίνει.Ο λόγος για τον οποίο αυτό το πείραμα χρησιμοποιεί δύο άτομα, από το 2011, είναι επειδή τα περισσότερα συστήματα AI δεν μπορούν να συνεχίσουν τις πλήρεις και εκτεταμένες συνομιλίες χωρίς λογικά σφάλματα, είτε λόγω ανθρώπινης σύνταξης είτε για παρανοήσεις για το τι λέει το άτομο.Μπορεί να μην έχει συνθήκες, συνήθως υπάρχουν ορισμένες συνθήκες που χρησιμοποιούνται για να καταστούν το πείραμα πιο ρεαλιστικό.Για παράδειγμα, συνήθως υπάρχει ένα χρονικό όριο δύο ωρών και το πείραμα δεν μπορεί να σταματήσει πρόωρα εκτός αν κερδίσει το AI.Άλλες συνήθεις συνθήκες περιλαμβάνουν το AI που δεν μπορεί να προσφέρει στοιχεία ή τιμωρία για να πείσει το άτομο, τα δύο μέρη πρέπει να παραμείνουν σε συνεχή αλληλεπίδραση και το άτομο δεν μπορεί να ζητήσει κάτι αδύνατο από το κουτί AI.