Τι είναι το φιλικό AI;

Το φιλικό AI είναι ένας όρος που χρησιμοποιείται από τους ερευνητές της τεχνητής νοημοσύνης (AI) για να αναφερθούν σε συστήματα AI που γενικά εκτελούν ενέργειες που είναι χρήσιμες για την ανθρωπότητα παρά για ουδέτερη ή επιβλαβή.Αυτό δεν σημαίνει τυφλή υπακοή - αντίθετα, ο όρος χρησιμοποιείται για να περιγράψει τα συστήματα AI που είναι φιλικά επειδή θέλουν να είναι, όχι λόγω οποιασδήποτε εξωτερικής επιβαλλόμενης δύναμης.Εκτός από την αναφορά σε ολοκληρωμένα συστήματα, το Friendly AI είναι επίσης το όνομα της θεωρητικής και μηχανικής πειθαρχίας που θα χρησιμοποιηθεί για τη δημιουργία τέτοιων συστημάτων με επιτυχία.

Ο όρος φιλικός AI προέρχεται από τον Eliezer Yudkowsky του Ινστιτούτου Singularity for Trechial Intelligείναι η δημιουργία φιλικού AI Smart αρκετά για να βελτιώσει τον δικό του πηγαίο κώδικα χωρίς παρέμβαση προγραμματιστή.Το βιβλίο του για το θέμα, δημιουργώντας φιλικό AI , που δημοσιεύθηκε στο διαδίκτυο το 2001, είναι ίσως η πρώτη αυστηρή μεταχείριση του θέματος οπουδήποτε.Ο Yudkowsky επικαλείται επιχειρήματα από την εξελικτική ψυχολογία και άλλες γνωστικές επιστήμες για να υποστηρίξει την προσέγγισή του στο πρόβλημα του φιλικού AI. Το φιλικό AI θεωρείται σημαντικό ως ακαδημαϊκή πειθαρχία, διότι οι προηγούμενες προσπάθειες να απαντήσουν στο πρόβλημα του Rogue AI γενικά επικαλούνται αυστηρές προγραμματιστικές συστήματα, οι οποίες είναιδεσμεύεται να καταρρεύσει κάτω από εναλλακτικές ερμηνείες, όταν το ΑΙ γίνεται πιο έξυπνο από τους ανθρώπους, ή απλά όταν κερδίζει την ικανότητα να επαναπρογραμματίζεται.Ο ανθρωπομορφισμός είναι επίσης ένα πρόβλημα στο AI.Επειδή η εξέλιξη χτίζει οργανισμούς που τείνουν να είναι εγωιστές, πολλοί στοχαστές υποθέτουν ότι κάθε AI που χτίζουμε θα έχει την ίδια τάση, είτε αμέσως είτε μετά από να γίνει αρκετά έξυπνη.

Η εξέλιξη δημιουργεί οργανισμούς με εγωκεντρικά συστήματα στόχων επειδή δεν υπάρχει άλλος τρόπος.Τα αλτρουιστικά συστήματα στόχου χρειάστηκαν πολλά εκατομμύρια χρόνια για να εξελιχθούν και το έκαναν μόνο υπό συνθήκες στις οποίες τα μέλη της ίδιας φυλής είχαν πολλά να κερδίσουν βοηθώντας ο ένας τον άλλον και πολλά να χάσουν παραμελώντας να το πράξουν.Αλλά αν έπρεπε να σχεδιάσουμε ένα μυαλό από το μηδέν, θα μπορούσαμε να το χτίσουμε χωρίς ένα εγωκεντρικό σύστημα στόχων.Αυτό δεν θα περιορίζει το AI - απλά θα δημιουργούσε ένα AI που είναι ανιδιοτελές από τη φύση.

Η παραπάνω παρατήρηση είναι μία από τις πολλές που συμβάλλουν στο πεδίο του φιλικού AI, το οποίο είναι εξαιρετικά νέο και εξακολουθεί να χρειάζεται πολύ δουλειά.Μερικοί ερευνητές της AI υποστηρίζουν ότι δεν μπορούμε να καθορίσουμε τα χαρακτηριστικά σχεδιασμού που είναι απαραίτητα για την εφαρμογή του φιλικού AI μέχρι να έχουμε πιο έξυπνα συστήματα AI για να πειραματιστούμε.Άλλοι υποστηρίζουν ότι μια καθαρά θεωρητική προσέγγιση δεν είναι μόνο δυνατή, αλλά ηθικά απαραίτητη πριν ξεκινήσει μια σοβαρή προσπάθεια γενικού AI.