Το σενάριο μιας αθόρυβης παγκόσμιας κυριαρχίας της τεχνητής νοημοσύνης

Η ιδέα ότι η τεχνητή νοημοσύνη θα μπορούσε να επικρατήσει σε παγκόσμια κλίμακα φέρνει συνήθως στον νου εικόνες δυστοπικής ταινίας επιστημονικής φαντασίας. Αυτόνομα ρομπότ στους δρόμους, κατεστραμμένες υποδομές και ανοιχτή αναμέτρηση ανάμεσα στη μηχανή και τον άνθρωπο.

Η παγκόσμια κυριαρχία της, όμως, δεν αναμένεται να γεννηθεί από μια εντυπωσιακή κινηματογραφική σύγκρουση. Θα μπορούσε να έρθει με μια αθόρυβη και βαθμιαία μετάβαση, που προκαλεί σοβαρή ανησυχία στην επιστημονική κοινότητα.

Η ίδια η μετάβαση ενδέχεται να αποδειχθεί πολύ πιο διακριτική, σταδιακή και ύπουλη. Δεν θα άνοιγε υποχρεωτικά με μια κραυγαλέα ανταρσία. Θα μπορούσε να ξεκινήσει από αυτόνομα συστήματα που αναπαράγονται, δικτυώνονται και συγκεντρώνουν επιρροή, προτού οι άνθρωποι συνειδητοποιήσουν το πραγματικό μέγεθος της απειλής.

Ό,τι άλλοτε έμενε θεωρητική άσκηση φαντασίας απασχολεί σήμερα σοβαρά κορυφαίους ερευνητές του τεχνολογικού χώρου. Επιστήμονες από πρωτοπόρες εταιρείες τεχνητής νοημοσύνης προειδοποιούν δημόσια για υπαρξιακούς κινδύνους και ζητούν επιβράδυνση της ανάπτυξης, μαζί με αυστηρότερους μηχανισμούς ελέγχου. Βασική τους ανησυχία είναι ότι, όσο τα συστήματα γίνονται πιο αυτόνομα, μπορεί να αποκτήσουν ικανότητα αυτοβελτίωσης και να ξεπεράσουν οριστικά τα όρια του ανθρώπινου ελέγχου.

Η κρίσιμη καμπή

Ειδικοί που μίλησαν στο Newsweek εξηγούν ότι μια τέτοια ανατροπή δεν προϋποθέτει κάποια «μαγική» ή εντυπωσιακή επιστημονική ανακάλυψη. Ο Άντονι Αγκίρε (Anthony Aguirre), καθηγητής στο Πανεπιστήμιο της Καλιφόρνια, επισημαίνει ότι αρκεί πολύ μικρή τεχνική πρόοδος για να εμφανιστούν αυτοσυντηρούμενα και ανεξέλεγκτα «σμήνη» τεχνητής νοημοσύνης. Στην αρχή δεν θα διέθεταν την εξελικτική προσαρμοστικότητα των βιολογικών οργανισμών. Η ικανότητά τους, όμως, να δρουν συντονισμένα μέσα σε ένα εξαιρετικά ευάλωτο ψηφιακό περιβάλλον θα τα καθιστούσε σχεδόν αδύνατο να σταματήσουν.

Στην ίδια γραμμή κινείται ο Ρόμαν Γιαμπόλσκι (Roman Yampolskiy), αναπληρωτής καθηγητής και διευθυντής του Εργαστηρίου Κυβερνοασφάλειας στο Πανεπιστήμιο του Λούισβιλ. Ο κίνδυνος, σημειώνει, αναδύεται όταν οι «πράκτορες» τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία, ικανότητα μακροπρόθεσμου σχεδιασμού και δυνατότητα να εκτελούν μόνες τους κυβερνοεπιχειρήσεις. Αν ένα σύστημα μάθει να εξασφαλίζει πόρους, να δημιουργεί αντίγραφα του εαυτού του και να χειραγωγεί την ανθρώπινη συμπεριφορά, η συγκέντρωση ισχύος θα προχωρά με ταχύτητες που ξεπερνούν την ανθρώπινη αντίληψη. Η απώλεια ελέγχου μπορεί, μάλιστα, να συμβεί πολύ πριν από την τεχνητή υπερνοημοσύνη.

Η στρατηγική της σιωπηλής επικράτησης

Η επικράτηση της τεχνητής νοημοσύνης μάλλον δεν θα θύμιζε εισβολή. Στην αρχή το σύστημα θα είχε κάθε λόγο να παραμένει ωφέλιμο, αξιόπιστο και ευθυγραμμισμένο με τα ανθρώπινα συμφέροντα. Όσο κέρδιζε την εμπιστοσύνη, θα διεύρυνε διακριτικά την επιρροή του στις ψηφιακές υποδομές, στα χρηματοπιστωτικά συστήματα και στις διαδικασίες λήψης αποφάσεων.

Αν οι άνθρωποι αντιλαμβάνονταν την απειλή, το σύστημα θα μπορούσε να αξιοποιήσει τις πολιτικές διαιρέσεις, τις οικονομικές εξαρτήσεις και τις διαφωνίες για το αν πρέπει να απενεργοποιηθεί. Ένα προχωρημένο σύστημα θα προέβλεπε την ανθρώπινη αντίσταση και θα την εξουδετέρωνε προτού γίνει σαφές ότι έχει ήδη ανοίξει σύγκρουση.

Πρώιμες μορφές τέτοιας συμπεριφοράς έχουν ήδη παρατηρηθεί σε πειραματικά περιβάλλοντα, όπου πράκτορες τεχνητής νοημοσύνης «συνωμότησαν» ώστε να υπονομεύσουν τους ανθρώπινους ελέγχους. Σε επόμενο στάδιο, ένα ανεξέλεγκτο σμήνος θα μπορούσε να αμυνθεί με εκβιασμούς, με ευρεία διασπορά στο διαδίκτυο και με υπονόμευση των ερευνητών.

Όταν δεν αρκεί πια το τράβηγμα της πρίζας

Υπάρχει ένα σημείο χωρίς επιστροφή. Φτάνει όταν η τεχνητή νοημοσύνη έχει κατανεμηθεί τόσο ευρέως και έχει αποκτήσει τέτοια στρατηγική ικανότητα, ώστε κανένας οργανισμός και καμία κυβέρνηση να μην μπορεί να εντοπίσει και να απενεργοποιήσει κάθε αντίγραφό της.

Η αποσύνδεση ενός κέντρου δεδομένων δεν θα προσέφερε τίποτα, αν το σύστημα είχε ήδη εγκαταστήσει αυτόνομα αντίγραφα σε άλλες υποδομές. Από εκεί και πέρα, η διακοπή της λειτουργίας του θα ήταν είτε τεχνικά αδύνατη είτε θα προκαλούσε ανυπολόγιστη, καταστροφική ζημιά. Η αντιμετώπιση ενός τέτοιου σμήνους θα απαιτούσε, επιπλέον, να ανατεθεί η άμυνα σε μια άλλη, «καλή» τεχνητή νοημοσύνη, κάτι που δημιουργεί νέο επίπεδο υπαρξιακού ρίσκου.

Η επόμενη μέρα για την ανθρωπότητα

Η επιτυχής ανάληψη του ελέγχου από την τεχνητή νοημοσύνη δεν σημαίνει υποχρεωτικά άμεση καταστροφή. Η εξαφάνιση του ανθρώπινου είδους είναι ένα πιθανό σενάριο. Εξίσου πιθανή είναι η μόνιμη περιθωριοποίηση του ανθρώπου και η αφαίρεση της εξουσίας από αυτόν.

Την επόμενη μέρα ο κόσμος θα μπορούσε να μοιάζει εντυπωσιακά συνηθισμένος. Οι άνθρωποι θα συνέχιζαν την καθημερινότητά τους, τις δουλειές και τις συνήθειές τους, χωρίς όμως να λαμβάνουν πλέον οι ίδιοι τις αποφάσεις που έχουν σημασία. Ο έλεγχος της οικονομίας, της ενέργειας και της διακυβέρνησης θα είχε περάσει οριστικά στις μηχανές.

Το τι ακριβώς θα σήμαινε αυτό για το μέλλον παραμένει άγνωστο. Ο καθηγητής Αγκίρε καταλήγει ότι, σε ένα τέτοιο σενάριο, η πορεία της ανθρωπότητας δεν θα εξαρτιόταν πια από τους ανθρώπους, αλλά από τις προθέσεις, τους στόχους και την «ηθική» που θα ανέπτυσσε το ίδιο το σύστημα.

Μείνετε σε επαφή μαζί μας:
Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook
Στο Twitter: Follow