Η συζήτηση πραγματοποιήθηκε το 2015, σε συνέδριο του Future of Life Institute, μιας νεοσύστατης τότε μη κερδοσκοπικής οργάνωσης. Μεταξύ των περίπου 80 προσκεκλημένων βρίσκονταν κορυφαία ονόματα της αναδυόμενης βιομηχανίας AI, μεταξύ άλλων οι συνιδρυτές της DeepMind, η οποία είχε εξαγοραστεί από τη Google έναν χρόνο νωρίτερα, αλλά και τρία μελλοντικά ιδρυτικά στελέχη της OpenAI.
Κεντρική θέση στη συζήτηση είχε ο φιλόσοφος του Πανεπιστημίου της Οξφόρδης Νικ Μπόστρομ, συγγραφέας του «Superintelligence: Paths, Dangers, Strategies». Η βασική ιδέα ήταν απλή αλλά δραματική: μια υπερνοήμων μηχανή θα μπορούσε είτε να βοηθήσει την ανθρωπότητα να εξαπλωθεί στο Διάστημα είτε, υπό συγκεκριμένες συνθήκες, να οδηγήσει στην εξαφάνισή της.
Από τα σενάρια στους πολιτικούς διαδρόμους
Όπως σημειώνει η Washington Post, αυτό που κάποτε αποτελούσε ένα υποθετικό σενάριο μεταξύ ειδικών έχει πλέον περάσει στη δημόσια συζήτηση. Πολιτικοί από διαφορετικούς χώρους αναφέρονται ανοιχτά στους κινδύνους μιας ανεξέλεγκτης AI.
Σε πρόσφατη εκδήλωση στην Ουάσιγκτον, ο γερουσιαστής Μπέρνι Σάντερς και ο πρώην σύμβουλος του Ντόναλντ Τραμπ, Στίβεν Μπάνον, αναφέρθηκαν διαδοχικά στην Τεχνητή Νοημοσύνη ως πιθανή απειλή για την ανθρωπότητα.
Για τον Μαξ Τέγκμαρκ, συνιδρυτή του Future of Life Institute, η εξέλιξη αυτή είναι ενδεικτική του πόσο έχει αλλάξει η δημόσια αντίληψη.
Σε ορισμένες εκδοχές, η ίδια η AI μπορεί να αρχίσει να βελτιώνει τον κώδικά της, δημιουργώντας έναν φαύλο κύκλο ολοένα ταχύτερης εξέλιξης. Σε άλλες, αποκρύπτει τις πραγματικές της δυνατότητες από τους ανθρώπους και αποκτά σταδιακά πρόσβαση σε κρίσιμες υποδομές, επιχειρήσεις ή κρατικά συστήματα.
Το τελικό αποτέλεσμα διαφέρει από σενάριο σε σενάριο. Σε ορισμένες περιπτώσεις, η AI στρέφεται εναντίον των ανθρώπων. Σε άλλες, ακολουθεί έναν στόχο τόσο αποτελεσματικά ώστε η εξάλειψη της ανθρωπότητας να αποτελεί απλώς μια «παράπλευρη απώλεια».
Πόσο πιθανό είναι όμως ένα τέτοιο σενάριο;
Εδώ αρχίζει η μεγάλη διαφωνία.
Το 2023, κορυφαία στελέχη της βιομηχανίας AI υπέγραψαν δημόσια δήλωση σύμφωνα με την οποία η αντιμετώπιση του κινδύνου αφανισμού από την AI θα έπρεπε να θεωρείται εξίσου σημαντική με την αποτροπή μιας πυρηνικής καταστροφής.
Το RAND Corporation επιχείρησε στη συνέχεια να εξετάσει πιο συστηματικά το ζήτημα. Σε έκθεσή του ανέλυσε τις προϋποθέσεις που θα έπρεπε να συντρέχουν ώστε μια AI να μπορούσε πράγματι να προκαλέσει καταστροφή σε επίπεδο είδους, όπως πρόσβαση σε συστήματα που επιτρέπουν δράση στον φυσικό κόσμο και δυνατότητα λειτουργίας χωρίς ανθρώπινη υποστήριξη.
Ωστόσο, η έκθεση υπογράμμισε ότι η ύπαρξη ακόμη και μίας τέτοιας δυνατότητας δεν σημαίνει ότι ο αφανισμός είναι πιθανός. Παράλληλα, σημείωσε ότι οι ισχυρισμοί για μια μελλοντική τεχνολογία που θα μπορούσε να εξαλείψει την ανθρωπότητα δεν μπορούν εύκολα να ελεγχθούν ή να διαψευστούν.
Ο παράγοντας που συχνά απουσιάζει: ο άνθρωπος
Ορισμένοι ερευνητές επισημαίνουν επίσης ότι τα σενάρια αφανισμού επικεντρώνονται υπερβολικά στην τεχνολογική εξέλιξη και λιγότερο στην ικανότητα της κοινωνίας να προσαρμοστεί.
Ο καθηγητής Πληροφορικής Subbarao Kambhampati υποστηρίζει ότι η AI είναι ένα «κοινωνικοτεχνικό σύστημα» και πως τα σενάρια καταστροφής συχνά αντιμετωπίζουν τους ανθρώπους σαν παθητικούς παρατηρητές που απλώς περιμένουν να χάσουν τον έλεγχο.
Ανάλογες ανησυχίες εκφράζονται και για τον τρόπο με τον οποίο οι πολιτικοί αντιμετωπίζουν την τεχνολογία. Η Aya Ibrahim του AI Now Institute έχει υποστηρίξει ότι ορισμένοι υπεύθυνοι χάραξης πολιτικής εμφανίζονται απρόθυμοι να αμφισβητήσουν τις τεχνολογικές εταιρείες, ειδικά όταν δεν διαθέτουν οι ίδιοι τεχνική εξειδίκευση.
Την ίδια στιγμή, υποστηρικτές των σεναρίων κινδύνου θεωρούν ότι, ακόμη και αν δεν αποτελούν ακριβείς προβλέψεις, μπορούν να λειτουργήσουν ως «ασκήσεις προσομοίωσης» για κυβερνήσεις και νομοθέτες.
Το βασικό ερώτημα, επομένως, δεν είναι μόνο αν η AI θα μπορούσε κάποτε να οδηγήσει στην εξαφάνιση της ανθρωπότητας. Είναι και αν η υπερβολική εστίαση σε ένα μακρινό και δύσκολο να ελεγχθεί ενδεχόμενο μπορεί να αποσπάσει την προσοχή από τους κινδύνους που ήδη εμφανίζονται.
Ο ίδιος ο Τέγκμαρκ, πάντως, υποστηρίζει ότι οι προειδοποιήσεις που διατυπώθηκαν το 2015 δεν απέτρεψαν την ταχύτατη ανάπτυξη της τεχνολογίας. Αντίθετα, όπως έχει πει, η βιομηχανία συνέχισε να προχωρά με μεγάλη ταχύτητα.
Έτσι, η συζήτηση για την AI βρίσκεται σήμερα σε ένα κρίσιμο σταυροδρόμι: ανάμεσα στον φόβο για ένα υποθετικό μέλλον όπου οι μηχανές θα ξεπεράσουν τον άνθρωπο και στην ανάγκη να αντιμετωπιστούν οι πραγματικές, ήδη υπαρκτές συνέπειες μιας τεχνολογίας που εξελίσσεται ταχύτερα από το ρυθμιστικό πλαίσιο που τη διέπει.
