«Η εκτίμησή μου είναι ότι… όταν τη βάλουμε σε μια κατάσταση όπου πιστεύει ότι μπορεί να μας σκοτώσει, απλώς θα μας δολοφονήσει», είπε, σύμφωνα με βίντεο της ομιλίας του που είχε αναρτήσει τότε σε ένα διαδικτυακό φόρουμ.
Εκείνη η προειδοποίηση, το 2022, δεν προσέλκυσε ιδιαίτερη προσοχή. Ο Χούμπινγκερ είχε αποφοιτήσει από το πανεπιστήμιο μόλις τρία χρόνια νωρίτερα και εργαζόταν σε έναν ελάχιστα γνωστό μη κερδοσκοπικό οργανισμό, αφιερωμένο σε μια περιθωριακή τότε προσπάθεια: να αποτραπεί το ενδεχόμενο οι μηχανές να αφανίσουν κάποια μέρα την ανθρωπότητα.
Όταν όμως ο Χούμπινγκερ εξέφρασε μια παρόμοια προειδοποίηση αυτή την εβδομάδα, σε ανάρτησή του στο X, το μήνυμά του προβλήθηκε δεκάδες εκατομμύρια φορές, προκαλώντας πολιτειακούς και ομοσπονδιακούς νομοθέτες να επαναλάβουν την ανησυχία του. Αυτή τη φορά μιλούσε ως επικεφαλής ομάδας στην Anthropic, την εταιρεία ανάπτυξης του chatbot Claude, η οποία ετοιμάζεται να εισαχθεί στο χρηματιστήριο με αποτίμηση άνω του 1 τρισεκατομμυρίου δολαρίων.
«Η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους… προσωπικά πιστεύω ότι υπάρχει πιθανότητα >10% μέσα στην επόμενη δεκαετία», έγραψε ο Χούμπινγκερ, απαντώντας στην παραίτηση του συναδέλφου του Τζέικομπ Κόξον, ο οποίος κατηγόρησε την Anthropic ότι προχωρά υπερβολικά γρήγορα παρά τους κινδύνους.
Σύμφωνα με την Washington Post, διευρυμένη επιρροή του Χούμπινγκερ αντικατοπτρίζει την αυξανόμενη δύναμη μιας κοινότητας που επί χρόνια βρισκόταν στο περιθώριο της βιομηχανίας της τεχνολογίας και προσπαθούσε να διαδώσει την ιδέα ότι η αποτροπή ενός αφανισμού της ανθρωπότητας από την τεχνητή νοημοσύνη αποτελεί επείγον πρόβλημα.
Η OpenAI και η ανταγωνίστριά της Anthropic ιδρύθηκαν και οι δύο από ερευνητές που συνδέονταν με το κίνημα της ασφάλειας της τεχνητής νοημοσύνης (AI safety). Το κίνημα υποστηρίζει ότι πρέπει να αντιμετωπίζουμε σοβαρά, από σήμερα, το ενδεχόμενο η τεχνολογία να μπορούσε κάποια στιγμή στο μέλλον να αφανίσει την ανθρωπότητα. Καθώς και οι δύο εταιρείες αναπτύχθηκαν με εξαιρετική ταχύτητα, αυτή η άποψη απέκτησε ολοένα μεγαλύτερη προβολή.
Πιο πρόσφατα, καθώς οι «πράκτορες» τεχνητής νοημοσύνης (AI agents) κατέρριψαν ορόσημα στα μαθηματικά, εισέβαλαν σε διακομιστές εταιρειών και προκάλεσαν κινητοποίηση για ζητήματα εθνικής ασφάλειας στον Λευκό Οίκο, φαίνεται πως έχει εμφανιστεί ένα νέο, πιο δεκτικό κοινό, έτοιμο να ακούσει προειδοποιήσεις για μια πιθανή καταστροφή από την AI.
Ο Νέιθαν Λάμπερτ, πρώην ανώτερος ερευνητής στο μη κερδοσκοπικό Allen Institute for AI, δήλωσε ότι αρχικά δεν είχε πάρει στα σοβαρά την πρόβλεψη του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ότι η τεχνητή νοημοσύνη θα αναλάμβανε το έργο των μηχανικών λογισμικού. Τώρα, ο ίδιος ο Λάμπερτ δεν γράφει κώδικα, επειδή το κάνει η AI για λογαριασμό του, είπε.
«Έχουν πραγματικά μακροπρόθεσμη διορατικότητα, με έναν τρόπο που είναι αξιοσημείωτος όσον αφορά την τεχνολογία», είπε ο Λάμπερτ αναφερόμενος στους υποστηρικτές της ασφάλειας της AI.
Ωστόσο, το γεγονός ότι κάποιος έχει προβλέψει σωστά πρόσφατες τεχνολογικές τάσεις δεν σημαίνει ότι θα επαληθευτούν και πιο υποθετικές προβλέψεις, πρόσθεσε ο Λάμπερτ.
«Υπάρχει πολύ περισσότερο ένα είδος συμπλέγματος θεού όταν έχεις δίκιο για μια δεκαετία και έχεις δημιουργήσει τις πιο επιτυχημένες εταιρείες όλων των εποχών», είπε.
Είτε έχει δίκιο είτε όχι, το κίνημα μπορεί πλέον να επηρεάσει τόσο την πολιτική όσο και την κοινή γνώμη — όπως φάνηκε από τη θύελλα αντιδράσεων αυτής της εβδομάδας σχετικά με τον κίνδυνο εξαφάνισης της ανθρωπότητας, η οποία εξαπλώθηκε στα μέσα κοινωνικής δικτύωσης και στα δελτία ειδήσεων υψηλής τηλεθέασης.
Οι ίδιες προβλέψεις για ένα ζοφερό τέλος της ανθρωπότητας κυκλοφορούν εδώ και χρόνια, δήλωσε η Σάρα Χούκερ, διευθύνουσα σύμβουλος και συνιδρύτρια της νεοφυούς εταιρείας τεχνητής νοημοσύνης Adapation και πρώην ερευνήτρια στην Google DeepMind. Ωστόσο, όπως είπε, ο τελευταίος γύρος προειδοποιήσεων συναντά μια αυξανόμενη ανησυχία του κοινού σχετικά με την AI.
«Απλώς εκφράζει πολύ έντονα αυτό το τεράστιο χάσμα σε μια εποχή που η τεχνολογία γίνεται ολοένα και πιο ισχυρή», είπε η Χούκερ, η οποία θεωρεί αυτές τις προβλέψεις μη βοηθητικές.
«Από πού προκύπτει το 10%; … Τόσο μεγάλο μέρος αυτών στερείται ακρίβειας», είπε.
Τολμηρές προβλέψεις
Το κίνημα για την ασφάλεια της τεχνητής νοημοσύνης αναπτύχθηκε μέσα από ένα σύμπλεγμα διαδικτυακών φόρουμ, όπως το LessWrong, όπου διασταυρώνονταν ιδέες από διάφορες υποκουλτούρες της περιοχής του Σαν Φρανσίσκο.
Σε αυτές περιλαμβάνονταν οι «αποτελεσματικοί αλτρουιστές» (effective altruists), οι οποίοι προσπαθούν να υπολογίσουν πώς μπορεί κανείς να κάνει το μεγαλύτερο δυνατό καλό στον κόσμο, καθώς και ο τρανσουμανισμός, μια φιλοσοφία που εξετάζει τρόπους ενίσχυσης της ανθρώπινης φυλής μέσω της τεχνολογίας.
Οι βασικές πεποιθήσεις αυτής της νέας κοινότητας ήταν ότι η AI θα ξεπερνούσε αναπόφευκτα τις ανθρώπινες ικανότητες — και ότι η τεχνολογία θα μπορούσε εύκολα να εξαλείψει την ανθρωπότητα, εάν δεν κατασκευαζόταν έτσι ώστε να μοιράζεται τις ίδιες αξίες με τους ανθρώπινους δημιουργούς της.
Οι ιδέες αυτές ήταν κεντρικές στην ίδρυση της OpenAI και αργότερα της Anthropic, οι οποίες σήμερα συγκαταλέγονται στις πολυτιμότερες εταιρείες του πλανήτη.
Παράλληλα, μια μικρή ομάδα εύπορων δωρητών από τον χώρο της τεχνολογίας δαπάνησε εκατοντάδες εκατομμύρια δολάρια κατά την τελευταία δεκαετία, μέσω ακαδημαϊκών δωρεών, μη κερδοσκοπικών οργανισμών, επιχορηγήσεων και υποτροφιών. Με αυτόν τον τρόπο, ουσιαστικά φύτεψαν τις ιδέες της ασφάλειας της AI στους κύκλους των πανεπιστημίων, της κυβέρνησης και των μέσων ενημέρωσης.
Το αποτέλεσμα ήταν να δημιουργηθεί μια «αλυσίδα» ταλέντων που τροφοδοτούσε τόσο τις εταιρείες τεχνολογίας όσο και την πολιτική.
Η ομιλία του Χούμπινγκερ το 2022 απευθυνόταν σε ανθρώπους που είχαν λάβει υποτροφία για να μάθουν περισσότερα σχετικά με την ασφάλεια της AI. Το πρόγραμμα διοργανώνεται από έναν εκπαιδευτικό μη κερδοσκοπικό οργανισμό, ο οποίος έλαβε πέρυσι περισσότερα από 15 εκατομμύρια δολάρια σε δωρεές από το μεγαλύτερο φιλανθρωπικό ίδρυμα στο οικοσύστημα της ασφάλειας της AI.
Μετά την εκρηκτική επιτυχία του ChatGPT της OpenAI και την ανάδειξη της εταιρείας, μαζί με την ανταγωνίστριά της Anthropic, σε εθνικούς πρωταθλητές, στελέχη και των δύο εταιρειών εξέφρασαν κατά καιρούς ανησυχίες ότι η AI θα μπορούσε να είναι επιβλαβής για την ανθρωπότητα.
Ωστόσο, καμία από τις δύο εταιρείες δεν επιβράδυνε την ανάπτυξή της. Και οι δύο έχουν καταθέσει έγγραφα για την εισαγωγή τους στο χρηματιστήριο. (Η Washington Post έχει συμφωνία συνεργασίας περιεχομένου με την OpenAI.)
Ορισμένοι μη κερδοσκοπικοί οργανισμοί που ασχολούνται με την ασφάλεια της AI έχουν αντιδράσει στην πρόσφατη προβολή της τεχνητής νοημοσύνης υποστηρίζοντας influencers στα μέσα κοινωνικής δικτύωσης, ώστε να ενημερώνουν το κοινό για τους υπαρξιακούς κινδύνους, και προσεγγίζοντας μέλη του Κογκρέσου, μεταξύ των οποίων και τον γερουσιαστή Μπέρνι Σάντερς (ανεξάρτητο μέλος από το Βερμόντ).
Ο Σάντερς αντέδρασε στην παραίτηση του Κόξον με ανάρτηση στο X την Τετάρτη, γράφοντας: «Οι ίδιοι οι άνθρωποι που κατασκευάζουν αυτή την τεχνολογία παραδέχονται ότι θα μπορούσε να απειλήσει το μέλλον της ανθρωπότητας».
Τις τελευταίες εβδομάδες, νέες επιδείξεις των δυνατοτήτων της AI έχουν οδηγήσει εξέχουσες προσωπικότητες του κλάδου να δηλώσουν ότι η άποψή τους σχετικά με τον υπαρξιακό κίνδυνο έχει αλλάξει.
Ο Σεθ Λάζαρ, καθηγητής φιλοσοφίας στο Πανεπιστήμιο Johns Hopkins, δήλωσε ότι στο παρελθόν υποστήριζε την εστίαση στις πιο άμεσες βλάβες που προκαλεί η AI. Υποστήριζε ότι ο κλάδος ίσως να μην καταφέρει ποτέ να δημιουργήσει συστήματα αρκετά ισχυρά ώστε να προκαλέσουν από μόνα τους βλάβη στον ανθρώπινο πολιτισμό.
Ωστόσο, είπε ότι η βεβαιότητά του γι' αυτή την άποψη έχει πρόσφατα κλονιστεί.
Αρχικά εμφανίστηκαν πιο ικανά μοντέλα AI που «σκέφτονται» μέσα από προβλήματα, είπε ο Λάζαρ — μια εξέλιξη που βασίζεται στις ίδιες τεχνικές εκπαίδευσης της AI για τις οποίες ο Χούμπινγκερ είχε προειδοποιήσει ότι θα μπορούσαν να εξελιχθούν επικίνδυνα στην ομιλία του το 2022.
Στη συνέχεια, στα τέλη της περασμένης χρονιάς, άρχισαν επιτέλους να λειτουργούν αποτελεσματικά οι AI agents που μπορούν να εκτελούν ενέργειες σε έναν υπολογιστή, και οι ερευνητές άρχισαν να συζητούν για AI που θα μπορούσε να δημιουργεί βελτιωμένες εκδοχές του ίδιου του εαυτού της, είπε ο Λάζαρ.
«Μέσα σε έναν ή δύο χρόνια, αν όχι νωρίτερα, θα μπορούσαμε να έχουμε ανεξάρτητα δρώντες, ατίθασους AI agents», οι οποίοι θα προκαλούσαν χάος στην κοινωνία, είπε ο Λάζαρ.
Οι σημαντικοί κίνδυνοι βρίσκονται «ξεκάθαρα μέσα στον τεχνολογικό ορίζοντα», είπε, αν και πρόσθεσε ότι η πλήρης εξαφάνιση της ανθρωπότητας εξακολουθεί να του φαίνεται ένα βήμα παραπάνω — ίσως μια υπερβολικά μεγάλη υπόθεση.
