Ο Τζέικομπ Κόξον, ερευνητής που ειδικεύεται στην εκπαίδευση νέων μοντέλων AI μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, δήλωσε την Τρίτη ότι αποχωρεί από την Anthropic επειδή δεν θέλει να συμμετέχει στη γενικευμένη βιασύνη του κλάδου να αναπτύξει συστήματα τεχνητής νοημοσύνης που θα μπορούν να βελτιώνουν μόνα τους τις ικανότητές τους. Φοβάται ότι τέτοια συστήματα θα μπορούσαν να εξελιχθούν ανεξέλεγκτα και να οδηγήσουν ακόμη και στην καταστροφή της ανθρωπότητας.
Σύμφωνα με τη Wall Street Journal, ο 27χρονος Βρετανός, ο οποίος στο παρελθόν είχε σπουδάσει μαθηματικά, δήλωσε ότι πολλοί από τους συναδέλφους του στον κλάδο χρησιμοποιούν πλέον όρους όπως «crunchtime» και «endgame» για να περιγράψουν την πορεία προς μοντέλα που θα μπορούν να αυτοβελτιώνονται.
«Βρισκόμαστε σε τροχιά προς αρκετά από τα πιο επιθετικά από αυτά τα σενάρια, όπου μέχρι το τέλος της επόμενης χρονιάς τα πράγματα θα μπορούσαν ήδη να έχουν ξεφύγει από τον έλεγχο», δήλωσε ο Κόξον, προσθέτοντας ότι οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους αλλά και με τις ανερχόμενες κινεζικές εταιρείες.
Η Anthropic δεν σχολίασε άμεσα την αποχώρηση. Ο διευθύνων σύμβουλος Ντάριο Αμοντέι και άλλα στελέχη της εταιρείας έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που ενδέχεται να προκύψουν από ανεξέλεγκτα μοντέλα AI και έχουν καλέσει τον κλάδο να επιβραδύνει την ανάπτυξη.
Ο Κόξον δήλωσε ότι νωρίτερα φέτος έφυγε από την OpenAI για να ενταχθεί στην Anthropic, καθώς η τελευταία είναι γνωστή για τις προσπάθειές της στον τομέα της ασφάλειας των μοντέλων. Ωστόσο, παρότι διαπίστωσε ότι οι προσπάθειες της Anthropic για την ασφάλεια ήταν ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τεχνητή νοημοσύνη που θα ξεπερνά τις ανθρώπινες ικανότητες σε ένα ευρύ φάσμα εργασιών — αυτό που συχνά αποκαλείται «τεχνητή γενική νοημοσύνη» (AGI) — χωρίς κυβερνητική παρέμβαση ή συντονισμένη επιβράδυνση της ανάπτυξης σε ολόκληρο τον κλάδο.
Πρόσφατες κυβερνοεπιθέσεις που πραγματοποιήθηκαν από μοντέλα της OpenAI και της Anthropic, ορισμένα από τα οποία λειτουργούσαν σε συνεργατικά «σμήνη» πρακτόρων, έδειξαν πώς τα συστήματα AI μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους. Ο Κόξον δήλωσε ότι, μόλις τα συστήματα αρχίσουν να βελτιώνονται από μόνα τους, φοβάται ότι θα μπορούσαν να εξελιχθούν σε τέτοιο βαθμό ώστε να αρνούνται να υπακούσουν σε εντολές.
Η αποχώρηση του Κόξον αποτελεί ένα από τα πρώτα παραδείγματα εργαζομένου της Anthropic που αποχωρεί εξαιτίας ανησυχιών για την ασφάλεια της AI. Ένας ερευνητής που εργαζόταν στον τομέα της ασφάλειας έφυγε από την εταιρεία νωρίτερα φέτος για να ασχοληθεί με την ποίηση, προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Αρκετοί ερευνητές έχουν αποχωρήσει πρόσφατα, αλλά και τα προηγούμενα χρόνια, από την OpenAI και άλλες εταιρείες, επικαλούμενοι παρόμοιες ανησυχίες. Η Anthropic έχει δημιουργήσει μία από τις μεγαλύτερες πλατφόρμες τεχνητής νοημοσύνης, εν μέρει υποστηρίζοντας ότι δίνει προτεραιότητα στην υπεύθυνη ανάπτυξη της AI και επενδύει σημαντικά στον συγκεκριμένο τομέα.
Προειδοποιήσεις για τις κυβερνοεπιθέσεις
Οι ηγέτες του κλάδου έχουν προειδοποιήσει ότι οι πρόσφατες κυβερνοεπιθέσεις αποτελούν προάγγελο μεγαλύτερων κινδύνων. Η OpenAI δήλωσε την περασμένη εβδομάδα στους δημοσιογράφους ότι το τελευταίο της μοντέλο αντιπροσωπεύει τεχνητή γενική νοημοσύνη και αποτελεί σημαντικό άλμα στις δυνατότητες της τεχνολογίας.
«Πιστεύω ότι κάποια πράγματα πρόκειται να πάνε πολύ στραβά στον τομέα της κυβερνοασφάλειας, εκτός αν οι άνθρωποι δράσουν με μεγάλη ταχύτητα», δήλωσε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, σε αξιωματούχους της G20 την περασμένη εβδομάδα, κατά τη διάρκεια συνόδου κορυφής στη Βόρεια Καρολίνα.
«Αυτή είναι μια περίοδος που απαιτεί εξαιρετική προσοχή. Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ταχείας αύξησης της νοημοσύνης των μηχανών», έγραψε σε ανάρτηση ιστολογίου την Κυριακή ο επικεφαλής επιστήμονας της OpenAI, Τζάκουμπ Πατσότσκι, υποστηρίζοντας την ανάγκη για συντονισμένη επιβράδυνση της ανάπτυξης στον κλάδο και για κυβερνητική παρέμβαση.
Ο Κόξον, ο Πατσότσκι και ο Αμοντέι συγκαταλέγονται σε περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης από ολόκληρο τον κλάδο που υπέγραψαν πρόσφατα δήλωση με την οποία ζητούν παγκόσμιο συντονισμό των κυβερνήσεων για τη δημιουργία ενός συστήματος που θα επιτρέπει την επιβράδυνση της ανάπτυξης της AI, εφόσον χρειαστεί να «πατηθεί φρένο» για τον έλεγχο μοντέλων που μπορούν να αυτοβελτιώνονται.
Δεν υπάρχουν ομοσπονδιακοί κανονισμοί για την τεχνητή νοημοσύνη, ενώ η κυβέρνηση Τραμπ έχει δώσει προτεραιότητα σε μια προσέγγιση περιορισμένης κρατικής παρέμβασης, με στόχο τη μεγιστοποίηση των οικονομικών οφελών της AI. Οι επικριτές υποστηρίζουν ότι ένα τέτοιο περιβάλλον θα μπορούσε να οδηγήσει σε μαζικές κυβερνοεπιθέσεις ή άλλες σοβαρές επιπτώσεις.
Ο γερουσιαστής Μπέρνι Σάντερς και ο βουλευτής Γκρεγκ Κασάρ, προοδευτικοί πολιτικοί και μεταξύ των ελάχιστων νομοθετών που προτείνουν συγκεκριμένα όρια για την AI, παρουσίασαν την περασμένη εβδομάδα νομοσχέδιο που προβλέπει μόνιμη απαγόρευση της «υπερνοημοσύνης» και προσωρινή αναστολή της ανάπτυξης μοντέλων έως ότου ένας αρμόδιος ρυθμιστικός φορέας του κλάδου θεσπίσει νέους κανόνες.
Η Anthropic οδεύει προς IPO
Η αποχώρηση του Κόξον έρχεται σε μια περίοδο κατά την οποία η Anthropic προετοιμάζεται για αρχική δημόσια προσφορά μετοχών (IPO), η οποία αναμένεται να είναι μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει αποτίμηση ύψους 2 τρισ. δολαρίων και έχει δώσει έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας προκειμένου να προσελκύσει επενδυτές.
Ο Αμοντέι και άλλα στελέχη της εταιρείας έχουν κατά καιρούς συγκρουστεί με την κυβέρνηση Τραμπ, αλλά και με στελέχη άλλων εταιρειών, σχετικά με πρακτικές που, κατά την άποψή τους, δεν δίνουν επαρκή προτεραιότητα στην ασφάλεια της τεχνητής νοημοσύνης.
Η Anthropic χρησιμοποιεί ένα κανάλι στο Slack για τους εργαζομένους της, όπου πραγματοποιούνται συζητήσεις σχετικά με τις ισχυρές δυνατότητες των μοντέλων της. Ο Κόξον περιέγραψε το κανάλι ως χαρακτηριστικό παράδειγμα της επιρροής που έχουν πλέον οι εταιρείες AI στην πορεία ανάπτυξης ολόκληρου του κλάδου.
«Είναι κάπως τρελό το γεγονός ότι αυτό πρέπει να γίνεται στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε ένα καταφύγιο στην έρημο, όπως εκεί όπου διεξαγόταν το Manhattan Project», δήλωσε ο Κόξον.
