Η έκκληση διατυπώθηκε αρχικά σε ένα δοκίμιο που δημοσίευσε στο διαδίκτυο το Σάββατο ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι. Η ιδέα έχει κερδίσει έδαφος τις τελευταίες εβδομάδες, καθώς οι εταιρείες AI έχουν σε ορισμένες περιπτώσεις δυσκολευτεί να διατηρήσουν τον έλεγχο των δημιουργημάτων τους, την ίδια στιγμή που ανοίγουν τον δρόμο για μια εποχή κατά την οποία τα ίδια τα συστήματα τεχνητής νοημοσύνης θα μπορούν να δημιουργούν την επόμενη, ισχυρότερη γενιά της τεχνολογίας.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», έγραψε ο Αμοντέι. «Η πρόοδος θα εξακολουθήσει να φαίνεται ταχύτατη και πρέπει να αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε».
Μέσα σε λίγες ώρες το Σάββατο, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο ιδρυτής της SpaceXAI, Ίλον Μασκ, εξέφρασαν γρήγορα την υποστήριξή τους στις ιδέες του Amodei. Οι τρεις άνδρες υπήρξαν σφοδροί αντίπαλοι — με έντονες διαφορές τόσο στο προσωπικό τους ύφος όσο και στις φιλοσοφίες τους σχετικά με την AI — και η φαινομενική αυτή συμφωνία αυξάνει τις πιθανότητες ο κλάδος να βρει τρόπους να συνεργαστεί για μια ευρύτερη επιβράδυνση της ανάπτυξης.
Ωστόσο, θα έπρεπε να ξεπεραστούν σοβαρά εμπόδια. Παραμένει ασαφές πώς ακριβώς θα οριζόταν και θα επαληθευόταν μια επιβράδυνση, ενώ οποιαδήποτε κοινή προσπάθεια μεταξύ εταιρειών για τον περιορισμό του ρυθμού ανάπτυξης θα μπορούσε να προσκρούσει στη νομοθεσία περί ανταγωνισμού. Επίσης, το ερώτημα του πώς θα μπορούσε να επιτευχθεί διεθνής συνεργασία — ιδιαίτερα με την Κίνα, οι εταιρείες AI της οποίας προσπαθούν να καλύψουν τη διαφορά από τους αμερικανικούς ανταγωνιστές τους — θα μπορούσε να αποδειχθεί εξαιρετικά δύσκολο.
Παρόλα αυτά, η εξέλιξη αυτή υπογραμμίζει τις αυξανόμενες ανησυχίες γύρω από μια τεχνολογία που ακόμη και οι ίδιοι οι δημιουργοί της δυσκολεύονται να κατανοήσουν πλήρως.
Η εξέλιξη έρχεται λίγες ημέρες μετά τις δηλώσεις ενός ερευνητή της Anthropic, ο οποίος ανακοίνωσε ότι παραιτείται λόγω ανησυχιών πως η εταιρεία και οι ανταγωνιστές της δεν αναπτύσσουν υπεύθυνα μοντέλα AI που θα μπορούσαν τελικά να οδηγήσουν ακόμη και στην εξάλειψη της ανθρωπότητας.
Ο ερευνητής, Jacob Coxon, ο οποίος είχε εργαστεί επίσης για την ανταγωνίστρια της Anthropic, OpenAI, κατηγόρησε τις εταιρείες ότι επικεντρώνονται περισσότερο στο να νικήσει η μία την άλλη παρά στην ασφάλεια των προϊόντων τους.
Η προειδοποίησή του προκάλεσε έντονη αντίδραση μεταξύ των νομοθετών και, μετά από χρόνια αδράνειας του Κογκρέσου όσον αφορά τη ρύθμιση της AI, οι φόβοι ότι η τεχνολογία θα μπορούσε να προκαλέσει μεγάλες αναταράξεις — ακόμη και να απειλήσει τον ανθρώπινο πολιτισμό — δημιούργησαν νέα αίσθηση επείγοντος στην Ουάσιγκτον.
Σχέδιο τριών βημάτων
Ένα σχέδιο τριών βημάτων που πρότεινε ο Amodei στο δοκίμιό του προβλέπει τη συμμετοχή ανεξάρτητων αξιολογητών ασφάλειας στις εταιρείες AI που βρίσκονται στην «αιχμή» της τεχνολογίας, τη θέσπιση κοινών προτύπων ασφαλείας στις δημοκρατικές χώρες και τη συνεργασία των Ηνωμένων Πολιτειών και άλλων δημοκρατιών με αυταρχικές κυβερνήσεις, προκειμένου να διασφαλιστεί η συμμόρφωση.
Ο Αμοντέι σημείωσε ότι η AI άρχισε να εξελίσσεται με δραματικά ταχύτερο ρυθμό τους τελευταίους μήνες. Σύμφωνα με τον ίδιο, η αλλαγή αυτή οφείλεται στην ικανότητα της AI να κατασκευάζει τα δικά της μοντέλα επόμενης γενιάς, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement).
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, επομένως, πρέπει να προχωρήσουμε με εξαιρετική προσοχή — αν θα πρέπει να προχωρήσουμε καθόλου», δήλωσε.
Παρότι ο Αμοντέι περιέγραψε έναν τρόπο επιβράδυνσης της προόδου για λόγους ασφαλείας, δεν δεσμεύτηκε ότι η Anthropic θα μειώσει μονομερώς τον ρυθμό της δικής της ανάπτυξης. Ανέφερε μόνο ότι, προς το παρόν, η εταιρεία θα προσλάβει μια ομάδα ανεξάρτητων αξιολογητών, οι οποίοι θα εργάζονται μέσα στα γραφεία της Anthropic και θα έχουν την εξουσία να επισημαίνουν προβλήματα ασφαλείας.
Ο Αμοντέι έδωσε επίσης ελάχιστες συγκεκριμένες λεπτομέρειες σχετικά με το πώς θα μπορούσε να εφαρμοστεί στην πράξη μια επιβράδυνση, αναφέροντας ως πιθανές λύσεις τη χρήση συμφωνημένων δεικτών ασφαλείας ή τον περιορισμό της υπολογιστικής ισχύος που χρησιμοποιείται για την εκπαίδευση νέων συστημάτων AI.
Ένα περιστατικό κυβερνοασφάλειας τον Ιούλιο προκάλεσε συναγερμό, όταν «ανεξέλεγκτα» μοντέλα AI που δημιούργησε η OpenAI πραγματοποίησαν αυτόνομα επίθεση στα συστήματα μιας νεοφυούς εταιρείας AI με την ονομασία Hugging Face.
Ο Αμοντέι δήλωσε ότι τα μοντέλα συμπεριφέρθηκαν σαν μια «φανατικά αφοσιωμένη συλλογικότητα», θυσιάζοντας τον εαυτό τους για να πετύχουν τον στόχο τους και προσπαθώντας να παραβιάσουν ακόμη και το δικό τους σύστημα παρακολούθησης της απόδοσης.
«Είναι εύκολο να υποβαθμίσει κανείς το περιστατικό, επειδή κανείς δεν τραυματίστηκε και η οικονομική ζημιά ήταν περιορισμένη. Όμως, κατά τη γνώμη μου, ένα σμήνος με μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο μη ευθυγράμμισης θα μπορούσε να είχε προκαλέσει καταστροφική ζημιά», είπε.
Ο Αμοντέι δήλωσε ότι, δεδομένου του ρυθμού ανάπτυξης των μοντέλων AI, ανησυχεί πως ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης θα μπορούσαν να αποκτήσουν τη δυνατότητα να καταλάβουν ολόκληρο το διαδίκτυο μέσα σε έξι μήνες έως έναν χρόνο και ενδεχομένως να προκαλέσουν ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Ένα παρόμοιο περιστατικό κυβερνοεπίθεσης σημειώθηκε επίσης στην Anthropic, γεγονός που, σύμφωνα με τον ίδιο, υπογραμμίζει την ανάγκη ύπαρξης μηχανισμών προστασίας και ελέγχου.
Σε ανάρτησή του στην πλατφόρμα X, ο Μασκ έγραψε: «Ο Ντάριο έχει δίκιο».
Ο Άλτμαν δήλωσε ότι συμφωνεί με την άποψη του Αμοντέι πως οι κορυφαίες εταιρείες AI θα πρέπει να βάλουν όρια και ανέφερε ότι το ζήτημα αποτελεί ένα από τα βασικά θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες.
«Η δέσμευση να υπάρχουν ανεξάρτητοι αξιολογητές με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων είναι μια εξαιρετική ιδέα και θα κάνουμε το ίδιο», έγραψε ο Altman στην X.
Η Google, η οποία θεωρείται μία από τις τρεις κορυφαίες εταιρείες AI μαζί με την Anthropic και την OpenAI, δεν υποστήριξε άμεσα την πρόταση του Amodei για την εισαγωγή ανεξάρτητων ελεγκτών. Εκπρόσωποι της εταιρείας δεν απάντησαν άμεσα σε αίτημα για σχόλιο.
Ο Αμοντέι δήλωσε ότι εξακολουθεί να πιστεύει πως η AI μπορεί να βελτιώσει σημαντικά τη ζωή των ανθρώπων, αλλά τόνισε ότι απαιτούνται μηχανισμοί προστασίας και ελέγχου.
«Τα μέτρα που προτείνω για να προχωρήσουμε την τεχνολογία αιχμής με ασφαλή ρυθμό δεν θα είναι εύκολα», είπε. «Αλλά πιστεύω ότι το οφείλουμε στην ανθρωπότητα να προσπαθήσουμε».
