«Καλωσορίζουμε ένα ομοσπονδιακό πλαίσιο που θα θέτει ενιαίες απαιτήσεις ασφαλείας για τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης», δήλωσε ο Άλτμαν σε ανάρτησή του στο X λίγο μετά τα μεσάνυχτα της Δευτέρας, προσθέτοντας ότι «καμία αμερικανική ανταγωνιστική πίεση δεν θα μπορούσε να δικαιολογήσει την απερισκεψία».
Ο Άλτμαν προειδοποίησε για δύο τρόπους με τους οποίους η πρόοδος της AI θα μπορούσε να εξελιχθεί «πολύ άσχημα». Ο ένας είναι να χάσουμε «τον έλεγχο του μέλλοντος από την AI» και ο άλλος να συγκεντρωθεί υπερβολικά μεγάλη δύναμη γύρω από ένα μόνο άτομο ή μία εταιρεία.
Η ανάρτηση του Άλτμαν στο X ακολούθησε το δοκίμιο του Αμοντέι το Σάββατο, στο οποίο ο επικεφαλής της Anthropic κάλεσε τις εταιρείες AI να επιβραδύνουν τον ρυθμό με τον οποίο βελτιώνουν τα πιο προηγμένα μοντέλα τους.
Οι μετοχές εταιρειών που δραστηριοποιούνται στον χώρο της AI υποχώρησαν τη Δευτέρα, καθώς οι επενδυτές αξιολόγησαν τις δηλώσεις αυτές. Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ δήλωσε την Κυριακή ότι δεν χρειάζεται επιβράδυνση και ότι κάτι τέτοιο θα έθετε σε κίνδυνο το προβάδισμα της Αμερικής στην AI έναντι της Κίνας.
Οι ανησυχίες για την ασφάλεια αυξάνονται από τότε που ένας ερευνητής της Anthropic παραιτήθηκε την περασμένη εβδομάδα, προειδοποιώντας ότι ο κλάδος δεν αντιμετωπίζει το ζήτημα αρκετά σοβαρά. Η παραίτησή του οδήγησε και άλλους εργαζομένους στην Anthropic, αλλά και στην ανταγωνίστρια OpenAI, να προειδοποιήσουν δημόσια για τους καταστροφικούς κινδύνους.
Την ίδια ώρα, οι νομοθέτες στην Ουάσιγκτον προσπαθούν πυρετωδώς να ανταποκριθούν στις εκκλήσεις για τη θέσπιση δικλίδων ασφαλείας.
Όλα αυτά συμβαίνουν καθώς η Anthropic και η OpenAI προετοιμάζονται για τις αρχικές δημόσιες προσφορές μετοχών (IPO), οι οποίες αναμένεται να είναι ιστορικής σημασίας. Ο Altman απέκλεισε το ενδεχόμενο εισαγωγής της OpenAI στο χρηματιστήριο το 2026, σε συνέντευξή του στο Fortune που δημοσιεύθηκε το Σάββατο.
Η πρόταση του Αμοντέι σε τρία βήματα
Πολλοί από τους φόβους σχετικά με την ασφάλεια της AI επικεντρώνονται στην πιθανότητα τα μοντέλα να αποκτήσουν την ικανότητα να βελτιώνουν μόνα τους την απόδοσή τους — μια διαδικασία γνωστή ως αναδρομική αυτοβελτίωση (Recursive Self-Improvement ή RSI).
«Από περίπου το φετινό καλοκαίρι, η AI προοδεύει δραματικά ταχύτερα, κυρίως χάρη στην αυξανόμενη ικανότητά της να κατασκευάζει την επόμενη γενιά AI», ανέφερε ο Αμοντέι στο δοκίμιό του.
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, επομένως, η εξέλιξή της θα πρέπει να γίνει με μεγάλη προσοχή — αν θα πρέπει να προχωρήσει καθόλου».
Ο Αμοντέι πρότεινε ένα σχέδιο τριών βημάτων, με στόχο να περιοριστεί ο ρυθμός ανάπτυξης χωρίς «να θυσιαστεί το εμπορικό πλεονέκτημα ή το προβάδισμα των Ηνωμένων Πολιτειών στην AI».
Το σχέδιο προβλέπει ότι κάθε εταιρεία που αναπτύσσει τα πιο προηγμένα μοντέλα AI θα παρέχει σε εξωτερικούς αξιολογητές «πρόσβαση αντίστοιχη με αυτήν που έχουν οι εργαζόμενοι» — κάτι που, όπως είπε, η Anthropic δεσμεύεται ήδη να εφαρμόσει.
Ο Αμοντέι ζήτησε επίσης από τα εργαστήρια που αναπτύσσουν τα πιο προηγμένα μοντέλα AI να καθιερώσουν κοινά πρότυπα ασφαλείας, να περιορίσουν τον ρυθμό της ανεξέλεγκτης προόδου της AI και να προσπαθήσουν να συντονίσουν τις προσπάθειές τους σε παγκόσμιο επίπεδο.
Το Σάββατο, ο Άλμταν δήλωσε σε μια σύντομη ανάρτηση στο X ότι συμφωνεί με τον Αμοντέι πως οι εταιρείες AI θα πρέπει να «ρυθμίσουν τον ρυθμό εξέλιξης της αιχμής» (pace the frontier).
Πρόσθεσε ότι «η δέσμευση για ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη με αυτήν των εργαζομένων είναι εξαιρετική ιδέα και θα κάνουμε το ίδιο».
«Οι συνεπείς κανόνες για τη διαχείριση των κινδύνων των πιο προηγμένων μοντέλων, ώστε να μπορούμε να μεγιστοποιήσουμε τα οφέλη, είναι μια καλή ιδέα — και μας ενθουσιάζουν προτάσεις όπως οι ανεξάρτητοι ελεγκτές», δήλωσε ο Άλτμαν στην ανάρτησή του τη Δευτέρα.
Ωστόσο, πρόσθεσε: «Όταν μιλάμε για “επιβράδυνση του ρυθμού”, δεν εννοούμε “σταμάτημα”. Η πρόοδος ήταν ταχύτατη και θα συνεχίσει να είναι».
«Η επιβράδυνση του ρυθμού θα αξίζει πολύ το κόστος· καμία αμερικανική ανταγωνιστική πίεση δεν θα μπορούσε να δικαιολογήσει την απερισκεψία ή να επιτρέψει στις δυνατότητες των συστημάτων να ξεπεράσουν την ευθυγράμμιση (alignment) και την παρακολούθησή τους», κατέληξε.
«Εκεί όπου θα χρειαστούμε τη βοήθεια της κυβέρνησής μας είναι στον διεθνή συντονισμό. Αλλά πρώτα θα πρέπει να κάνουμε ό,τι μπορούμε εμείς οι ίδιοι».
