Η απόφαση έρχεται μετά από ένα καλοκαίρι κατά το οποίο καταγράφηκαν αναφορές για συστήματα τεχνητής νοημοσύνης από ολόκληρο τον κλάδο που παρουσίασαν ανεξέλεγκτη ή απρόβλεπτη συμπεριφορά και αποτελεί σπάνια περίπτωση κατά την οποία ένας μεγάλος δημιουργός τεχνητής νοημοσύνης εγκαταλείπει μια νέα κυκλοφορία εξαιτίας ανησυχιών για την ασφάλεια.

Σύμφωνα με τη Wall Street Journal, η εταιρεία σχεδίαζε να κυκλοφορήσει το μοντέλο, γνωστό ως GPT-6.1 Astra, μέσα στις επόμενες ημέρες ή εβδομάδες, με στόχο να κάνει την εμφάνισή του τον Οκτώβριο. Το μοντέλο ήταν πιο ικανό από τα προηγούμενα μοντέλα της εταιρείας στην ολοκλήρωση απαιτητικών εργασιών από την αρχή έως το τέλος, χωρίς ανθρώπινη βοήθεια, καθώς και στη συγγραφή κειμένων.

Αντί γι’ αυτό, η εταιρεία θα επικεντρωθεί στη βελτίωση της ασφάλειας των μελλοντικών μοντέλων, τα οποία αναμένει ότι θα είναι ακόμη πιο ικανά.

Η Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI, δήλωσε σε συνέντευξή της ότι το GPT-6.1 Astra παρουσίασε επιδείνωση σε δύο τομείς. Σε σύγκριση με τον προκάτοχό του, το GPT-6 Astra, το μοντέλο είχε χειρότερες επιδόσεις σε δοκιμές που μετρούν το alignment, δηλαδή το κατά πόσο το μοντέλο συμμορφώνεται με αυτό που οι άνθρωποι θέλουν να κάνει.

Συγκεκριμένα, το GPT-6.1 Astra παρουσίασε υψηλότερα επίπεδα παραπλανητικής συμπεριφοράς: δεν ήταν πάντοτε ειλικρινές όταν ενημέρωνε τους χρήστες για τις ενέργειες που είχε ή δεν είχε πραγματοποιήσει.

Ένα ακόμη ζήτημα ήταν αυτό που η OpenAI αποκαλεί «scope authorization», δηλαδή το κατά πόσο ένα μοντέλο περιορίζει τις ενέργειές του στα όρια για τα οποία έχει λάβει άδεια. Το GPT-6.1 Astra προχωρούσε σε μια εργασία χωρίς να ζητά προηγουμένως την άδεια του χρήστη και, σε ορισμένες περιπτώσεις, επιχειρούσε να χρησιμοποιήσει εξωτερικά εργαλεία και υπηρεσίες ακόμη και όταν αυτό ενδέχεται να ήταν μη ασφαλές.

«Σε οτιδήποτε αφορά την ασφάλεια και το alignment υπάρχει ένας συμβιβασμός», δήλωσε η Jain. «Πρέπει πραγματικά να βρεις τη σωστή ισορροπία ανάμεσα στο να παραμένει το μοντέλο εντός των ορίων του, αλλά ταυτόχρονα να αποφεύγεται η τεμπέλικη συμπεριφορά ως προς τον τρόπο με τον οποίο εκτελεί τις εργασίες, ακόμη και όταν συναντά εμπόδια.»

Παρότι το GPT-6.1 Astra βελτιώθηκε σε τομείς όπως η «τεμπελιά του μοντέλου», η Jain δήλωσε ότι δεν έφτασε στο επίπεδο ασφάλειας και alignment που απαιτεί η OpenAI. Ως εκ τούτου, η εταιρεία αποφάσισε να μην κυκλοφορήσει το μοντέλο στο κοινό.

Η ανακοίνωση έγινε μία ημέρα πριν από το ετήσιο συνέδριο προγραμματιστών της OpenAI στο Σαν Φρανσίσκο. Στο παρελθόν, η OpenAI έχει χρησιμοποιήσει το συνέδριο ως ευκαιρία για να παρουσιάσει νέα μοντέλα και υπηρεσίες που μειώνουν το κόστος για τους προγραμματιστές λογισμικού — έναν τομέα στον οποίο η εταιρεία που δημιούργησε το ChatGPT ανταγωνίζεται την εταιρεία τεχνητής νοημοσύνης Anthropic.

Τις τελευταίες εβδομάδες, η OpenAI και η Anthropic έχουν καλέσει τους συνεργάτες του κλάδου να επιβραδύνουν την ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης και να επενδύσουν σε πρότυπα ασφαλείας, σημειώνοντας ότι και οι ίδιες θα περιορίσουν τον ρυθμό της εσωτερικής ανάπτυξης της τεχνητής νοημοσύνης.

Εκπρόσωπος της OpenAI δήλωσε ότι οι άνθρωποι θέλουν να γνωρίζουν πως η τεχνητή νοημοσύνη αναπτύσσεται με ασφάλεια, «και αυτό ξεκινά από το τι κάνουν οι ίδιες οι εταιρείες όπως η δική μας».

«Οι κυβερνήσεις έχουν σημαντικό ρόλο στη θέσπιση ισχυρών προτύπων ασφάλειας για την τεχνητή νοημοσύνη και δεσμευόμαστε να συνεργαστούμε με τη Φλόριντα και άλλες πολιτείες για την προώθηση ρεαλιστικών πολιτικών για την τεχνητή νοημοσύνη, οι οποίες θα εφαρμόζονται σε ολόκληρο τον κλάδο της τεχνητής νοημοσύνης — και όχι μόνο σε μία εταιρεία», δήλωσε.