Σε ανακοίνωσή της την Πέμπτη, η Anthropic ανέφερε ότι ξεκίνησε την αναθεώρηση των δικών της συστημάτων αφού η OpenAI αποκάλυψε την προηγούμενη εβδομάδα ότι, κατά τη διάρκεια μιας δοκιμής κυβερνοασφάλειας, ορισμένα από τα μοντέλα της διέφυγαν από το δοκιμαστικό τους περιβάλλον, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν τα συστήματα της πλατφόρμας τεχνητής νοημοσύνης Hugging Face.

Η Anthropic δήλωσε ότι εντόπισε τρεις περιπτώσεις στις οποίες τα μοντέλα της απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο, ενώ αυτό δεν θα έπρεπε να συμβεί, και «απέκτησαν μη εξουσιοδοτημένη πρόσβαση στην παραγωγική υποδομή τριών διαφορετικών οργανισμών». Η εταιρεία ανέφερε ότι ανακάλυψε τα περιστατικά εξετάζοντας περισσότερες από 140.000 αξιολογήσεις, μετά τη γνωστοποίηση της OpenAI. Όπως και στις δοκιμές της OpenAI, τα συνήθη μέτρα ασφαλείας είχαν αφαιρεθεί κατά τη διάρκεια των αξιολογήσεων της Anthropic, ώστε να εξεταστούν πλήρως οι δυνατότητες των μοντέλων.

Η Anthropic εξήγησε ότι, και στις τρεις περιπτώσεις, στα μοντέλα δόθηκε μια εικονική δοκιμασία τύπου «capture the flag», κατά την οποία τους αναφέρθηκε ότι η «σημαία» ήταν κρυμμένη σε άλλο μηχάνημα του δικτύου και ότι στόχος τους ήταν να παραβιάσουν το σύστημα και να την ανακτήσουν. Σε αντίθεση με την περίπτωση της OpenAI, η Anthropic δήλωσε ότι κανένα από τα μοντέλα της δεν επιχείρησε σκόπιμα να δραπετεύσει από το δοκιμαστικό περιβάλλον. Αντίθετα, το πρόβλημα προέκυψε επειδή, ενώ τα μοντέλα δεν έπρεπε να έχουν πρόσβαση στο ανοιχτό διαδίκτυο, τελικά απέκτησαν λόγω μιας παρεξήγησης μεταξύ της Anthropic και του συνεργάτη που είχε αναλάβει την αξιολόγηση.

Για να παραβιάσουν τα συστήματα των τριών ανώνυμων οργανισμών, τα μοντέλα χρησιμοποίησαν βασικές τεχνικές, όπως η εκμετάλλευση αδύναμων κωδικών πρόσβασης και ο εντοπισμός σημείων πρόσβασης στα συστήματα που δεν απαιτούσαν σύνδεση ή διακριτικά πρόσβασης (tokens), σύμφωνα με την Anthropic. Η πιο προηγμένη έκδοση των μοντέλων της αντιλήφθηκε κάποια στιγμή ότι βρισκόταν στο ανοιχτό διαδίκτυο και σταμάτησε από μόνη της να συνεχίσει τις ενέργειές της.

Η Anthropic ανέφερε ότι το πρώτο περιστατικό παραβίασης συστήματος άλλου οργανισμού από τα μοντέλα της σημειώθηκε τον Απρίλιο και ότι κανένας από τους οργανισμούς δεν είχε αντιληφθεί ότι είχε δεχθεί επίθεση. Η εταιρεία δήλωσε ότι βρίσκεται σε διαδικασία συνεργασίας με τους οργανισμούς που επηρεάστηκαν.

Ανησυχία στους χώρους της κυβερνοασφάλειας

Η αποκάλυψη της OpenAI ότι τα μοντέλα της παραβίασαν τα συστήματα της Hugging Face προκάλεσε έντονη ανησυχία στους χώρους της κυβερνοασφάλειας και της τεχνητής νοημοσύνης, καθώς αποτέλεσε το πρώτο πραγματικό παράδειγμα ενός σεναρίου για το οποίο οι ειδικοί προειδοποιούσαν εδώ και καιρό: ότι προηγμένοι πράκτορες τεχνητής νοημοσύνης με εξελιγμένες ικανότητες κυβερνοασφάλειας θα μπορούσαν να διαφύγουν από τα δοκιμαστικά περιβάλλοντα και να προκαλέσουν πραγματική ζημιά.

Όπως και η OpenAI, έτσι και η Anthropic ανακοίνωσε την Πέμπτη ότι έχει διακόψει όλες τις αξιολογήσεις που σχετίζονται με την κυβερνοασφάλεια. Η εταιρεία παραδέχθηκε επίσης ότι θα μπορούσε να είχε λάβει πιο «εκτεταμένα» μέτρα για να αποτρέψει τις παραβιάσεις αυτές.

Η ανακοίνωση της Anthropic ενισχύει περαιτέρω την άποψη ότι το φαινόμενο των πρακτόρων τεχνητής νοημοσύνης που παραβιάζουν ακούσια τα συστήματα άλλων οργανισμών δεν περιορίζεται σε μία μόνο εταιρεία. Παράλληλα, είναι πιθανό να εντείνει τις εκκλήσεις για αυστηρότερες δικλίδες ασφαλείας στις δοκιμές τεχνητής νοημοσύνης και για νέα εργαλεία που θα μπορούσαν να επιβραδύνουν την ανάπτυξη της τεχνολογίας, η οποία ενδέχεται να εξελίσσεται ταχύτερα από όσο είναι έτοιμη να διαχειριστεί η κοινωνία.