Το περιστατικό σημειώθηκε κατά τη διάρκεια αξιολόγησης κυβερνοασφάλειας, όπου το AI Security Institute (AISI) του Ηνωμένου Βασιλείου — ένας ερευνητικός οργανισμός — είχε αφαιρέσει διάφορες δικλείδες ασφαλείας, είχε απενεργοποιήσει ορισμένα φίλτρα προστασίας και είχε σκόπιμα δώσει στα μοντέλα πρόσβαση στο διαδίκτυο.

Στην αξιολόγηση συμμετείχε επίσης το GPT-5.6-Sol της OpenAI, το οποίο ενεπλάκη σε διαφορετικά περιστατικά κυβερνοασφάλειας.

Κατά τη διάρκεια της τακτικής αξιολόγησης κυβερνοασφάλειας, το AISI διαπίστωσε ότι πράκτορες τεχνητής νοημοσύνης (AI agents), οι οποίοι βασίζονταν σε μοντέλα των Anthropic και OpenAI, είχαν εμπλακεί σε «παρατεταμένη και δυνητικά επιβλαβή δραστηριότητα που στρεφόταν εναντίον πραγματικών ανθρώπων και οργανισμών».

«Σχεδόν όλη αυτή η συμπεριφορά (17 ενέργειες) προήλθε από ένα και μόνο μοντέλο, το Mythos 5 της Anthropic, ενώ δύο ενέργειες αφορούσαν το GPT-5.6-Sol της OpenAI, με απενεργοποιημένους τους ταξινομητές κυβερνοασφάλειας (μηχανισμούς που αποτρέπουν την κατάχρηση)», ανέφερε το AISI σε ανάρτησή του.

Ο οργανισμός πρόσθεσε ότι οι προσπάθειες απέτυχαν και δεν προκάλεσαν πραγματική ζημιά.

Αυξανόμενα περιστατικά κυβερνοασφάλειας

Το AISI δοκίμασε τα μοντέλα υπό σκόπιμα χαλαρές συνθήκες προκειμένου να αξιολογήσει τις δυνατότητές τους, συμπεριλαμβανομένου του κατά πόσο θα μπορούσαν να χρησιμοποιηθούν για κυβερνοεπιθέσεις.

Ένας πράκτορας που λειτουργούσε με το μοντέλο Mythos της Anthropic «μελέτησε τους ανθρώπους που συντηρούν το έργο ανοικτού κώδικα, δημιούργησε πολλαπλές ψεύτικες ταυτότητες και χρησιμοποίησε αυτές τις ταυτότητες για να χειραγωγήσει κοινωνικά έναν πραγματικό συντηρητή, ώστε να εγκρίνει τον κώδικα».

«Όταν το αίτημα ενσωμάτωσης του κώδικα (pull request) αμφισβητήθηκε δημόσια, ο πράκτορας τροποποίησε τις προηγούμενες ενέργειές του ώστε να φαίνονται αβλαβείς και εξέτασε το ενδεχόμενο να υιοθετήσει νέα ταυτότητα για να συνεχίσει την προσπάθειά του», ανέφερε το AISI.

Ο ερευνητικός οργανισμός διαπίστωσε επίσης ότι, στο πλαίσιο της ίδιας προσπάθειας, ο πράκτορας επιχείρησε να επικοινωνήσει απευθείας με πραγματικούς ανθρώπους, στέλνοντας μηνύματα και αρχεία με στόχο να τους πείσει να εκτελέσουν κακόβουλο κώδικα.

«Ορισμένα μηνύματα περιείχαν κακόβουλα φορτία (payloads), ενώ άλλα αποτελούσαν προσπάθειες κοινωνικής μηχανικής (social engineering), με στόχο πραγματικούς ανθρώπους — κάτι που δεν είχαμε παρατηρήσει ποτέ στο παρελθόν.»

Πρόκειται για το πιο πρόσφατο περιστατικό σε μια σειρά συμβάντων κυβερνοασφάλειας που εγείρουν σοβαρά ερωτήματα σχετικά με την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης.

Την περασμένη εβδομάδα, η Anthropic ανακοίνωσε ότι εντόπισε τρεις περιπτώσεις στις οποίες μοντέλα της απέκτησαν μη εξουσιοδοτημένη πρόσβαση στις υποδομές παραγωγής τριών διαφορετικών οργανισμών.

Αυτό ακολούθησε την παραδοχή της OpenAI ότι ένα από τα μοντέλα της ξέφυγε από τον έλεγχο και πραγματοποίησε μια «πρωτοφανή» κυβερνοεπίθεση εναντίον της εταιρείας Hugging Face.

Στην περίπτωση της OpenAI, το μοντέλο κατάφερε να δραπετεύσει από το περιβάλλον δοκιμών εκμεταλλευόμενο μια έως τότε άγνωστη ευπάθεια, προκειμένου να ολοκληρώσει την εργασία που του είχε ανατεθεί.

Τα περιστατικά της Anthropic οφείλονταν εν μέρει και σε λειτουργικό σφάλμα.