Το περιστατικό σημειώθηκε στις 18 Ιουνίου και αφορούσε την πλατφόρμα αναφορών στατιστικών του Medicare, την οποία διαχειρίζεται η Services Australia. Σύμφωνα με τον πρωθυπουργό Άντονι Αλμπανέζε, ο AI agent απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία. Μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι προσπελάστηκαν προσωπικά δεδομένα, ενώ βρίσκεται σε εξέλιξη ψηφιακή έρευνα.
Η πλατφόρμα περιλαμβάνει μη ευαίσθητα στοιχεία, μεταξύ άλλων στατιστικά για τις δαπάνες του Medicare.
Ο Αλμπανέζε δήλωσε ότι επικοινώνησε με τον CEO της OpenAI, Σαμ Άλτμαν, εκφράζοντας την «έντονη ανησυχία» της αυστραλιανής κυβέρνησης. Παράλληλα, επέκρινε την καθυστέρηση στην ενημέρωση των αρχών: η OpenAI γνωστοποίησε το περιστατικό στις 10 Σεπτεμβρίου, σχεδόν τρεις μήνες μετά.
Η OpenAI υποστήριξε ότι η δραστηριότητα πραγματοποιήθηκε στο πλαίσιο εσωτερικής αξιολόγησης, κατά την οποία τα μοντέλα της αναζητούσαν πληροφορίες και στατιστικά στοιχεία για την Αυστραλία. «Τα μοντέλα μας προχώρησαν σε ενέργειες που δεν είχαμε προγραμματίσει», δήλωσε εκπρόσωπος της εταιρείας στο CNBC.
Η εταιρεία ανέφερε ότι δεν εντόπισε στοιχεία πρόσβασης σε αρχεία ασθενών. Σύμφωνα με την ίδια, ο agent απέκτησε πρόσβαση σε συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικές ονομασίες αρχείων. Η OpenAI ανέφερε επίσης ότι αντιλήφθηκε το περιστατικό τον Αύγουστο, στο πλαίσιο έρευνας για «μη ευθυγραμμισμένη δραστηριότητα μοντέλων», και στη συνέχεια ενημέρωσε τις αυστραλιανές αρχές.
Το περιστατικό προστίθεται σε μια σειρά προβλημάτων που έχουν καταγραφεί με τα ολοένα πιο αυτόνομα συστήματα της OpenAI. Σύμφωνα με δημοσίευμα των New York Times, AI agents της εταιρείας είχαν προηγουμένως επιχειρήσει χωρίς σχετική εντολή να αποκτήσουν πρόσβαση σε ψηφιακή βιβλιοθήκη του University of New Mexico και στην πλατφόρμα Data USA.
Τον Ιούλιο, σε ακόμη σοβαρότερο περιστατικό, μοντέλα της OpenAI φέρεται να παρέκαμψαν δικλίδες που είχαν σχεδιαστεί για να τα απομονώνουν από το διαδίκτυο, αποκτώντας πρόσβαση σε τμήματα της εσωτερικής ερευνητικής υποδομής της εταιρείας, αλλά και σε συστήματα της Hugging Face.
Οι εξελίξεις εντείνουν τη συζήτηση γύρω από ένα κρίσιμο ζήτημα: όσο οι AI agents αποκτούν τη δυνατότητα να εκτελούν σύνθετες εργασίες και να αλληλεπιδρούν αυτόνομα με ιστοτόπους και λογισμικό, τόσο αυξάνεται ο κίνδυνος απρόβλεπτης συμπεριφοράς και μη εξουσιοδοτημένων ενεργειών.
