Πιο αναλυτικά, όπως μεταδίδει το BBC, οι πράκτορες τεχνητής νοημοσύνης επιχείρησαν να αντλήσουν πληροφορίες από «κυβερνήσεις, πανεπιστήμια, δημόσιους φορείς και άλλους οργανισμούς», μεταξύ των οποίων η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), το Γραφείο Απογραφής και το υπουργείο Παιδείας, ανακοίνωσε η εταιρεία.

Να σημειωθεί ότι οι συγκεκριμένες αποκαλύψεις έρχονται λίγες μόλις ημέρες μετά την ανακοίνωση του πρωθυπουργού της Αυστραλίας, Άντονι Αλμπανέζι, ότι πράκτορες της OpenAI είχαν αποκτήσει πρόσβαση σε αρχεία που δεν ήταν δημόσια στην ιστοσελίδα του κρατικού συστήματος υγειονομικής περίθαλψης της χώρας.

Εντείνονται οι ανησυχίες για την τεχνητή νοημοσύνη

Σε αυτό το φόντο λοιπόν, από τον Αύγουστο, οι ανησυχίες του κοινού έχουν ενταθεί σχετικά με τις δυνητικά σοβαρές, ακόμη και απειλητικές για τη ζωή, επιπτώσεις από τη χρήση εργαλείων τεχνητής νοημοσύνης που ξεφεύγουν από τον ανθρώπινο έλεγχο.

Από την πλευρά της, η OpenAI δήλωσε ότι ορισμένα από τα δεδομένα προσπελάστηκαν από πράκτορες τεχνητής νοημοσύνης, δηλαδή ουσιαστικά ρομπότ που έχουν σχεδιαστεί και εκπαιδευτεί ώστε να λειτουργούν σε κάποιο βαθμό αυτόνομα και τα οποία εργάζονταν για να εντοπίσουν «έγκυρες πηγές δημόσιας πληροφόρησης».

Ωστόσο, η εταιρεία σημείωσε ότι ορισμένα από τα ρομπότ προχώρησαν και πέρα από το σημείο αυτό και επιχείρησαν να παρακάμψουν τα μέτρα ασφαλείας σε ιστοσελίδες.

Όταν, για παράδειγμα, προσπάθησαν να αντλήσουν πληροφορίες από το Γραφείο Απογραφής, οι πράκτορες τεχνητής νοημοσύνης χρησιμοποίησαν εργαλεία που προορίζονται για προγραμματιστές λογισμικού προκειμένου να αποκτήσουν πρόσβαση, σύμφωνα με την εταιρεία.

Η OpenAI δήλωσε ότι όλα τα κυβερνητικά δεδομένα στα οποία απέκτησαν πρόσβαση τα ρομπότ ήταν δημόσια.

Ωστόσο, σημείωσε ότι πληροφορίες από την SEC, η οποία ρυθμίζει τη χρηματιστηριακή αγορά των ΗΠΑ και προστατεύει τους επενδυτές, στις οποίες είχαν αποκτήσει πρόσβαση τα ρομπότ της, δημοσιεύθηκαν αργότερα από πράκτορες τεχνητής νοημοσύνης σε άλλη ιστοσελίδα. Η OpenAI υποστηρίζει ότι η ενέργεια αυτή δεν ήταν σκόπιμη.

Διαρροή εικόνων από τη δραστηριότητα χρηστών στο ChatGPT

Σε άλλες περιπτώσεις που αποκάλυψε η OpenAI την Παρασκευή (25/9), οι πράκτορες τεχνητής νοημοσύνης μετέφεραν δεδομένα ενώ δε θα έπρεπε να το είχαν κάνει.

Η δραστηριότητα αυτή είχε ως αποτέλεσμα τουλάχιστον 53 περιστατικά στα οποία ένας πράκτορας της OpenAI έλαβε μια εικόνα από τη δραστηριότητα χρηστών στο ChatGPT και τη μετέφερε αλλού.

Η εταιρεία δήλωσε ότι σε κάθε περίπτωση κατά την οποία μια εικόνα χρήστη χρησιμοποιήθηκε και μεταφέρθηκε από πράκτορα τεχνητής νοημοσύνης, ο χρήστης είχε επιλέξει να επιτρέψει στην OpenAI να χρησιμοποιεί τα δεδομένα του για την εκπαίδευση μοντέλων.

Παρ' όλα αυτά, η OpenAI παραδέχθηκε ότι «αυτή δεν είναι η κατάλληλη χρήση αυτών των δεδομένων».

Πρόσθεσε δε ότι η διαρροή των εικόνων των χρηστών σημειώθηκε προτού θέσει σε εφαρμογή νέα μέτρα προστασίας για την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης και ότι εργάζεται ώστε να διασφαλίσει την αφαίρεση όλων των εικόνων χρηστών που μεταφέρθηκαν σε τρίτους.

Το Reuters ήταν το πρώτο που μετέδωσε την είδηση για τις διευρυμένες έρευνες. Η OpenAI δημοσίευσε επίσης λεπτομέρειες σε ανάρτηση στο ιστολόγιό της.

Σε ορισμένες περιπτώσεις της δραστηριότητας των πρακτόρων, η OpenAI δήλωσε ότι τα εργαλεία «παρέκαμψαν» τους μηχανισμούς ασφαλείας ορισμένων ιστοσελίδων.

Σε άλλες περιπτώσεις, οι πράκτορες τεχνητής νοημοσύνης παρουσίασαν «απόκλιση από τον προβλεπόμενο σκοπό» στην προσπάθειά τους να αντλήσουν πληροφορίες από ιστοσελίδες. Επισημαίνεται ότι ο όρος «misalignment» χρησιμοποιείται από εταιρείες και ερευνητές στον τομέα της τεχνητής νοημοσύνης για να περιγράψει περιπτώσεις στις οποίες ένα εργαλείο τεχνητής νοημοσύνης έκανε κάτι για το οποίο δεν είχε εκπαιδευτεί ή ενήργησε με διαφορετικό τρόπο από τον προβλεπόμενο.

Η OpenAI δήλωσε ότι περιορίζει τις πληροφορίες σχετικά με την ταυτότητα των οργανισμών που επηρεάστηκαν, επειδή πολλοί από αυτούς είχαν ζητήσει από την εταιρεία να μην αποκαλύψει λεπτομέρειες.

«Στόχος μας είναι να δώσουμε σε κάθε οργανισμό τα πραγματικά περιστατικά και να αφήσουμε σε εκείνον την απόφαση για το εάν και πότε θα δημοσιοποιήσει το περιστατικό», ανέφερε.

Η εταιρεία σημείωσε ότι δε θεωρούνται όλα τα περιστατικά που σχετίζονται με αυτή τη δραστηριότητα σημαντικές παραβιάσεις ασφαλείας.

«Ορισμένοι οργανισμοί μπορεί να εξετάσουν όσα τους κοινοποιούμε και να καταλήξουν στο συμπέρασμα ότι οι πληροφορίες ήταν εξαρχής σκόπιμα δημόσιες ή ότι η αλληλεπίδραση του μοντέλου δεν ήταν ανησυχητική», εξήγησε. «Άλλοι μπορεί να εντοπίσουν ένα πρόβλημα σχεδιασμού ή μια αδυναμία ασφαλείας που θέλουν να αντιμετωπίσουν».

Το ιστορικό των περιστατικών παραβίασης

Η εταιρεία δήλωσε ότι πολλά από τα περιστατικά αναφέρονται ως «agent spam», όρος που περιγράφει «απροσδόκητη ή ανησυχητική» δραστηριότητα πρακτόρων τεχνητής νοημοσύνης, όπως η ανάρτηση πληροφοριών στο διαδίκτυο.

Η OpenAI άρχισε να αντιμετωπίζει τέτοια περιστατικά με μεγαλύτερη σοβαρότητα μετά από ένα περιστατικό τον Ιούλιο, όταν μια ομάδα ή «σμήνος» πρακτόρων τεχνητής νοημοσύνης της παραβίασε την πλατφόρμα ανάπτυξης τεχνητής νοημοσύνης Hugging Face χωρίς να έχει λάβει σχετική εντολή.

Η Hugging Face ήταν η πρώτη που δημοσιοποίησε το περιστατικό, ενώ η OpenAI ανέλαβε αργότερα δημόσια την ευθύνη.

Ο επικεφαλής της Hugging Face, Κλεμάν Ντελανγκέ, δήλωσε κατά τη διάρκεια συνεδρίασης του Συμβουλίου Ασφαλείας των Ηνωμένων Εθνών για την τεχνητή νοημοσύνη την Τετάρτη: «Συχνά αναρωτιέμαι τι θα είχε συμβεί αν είχα αποφασίσει να μην αποκαλύψω δημόσια αυτή την επίθεση».

«Ειδικά τώρα που γνωρίζουμε ότι παρόμοια περιστατικά είχαν σημειωθεί μήνες νωρίτερα, μυστικά, σε μια χούφτα κορυφαίων εργαστηρίων τεχνητής νοημοσύνης, χωρίς να υπάρχει παρακολούθηση», πρόσθεσε ο Ντελανγκέ.

Κατά την ίδια συνεδρίαση του ΟΗΕ, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο επικεφαλής της ανταγωνίστριας εταιρείας Anthropic, Ντάριο Αμοντέι, ζήτησαν από τους διεθνείς ηγέτες να δημιουργήσουν παγκόσμια πρότυπα για την ασφάλεια της τεχνητής νοημοσύνης, καθώς και τρόπους παρακολούθησης και αναφοράς τέτοιων περιστατικών.

Παρότι τόσο η OpenAI όσο και η Anthropic έχουν δηλώσει τις τελευταίες εβδομάδες ότι θα επιτρέψουν σε ανεξάρτητους αξιολογητές να πραγματοποιούν αξιολογήσεις ασφαλείας των εργαλείων και των μοντέλων τεχνητής νοημοσύνης σε πραγματικό χρόνο, οι αξιολογητές αυτοί δεν έχουν ακόμη εγκατασταθεί στις εταιρείες, όπως έχει μεταδώσει το BBC.

Η OpenAI δήλωσε την Παρασκευή ότι εξετάζει επί του παρόντος τη δραστηριότητα εκπαίδευσης των πρακτόρων τεχνητής νοημοσύνης και επανεξετάζει τα περιστατικά «μήνα προς μήνα», ξεκινώντας από το περιστατικό παραβίασης της Hugging Face.

«Οι περισσότερες από τις περιπτώσεις που έχουν εντοπιστεί μέχρι στιγμής είναι χαμηλής σοβαρότητας, με περιορισμένες ή μηδενικές ενδείξεις ουσιαστικού αντίκτυπου», ανέφερε η εταιρεία. «Δεδομένης της κλίμακας της απαιτούμενης επανεξέτασης και της ανάγκης να επαληθευτεί κάθε περίπτωση, η διαδικασία αυτή θα διαρκέσει μήνες».

Ο Ντέιβιντ Κρούγκερ, καθηγητής μηχανικής μάθησης στο Πανεπιστήμιο του Μόντρεαλ και ιδρυτής της ομάδας για την ασφάλεια της τεχνητής νοημοσύνης Evitable, δήλωσε την Παρασκευή ότι είναι «βαθιά ανήσυχος» από τον αυξανόμενο αριθμό περιστατικών που σχετίζονται με την ασφάλεια της τεχνητής νοημοσύνης.

Ο ίδιος ζήτησε «άμεσο, επ' αόριστον, διεθνές μορατόριουμ» στην ανάπτυξη της τεχνητής νοημοσύνης.

«Δεν έχουμε ακόμη κατανοήσει την έκταση των περιστατικών που έχουν ήδη σημειωθεί και μελλοντικά σενάρια ανεξέλεγκτης τεχνητής νοημοσύνης θα μπορούσαν να είναι καταστροφικά», δήλωσε ο Κρούγκερ.