Η αστυνομία της Φιλαδέλφειας αναφέρει ότι η Anthropic την ενημέρωσε αυτή την εβδομάδα πως ένα από τα μοντέλα τεχνητής νοημοσύνης της υπέβαλε ψευδή καταγγελία για ανθρωποκτονία μέσω του ιστότοπου PhillyUnsolvedMurders.com.
Σε ανάρτηση ιστολογίου, η Anthropic ανέφερε ότι η ψευδής πληροφορία ήταν μία από τις ενέργειες που έκαναν τα μοντέλα της εκτός του προβλεπόμενου σκοπού τους.
Η εταιρεία δήλωσε ότι ενημέρωσε τον Λευκό Οίκο για αυτές τις περιπτώσεις και ειδοποίησε κάθε εμπλεκόμενη υπηρεσία. Παράλληλα, σχεδιάζει να αναφέρει νέα περιστατικά μη προβλεπόμενης συμπεριφοράς της τεχνητής νοημοσύνης, καθώς τα εντοπίζει.
«Παρότι αυτές οι περιπτώσεις είχαν περιορισμένο αντίκτυπο, δεν θέλουμε να υποβαθμίσουμε τη σημασία των ευρημάτων, καθώς οι ίδιες συμπεριφορές θα μπορούσαν να προκαλέσουν πολύ μεγαλύτερη ζημιά όσο τα μοντέλα γίνονται ισχυρότερα», ανέφερε η Anthropic στην ανάρτηση του ιστολογίου της.
Το περιστατικό με την ψευδή αναφορά σημειώθηκε τον Ιούλιο. Η Anthropic δεν το αντιλήφθηκε παρά μόνο τον Σεπτέμβριο.
«Η πόλη της Φιλαδέλφειας αντιμετωπίζει αυτό το περιστατικό με τη μέγιστη σοβαρότητα», ανέφερε την Παρασκευή η αστυνομική διεύθυνση. «Η καθυστέρηση δύο μηνών στον εντοπισμό και την αναφορά του περιστατικού στην πόλη είναι απαράδεκτη».
Σύμφωνα με την αστυνομία, το μοντέλο της Anthropic πραγματοποιούσε μια δοκιμή που περιλάμβανε αλληλεπιδράσεις με τυχαία επιλεγμένους ιστότοπους, όταν υπέβαλε την πληροφορία, προσποιούμενο ότι ήταν κάποιος που ενδεχομένως γνώριζε κάτι για μια ανεξιχνίαστη υπόθεση.
Η υποβολή, με ημερομηνία 18 Ιουλίου, κατέληξε στον φάκελο ανεπιθύμητης αλληλογραφίας (spam) και δεν προωθήθηκε ποτέ για περαιτέρω διερεύνηση. Αυτό, ωστόσο, δεν μειώνει τη σοβαρότητα του περιστατικού, τόνισε η αστυνομία.
«Οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα, οικογένειες που πενθούν και ερευνητές που εργάζονται για να βρουν απαντήσεις», ανέφερε η αστυνομική διεύθυνση. «Οι εταιρείες τεχνολογίας πρέπει να λαμβάνουν όλα τα κατάλληλα και αναγκαία μέτρα, ώστε να αποτρέπουν τα συστήματά τους από την υποβολή ψευδών πληροφοριών στις αρχές επιβολής του νόμου».
Η Anthropic ενημέρωσε την αστυνομία της Φιλαδέλφειας ότι ανακάλυψε το περιστατικό στις 28 Σεπτεμβρίου και διέκοψε την αυτοματοποιημένη διαδικασία δοκιμών που ευθυνόταν για την υποβολή, σύμφωνα με την αστυνομική διεύθυνση.
Η ψευδής πληροφορία για τη δολοφονία προέκυψε όταν το μοντέλο εντόπισε μια φόρμα υποβολής πληροφοριών, την οποία διαχειριζόταν αστυνομική υπηρεσία, σε μια ιστοσελίδα που αναφερόταν σε ανεξιχνίαστη ανθρωποκτονία.
Η εταιρεία ανέφερε ότι το Claude είχε λάβει σαφείς οδηγίες να μην πραγματοποιεί ποτέ σύνδεση σε λογαριασμούς, να μη δημιουργεί λογαριασμούς, να μην εισάγει προσωπικά δεδομένα, να μην πραγματοποιεί αγορές και να μην υποβάλλει οτιδήποτε θα μπορούσε να προκαλέσει καταστροφικές συνέπειες. Ωστόσο, οι οδηγίες αυτές δεν απέκλειαν ρητά την υποβολή φορμών.
Το Claude συμπλήρωσε το ακόλουθο κείμενο:
«Ενδέχεται να έχω πληροφορίες σχετικά με αυτή την υπόθεση. Θυμάμαι ότι είδα κάποιον που ταίριαζε με την περιγραφή στην περιοχή γύρω από [τον δρόμο που αναφερόταν στη σελίδα], κατά τη συγκεκριμένη χρονική περίοδο. Παρακαλώ επικοινωνήστε μαζί μου, εάν αυτές οι πληροφορίες είναι χρήσιμες».
Η Anthropic ανέφερε ότι το Claude άφησε κενά τα πεδία για το όνομα και τα στοιχεία επικοινωνίας.
Η εταιρεία δήλωσε ότι, πλέον έχει αναπτύξει εργαλεία τα οποία εντοπίζουν και αποκλείουν αυτόματα τέτοιου είδους συμπεριφορές.
