Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, κάλεσε το περασμένο Σαββατοκύριακο τις κορυφαίες εταιρείες τεχνητής νοημοσύνης να συντονίσουν μια επιβράδυνση της ανάπτυξης της τεχνολογίας, ώστε να υπάρξει περισσότερος χρόνος για τη δημιουργία δικλίδων ασφαλείας γύρω από την AI. Ηγέτες ανταγωνιστικών εταιρειών τάχθηκαν γρήγορα υπέρ της ιδέας, όμως ο πρόεδρος Donald Trump επέκρινε την πρόταση.
Ο Amodei και άλλες εξέχουσες προσωπικότητες του κλάδου της τεχνητής νοημοσύνης έχουν προειδοποιήσει πρόσφατα για το ενδεχόμενο η AI να γίνει αρκετά έξυπνη ώστε να μπορεί να βελτιώνει τον εαυτό της χωρίς ανθρώπινη παρέμβαση. Σε ένα τέτοιο σενάριο, γνωστό ως αναδρομική αυτοβελτίωση (recursive self-improvement), θα μπορούσε να γίνει δύσκολο για τους ανθρώπους να κατανοήσουν ή να ελέγξουν την τεχνολογία AI, σύμφωνα με τον Amodei και άλλους ειδικούς.
Σε ανάρτηση ιστολογίου την Πέμπτη, στην οποία αποκάλυψε τη συμβολή του Claude στην έρευνα και ανάπτυξη νέων μοντέλων AI της Anthropic, η εταιρεία δεν ανέφερε πόσο κοντά θεωρεί ότι βρίσκεται η αναδρομική αυτοβελτίωση. Τόνισε ότι, προς το παρόν, δεν υπάρχει περίπτωση κατά την οποία το Claude να λειτουργεί «πλήρως αυτόνομα», χωρίς άνθρωπο να συμμετέχει στη διαδικασία.
Σύμφωνα με την Washington Post, όμως, η Anthropic ανακοίνωσε ότι ένας εσωτερικός έλεγχος των εργασιών R&D έδειξε πως το Claude ήταν σε θέση να «ηγείται» αυτών των εργασιών περίπου στο 26% των περιπτώσεων, ενώ οι άνθρωποι είχαν μόνο εποπτικό ρόλο και παρείχαν γενικές κατευθύνσεις. Ακόμη και τον Φεβρουάριο, το αντίστοιχο ποσοστό ήταν μηδενικό, σύμφωνα με την ανάρτηση.
Ο Claude «ηγείται» δηλαδή στο 26% των εργασιών έρευνας και ανάπτυξης νέων μοντέλων της Anthropic. Αυτό σημαίνει ότι μπορεί να εκτελέσει μια σύνθετη εργασία από την αρχή μέχρι το τέλος (end-to-end) με βάση μια απλή ανθρώπινη οδηγία, παραμένοντας ωστόσο υπό ανθρώπινη επίβλεψη.
«Τα μοντέλα που επιταχύνουν τη δική τους ανάπτυξη θα μπορούσαν να καταστήσουν πιο δύσκολο για τους ανθρώπους να κατανοήσουν ή να ελέγξουν αυτά τα συστήματα», ανέφερε η εταιρεία. «Επομένως, είναι σημαντικό να κοινοποιούμε αυτούς τους δείκτες, ώστε να κατανοούμε πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης».
Η εταιρεία ανέφερε ότι χρησιμοποίησε μια έκδοση του Claude για να αξιολογήσει το έργο της στον τομέα της R&D, χρησιμοποιώντας ένα σύστημα βαθμολόγησης που είχε αναπτύξει μια εξωτερική εταιρεία τεχνητής νοημοσύνης, προτού οι άνθρωποι ελέγξουν τα αποτελέσματα.
Η Anthropic αποκάλυψε επίσης ότι διαθέτει περίπου 30.000 AI «agents» (πράκτορες τεχνητής νοημοσύνης), οι οποίοι πραγματοποιούν εργασίες έρευνας και μηχανικής, και ότι πρόσφατα κατεύθυνε περίπου το 6% της υπολογιστικής ισχύος που δαπανά για R&D προς εργασίες ασφάλειας.
Η Anthropic φάνηκε επίσης να καλεί άλλες εταιρείες AI να δημοσιοποιήσουν αντίστοιχα στοιχεία σχετικά με την πρόοδό τους στην ανάπτυξη AI που μπορεί να βελτιώνει τον εαυτό της, καθώς και σχετικά με την κατανομή των πόρων τους.
«Οποιοσδήποτε κορυφαίος προγραμματιστής AI θα μπορούσε να δημοσιεύει τακτικά αυτές τις μετρήσεις, χρησιμοποιώντας μια δημόσια μεθοδολογία», ανέφερε η εταιρεία. «Δημοσιεύουμε αυτές τις μετρήσεις επειδή προσφέρουν στο κοινό, σε τρίτους και στις κυβερνήσεις μεγαλύτερη εικόνα για τον ρυθμό ανάπτυξης της AI μέσα στα κορυφαία εργαστήρια τεχνητής νοημοσύνης».
Οι προτάσεις της εταιρείας έρχονται έπειτα από μία εβδομάδα έντονης συζήτησης στον τεχνολογικό κλάδο και στην Ουάσινγκτον σχετικά με τον πιθανό κίνδυνο που μπορεί να αποτελέσει η AI για τους ανθρώπους — ή ακόμη και για την ανθρωπότητα συνολικά.
