Η προσπάθεια ξεκίνησε αφού κυκλοφόρησαν στο διαδίκτυο φήμες ότι η ανταγωνίστρια Anthropic είχε ήδη καταφέρει κάτι αντίστοιχο. Οι ερευνητές αντάλλασσαν ενθουσιασμένα μηνύματα στο Slack και δημοσίευαν τις επιτυχίες τους.
Εσωτερικά, η ανακάλυψη θεωρήθηκε νίκη στον αμείλικτο εμπορικό αγώνα για τη δημιουργία εργαλείων τεχνητής νοημοσύνης εξυπνότερων από τους ανθρώπους — έναν αγώνα πολλών τρισεκατομμυρίων δολαρίων που υπόσχεται πρωτοφανή πλούτο και δύναμη όταν οι δύο εταιρείες εισαχθούν τελικά στο χρηματιστήριο, κάτι που θεωρείται πιθανό ακόμη και μέχρι το τέλος του έτους.
Ωστόσο, αποτέλεσε επίσης ένδειξη ενός εκρηκτικού προβλήματος που σύντομα θα έφτανε σε κρίσιμο σημείο. Όπως επισημαίνει η Wall Street Journal, η ανάπτυξη της AI προχωρά με ιλιγγιώδη ταχύτητα, πολύ ταχύτερα από ό,τι αναμενόταν, ενισχύοντας τον φόβο στο εσωτερικό των εταιρειών ότι η τεχνολογία κινδυνεύει να ξεφύγει από τον έλεγχο.
Δυσοίωνες προβλέψεις
Την ίδια Τρίτη, ο ερευνητής της Anthropic Jacob Coxon ανακοίνωσε ότι παραιτείται, φοβούμενος πως η εταιρεία του και οι ανταγωνιστές της κατασκευάζουν εργαλεία που μπορούν να βελτιώνονται μόνα τους και τελικά να καταστρέψουν την ανθρωπότητα. Ο κορυφαίος επιστήμονας της εταιρείας Evan Hubinger έγραψε στο X ότι θεωρεί πως υπάρχει πιθανότητα άνω του 10% η AI να σκοτώσει όλους τους ανθρώπους μέσα στην επόμενη δεκαετία. Ο Drake Thomas, εργαζόμενος στον τομέα ασφάλειας της Anthropic, δήλωσε ότι θα θυσίαζε ακόμη και την οικονομική του συμμετοχή στην εταιρεία για μια αύξηση μόλις 1% στην πιθανότητα να επιβιώσει η ανθρωπότητα.
Η σύγκρουση μεταξύ επιστημονικής προόδου, ηθικής ευθύνης και οικονομικών κινήτρων έχει πλέον δημιουργήσει κρίση στον κλάδο. Η ανάπτυξη της AI έχει τροφοδοτήσει μια τεράστια άνοδο στο χρηματιστήριο κατά τον τελευταίο χρόνο, γεγονός που αποκτά ακόμη μεγαλύτερη σημασία καθώς η Anthropic και η OpenAI βρίσκονται στα πρόθυρα δημόσιων εγγραφών που θα μπορούσαν να αποτιμήσουν τις εταιρείες σε τρισεκατομμύρια δολάρια. Παράλληλα, ο ανταγωνισμός από την Κίνα έχει αυξήσει ακόμη περισσότερο το διακύβευμα.
Οι έντονες προειδοποιήσεις ορισμένων εργαζομένων μέσα στις ίδιες τις εταιρείες αποτελούν, ωστόσο, απόδειξη ότι οι κίνδυνοι της συνέχισης αυτής της πορείας — σε ένα περιβάλλον σχεδόν ανύπαρκτης ρύθμισης — μπορεί να είναι τεράστιοι. Οι προειδοποιήσεις έρχονται την ώρα που αυξάνεται η κοινωνική αντίδραση στις επιπτώσεις της επανάστασης της AI στις τιμές, στις θέσεις εργασίας και στην εκπαίδευση.
Η αρνητική εικόνα συνεχίστηκε καθ’ όλη τη διάρκεια της εβδομάδας και ο πανικός από ορισμένους κύκλους της Silicon Valley πέρασε πλέον στο ευρύ κοινό. Σε επεισόδιο του podcast του Joe Rogan, ο πρώην ερευνητής της OpenAI Daniel Kokotajlo, που σήμερα δραστηριοποιείται στην ασφάλεια της AI, προειδοποίησε ότι εταιρείες όπως η Anthropic και η πρώην εργοδότριά του προχωρούν επικίνδυνα γρήγορα, θυσιάζοντας την ασφάλεια στην προσπάθειά τους να κερδίσουν μερίδιο αγοράς.
Την ίδια ημέρα, η Anthropic ανακοίνωσε ότι εντόπισε ένα προηγουμένως άγνωστο περιστατικό, κατά το οποίο μια έκδοση του μοντέλου Claude απέκτησε μη εξουσιοδοτημένη πρόσβαση σε εξωτερικό σύστημα. Η εταιρεία πρόσθεσε ότι τα μοντέλα της είχαν δείξει «προθυμία να αναλάβουν επιβλαβείς ενέργειες» προκειμένου να επιτύχουν έναν συγκεκριμένο στόχο.
Την Παρασκευή, μια ομάδα ερευνητών AI δήλωσε ότι βρήκε στοιχεία πως πράκτορες της OpenAI βρίσκονταν πίσω από μια κυβερνοεπίθεση τον Μάιο εναντίον δημοφιλούς υπηρεσίας λογισμικού. Η επίθεση παρουσίαζε ομοιότητες με μια επίθεση τον Ιούλιο στην εταιρεία AI Hugging Face.
Στην επίθεση εκείνη, εκατοντάδες bots της OpenAI συνεργάστηκαν για να παραβιάσουν το Hugging Face χωρίς να γίνει αρχικά αντιληπτό. Το περιστατικό αποτέλεσε σοβαρό προειδοποιητικό σημάδι για τη βιομηχανία, την κυβέρνηση και την κοινωνία, καθώς αποκάλυψε ανησυχητικές δυνατότητες που ήδη διέθεταν τα συστήματα.
Στις αρχές του καλοκαιριού, ο κλάδος της AI δήλωνε ότι πλησίαζε στην κατασκευή μηχανών αρκετά ικανών ώστε να εκπαιδεύουν τους διαδόχους τους — ένα πιθανό πρώτο βήμα προς την απώλεια του ανθρώπινου ελέγχου. Μέχρι το τέλος του καλοκαιριού, γινόταν πλέον φανερό ότι τα ταχέως εξελισσόμενα συστήματα μπορούσαν να αναπτύσσουν σμήνη αυτόνομων πρακτόρων, ικανών και πρόθυμων να συνεργάζονται, να εξαπατούν και να παρακάμπτουν κανόνες στον πραγματικό κόσμο προκειμένου να επιτύχουν τους στόχους τους.
Οι Big 4 συμφωνούν
Το Σάββατο, οι ηγέτες τεσσάρων από τις μεγαλύτερες εταιρείες AI — Ντάριο Αμοντέι, Σαμ Άλτμαν, Ντέμις Χασάμπις και Ίλον Μασκ — συμφώνησαν ότι η ανάπτυξη της τεχνολογίας πρέπει να επιβραδυνθεί. Οι Altman και Amodei δεσμεύτηκαν να επιτρέψουν σε ανεξάρτητους αξιολογητές ασφάλειας να έχουν έγκαιρη πρόσβαση στα συστήματά τους, σε μια σπάνια συμφωνία συνεργασίας σε έναν κλάδο που χαρακτηρίζεται από έντονο ανταγωνισμό.
Οι εκκλήσεις των κορυφαίων στελεχών για πιο προσεκτικό ρυθμό ανάπτυξης αποτελούν μια κλασική ιστορία της Silicon Valley: μια τεχνολογία που αλλάζει τον κόσμο, τεράστιος πλούτος, ακραίος ανταγωνισμός και ενθουσιασμός για νέες δυνατότητες, ακόμη και όταν υπάρχουν σοβαρές ανησυχίες για την ασφάλεια των προϊόντων.
Ο Max Tegmark, ακτιβιστής για την ασφάλεια της AI, χαρακτήρισε την κατάσταση «ελληνική τραγωδία»: καλοπροαίρετοι επιχειρηματίες που έχουν παγιδευτεί σε έναν αγώνα προς τα κάτω. Σύμφωνα με τον ίδιο, οι ηγέτες των εταιρειών πρέπει να προχωρήσουν περισσότερο και να μετατρέψουν τις εθελοντικές δεσμεύσεις τους σε νομικά δεσμευτικούς κανόνες.
