Ένας πρώην ερευνητής της OpenAI αποχώρησε και από την Anthropic, καταγγέλλοντας ότι οι δύο εταιρείες τρέχουν προς την υπερνοημοσύνη χωρίς να έχουν λύσει το βασικό πρόβλημα: πώς θα την κρατήσουν υπό ανθρώπινο έλεγχο. «Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας».
Ο 27χρονος Jacob Coxon εγκατέλειψε τον κλάδο στον οποίο εργάστηκε επί τρία χρόνια, πρώτα στην OpenAI και στη συνέχεια στην Anthropic, επειδή, όπως υποστηρίζει, η κούρσα για όλο και ισχυρότερα συστήματα τεχνητής νοημοσύνης έχει αρχίσει να ξεπερνά την ικανότητα των εταιρειών να διαχειριστούν τους κινδύνους τους.
Ο Βρετανός ερευνητής, που ειδικευόταν στο pre-training των μοντέλων —τη διαδικασία κατά την οποία τα συστήματα εκπαιδεύονται πάνω σε τεράστιες ποσότητες δεδομένων— ανακοίνωσε την αποχώρησή του από την Anthropic. Είχε προηγουμένως εργαστεί στην OpenAI και επέλεξε την Anthropic ακριβώς επειδή θεωρούσε ότι έδινε μεγαλύτερη βαρύτητα στην ασφάλεια της AI.
Η διαπίστωσή του, τελικά, ήταν ότι το πρόβλημα δεν βρίσκεται μόνο σε μία εταιρεία: «Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», υποστήριξε, προειδοποιώντας ότι και οι δύο κατευθύνονται προς μια υπερνοημοσύνη που θα μπορεί να αυτοβελτιώνεται, ενώ οι αποφάσεις για την ανάπτυξή της λαμβάνονται μέσα σε ένα περιβάλλον ακραίου ανταγωνισμού.
Η επικίνδυνη λέξη: αυτοβελτίωση. Η ανησυχία δεν αφορά απλώς ένα πιο έξυπνο chatbot. Το κρίσιμο σημείο είναι η πιθανότητα να δημιουργηθούν συστήματα που θα μπορούν να βελτιώνουν τις ίδιες τις ικανότητές τους, να σχεδιάζουν τους διαδόχους τους και να εκτελούν ολοένα πιο σύνθετες ενέργειες με περιορισμένη ανθρώπινη παρέμβαση.
Σε αυτό το σενάριο, το ζήτημα της ασφάλειας αλλάζει κλίμακα. Δεν πρόκειται πλέον μόνο για το αν ένα μοντέλο δίνει λάθος πληροφορίες, παράγει επικίνδυνο περιεχόμενο ή κάνει μια λανθασμένη πρόβλεψη. Το ερώτημα είναι αν οι δημιουργοί του μπορούν να προβλέψουν τη συμπεριφορά ενός συστήματος που αποκτά δυνατότητες τις οποίες οι ίδιοι δεν μπορούν να κατανοήσουν πλήρως.
Αυτό είναι το λεγόμενο alignment problem: πώς διασφαλίζεται ότι ένα εξαιρετικά ισχυρό σύστημα θα συνεχίσει να λειτουργεί σύμφωνα με τις ανθρώπινες προθέσεις, ακόμη και όταν οι δυνατότητές του ξεπεράσουν κατά πολύ εκείνες των ανθρώπων που το δημιούργησαν. Και εδώ βρίσκεται ίσως το πιο ανησυχητικό σημείο της υπόθεσης.
«Δεν έχουμε ακόμη σχέδιο»: Ο Evan Hubinger, επικεφαλής του Alignment Science στην Anthropic, δεν απέρριψε την προειδοποίηση του Coxon. Αντίθετα, απάντησε δημόσια ότι συμφωνεί μαζί του. Ο Hubinger δήλωσε ότι στην Anthropic υπάρχει πράγματι η πεποίθηση πως η AI θα μπορούσε να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας. Εκτίμησε ότι η πιθανότητα αυτή ξεπερνά το 10% μέσα στην επόμενη δεκαετία. Ταυτόχρονα παραδέχθηκε ότι η Anthropic «δεν έχει ακόμη σχέδιο» για την επίλυση του προβλήματος του alignment σε μια μελλοντική υπερνοημοσύνη και ότι δεν βρίσκεται σαφώς σε πορεία επίλυσής του.
Η βιομηχανία αναπτύσσει συστήματα με ρυθμό ταχύτερο από εκείνον με τον οποίο μπορεί να κατανοήσει και να ελέγξει τις συνέπειές τους. Κάθε εταιρεία μπορεί να θεωρεί ότι η επιβράδυνση είναι επικίνδυνη επειδή οι ανταγωνιστές της θα προχωρήσουν. Το αποτέλεσμα είναι ότι όλες συνεχίζουν να επιταχύνουν, ακόμη και όταν όλες αναγνωρίζουν ότι η επιτάχυνση μπορεί να δημιουργεί κινδύνους που δεν έχουν ακόμη μάθει να ελέγχουν.
Η υπόθεση Coxon ανοίγει έτσι ένα πολύ ευρύτερο πολιτικό ερώτημα. Ποιος αποφασίζει πόσο γρήγορα πρέπει να αναπτύσσεται μια τεχνολογία που ενδέχεται να έχει συνέπειες για ολόκληρη την κοινωνία; Σήμερα, μεγάλο μέρος αυτής της απόφασης βρίσκεται στα χέρια ιδιωτικών εταιρειών. Οι ίδιες εταιρείες αποφασίζουν ποια μοντέλα θα αναπτύξουν, πόσο ισχυρά θα είναι, πότε θα κυκλοφορήσουν και ποια μέτρα ασφαλείας θεωρούν επαρκή.
Ο Coxon υποστηρίζει ότι αυτό δεν μπορεί να συνεχιστεί χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση ολόκληρου του κλάδου. Το ζήτημα γίνεται ακόμη πιο σύνθετο όσο αυξάνεται η οικονομική αξία της τεχνολογίας. Η Anthropic βρίσκεται πλέον σε διαδικασία προετοιμασίας για δημόσια εγγραφή, ενώ ο ανταγωνισμός μεταξύ των μεγαλύτερων εργαστηρίων AI έχει αποκτήσει τεράστιες οικονομικές και γεωπολιτικές διαστάσεις. Η ασφάλεια, επομένως, δεν ανταγωνίζεται μόνο την τεχνολογική φιλοδοξία. Ανταγωνίζεται την αγορά, τις επενδύσεις, τη γεωπολιτική και την ανάγκη κάθε εταιρείας να μη μείνει πίσω.