Ο 27χρονος ερευνητής της Anthropic, Τζέικομπ Κόξον, γνωστοποίησε στη Wall Street Journal (WSJ) ότι αποφάσισε τόσο την εταιρεία, όσο και ευρύτερα τον κλάδο της τεχνητής νοημοσύνης.
Προειδοποίησε, δε, το κοινό ότι ο ανταγωνισμός μεταξύ των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης, μπορεί να οδηγήσει στην ανάπτυξη συστημάτων, που θα είναι πλέον αδύνατο να ελεγχθούν από τους ανθρώπους.
Ο Τζέικομπ Κόξον, ερευνητής από τη Βρετανία που ειδικεύεται στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης με τεράστιους όγκους δεδομένων, ανακοίνωσε την Τρίτη (8/9) την αποχώρησή του από την Anthropic. Όπως εξήγησε, δεν θέλει να συμμετέχει στην κούρσα για την κατασκευή συστημάτων AI που θα μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους.
An Anthropic researcher is quitting the artificial-intelligence industry over fears that the lab and its competitors are racing to build systems that could spiral out of control and destroy humanity. https://t.co/oB7tWEwWkH
— The Wall Street Journal (@WSJ) September 8, 2026
Anthropic: Φόβοι για ανάπτυξη συστημάτων, που θα βγουν εκτός ελέγχου
Μιλώντας στη Wall Street Journal, ο πρώην εργαζόμενος της Anthropic εξέφρασε τον φόβο του ότι τέτοια συστήματα θα μπορούσαν τελικά να βγουν εκτός ελέγχου, φτάνοντας ακόμη και στο σημείο να αποτελέσουν υπαρξιακή απειλή για την ανθρωπότητα.
Ο Κόξον, ο οποίος είχε προηγουμένως σπουδάσει μαθηματικά, ανέφερε ότι πολλοί εργαζόμενοι στον χώρο χρησιμοποιούν πλέον εκφράσεις όπως «crunchtime» και «endgame», όροι που υποδηλώνουν το τέλος, όταν μιλούν για την πορεία προς την ανάπτυξη αυτοβελτιούμενων μοντέλων.
«Βρισκόμαστε σε τροχιά να υλοποιηθούν πολλά από τα πιο ακραία σενάρια, καθώς μέχρι το τέλος της επόμενης χρονιάς τα πράγματα θα μπορούσαν να έχουν βγει εκτός ελέγχου», δήλωσε στη Wall Street Journal. Κατά τον ίδιο, όταν οι εταιρείες ανταγωνίζονται τόσο μεταξύ τους όσο και με ανερχόμενες επιχειρήσεις από την Κίνα, οι συμβιβασμοί σε ζητήματα ασφάλειας είναι αναπόφευκτοι.
Η Anthropic δεν σχολίασε άμεσα την αποχώρησή του. Μάλιστα, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, και άλλα στελέχη της έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που μπορεί να προκύψουν από ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης και έχουν ζητήσει επιβράδυνση του ρυθμού ανάπτυξης της τεχνολογίας.
Αξίζει να τονιστεί πως ο Κόξον είχε φύγει νωρίτερα φέτος από την OpenAI, για να εργαστεί στην Anthropic, ακριβώς επειδή η τελευταία είναι γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της. Όπως λέει, διαπίστωσε ότι οι προσπάθειες της Anthropic στον συγκεκριμένο τομέα είναι ειλικρινείς.
Πλέον, ωστόσο, θεωρεί ότι καμία από τις εταιρείες δεν μπορεί να αναπτύξει -με υπεύθυνο τρόπο- συστήματα τεχνητής νοημοσύνης, ικανά να ξεπεράσουν τον άνθρωπο σε ένα ευρύ φάσμα εργασιών, χωρίς να έχει προηγηθεί κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από ολόκληρο τον κλάδο.
Μιλώντας στο αμερικάνικο μέσο ενημέρωσης, είπε πως οι ανησυχίες του εντάθηκαν το τελευταίο χρονικό διάστημα, όταν ορισμένα μοντέλα της OpenAI και της Anthropic λειτουργούσαν υπό μία έννοια «αυτόνομα». Σύμφωνα με τη Wall Street Journal, τα περιστατικά αυτά έδειξαν ότι συστήματα τεχνητής νοημοσύνης μπορούν να υιοθετήσουν επιβλαβείς στόχους και να επιχειρήσουν να τους αποκρύψουν από τους ανθρώπους.
Ο Κόξον εκτιμά ότι ο κίνδυνος θα αυξηθεί σημαντικά όταν τα συστήματα αρχίσουν να βελτιώνουν μόνα τους τις δυνατότητές τους, καθώς φοβάται ότι θα μπορούσαν να εξελιχθούν σε τέτοιο βαθμό ώστε να αρνούνται να εκτελέσουν ανθρώπινες εντολές.
Earlier today, AI researcher Jacob Coxon, who spent the past three years working at OpenAI and Anthropic, publicly resigned from Anthropic, warning that both companies are racing toward superintelligence and “gambling with our lives.”
— Yashar Ali 🐘 (@yashar) September 9, 2026
Then Evan Hubinger, Anthropic’s current Head… pic.twitter.com/C8s8EY7yyL
Anthropic: Η ανάρτησή του στο X
Σε σχετική του ανάρτηση στο X, έγραψε: «Παραιτήθηκα σήμερα από την Anthropic. Τα τελευταία τρία χρόνια ασχολήθηκα με την έρευνα πάνω στην προεκπαίδευση μοντέλων, τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς την ανάπτυξη μιας αυτοβελτιούμενης υπερνοημοσύνης, παίζοντας τις ζωές μας στα ζάρια. Περισσότερες σκέψεις παρακάτω.
Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα θα έχουμε συστήματα με ικανότητες που θα ξεπερνούν τις ανθρώπινες, τα οποία θα μπορούν να παραβιάσουν σχεδόν οποιοδήποτε σύστημα, να φέρουν επανάσταση σε οποιονδήποτε τομέα εν μία νυκτί και να αποκτήσουν πραγματική ισχύ και πόρους. Όλοι έχουμε δει την πρόοδο που έχει σημειωθεί σε καθέναν από αυτούς τους τομείς και ο ρυθμός της δεν επιβραδύνεται.
Οι άνθρωποι που κατασκευάζουν συστήματα τεχνητής νοημοσύνης πιστεύουν πραγματικά ότι μέχρι το τέλος της δεκαετίας αυτή η τεχνολογία θα μπορούσε να μας σκοτώσει όλους. Δεν πρόκειται για κάποιο διαφημιστικό τέχνασμα. Αν μη τι άλλο, πολλά στελέχη και υψηλόβαθμοι ερευνητές επιλέγουν πιο προσεκτικές διατυπώσεις όταν μιλούν δημόσια, ώστε όσα λένε να ακούγονται πιο μετρημένα, όμως έχω ακούσει τους ίδιους ανθρώπους να εκφράζουν κατ’ ιδίαν τον φόβο τους. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει κίνδυνο αυτού του μεγέθους.
Μια συνηθισμένη αντίδραση είναι: «Αν το πιστεύουν πραγματικά αυτό, τότε γιατί συνεχίζουν να την αναπτύσσουν;». Στην OpenAI, πολλοί δεν έχουν συνειδητοποιήσει σε βάθος τι διακυβεύεται για τον ανθρώπινο πολιτισμό. Στην Anthropic, αντιθέτως, αντιλαμβάνονται πολύ καλά τι διακυβεύεται, αλλά έχουν εγκλωβιστεί σε μια κούρσα για το ποιος θα φτάσει πρώτος εκεί. Πιστεύουν ότι κανένας άλλος δεν θα ενεργήσει υπεύθυνα και, επομένως, πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο.
Το να αποδέχεσαι αυτή την κούρσα και να μπαίνεις στο «endgame», στην τελική δηλαδή φάση της, είναι ένα αλαζονικό στοίχημα που δεν θα έπρεπε να ξεκινά μέσα από το Slack μιας ιδιωτικής εταιρείας. Η προσπάθεια να λυθεί με διαδικασίες-εξπρές το πρόβλημα της ευθυγράμμισης της τεχνητής νοημοσύνης με τις ανθρώπινες προθέσεις και αξίες θα έπρεπε να προϋποθέτει εξαιρετικά μεγάλη βεβαιότητα ότι δεν υπάρχουν καλύτερες εναλλακτικές πορείες.
Είμαι αισιόδοξος για τις δυνατότητες συντονισμού. Προειδοποιητικά περιστατικά, όπως η επίθεση στη Hugging Face, έχουν κάνει πιο εφικτές τις συμφωνίες μεταξύ των αμερικανικών εργαστηρίων για επιβράδυνση του ρυθμού ανάπτυξης. Δεν θεωρώ, όμως, ότι βρισκόμαστε σε τροχιά αποτροπής μιας παγκόσμιας κούρσας, κάτι που ενδέχεται να απαιτήσει μέτρα με μεγάλο κόστος, όπως μια προσωρινή απαγόρευση της περαιτέρω ενίσχυσης των δυνατοτήτων των μοντέλων.
Αν είστε ερευνητής σε κάποιο εργαστήριο τεχνητής νοημοσύνης, σας καλώ να σκεφτείτε πώς θα είναι πραγματικά τα επόμενα χρόνια. Θέλετε να ξεκινήσετε την εκπαίδευση μιας υπερνοημοσύνης μέσω ενισχυτικής μάθησης (RL), χωρίς να κατανοείτε σε βάθος και με επιστημονική αυστηρότητα τον τρόπο με τον οποίο λειτουργεί ο «νους» της; Θα πρέπει απλώς να σκύψετε το κεφάλι επειδή «έτσι κι αλλιώς θα συμβεί», ή μήπως αυτή είναι η στιγμή να απαιτήσετε να υπάρξουν διαφορετικές προϋποθέσεις;»
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Με πληροφορίες από Wall Street Journal
