ΤΙΣ ΤΕΛΕΥΤΑΙΕΣ ΕΒΔΟΜΑΔΕΣ παρατηρούμε κάτι παράξενο στον χώρο της τεχνητής νοημοσύνης. Σχεδόν συγχρονισμένα, υπάλληλοι, πρώην υπάλληλοι, ακόμα και CEO των μεγαλύτερων εταιρειών κρούουν τον κώδωνα του κινδύνου, παρουσιάζοντας καταστροφολογικά σενάρια σε σχέση με την τεχνητή νοημοσύνη, σενάρια που έχουμε συνηθίσει ν’ ακούμε από τους επικριτές, και όχι από τους παραγωγούς αυτής της τεχνολογίας. Φτάνουμε μάλιστα στο σημείο οι ίδιες οι εταιρείες να ζητούν απ’ την κυβέρνηση να τις περιορίσει νομοθετικά, εισάγοντας ρυθμιστικά πλαίσια τα οποία επιβραδύνουν την ανάπτυξη μιας νοημοσύνης που, καλπάζοντας με άλματα, απειλεί να βγει «εκτός ελέγχου».
Είναι αρκετά δύσκολο να δούμε τις παραπάνω κινήσεις ως ειλικρινείς. Δεν είναι μόνο η κυνική φύση των εταιρειών, η απόσταση μεταξύ λόγου (επιβράδυνση) και πράξης (ανάπτυξη), και η υπερβολικά βολική σύγκλιση των προειδοποιήσεων¹ που γεννούν καχυποψία· είναι επίσης το γεγονός ότι οι κίνδυνοι που περιγράφονται στερούνται πραγματικής βάσης. Σε μια σειρά viral συνεντεύξεων, ο πρώην υπάλληλος της Anthropic Τζέικομπ Κόξον δήλωσε πως υπάρχει σοβαρή πιθανότητα η τεχνητή νοημοσύνη να φέρει το τέλος της ανθρωπότητας μες στην επόμενη δεκαετία, αν αυτονομηθεί και χρησιμοποιήσει χημικούς πράκτορες, ιούς ή πυρηνικά. Ο Κόξον δεν έκανε καμία προσπάθεια να υποστηρίξει τη δήλωσή του με στοιχεία, ούτε και του ζητήθηκε κάτι τέτοιο απ’ τους δημοσιογράφους.
Υπάρχουν σημαντικοί, απτοί κίνδυνοι που συνδέονται με την τεχνολογία, οι οποίοι δεν αφορούν κάποιο αφηρημένο μέλλον αλλά το ζωντανό παρόν μας. Η εξάντληση φυσικών πόρων, η «βελτιστοποίηση» τεχνολογιών πολέμου και αστυνόμευσης κ.λπ. συντελούνται γύρω μας καθημερινά.
Την ώρα που τα frontier ΑΙ labs δεν παρουσιάζουν κέρδη και βασίζονται κυρίως σε υποσχέσεις μελλοντικής ανάπτυξης και διαπιστευτήρια της τεχνολογικής επανάστασης που εισάγουν, μου φαίνεται πως η καταστροφολογία επιτελεί, και αυτή, τον ρόλο του «hype», μιας ρητορικής που παρουσιάζει την τεχνητή νοημοσύνη ως απίστευτα ισχυρή και συνεχώς αναπτυσσόμενη, προσελκύοντας νέο κεφάλαιο και ανεβάζοντας τις μετοχές. Κατ’ αυτόν τον τρόπο, οι «ΑΙ boomers» που πιστεύουν ότι αυτή η τεχνολογία θα μας φέρει στο κατώφλι της ουτοπίας και οι «ΑΙ doomers» που πιστεύουν ότι θα προκαλέσει την Αποκάλυψη είναι δύο πλευρές του ίδιου νομίσματος, όπως υποστηρίζει πειστικά η Κάρεν Χάο στο βιβλίο της «Empire of AI»: και οι δύο πόλοι βασίζονται στην υπόθεση ότι, ευτυχώς ή δυστυχώς, η τεχνητή νοημοσύνη είναι πανίσχυρη και πρόκειται ν’ αλλάξει τα πάντα.²
Ούτε και θα ’πρεπε ν’ αγνοούμε ορισμένες λεπτότερες οικονομικές συγκυρίες που ευνοούν την επιχειρηματική καταστροφολογία, όπως το γεγονός πως οι εκκλήσεις για ρύθμιση και επιβράδυνση έρχονται ακριβώς τη στιγμή που η πρόοδος έχει επιβραδυνθεί εκ των πραγμάτων, καθώς τα περιθώρια για εύκολα τεχνολογικά άλματα στενεύουν, οι αποδόσεις απ’ την περαιτέρω αύξηση του compute φθίνουν και τα κόστη εκτινάσσονται. Παράλληλα, η επιδίωξη ενός αυστηρότερου νομοθετικού πλαισίου ενδέχεται να συνιστά μια μορφή «ρυθμιστικής αιχμαλωσίας» (regulatory capture), σύμφωνα με την οποία οι μεγαλύτερες εταιρείες ενός κλάδου επιζητούν την εντονότερη ρύθμιση του πεδίου ώστε να περιορίσουν τον ανταγωνισμό από μικρότερες και ανερχόμενες επιχειρήσεις. Σε αυτές τις περιπτώσεις, οι εταιρικοί γίγαντες –με τις μεγάλες νομικές ομάδες τους, τα κεφάλαια και την πολιτική τους επιρροή– μπορούν να αντιμετωπίσουν τις νέες μορφές ρύθμισης, ενώ οι μικρότερες επιχειρήσεις πλήττονται και δεν καταφέρνουν ν’ αναπτυχθούν.
Φυσικά, οι παραπάνω θεωρίες μπορούν να εκληφθούν ως «οικονομισμός», μια μορφή κριτικής που απορρίπτει την «επιφάνεια» του λόγου και των ιδεών, ανακαλύπτοντας βαθύτερα, κερδοσκοπικά κίνητρα, και η οποία, ανά σημεία, βασίζεται σε εικασίες. Υπό μια άλλη σκοπιά, συνεπώς, μπορούμε να δούμε την καταστροφολογία απ’ την πλευρά των εταιρειών ως μια πολιτική στρατηγική, στην οποία οι κοινωνοί του ΑΙ «ζαλίζουν το κοινό με τεράστιες δόσεις μοιραίων γεγονότων και με αυτό τον τρόπο εγκαθίστανται ως μοναδικός δυνατός κόσμος». Με το να επιμένουν στον υπαρξιακό κίνδυνο που συνιστά η τεχνητή νοημοσύνη για την ανθρωπότητα και να παρουσιάζουν αποκαλυπτικά σενάρια (ΑΙ πανδημίες, ΑΙ πυρηνικά ολοκαυτώματα, sci-fi εφιάλτες), οι CEO προσπαθούν, όπως γράφει ο Νικόλας Σεβαστάκης, να μας πείσουν πως «οι πολίτες δεν έχουν καμιά άλλη διέξοδο από το να συνηθίσουν στην ιδέα ότι “αυτό όλο” έχει “ήδη κλειδώσει” και, επομένως, πρέπει να δείξουν εμπιστοσύνη στις ίδιες τις εταιρείες για καλύτερα πρωτόκολλα ασφαλείας».³
Πέρα όμως από αναλύσεις που εντοπίζουν συνειδητά κίνητρα πίσω απ’ την τρέχουσα καταστροφολογία –οικονομικά παιχνίδια και πολιτικές στρατηγικές–, υπάρχει ένα ακόμα ενδεχόμενο, το οποίο, βέβαια, δεν αποκλείει τα παραπάνω. Εστιάζοντας στους εργαζομένους των frontier AI labs, βλέπει κανείς μια εταιρική κουλτούρα να μεταμορφώνεται σταδιακά σ’ έναν ιδιάζοντα μεσσιανισμό, ο οποίος, σύμφωνα με τη Χάο, παρουσιάζει χαρακτηριστικά θρησκευτικής αίρεσης. Μέσα από πολυετείς συνεντεύξεις με μέλη της OpenAI, η Χάο υποστηρίζει ότι έννοιες που ξεκίνησαν ως αφηρημένα οράματα ή ως στρατηγικές μάρκετινγκ κατέληξαν, διά μιας πασκαλικής επανάληψης («αν γονατίσεις και προσευχηθείς, θα πιστέψεις»), να υιοθετούνται από τους ίδιους τους εργαζομένους του κλάδου. Συγκεκριμένα, η αμφίβολη έννοια της AGI (Artificial General Intelligence), μιας ανθρώπινης ή υπερανθρώπινης, «γενικής» τεχνητής νοημοσύνης η οποία θ’ αναπτυχθεί μέσα απ’ το σώμα του σύγχρονου ΑΙ, γέννησε δύο παράλληλα στρατόπεδα, τους προαναφερθέντες boomers και doomers που θεωρούν ότι η AGI θα μας σώσει ή θα μας καταστρέψει.
Η έρευνα της Χάο δείχνει ότι, μετά από κάποια χρόνια εργασίας στον κλάδο, ακόμα και όσοι έβρισκαν την ιδέα της AGI ανόητη κατέληξαν να πιστεύουν σε αυτή. Ως εκ τούτου, οι προειδοποιήσεις από εργαζομένους της Silicon Valley για την επικείμενη ΑΙ Αποκάλυψη μπορούν να ιδωθούν ως μια μορφή συλλογικής φαντασίωσης, κατά την οποία το κάθε μέλος ενισχύει τις προκαταλήψεις του άλλου και, σιγά σιγά, όλοι μαζί πιστεύουν τα ίδια τους τα όνειρα – ακόμα κι αν οι προειδοποιήσεις των CEO συνιστούν πιο υπολογισμένες κινήσεις.⁴
Αν, τέλος, δούμε τα καταστροφολογικά σενάρια ως οικονομικά παιχνίδια, πολιτική στρατηγική ή θρησκευτική αυταπάτη και όχι ως πραγματικές απειλές για την επιβίωση της ανθρωπότητας, αυτό δεν θα έπρεπε ούτε στιγμή να μας οδηγήσει στον εφησυχασμό και την παραίτηση απ’ την αντίσταση στο ΑΙ. Υπάρχουν σημαντικοί, απτοί κίνδυνοι που συνδέονται με την τεχνολογία, οι οποίοι δεν αφορούν κάποιο αφηρημένο μέλλον αλλά το ζωντανό παρόν μας. Η εξάντληση φυσικών πόρων, η «βελτιστοποίηση» τεχνολογιών πολέμου και αστυνόμευσης, η ανάπτυξη νέων μορφών ελέγχου, η υφαρπαγή της δημιουργικής εργασίας, η αποχαύνωση και η εξάρτηση των ανθρώπων από τα ψηφιακά εργαλεία συντελούνται γύρω μας καθημερινά. Η καταστροφολογική κριτική στην τεχνητή νοημοσύνη κρύβει τους υπαρκτούς κινδύνους της, προωθώντας τα οικονομικά συμφέροντα ή, έστω, τα ψυχολογικά συμπλέγματα των εταιρειών.
[1] Μέσα σε πέντε μέρες (8 με 12 Σεπτεμβρίου), ο Τζέικομπ Κόξον παραιτήθηκε κι έδωσε viral συνεντεύξεις, ο Χιούμπινγκερ της Anthropic δήλωσε ότι υπάρχει μια πιθανότητα 10% το ΑΙ να μας αφανίσει, ο Λεχέιν της OpenAI ζήτησε νομοθεσία που επιβραδύνει την ΤΝ, ο Ομπάμα ενθάρρυνε τον Τζέφρις των Δημοκρατικών να προετοιμάσει αυτήν τη νομοθεσία, εβδομήντα βουλευτές του Ηνωμένου Βασιλείου εξέφρασαν την ανησυχία τους σ’ ένα ανοιχτό γράμμα στον πρωθυπουργό και, εν τέλει, ο Αμοντέι τάχθηκε σαφώς υπέρ της επιβράδυνσης, ενώ οι Μασκ, Άλτμαν και Χασάμπης συμφώνησαν μαζί του εντός ωρών.
[2] Karen Hao. 2025. Empire of AI. Penguin, σ. 234.
[3] Νικόλας Σεβαστάκης. 22/09/2026. Προφητεύοντας «πως χάνουμε τον έλεγχο». https://tinyurl.com/mrtct8mm
[4] Karen Hao, ό.π., σσ. 77, 232-233, 265.
Το άρθρο δημοσιεύθηκε στην έντυπη LiFO.