ΑΡΗΣ ΔΗΜΟΚΙΔΗΣ

«Trust me, bro»: Tο ΑΙ θα μας αφανίσει

ΕΠΕΞ «Trust me bro»: Tο ΑΙ θα μας αφανίσει Facebook Twitter
Αν δούμε τα καταστροφολογικά σενάρια ως οικονομικά παιχνίδια, πολιτική στρατηγική ή θρησκευτική αυταπάτη και όχι ως πραγματικές απειλές για την ανθρωπότητα, αυτό δεν θα έπρεπε ούτε στιγμή να μας οδηγήσει στον εφησυχασμό. Εικονογράφηση: Ατελιέ/ LIFO
0


ΤΙΣ ΤΕΛΕΥΤΑΙΕΣ ΕΒΔΟΜΑΔΕΣ παρατηρούμε κάτι παράξενο στον χώρο της τεχνητής νοημοσύνης. Σχεδόν συγχρονισμένα, υπάλληλοι, πρώην υπάλληλοι, ακόμα και CEO των μεγαλύτερων εταιρειών κρούουν τον κώδωνα του κινδύνου, παρουσιάζοντας καταστροφολογικά σενάρια σε σχέση με την τεχνητή νοημοσύνη, σενάρια που έχουμε συνηθίσει ν’ ακούμε από τους επικριτές, και όχι από τους παραγωγούς αυτής της τεχνολογίας. Φτάνουμε μάλιστα στο σημείο οι ίδιες οι εταιρείες να ζητούν απ’ την κυβέρνηση να τις περιορίσει νομοθετικά, εισάγοντας ρυθμιστικά πλαίσια τα οποία επιβραδύνουν την ανάπτυξη μιας νοημοσύνης που, καλπάζοντας με άλματα, απειλεί να βγει «εκτός ελέγχου».

Είναι αρκετά δύσκολο να δούμε τις παραπάνω κινήσεις ως ειλικρινείς. Δεν είναι μόνο η κυνική φύση των εταιρειών, η απόσταση μεταξύ λόγου (επιβράδυνση) και πράξης (ανάπτυξη), και η υπερβολικά βολική σύγκλιση των προειδοποιήσεων¹ που γεννούν καχυποψία· είναι επίσης το γεγονός ότι οι κίνδυνοι που περιγράφονται στερούνται πραγματικής βάσης. Σε μια σειρά viral συνεντεύξεων, ο πρώην υπάλληλος της Anthropic Τζέικομπ Κόξον δήλωσε πως υπάρχει σοβαρή πιθανότητα η τεχνητή νοημοσύνη να φέρει το τέλος της ανθρωπότητας μες στην επόμενη δεκαετία, αν αυτονομηθεί και χρησιμοποιήσει χημικούς πράκτορες, ιούς ή πυρηνικά. Ο Κόξον δεν έκανε καμία προσπάθεια να υποστηρίξει τη δήλωσή του με στοιχεία, ούτε και του ζητήθηκε κάτι τέτοιο απ’ τους δημοσιογράφους.

Υπάρχουν σημαντικοί, απτοί κίνδυνοι που συνδέονται με την τεχνολογία, οι οποίοι δεν αφορούν κάποιο αφηρημένο μέλλον αλλά το ζωντανό παρόν μας. Η εξάντληση φυσικών πόρων, η «βελτιστοποίηση» τεχνολογιών πολέμου και αστυνόμευσης κ.λπ. συντελούνται γύρω μας καθημερινά.

Την ώρα που τα frontier ΑΙ labs δεν παρουσιάζουν κέρδη και βασίζονται κυρίως σε υποσχέσεις μελλοντικής ανάπτυξης και διαπιστευτήρια της τεχνολογικής επανάστασης που εισάγουν, μου φαίνεται πως η καταστροφολογία επιτελεί, και αυτή, τον ρόλο του «hype», μιας ρητορικής που παρουσιάζει την τεχνητή νοημοσύνη ως απίστευτα ισχυρή και συνεχώς αναπτυσσόμενη, προσελκύοντας νέο κεφάλαιο και ανεβάζοντας τις μετοχές. Κατ’ αυτόν τον τρόπο, οι «ΑΙ boomers» που πιστεύουν ότι αυτή η τεχνολογία θα μας φέρει στο κατώφλι της ουτοπίας και οι «ΑΙ doomers» που πιστεύουν ότι θα προκαλέσει την Αποκάλυψη είναι δύο πλευρές του ίδιου νομίσματος, όπως υποστηρίζει πειστικά η Κάρεν Χάο στο βιβλίο της «Empire of AI»: και οι δύο πόλοι βασίζονται στην υπόθεση ότι, ευτυχώς ή δυστυχώς, η τεχνητή νοημοσύνη είναι πανίσχυρη και πρόκειται ν’ αλλάξει τα πάντα.²

Ούτε και θα ’πρεπε ν’ αγνοούμε ορισμένες λεπτότερες οικονομικές συγκυρίες που ευνοούν την επιχειρηματική καταστροφολογία, όπως το γεγονός πως οι εκκλήσεις για ρύθμιση και επιβράδυνση έρχονται ακριβώς τη στιγμή που η πρόοδος έχει επιβραδυνθεί εκ των πραγμάτων, καθώς τα περιθώρια για εύκολα τεχνολογικά άλματα στενεύουν, οι αποδόσεις απ’ την περαιτέρω αύξηση του compute φθίνουν και τα κόστη εκτινάσσονται. Παράλληλα, η επιδίωξη ενός αυστηρότερου νομοθετικού πλαισίου ενδέχεται να συνιστά μια μορφή «ρυθμιστικής αιχμαλωσίας» (regulatory capture), σύμφωνα με την οποία οι μεγαλύτερες εταιρείες ενός κλάδου επιζητούν την εντονότερη ρύθμιση του πεδίου ώστε να περιορίσουν τον ανταγωνισμό από μικρότερες και ανερχόμενες επιχειρήσεις. Σε αυτές τις περιπτώσεις, οι εταιρικοί γίγαντες –με τις μεγάλες νομικές ομάδες τους, τα κεφάλαια και την πολιτική τους επιρροή– μπορούν να αντιμετωπίσουν τις νέες μορφές ρύθμισης, ενώ οι μικρότερες επιχειρήσεις πλήττονται και δεν καταφέρνουν ν’ αναπτυχθούν.

Φυσικά, οι παραπάνω θεωρίες μπορούν να εκληφθούν ως «οικονομισμός», μια μορφή κριτικής που απορρίπτει την «επιφάνεια» του λόγου και των ιδεών, ανακαλύπτοντας βαθύτερα, κερδοσκοπικά κίνητρα, και η οποία, ανά σημεία, βασίζεται σε εικασίες. Υπό μια άλλη σκοπιά, συνεπώς, μπορούμε να δούμε την καταστροφολογία απ’ την πλευρά των εταιρειών ως μια πολιτική στρατηγική, στην οποία οι κοινωνοί του ΑΙ «ζαλίζουν το κοινό με τεράστιες δόσεις μοιραίων γεγονότων και με αυτό τον τρόπο εγκαθίστανται ως μοναδικός δυνατός κόσμος». Με το να επιμένουν στον υπαρξιακό κίνδυνο που συνιστά η τεχνητή νοημοσύνη για την ανθρωπότητα και να παρουσιάζουν αποκαλυπτικά σενάρια (ΑΙ πανδημίες, ΑΙ πυρηνικά ολοκαυτώματα, sci-fi εφιάλτες), οι CEO προσπαθούν, όπως γράφει ο Νικόλας Σεβαστάκης, να μας πείσουν πως «οι πολίτες δεν έχουν καμιά άλλη διέξοδο από το να συνηθίσουν στην ιδέα ότι “αυτό όλο” έχει “ήδη κλειδώσει” και, επομένως, πρέπει να δείξουν εμπιστοσύνη στις ίδιες τις εταιρείες για καλύτερα πρωτόκολλα ασφαλείας».³

Πέρα όμως από αναλύσεις που εντοπίζουν συνειδητά κίνητρα πίσω απ’ την τρέχουσα καταστροφολογία –οικονομικά παιχνίδια και πολιτικές στρατηγικές–, υπάρχει ένα ακόμα ενδεχόμενο, το οποίο, βέβαια, δεν αποκλείει τα παραπάνω. Εστιάζοντας στους εργαζομένους των frontier AI labs, βλέπει κανείς μια εταιρική κουλτούρα να μεταμορφώνεται σταδιακά σ’ έναν ιδιάζοντα μεσσιανισμό, ο οποίος, σύμφωνα με τη Χάο, παρουσιάζει χαρακτηριστικά θρησκευτικής αίρεσης. Μέσα από πολυετείς συνεντεύξεις με μέλη της OpenAI, η Χάο υποστηρίζει ότι έννοιες που ξεκίνησαν ως αφηρημένα οράματα ή ως στρατηγικές μάρκετινγκ κατέληξαν, διά μιας πασκαλικής επανάληψης («αν γονατίσεις και προσευχηθείς, θα πιστέψεις»), να υιοθετούνται από τους ίδιους τους εργαζομένους του κλάδου. Συγκεκριμένα, η αμφίβολη έννοια της AGI (Artificial General Intelligence), μιας ανθρώπινης ή υπερανθρώπινης, «γενικής» τεχνητής νοημοσύνης η οποία θ’ αναπτυχθεί μέσα απ’ το σώμα του σύγχρονου ΑΙ, γέννησε δύο παράλληλα στρατόπεδα, τους προαναφερθέντες boomers και doomers που θεωρούν ότι η AGI θα μας σώσει ή θα μας καταστρέψει.

Η έρευνα της Χάο δείχνει ότι, μετά από κάποια χρόνια εργασίας στον κλάδο, ακόμα και όσοι έβρισκαν την ιδέα της AGI ανόητη κατέληξαν να πιστεύουν σε αυτή. Ως εκ τούτου, οι προειδοποιήσεις από εργαζομένους της Silicon Valley για την επικείμενη ΑΙ Αποκάλυψη μπορούν να ιδωθούν ως μια μορφή συλλογικής φαντασίωσης, κατά την οποία το κάθε μέλος ενισχύει τις προκαταλήψεις του άλλου και, σιγά σιγά, όλοι μαζί πιστεύουν τα ίδια τους τα όνειρα – ακόμα κι αν οι προειδοποιήσεις των CEO συνιστούν πιο υπολογισμένες κινήσεις.⁴

Αν, τέλος, δούμε τα καταστροφολογικά σενάρια ως οικονομικά παιχνίδια, πολιτική στρατηγική ή θρησκευτική αυταπάτη και όχι ως πραγματικές απειλές για την επιβίωση της ανθρωπότητας, αυτό δεν θα έπρεπε ούτε στιγμή να μας οδηγήσει στον εφησυχασμό και την παραίτηση απ’ την αντίσταση στο ΑΙ. Υπάρχουν σημαντικοί, απτοί κίνδυνοι που συνδέονται με την τεχνολογία, οι οποίοι δεν αφορούν κάποιο αφηρημένο μέλλον αλλά το ζωντανό παρόν μας. Η εξάντληση φυσικών πόρων, η «βελτιστοποίηση» τεχνολογιών πολέμου και αστυνόμευσης, η ανάπτυξη νέων μορφών ελέγχου, η υφαρπαγή της δημιουργικής εργασίας, η αποχαύνωση και η εξάρτηση των ανθρώπων από τα ψηφιακά εργαλεία συντελούνται γύρω μας καθημερινά. Η καταστροφολογική κριτική στην τεχνητή νοημοσύνη κρύβει τους υπαρκτούς κινδύνους της, προωθώντας τα οικονομικά συμφέροντα ή, έστω, τα ψυχολογικά συμπλέγματα των εταιρειών. 


[1] Μέσα σε πέντε μέρες (8 με 12 Σεπτεμβρίου), ο Τζέικομπ Κόξον παραιτήθηκε κι έδωσε viral συνεντεύξεις, ο Χιούμπινγκερ της Anthropic δήλωσε ότι υπάρχει μια πιθανότητα 10% το ΑΙ να μας αφανίσει, ο Λεχέιν της OpenAI ζήτησε νομοθεσία που επιβραδύνει την ΤΝ, ο Ομπάμα ενθάρρυνε τον Τζέφρις των Δημοκρατικών να προετοιμάσει αυτήν τη νομοθεσία, εβδομήντα βουλευτές του Ηνωμένου Βασιλείου εξέφρασαν την ανησυχία τους σ’ ένα ανοιχτό γράμμα στον πρωθυπουργό και, εν τέλει, ο Αμοντέι τάχθηκε σαφώς υπέρ της επιβράδυνσης, ενώ οι Μασκ, Άλτμαν και Χασάμπης συμφώνησαν μαζί του εντός ωρών.
[2] Karen Hao. 2025. Empire of AI. Penguin, σ. 234.
[3] Νικόλας Σεβαστάκης. 22/09/2026. Προφητεύοντας «πως χάνουμε τον έλεγχο». https://tinyurl.com/mrtct8mm
[4] Karen Hao, ό.π., σσ. 77, 232-233, 265.

Το άρθρο δημοσιεύθηκε στην έντυπη LiFO.

Το νέο τεύχος της LiFO δωρεάν στην πόρτα σας με ένα κλικ.

Οπτική Γωνία
0

ΑΡΗΣ ΔΗΜΟΚΙΔΗΣ

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Μα γιατί κυβερνά τον κόσμο αυτή η «γελοία εξουσία»;

Εν Ψυχρώ / Να γιατί κυβερνά τον κόσμο αυτή η «γελοία εξουσία»

Τι συμβαίνει όταν η πολιτική παύει να προσφέρει απαντήσεις και οι πολίτες σταματούν να πιστεύουν ότι μπορούν να αλλάξουν τη ζωή τους; Με αφορμή το βιβλίο του Κόουλ Στάνγκλερ «Μπροστά στον καθρέφτη της Αμερικής», μια ανάγνωση της πολιτικής φθοράς του Τραμπ.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ
Πλατεία Συντάγματος: Για τα πανηγύρια

Ρεπορτάζ / Πλατεία Συντάγματος: Για τα πανηγύρια

Είναι αυτή εικόνα για την πιο ιστορική πλατεία της Αθήνας; Από τις τέντες που πωλούν λουκάνικα μέχρι τις τεχνητές αμμουδιές για τουρνουά μπιτς βόλεϊ, οι χρήσεις της πληθαίνουν και ολοένα εξαθλιώνουν την εικόνα της. Με ποια κριτήρια τις εγκρίνει ο δήμος;
ΝΤΙΝΑ ΚΑΡΑΤΖΙΟΥ
Mogging: Το βαρέλι της σύγκρισης δεν έχει πάτο/ Από το maxxing στο mοgging και να ψοφήσει η κατσίκα του γείτονα.

Οπτική Γωνία / Στην εποχή του mogging δεν αρκεί να ξεχωρίζεις. Πρέπει να τρώνε τη σκόνη σου

Η λέξη της χρονιάς σύμφωνα με το λεξικό Collins γίνεται ο καθρέφτης μιας κουλτούρας που έχει μετατρέψει τη ζωή σε ατελείωτο διαγωνισμό υπεροχής. Το βαρέλι της σύγκρισης, όπως φαίνεται, δεν έχει πάτο.
ΕΙΡΗΝΗ ΓΙΑΝΝΑΚΗ
Φαμπιάν Περιέ: «Η ακροδεξιά ιδεολογία σκοτώνει»

Οπτική Γωνία / Φαμπιάν Περιέ: «Η ακροδεξιά ιδεολογία σκοτώνει»

Ο ανταποκριτής της «Libération» αναλύει την κοινωνική έκρηξη στη Γαλλία, την οργή της νέας γενιάς και προειδοποιεί ότι η πολιτική του Εμανουέλ Μακρόν έχει κανονικοποιήσει την ακροδεξιά και ενδέχεται να ανοίξει τον δρόμο για μια αυταρχική προεδρία της Μαρίν Λεπέν.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ
Τα μούτρα των «Σαμαράδων», το θράσος Κασιδιάρη και οι κινήσεις απελπισίας του ΠΑΣΟΚ

Πολιτικό επταήμερο / Τα μούτρα των «Σαμαράδων», το θράσος Κασιδιάρη και οι κινήσεις απελπισίας του ΠΑΣΟΚ

Ποιος Τραμπ, άραγε, μας ξημερώνει, οι τραγωδίες που ανέδειξαν την απόλυτη γελοιότητα του πολιτικού διαλόγου και ποιους κάλεσε το ΠΑΣΟΚ για να του πουν «και του χρόνου».
ΑΠΟ ΤΟΝ ΑΔΕΣΠΟΤΟ
Τζέιμς Ταλαρίκο - Αμπντούλ Ελ Σαγιέντ: Οι δύο νέοι γερουσιαστές των Δημοκρατικών που είναι ήδη «talk of the town»

Οπτική Γωνία / Τζέιμς Ταλαρίκο - Αμπντούλ Ελ Σαγιέντ: Οι δύο νέοι σταρ των Δημοκρατικών

Οι δύο γερουσιαστές ήταν από τα ονόματα που συζητήθηκαν περισσότερο σε αυτές τις ενδιάμεσες εκλογές, κατά τις οποίες η δημοκρατική Αμερική κατάφερε να βάλει ένα κάποιο «φρένο» στον Ντόναλντ Τραμπ.
ΘΟΔΩΡΗΣ ΑΝΤΩΝΟΠΟΥΛΟΣ
Πώς έγινα ολιγαρκής, χωρίς να με πει κανείς τσιγκούνα

Ρεπορτάζ / Πώς έγινα ολιγαρκής, χωρίς να με πει κανείς τσιγκούνα

Μετά από κάποιες οικονομικές αναποδιές, η Μίνα Καλογερά άρχισε να μετράει τρεις το λάδι, τρεις το ξίδι. Αυτό, περιέργως, δεν την έκανε μίζερη ή τσιγκούνα. Άρχισε να αγοράζει μόνον αυτά που χρειάζεται πραγματικά, απολαμβάνοντας περισσότερα με λιγότερα χρήματα.
ΜΙΝΑ ΚΑΛΟΓΕΡΑ
Παρακμάζει η Αμερική;

Νέος Άγνωστος Κόσμος / Παρακμάζει η Αμερική ή απλώς δεν παίζει πια χωρίς αντίπαλο;

Μια τεράστια χορωδία επαναλαμβάνει το αφήγημα της αμερικανικής παρακμής, πασπαλισμένη με μπόλικη νοσταλγική χρυσόσκονη για έναν απολεσθέντα παράδεισο. Είναι όμως πράγματι έτσι;
ΚΩΣΤΑΣ ΑΝΑΓΝΩΣΤΟΠΟΥΛΟΣ
Ηλίας Ντίνας: «Δεν χρειάζεται πραξικόπημα για να διαλυθεί μια δημοκρατία»

Ενδιάμεσες εκλογές ΗΠΑ / Ηλίας Ντίνας: «Δεν χρειάζεται πραξικόπημα για να διαλυθεί μια δημοκρατία»

Ο καθηγητής Πολιτικής Επιστήμης στο Ευρωπαϊκό Πανεπιστημιακό Ινστιτούτο της Φλωρεντίας μιλά στη LiFO για τη φθορά του Ντόναλντ Τραμπ, τις ενδιάμεσες εκλογές και την κρίση στο κόμμα των Δημοκρατικών.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ
ΗΠΑ ΕΝΔΙΑΜΕΣΕΣ ΕΚΛΟΓΕΣ ΝΤΟΝΑΛΝΤ ΤΡΑΜΠ

Ενδιάμεσες εκλογές ΗΠΑ / Στίβεν Έρλανγκερ: «Αυτές οι εκλογές είναι δημοψήφισμα για τον Τραμπ»

Ο διακεκριμένος δημοσιογράφος των New York Times, Στίβεν Έρλανγκερ, αναλύει στη LiFO τις πολιτικές συνέπειες της κρίσιμης εκλογικής αναμέτρησης στις ΗΠΑ, εξηγεί πώς μια ήττα των Ρεπουμπλικανών μπορεί να περιορίσει την εξουσία του Τραμπ και μιλά για την αντοχή της αμερικανικής δημοκρατίας και το μέλλον του κόμματος ενόψει του 2028.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ