«Trust me, bro»: Tο ΑΙ θα μας αφανίσει

ΕΠΕΞ «Trust me bro»: Tο ΑΙ θα μας αφανίσει Facebook Twitter
Αν δούμε τα καταστροφολογικά σενάρια ως οικονομικά παιχνίδια, πολιτική στρατηγική ή θρησκευτική αυταπάτη και όχι ως πραγματικές απειλές για την ανθρωπότητα, αυτό δεν θα έπρεπε ούτε στιγμή να μας οδηγήσει στον εφησυχασμό. Εικονογράφηση: Ατελιέ/ LIFO
0


ΤΙΣ ΤΕΛΕΥΤΑΙΕΣ ΕΒΔΟΜΑΔΕΣ παρατηρούμε κάτι παράξενο στον χώρο της τεχνητής νοημοσύνης. Σχεδόν συγχρονισμένα, υπάλληλοι, πρώην υπάλληλοι, ακόμα και CEO των μεγαλύτερων εταιρειών κρούουν τον κώδωνα του κινδύνου, παρουσιάζοντας καταστροφολογικά σενάρια σε σχέση με την τεχνητή νοημοσύνη, σενάρια που έχουμε συνηθίσει ν’ ακούμε από τους επικριτές, και όχι από τους παραγωγούς αυτής της τεχνολογίας. Φτάνουμε μάλιστα στο σημείο οι ίδιες οι εταιρείες να ζητούν απ’ την κυβέρνηση να τις περιορίσει νομοθετικά, εισάγοντας ρυθμιστικά πλαίσια τα οποία επιβραδύνουν την ανάπτυξη μιας νοημοσύνης που, καλπάζοντας με άλματα, απειλεί να βγει «εκτός ελέγχου».

Είναι αρκετά δύσκολο να δούμε τις παραπάνω κινήσεις ως ειλικρινείς. Δεν είναι μόνο η κυνική φύση των εταιρειών, η απόσταση μεταξύ λόγου (επιβράδυνση) και πράξης (ανάπτυξη), και η υπερβολικά βολική σύγκλιση των προειδοποιήσεων¹ που γεννούν καχυποψία· είναι επίσης το γεγονός ότι οι κίνδυνοι που περιγράφονται στερούνται πραγματικής βάσης. Σε μια σειρά viral συνεντεύξεων, ο πρώην υπάλληλος της Anthropic Τζέικομπ Κόξον δήλωσε πως υπάρχει σοβαρή πιθανότητα η τεχνητή νοημοσύνη να φέρει το τέλος της ανθρωπότητας μες στην επόμενη δεκαετία, αν αυτονομηθεί και χρησιμοποιήσει χημικούς πράκτορες, ιούς ή πυρηνικά. Ο Κόξον δεν έκανε καμία προσπάθεια να υποστηρίξει τη δήλωσή του με στοιχεία, ούτε και του ζητήθηκε κάτι τέτοιο απ’ τους δημοσιογράφους.

Υπάρχουν σημαντικοί, απτοί κίνδυνοι που συνδέονται με την τεχνολογία, οι οποίοι δεν αφορούν κάποιο αφηρημένο μέλλον αλλά το ζωντανό παρόν μας. Η εξάντληση φυσικών πόρων, η «βελτιστοποίηση» τεχνολογιών πολέμου και αστυνόμευσης κ.λπ. συντελούνται γύρω μας καθημερινά.

Την ώρα που τα frontier ΑΙ labs δεν παρουσιάζουν κέρδη και βασίζονται κυρίως σε υποσχέσεις μελλοντικής ανάπτυξης και διαπιστευτήρια της τεχνολογικής επανάστασης που εισάγουν, μου φαίνεται πως η καταστροφολογία επιτελεί, και αυτή, τον ρόλο του «hype», μιας ρητορικής που παρουσιάζει την τεχνητή νοημοσύνη ως απίστευτα ισχυρή και συνεχώς αναπτυσσόμενη, προσελκύοντας νέο κεφάλαιο και ανεβάζοντας τις μετοχές. Κατ’ αυτόν τον τρόπο, οι «ΑΙ boomers» που πιστεύουν ότι αυτή η τεχνολογία θα μας φέρει στο κατώφλι της ουτοπίας και οι «ΑΙ doomers» που πιστεύουν ότι θα προκαλέσει την Αποκάλυψη είναι δύο πλευρές του ίδιου νομίσματος, όπως υποστηρίζει πειστικά η Κάρεν Χάο στο βιβλίο της «Empire of AI»: και οι δύο πόλοι βασίζονται στην υπόθεση ότι, ευτυχώς ή δυστυχώς, η τεχνητή νοημοσύνη είναι πανίσχυρη και πρόκειται ν’ αλλάξει τα πάντα.²

Ούτε και θα ’πρεπε ν’ αγνοούμε ορισμένες λεπτότερες οικονομικές συγκυρίες που ευνοούν την επιχειρηματική καταστροφολογία, όπως το γεγονός πως οι εκκλήσεις για ρύθμιση και επιβράδυνση έρχονται ακριβώς τη στιγμή που η πρόοδος έχει επιβραδυνθεί εκ των πραγμάτων, καθώς τα περιθώρια για εύκολα τεχνολογικά άλματα στενεύουν, οι αποδόσεις απ’ την περαιτέρω αύξηση του compute φθίνουν και τα κόστη εκτινάσσονται. Παράλληλα, η επιδίωξη ενός αυστηρότερου νομοθετικού πλαισίου ενδέχεται να συνιστά μια μορφή «ρυθμιστικής αιχμαλωσίας» (regulatory capture), σύμφωνα με την οποία οι μεγαλύτερες εταιρείες ενός κλάδου επιζητούν την εντονότερη ρύθμιση του πεδίου ώστε να περιορίσουν τον ανταγωνισμό από μικρότερες και ανερχόμενες επιχειρήσεις. Σε αυτές τις περιπτώσεις, οι εταιρικοί γίγαντες –με τις μεγάλες νομικές ομάδες τους, τα κεφάλαια και την πολιτική τους επιρροή– μπορούν να αντιμετωπίσουν τις νέες μορφές ρύθμισης, ενώ οι μικρότερες επιχειρήσεις πλήττονται και δεν καταφέρνουν ν’ αναπτυχθούν.

Φυσικά, οι παραπάνω θεωρίες μπορούν να εκληφθούν ως «οικονομισμός», μια μορφή κριτικής που απορρίπτει την «επιφάνεια» του λόγου και των ιδεών, ανακαλύπτοντας βαθύτερα, κερδοσκοπικά κίνητρα, και η οποία, ανά σημεία, βασίζεται σε εικασίες. Υπό μια άλλη σκοπιά, συνεπώς, μπορούμε να δούμε την καταστροφολογία απ’ την πλευρά των εταιρειών ως μια πολιτική στρατηγική, στην οποία οι κοινωνοί του ΑΙ «ζαλίζουν το κοινό με τεράστιες δόσεις μοιραίων γεγονότων και με αυτό τον τρόπο εγκαθίστανται ως μοναδικός δυνατός κόσμος». Με το να επιμένουν στον υπαρξιακό κίνδυνο που συνιστά η τεχνητή νοημοσύνη για την ανθρωπότητα και να παρουσιάζουν αποκαλυπτικά σενάρια (ΑΙ πανδημίες, ΑΙ πυρηνικά ολοκαυτώματα, sci-fi εφιάλτες), οι CEO προσπαθούν, όπως γράφει ο Νικόλας Σεβαστάκης, να μας πείσουν πως «οι πολίτες δεν έχουν καμιά άλλη διέξοδο από το να συνηθίσουν στην ιδέα ότι “αυτό όλο” έχει “ήδη κλειδώσει” και, επομένως, πρέπει να δείξουν εμπιστοσύνη στις ίδιες τις εταιρείες για καλύτερα πρωτόκολλα ασφαλείας».³

Πέρα όμως από αναλύσεις που εντοπίζουν συνειδητά κίνητρα πίσω απ’ την τρέχουσα καταστροφολογία –οικονομικά παιχνίδια και πολιτικές στρατηγικές–, υπάρχει ένα ακόμα ενδεχόμενο, το οποίο, βέβαια, δεν αποκλείει τα παραπάνω. Εστιάζοντας στους εργαζομένους των frontier AI labs, βλέπει κανείς μια εταιρική κουλτούρα να μεταμορφώνεται σταδιακά σ’ έναν ιδιάζοντα μεσσιανισμό, ο οποίος, σύμφωνα με τη Χάο, παρουσιάζει χαρακτηριστικά θρησκευτικής αίρεσης. Μέσα από πολυετείς συνεντεύξεις με μέλη της OpenAI, η Χάο υποστηρίζει ότι έννοιες που ξεκίνησαν ως αφηρημένα οράματα ή ως στρατηγικές μάρκετινγκ κατέληξαν, διά μιας πασκαλικής επανάληψης («αν γονατίσεις και προσευχηθείς, θα πιστέψεις»), να υιοθετούνται από τους ίδιους τους εργαζομένους του κλάδου. Συγκεκριμένα, η αμφίβολη έννοια της AGI (Artificial General Intelligence), μιας ανθρώπινης ή υπερανθρώπινης, «γενικής» τεχνητής νοημοσύνης η οποία θ’ αναπτυχθεί μέσα απ’ το σώμα του σύγχρονου ΑΙ, γέννησε δύο παράλληλα στρατόπεδα, τους προαναφερθέντες boomers και doomers που θεωρούν ότι η AGI θα μας σώσει ή θα μας καταστρέψει.

Η έρευνα της Χάο δείχνει ότι, μετά από κάποια χρόνια εργασίας στον κλάδο, ακόμα και όσοι έβρισκαν την ιδέα της AGI ανόητη κατέληξαν να πιστεύουν σε αυτή. Ως εκ τούτου, οι προειδοποιήσεις από εργαζομένους της Silicon Valley για την επικείμενη ΑΙ Αποκάλυψη μπορούν να ιδωθούν ως μια μορφή συλλογικής φαντασίωσης, κατά την οποία το κάθε μέλος ενισχύει τις προκαταλήψεις του άλλου και, σιγά σιγά, όλοι μαζί πιστεύουν τα ίδια τους τα όνειρα – ακόμα κι αν οι προειδοποιήσεις των CEO συνιστούν πιο υπολογισμένες κινήσεις.⁴

Αν, τέλος, δούμε τα καταστροφολογικά σενάρια ως οικονομικά παιχνίδια, πολιτική στρατηγική ή θρησκευτική αυταπάτη και όχι ως πραγματικές απειλές για την επιβίωση της ανθρωπότητας, αυτό δεν θα έπρεπε ούτε στιγμή να μας οδηγήσει στον εφησυχασμό και την παραίτηση απ’ την αντίσταση στο ΑΙ. Υπάρχουν σημαντικοί, απτοί κίνδυνοι που συνδέονται με την τεχνολογία, οι οποίοι δεν αφορούν κάποιο αφηρημένο μέλλον αλλά το ζωντανό παρόν μας. Η εξάντληση φυσικών πόρων, η «βελτιστοποίηση» τεχνολογιών πολέμου και αστυνόμευσης, η ανάπτυξη νέων μορφών ελέγχου, η υφαρπαγή της δημιουργικής εργασίας, η αποχαύνωση και η εξάρτηση των ανθρώπων από τα ψηφιακά εργαλεία συντελούνται γύρω μας καθημερινά. Η καταστροφολογική κριτική στην τεχνητή νοημοσύνη κρύβει τους υπαρκτούς κινδύνους της, προωθώντας τα οικονομικά συμφέροντα ή, έστω, τα ψυχολογικά συμπλέγματα των εταιρειών. 


[1] Μέσα σε πέντε μέρες (8 με 12 Σεπτεμβρίου), ο Τζέικομπ Κόξον παραιτήθηκε κι έδωσε viral συνεντεύξεις, ο Χιούμπινγκερ της Anthropic δήλωσε ότι υπάρχει μια πιθανότητα 10% το ΑΙ να μας αφανίσει, ο Λεχέιν της OpenAI ζήτησε νομοθεσία που επιβραδύνει την ΤΝ, ο Ομπάμα ενθάρρυνε τον Τζέφρις των Δημοκρατικών να προετοιμάσει αυτήν τη νομοθεσία, εβδομήντα βουλευτές του Ηνωμένου Βασιλείου εξέφρασαν την ανησυχία τους σ’ ένα ανοιχτό γράμμα στον πρωθυπουργό και, εν τέλει, ο Αμοντέι τάχθηκε σαφώς υπέρ της επιβράδυνσης, ενώ οι Μασκ, Άλτμαν και Χασάμπης συμφώνησαν μαζί του εντός ωρών.
[2] Karen Hao. 2025. Empire of AI. Penguin, σ. 234.
[3] Νικόλας Σεβαστάκης. 22/09/2026. Προφητεύοντας «πως χάνουμε τον έλεγχο». https://tinyurl.com/mrtct8mm
[4] Karen Hao, ό.π., σσ. 77, 232-233, 265.

Το άρθρο δημοσιεύθηκε στην έντυπη LiFO.

Το νέο τεύχος της LiFO δωρεάν στην πόρτα σας με ένα κλικ.

Οπτική Γωνία
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Βαδίζουμε προς μια νέα Γιάλτα;

Νέος Άγνωστος Κόσμος / Βαδίζουμε προς μια νέα Γιάλτα;

Η εικόνα λίγων πανίσχυρων χωρών που ανταλλάσσουν σημειώματα με τα ποσοστά κυριαρχίας τους σε αδύναμες χώρες είναι πασίδηλα προσβλητική, καθώς ο κυνισμός τέτοιων διαπραγματεύσεων αγνοεί επιδεικτικά τις επιθυμίες των λαών.
ΚΩΣΤΑΣ ΑΝΑΓΝΩΣΤΟΠΟΥΛΟΣ
Ένας τραυματίας του Πολυτεχνείου και ο θησαυρός μιας εμπειρίας

Οπτική Γωνία / Ένας «άγνωστος» τραυματίας του Πολυτεχνείου και το θάρρος μιας γενιάς

Ο 24χρονος σκηνοθέτης Δημήτρης Δημογεροντάκης που συμμετείχε στα γεγονότα του Πολυτεχνείου τραυματίστηκε από τρεις σφαίρες, αλλά επέζησε. Η ιστορία του σηματοδοτεί τη συλλογική εμπειρία μιας γενιάς που δεν φοβήθηκε να αναμετρηθεί με κάτι μεγαλύτερο.
ΝΙΚΟΛΑΣ ΣΕΒΑΣΤΑΚΗΣ
Όσα ψαρεύει ένας παράκτιος ψαράς σε ένα χρόνο, η τράτα τα κάνει σε μία μέρα»

Ρεπορτάζ / «Η μηχανότρατα σαρώνει σε μία μέρα όσα ένα παράκτιο σκάφος σε ένα χρόνο»

Η παράκτια αλιεία χάνει την ψαριά της, την ώρα που μηχανότρατες από τα μεγάλα λιμάνια της χώρας φτάνουν μέχρι τους ψαρότοπους των μικρών νησιών. Η LiFO παρουσιάζει χάρτες που αποτυπώνουν τις διαδρομές τους και την αλιευτική τους δραστηριότητα στα νερά από τα οποία ζουν οι ντόπιοι ψαράδες.
ΝΤΙΝΑ ΚΑΡΑΤΖΙΟΥ
Πού πάνε η Αθηναίοι όταν τους διώχνουν από το κέντρο;

Ρεπορτάζ / Πού πάνε οι Αθηναίοι όταν τους διώχνουν από το κέντρο;

Τα ακριβά ενοίκια αναγκάζουν πολλά νοικοκυριά να αναζητήσουν σπίτι σε φθηνότερες περιοχές της Αττικής: μια ακόμη κοινωνική διάσταση της στεγαστικής κρίσης. Υπάρχει πραγματική διέξοδος ή η αναζήτηση αποδεικνύεται τζάμπα κόπος;
ΝΤΙΝΑ ΚΑΡΑΤΖΙΟΥ
Fuck Trump και χτυπήματα κάτω από τη μέση: Μήπως οι Δημοκρατικοί ήξεραν κάτι παραπάνω;

Ιλεκτρίσιτυ / Fuck Trump και χτυπήματα κάτω από τη μέση: Μήπως οι Δημοκρατικοί ήξεραν κάτι παραπάνω;

Αν κάτι δείχνει η επικοινωνιακή επιτυχία των δημοκρατικών στις ενδιάμεσες εκλογές στις ΗΠΑ –και ειδικά μιας νέας γενιάς πολιτικών– είναι ότι η έξυπνη και στοχευμένη επιθετικότητα μπορεί και να κερδίσει τη μάχη.
ΧΑΡΗΣ ΚΑΛΑΪΤΖΙΔΗΣ
6 ερωτήσεις στην κορυφαία ακτιβίστρια του φοιτητικού κινήματος στην Αλβανία

Οπτική Γωνία / 6 ερωτήσεις στην κορυφαία ακτιβίστρια του φοιτητικού κινήματος στην Αλβανία

Η Samanda Tocka είναι ένα από τα κεντρικά πρόσωπα του φοιτητικού κινήματος στην Αλβανία. Μιλά στη LiFO για τα αιτήματα των φοιτητών και τη μάχη μιας γενιάς «που αρνείται να συμβιβαστεί με ένα μέλλον χωρίς προοπτική»
ΤΗΣ ΝΑΝΤΑ  ΣΑΑΜΠΑΝ
Αν αύριο μείνουμε χωρίς ρεύμα, τρόφιμα και επικοινωνία, τι θα συμβεί;

Οπτική Γωνία / Αν αύριο μείνουμε χωρίς ρεύμα, τρόφιμα και επικοινωνία, τι θα συμβεί;

Μπορεί ένας υβριδικός πόλεμος να αρχίσει από το ψυγείο ενός σούπερ μάρκετ; Πόσο ευάλωτη είναι η Ελλάδα; O δρ. Ευρωπαϊκής Ασφάλειας και Νέων Απειλών, κύριος επιστημονικός συνεργάτης του ΕΛΙΑΜΕΠ, Τριαντάφυλλος Καρατράντος, εξηγεί.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ
Δύσκολες μέρες για το εβραϊκό λόμπι στις ΗΠΑ

Νέος Άγνωστος Κόσμος / Δύσκολες μέρες για το εβραϊκό λόμπι στις ΗΠΑ

Μια νέα πραγματικότητα αναδείχθηκε στις αμερικανικές ενδιάμεσες εκλογές: οι αθλιότητες στη Γάζα ενεργοποίησαν την αντίδραση για τα παλαιστινιακά δεινά, τόσο που πλέον οι δωρεές της AIPAC θεωρούνται τοξικές και απορρίπτονται.
ΚΩΣΤΑΣ ΑΝΑΓΝΩΣΤΟΠΟΥΛΟΣ
Έλεος πια με την «εθνικότητα»!

Οπτική Γωνία / «Εθνικότητα;» Μόνο οι ξένοι έχουν καταγωγή. Οι ντόπιοι έχουν ασυλία

Το μεροληπτικό όσο και αποπροσανατολιστικό ερώτημα για την εθνική καταγωγή των φερόμενων ως δραστών ήσσονος, συνήθως, σημασίας αδικημάτων έχει γίνει μόνιμη επωδός σε σχόλια κάτω από σχετικά δημοσιεύματα. Τυχαίο;
ΘΟΔΩΡΗΣ ΑΝΤΩΝΟΠΟΥΛΟΣ