Γιατί φοβόμαστε ότι το AI θα μας καταστρέψει;

AI Facebook Twitter
Oι ανησυχίες για την εξέγερση των ΑΙ αποκαλύπτουν άλλες, βαθύτερες φοβίες. Εικονογράφηση: bianka/LIFO
0

ΟΛΟΙ ΕΧΟΥΜΕ ΑΚΟΥΣΕΙ φοβικούς μονολόγους για την τεχνητή νοημοσύνη, αναλύσεις που υποστηρίζουν ότι η ανάπτυξη του ΑΙ θέτει σε κίνδυνο τον «πολιτισμό», τον «κόσμο» ή την «ανθρωπότητα». Μάλιστα, ενώ οι περισσότεροι μελετητές επαναλαμβάνουν ότι αυτός ο κίνδυνος είναι ανύπαρκτος και μη ρεαλιστικός, οι «αποκαλυπτικές» αναλύσεις γύρω απ’ το ΑΙ αυξάνονται μέρα με την ημέρα.

Ως έναν βαθμό, προέρχονται από ανθρώπους που βγάζουν κέρδος απ’ την τρομολαγνεία, γράφοντας viral άρθρα και best seller βιβλία με δραματικές προβλέψεις που απέχουν πολύ απ’ την πραγματικότητα (ο Γιουβάλ Νόε Χαράρι είναι ένα τρανταχτό παράδειγμα). Ταυτόχρονα, όμως, θεωρώ πως αυτές οι φοβίες προκύπτουν άμεσα από την ποπ κουλτούρα και από το αρχέτυπο της «εξέγερσης των ρομπότ» που εισήγαγε η sci-fi λογοτεχνία και αναπαράγει ακούραστα το Χόλιγουντ.

Από τον Εξολοθρευτή των ’80s μέχρι το Matrix των ’90s και το Εγώ το ρομπότ των ’00s, και από τις ταινίες κατασκοπίας με ανταγωνιστή ένα πανίσχυρο ΑΙ (War Games, Mission Impossible: Dead Reckoning) μέχρι την πρόσφατη φουρνιά ταινιών τρόμου με δολοφονικά συστήματα τεχνητής νοημοσύνης (M3GAN, AfrAId, Y2K), η «εξέγερση των ρομπότ» επιστρέφει ως ένα σταθερό μυθοπλαστικό μοτίβο.

Η δημοφιλής-χολιγουντιανή φαντασίωση που θέλει το ΑΙ να είναι «επικίνδυνο για την ανθρωπότητα» λειτουργεί ως παραπέτασμα, αφού μας κάνει να θέτουμε ανόητες ερωτήσεις («θα μας αφανίσουν τα ρομπότ;») και να αγνοούμε τα πραγματικά προβλήματα που προκαλεί το ΑΙ.
 

Γιατί είναι τόσο δημοφιλείς αυτές οι ιστορίες; Τι κρύβεται πίσω από τον φόβο μας ότι οι μηχανές που κάποτε μας υπηρετούσαν θα εξεγερθούν για να μας αφανίσουν; Για να απαντήσουμε σε αυτές τις ερωτήσεις, ίσως θα πρέπει να ανατρέξουμε στην πρώτη καλλιτεχνική αναπαράσταση της «επανάστασης των μηχανών».

Στο θεατρικό R.U.R. (Rossum’s Universal Robots) του 1920, ο Τσέχος συγγραφέας Karel Čapek ακολουθεί την εξέλιξη ενός εργοστασίου που φτιάχνει ανδροειδή για να στελεχώσει τις γραμμές παραγωγής των βιομηχανιών. Σταδιακά, τα ρομπότ αποκτούν συνείδηση, συνδικαλίζονται και εξεγείρονται, σκοτώνοντας όλους τους ανθρώπους εκτός από αυτούς που, όπως τα ίδια, εργάζονται με τα χέρια τους.

Καθίσταται σαφές ότι η παράσταση αφορά λιγότερο τα «ρομπότ» και περισσότερο την ταξική πάλη και τους φόβους της κοινωνίας ότι οι αλλοτριωμένοι εργάτες –που δουλεύουν με (και σαν) μηχανές– θα αποκτήσουν συνείδηση της κατάστασής τους και θα την αρνηθούν. Οι σχολιαστές του θεατρικού του Čapek δίνουν έμφαση σε αυτό το στοιχείο, εστιάζοντας στην αλλοτρίωση των εργατών/ρομπότ, η οποία αναιρείται μέσα από την εμπειρία του συλλογικού αγώνα.¹

Το ιστορικό πλαίσιο του έργου ευνοεί μια τέτοια ερμηνεία. Το R.U.R. γράφτηκε το 1919, δύο χρόνια μετά τη Ρωσική Επανάσταση και έναν χρόνο ύστερα απ’ την αποτυχημένη εξέγερση των σπαρτακιστών στη Γερμανία, όταν ο «κίνδυνος» των εργατικών ξεσηκωμών συνιστούσε μια βασική πηγή άγχους για τα ευρωπαϊκά κράτη. Την ίδια στιγμή, η λέξη «ρομπότ» –την οποία εφηύρε ο Čapek για το θεατρικό– προέρχεται από την τσέχικη λέξη «robota» που σημαίνει «καταναγκαστική εργασία» και που χρησιμοποιούνταν για να υποδείξει τη δουλειά των δουλοπάροικων στα χωράφια.  

Βλέπουμε, συνεπώς, πως η «εξέγερση των ρομπότ» αποτελεί μια μετάθεση του φόβου της «εξέγερσης των εργατών»∙ και στις δύο περιπτώσεις, πρόκειται για την αίσθηση ότι αυτοί που εργάζονται για την αναπαραγωγή της κοινωνίας (συχνά χωρίς πραγματική ανταμοιβή και υπό κακές συνθήκες) θα στραφούν εναντίον της. Την εποχή του R.U.R., αυτοί οι εργαζόμενοι-ρομπότ είχαν την παραδοσιακή μορφή του βιομηχανικού εργάτη. Σήμερα, στην εποχή του M3GAN, του Ex Machina και του AfrAId, τα ΑΙ αναπαριστούν την affective (και έμφυλα προσδιοριζόμενη) εργασία του τριτογενούς τομέα, παρέχοντας υπηρεσίες ως ρομποτικές νταντάδες, σεξεργάτριες και φροντίστριες.

Φυσικά, ο φόβος μιας εργατικής επανάστασης δεν είναι το μόνο που κρύβεται πίσω απ’ την αρχετυπική ισχύ της «εξέγερσης των ρομπότ». Στον πυρήνα τους, αυτές οι ιστορίες μιμούνται το Φράνκενσταϊν και εκκινούν από το άγχος που εμφανίζεται όταν ο άνθρωπος «παίζει τον Θεό». Σ’ αυτά τα σενάρια, ο άνθρωπος διαπράττει ύβρη, δημιουργώντας ζωή με αφύσικο τρόπο∙ εν συνεχεία, τα δημιουργήματά του τον τιμωρούν και αποκαθιστούν την ισορροπία.

Τα τελευταία χρόνια, αυτή η (κατά βάση θεολογική) ανησυχία έχει μετουσιωθεί σε ένα οικολογικό άγχος που αφορά τις συνέπειες της ανθρώπινης εκμετάλλευσης της φύσης. Βλέπουμε, έτσι, ιστορίες «βιολογικής εκδίκησης» από το περιβάλλον, στις οποίες τα είδη που ο άνθρωπος καθυπόταξε ή δημιούργησε τον τιμωρούν (Splice, Morgan, τα καινούργια Planet of the Apes). Αυτές οι ιστορίες λειτουργούν ως αντικατοπτρισμοί της «εξέγερσης των ρομπότ» στον βαθμό που η βαθύτερη δυναμική τους είναι κοινή: ο φόβος του κυρίαρχου πως θα τιμωρηθεί.

Κατ’ αυτόν τον τρόπο, βλέπουμε ότι οι ανησυχίες για την εξέγερση των ΑΙ αποκαλύπτουν άλλες, βαθύτερες φοβίες. Όπως σημειώνει ο συγγραφέας sci-fi Ken MacLeod, «τα ρομπότ στην επιστημονική φαντασία λειτουργούν ως μεταφορές για τα άγχη μας γύρω από την εργασία, την ταξική πάλη, την ίδια τη συνείδηση. Έχουν πολύ μικρή σχέση με τις πραγματικές μηχανές [του σήμερα]».² Ως εκ τούτου, η δημοφιλής-χολιγουντιανή φαντασίωση που θέλει το ΑΙ να είναι «επικίνδυνο για την ανθρωπότητα» λειτουργεί ως προπέτασμα, αφού μας κάνει να θέτουμε ανόητες ερωτήσεις («θα μας αφανίσουν τα ρομπότ;») και να αγνοούμε τα πραγματικά προβλήματα που προκαλεί το ΑΙ.  

Ποια είναι αυτά τα προβλήματα; Αρχικά, υπάρχει το ζήτημα του ασύμμετρου οικολογικού αποτυπώματος της τεχνητής νοημοσύνης, καθώς τα υπολογιστικά της κέντρα χρησιμοποιούν τεράστιες ποσότητες ενέργειας. Παράλληλα, τα ΑΙ βασίζονται σε νέες μορφές εκμετάλλευσης, αφού τα chatbots «εκπαιδεύονται» από κακοπληρωμένους εργαζόμενους στον παγκόσμιο Νότο για να παρουσιάζουν μόνο «πολιτικά ορθά» αποτελέσματα.

Τέλος, δεν πρέπει να ξεχνάμε τις δουλειές που χάνονται μέσα απ’ την αυτοματοποίηση (υπάλληλοι σε ταμεία/αεροδρόμια/διόδια, οδηγοί φορτηγών∙ εργάτες σε αποθήκες/λιμάνια/εργοστάσια). Όσο οι νέες τεχνολογίες παραμένουν στα χέρια των ιδιωτών, η αυτοματοποίηση δεν θα απελευθερώνει την ανθρωπότητα απ’ τον μόχθο. Απεναντίας, θα οδηγήσει ακόμα μεγαλύτερες πληθυσμιακές ομάδες στην ένδεια και την ανεργία.


[1] John Rieder, «Karel Čapek (1890-1938)», στο Fifty Key Figures in Science Fiction, σ. 47-49.
[2] Ken MacLeod,
«Why are we really afraid of robots?», Big Think, 02:38-3:35.

To άρθρο δημοσιεύθηκε στην έντυπη LiFO.

Το νέο τεύχος της LiFO δωρεάν στην πόρτα σας με ένα κλικ.

Οπτική Γωνία
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Φοβάται ο Αστερίξ την τεχνητή νοημοσύνη;

The Happy Reader / Φοβάται ο Αστερίξ την τεχνητή νοημοσύνη;

Τι είναι το LLM, ποιοι το απεχθάνονται ποιοι το αγαπούν. Η Καμίλα Λάκμπεργκ και τα «υποβοηθούμενα» μυθιστορήματά της. Το αφεντικό της Penguin, ο Ινδός Νιχάρ Μαλαβίγια και τι θέλει ο συγγραφέας Φαμπρίς Καρόλ γράφοντας τη νέα περιπέτεια του ανίκητου Γαλάτη ήρωα. Στα βιβλιοπωλεία και πάλι το βιβλίο «Οι δολοφόνοι του ανθισμένου φεγγαριού», λόγω Σκορσέζε.
ΝΙΚΟΣ ΜΠΑΚΟΥΝΑΚΗΣ
Με ποιους τρόπους ο αλγόριθμος διαβάζει τις σκέψεις μας;

Άκου την επιστήμη / Με ποιους τρόπους ο αλγόριθμος διαβάζει τις σκέψεις μας;

Ζούμε στην εποχή της επιστημονικής φαντασίας; Απειλεί η τεχνητή νοημοσύνη την απασχόληση στο άμεσο μέλλον; Και τι σημαίνει σήμερα να είμαστε άνθρωποι σε μια περίοδο που οι μηχανές κάνουν τόσο πολλά; Η καθηγήτρια στο Τμήμα Μηχανικών Πληροφοριακών και Επικοινωνιακών Συστημάτων του Πανεπιστημίου Αιγαίου, Λίλιαν Μήτρου, εξηγεί στον Γιάννη Πανταζόπουλο.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ

ΔΕΙΤΕ ΑΚΟΜΑ

Η Εύα Ιλούζ, η Γάζα και μια εκδοτική επιλογή

Οπτική Γωνία / Η Εύα Ιλούζ, η Γάζα και μια εκδοτική επιλογή

Σκέψεις πάνω στην απόφαση του Oposito, ενός μικρού εκδοτικού οίκου που έχει δώσει ενδιαφέροντα δείγματα ανήσυχης κοινωνικής και πολιτισμικής σκέψης, για την «αποδέσμευσή» του σε σχέση με το βιβλίο της κοινωνιολόγου Eύα Ιλούζ «Ψυχρή τρυφερότητα. Η άνοδος του συναισθηματικού καπιταλισμού».
ΝΙΚΟΛΑΣ ΣΕΒΑΣΤΑΚΗΣ
Ο διάβολος κρύβεται στις λεπτομέρειες

Ακροβατώντας / Ο διάβολος κρύβεται στις λεπτομέρειες

Ένα εντυπωσιακά μεγάλο κομμάτι της κοινωνίας είναι διατεθειμένο να δώσει «συγχωροχάρτι» για ένα μεγάλο οικονομικό σκάνδαλο, αρκεί οι εμπλεκόμενοι να τηρήσουν ακροδεξιά και ρατσιστική στάση στο μεταναστευτικό.
ΓΙΑΝΝΗΣ ΠΑΝΤΕΛΑΚΗΣ
Πέντε ιδρύματα πρώην πρωθυπουργών και ένα ινστιτούτο. Ποιος είναι ο ρόλος τους και πώς χρηματοδοτούνται

Ρεπορτάζ / Τα ιδρύματα των πρώην πρωθυπουργών: Ποιος είναι ο ρόλος τους και πώς χρηματοδοτούνται

Τυπικά, σκοπός τους είναι η διατήρηση των αρχείων και η προβολή του έργου πρώην πρωθυπουργών. Στην πράξη, όμως, λειτουργούν και ως think tanks και πολιτικά εργαλεία επιρροής.
ΒΑΣΙΛΙΚΗ ΣΙΟΥΤΗ
Αστικές Συγκοινωνίες: Mια αθόρυβη ιδιωτικοποίηση που προκαλεί κρότο

Ρεπορτάζ / Αστικές Συγκοινωνίες: Mια αθόρυβη ιδιωτικοποίηση που προκαλεί κρότο

Τα πρόσφατα ατυχήματα με αστικά λεωφορεία φέρνουν στο προσκήνιο το θέμα της εκχώρησης συγκοινωνιακού έργου στα ΚΤΕΛ και καταγγελίες για θεσμικές αστοχίες. Οι εμπλεκόμενες πλευρές μιλάνε στη LiFO.
ΝΤΙΝΑ ΚΑΡΑΤΖΙΟΥ
Ένα ελληνο-αλβανικό ανήκειν εν τη γενέσει;

Guest Editors / Μεταξύ ελληνικότητας και αλβανικότητας 

Μια έρευνα επιβεβαιώνει ότι η αλβανική μετανάστευση στην Ελλάδα αναδιαμορφώνει ριζικά τις έννοιες της ταυτότητας και του ανήκειν, αποκαλύπτοντας τις προκλήσεις και τις προοπτικές αυτής της νέας πραγματικότητας.
ΙΛΙΡΙΝΤΑ ΜΟΥΣΑΡΑΙ
ΕΠΕΞ Ο μυστηριώδης κύριος Sweetman και η απίθανη ιστορία του σκοτεινού οξυγόνου

Περιβάλλον / Ο μυστηριώδης κύριος Sweetman και η απίθανη ιστορία του σκοτεινού οξυγόνου

Άνοιξε ένα νέο κεφάλαιο για τη θαλάσσια ζωή και μπλόκαρε, έστω προσωρινά, τα σχέδια για εξορύξεις στον ανεξερεύνητο βυθό. Ο Andrew Sweetman μιλά στη LiFO για την έρευνα που έγινε απροσδόκητα viral και συγκρούστηκε με κολοσσούς, πολιτικές αποφάσεις και… το TikTok.
ΛΑΣΚΑΡΙΝΑ ΛΙΑΚΑΚΟΥ
Ανακαλύφθηκε ο εχθρός

Ακροβατώντας / Ανακαλύφθηκε ο εχθρός

Τι σημασία έχουν τα μεγάλα σκάνδαλα, όταν η απειλή είναι μπροστά μας, όπως οι καραβιές Λίβυων και Σουδανών μεταναστών και πολιτικών προσφύγων που καταφθάνουν στη νότια Κρήτη και εισβάλλουν ανεξέλεγκτα στην πατρίδα;
ΓΙΑΝΝΗΣ ΠΑΝΤΕΛΑΚΗΣ
Δημήτρης Κανελλόπουλος: «Να μας αποκαλούν “εφημερίδα των συριζαίων”; Εντάξει... γελάμε»

Οπτική Γωνία / Δημήτρης Κανελλόπουλος: «Να μας αποκαλούν “εφημερίδα των συριζαίων”; Εντάξει... γελάμε»

Ο δημοσιογράφος της «Εφημερίδας των Συντακτών» και του e-tetRadio μιλά για την εφημερίδα, επιβεβαιώνοντας τις τελικές συζητήσεις με τον Δημήτρη Μελισσανίδη, για την κρίση της αριστεράς, την επιστροφή του Αλέξη Τσίπρα και το μέλλον του Τύπου.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ
«Είμαι Ισραηλινός, κι αυτό λειτουργεί πια ως ετυμηγορία» 

Οπτική Γωνία / «Είμαι Ισραηλινός, κι αυτό λειτουργεί πια ως ετυμηγορία» 

Ο θεατρικός σκηνοθέτης Guy Ben-Aharon, που βρέθηκε πρόσφατα στην Αθήνα, γράφει στη LiFO για την απόρριψη που βιώνει τόσο στην πατρίδα του όσο και στο εξωτερικό ως Ισραηλινός που υποστηρίζει την ελευθερία της Παλαιστίνης. 
ΕΠΙΜΕΛΕΙΑ: ΔΗΜΗΤΡΗΣ ΠΟΛΙΤΑΚΗΣ
«Χρόνιες παθογένειες» vs ποινικών ευθυνών

Οπτική Γωνία / «ΟΠΕΚΕΠΕ: Χρόνιες παθογένειες» vs ποινικών ευθυνών

Η Ευρωπαϊκή Εισαγγελία έστειλε πριν από λίγο καιρό στη Βουλή τη δικογραφία για Αυγενάκη και Βορίδη, αλλά η ΝΔ δεν βλέπει ποινικές ευθύνες υπουργών στο σκάνδαλο του ΟΠΕΚΕΠΕ και επιμένει ότι πρόκειται για «διαχρονικές παθογένειες». 
ΒΑΣΙΛΙΚΗ ΣΙΟΥΤΗ