Γιατί φοβόμαστε ότι το AI θα μας καταστρέψει;

AI Facebook Twitter
Oι ανησυχίες για την εξέγερση των ΑΙ αποκαλύπτουν άλλες, βαθύτερες φοβίες. Εικονογράφηση: bianka/LIFO
0

ΟΛΟΙ ΕΧΟΥΜΕ ΑΚΟΥΣΕΙ φοβικούς μονολόγους για την τεχνητή νοημοσύνη, αναλύσεις που υποστηρίζουν ότι η ανάπτυξη του ΑΙ θέτει σε κίνδυνο τον «πολιτισμό», τον «κόσμο» ή την «ανθρωπότητα». Μάλιστα, ενώ οι περισσότεροι μελετητές επαναλαμβάνουν ότι αυτός ο κίνδυνος είναι ανύπαρκτος και μη ρεαλιστικός, οι «αποκαλυπτικές» αναλύσεις γύρω απ’ το ΑΙ αυξάνονται μέρα με την ημέρα.

Ως έναν βαθμό, προέρχονται από ανθρώπους που βγάζουν κέρδος απ’ την τρομολαγνεία, γράφοντας viral άρθρα και best seller βιβλία με δραματικές προβλέψεις που απέχουν πολύ απ’ την πραγματικότητα (ο Γιουβάλ Νόε Χαράρι είναι ένα τρανταχτό παράδειγμα). Ταυτόχρονα, όμως, θεωρώ πως αυτές οι φοβίες προκύπτουν άμεσα από την ποπ κουλτούρα και από το αρχέτυπο της «εξέγερσης των ρομπότ» που εισήγαγε η sci-fi λογοτεχνία και αναπαράγει ακούραστα το Χόλιγουντ.

Από τον Εξολοθρευτή των ’80s μέχρι το Matrix των ’90s και το Εγώ το ρομπότ των ’00s, και από τις ταινίες κατασκοπίας με ανταγωνιστή ένα πανίσχυρο ΑΙ (War Games, Mission Impossible: Dead Reckoning) μέχρι την πρόσφατη φουρνιά ταινιών τρόμου με δολοφονικά συστήματα τεχνητής νοημοσύνης (M3GAN, AfrAId, Y2K), η «εξέγερση των ρομπότ» επιστρέφει ως ένα σταθερό μυθοπλαστικό μοτίβο.

Η δημοφιλής-χολιγουντιανή φαντασίωση που θέλει το ΑΙ να είναι «επικίνδυνο για την ανθρωπότητα» λειτουργεί ως παραπέτασμα, αφού μας κάνει να θέτουμε ανόητες ερωτήσεις («θα μας αφανίσουν τα ρομπότ;») και να αγνοούμε τα πραγματικά προβλήματα που προκαλεί το ΑΙ.
 

Γιατί είναι τόσο δημοφιλείς αυτές οι ιστορίες; Τι κρύβεται πίσω από τον φόβο μας ότι οι μηχανές που κάποτε μας υπηρετούσαν θα εξεγερθούν για να μας αφανίσουν; Για να απαντήσουμε σε αυτές τις ερωτήσεις, ίσως θα πρέπει να ανατρέξουμε στην πρώτη καλλιτεχνική αναπαράσταση της «επανάστασης των μηχανών».

Στο θεατρικό R.U.R. (Rossum’s Universal Robots) του 1920, ο Τσέχος συγγραφέας Karel Čapek ακολουθεί την εξέλιξη ενός εργοστασίου που φτιάχνει ανδροειδή για να στελεχώσει τις γραμμές παραγωγής των βιομηχανιών. Σταδιακά, τα ρομπότ αποκτούν συνείδηση, συνδικαλίζονται και εξεγείρονται, σκοτώνοντας όλους τους ανθρώπους εκτός από αυτούς που, όπως τα ίδια, εργάζονται με τα χέρια τους.

Καθίσταται σαφές ότι η παράσταση αφορά λιγότερο τα «ρομπότ» και περισσότερο την ταξική πάλη και τους φόβους της κοινωνίας ότι οι αλλοτριωμένοι εργάτες –που δουλεύουν με (και σαν) μηχανές– θα αποκτήσουν συνείδηση της κατάστασής τους και θα την αρνηθούν. Οι σχολιαστές του θεατρικού του Čapek δίνουν έμφαση σε αυτό το στοιχείο, εστιάζοντας στην αλλοτρίωση των εργατών/ρομπότ, η οποία αναιρείται μέσα από την εμπειρία του συλλογικού αγώνα.¹

Το ιστορικό πλαίσιο του έργου ευνοεί μια τέτοια ερμηνεία. Το R.U.R. γράφτηκε το 1919, δύο χρόνια μετά τη Ρωσική Επανάσταση και έναν χρόνο ύστερα απ’ την αποτυχημένη εξέγερση των σπαρτακιστών στη Γερμανία, όταν ο «κίνδυνος» των εργατικών ξεσηκωμών συνιστούσε μια βασική πηγή άγχους για τα ευρωπαϊκά κράτη. Την ίδια στιγμή, η λέξη «ρομπότ» –την οποία εφηύρε ο Čapek για το θεατρικό– προέρχεται από την τσέχικη λέξη «robota» που σημαίνει «καταναγκαστική εργασία» και που χρησιμοποιούνταν για να υποδείξει τη δουλειά των δουλοπάροικων στα χωράφια.  

Βλέπουμε, συνεπώς, πως η «εξέγερση των ρομπότ» αποτελεί μια μετάθεση του φόβου της «εξέγερσης των εργατών»∙ και στις δύο περιπτώσεις, πρόκειται για την αίσθηση ότι αυτοί που εργάζονται για την αναπαραγωγή της κοινωνίας (συχνά χωρίς πραγματική ανταμοιβή και υπό κακές συνθήκες) θα στραφούν εναντίον της. Την εποχή του R.U.R., αυτοί οι εργαζόμενοι-ρομπότ είχαν την παραδοσιακή μορφή του βιομηχανικού εργάτη. Σήμερα, στην εποχή του M3GAN, του Ex Machina και του AfrAId, τα ΑΙ αναπαριστούν την affective (και έμφυλα προσδιοριζόμενη) εργασία του τριτογενούς τομέα, παρέχοντας υπηρεσίες ως ρομποτικές νταντάδες, σεξεργάτριες και φροντίστριες.

Φυσικά, ο φόβος μιας εργατικής επανάστασης δεν είναι το μόνο που κρύβεται πίσω απ’ την αρχετυπική ισχύ της «εξέγερσης των ρομπότ». Στον πυρήνα τους, αυτές οι ιστορίες μιμούνται το Φράνκενσταϊν και εκκινούν από το άγχος που εμφανίζεται όταν ο άνθρωπος «παίζει τον Θεό». Σ’ αυτά τα σενάρια, ο άνθρωπος διαπράττει ύβρη, δημιουργώντας ζωή με αφύσικο τρόπο∙ εν συνεχεία, τα δημιουργήματά του τον τιμωρούν και αποκαθιστούν την ισορροπία.

Τα τελευταία χρόνια, αυτή η (κατά βάση θεολογική) ανησυχία έχει μετουσιωθεί σε ένα οικολογικό άγχος που αφορά τις συνέπειες της ανθρώπινης εκμετάλλευσης της φύσης. Βλέπουμε, έτσι, ιστορίες «βιολογικής εκδίκησης» από το περιβάλλον, στις οποίες τα είδη που ο άνθρωπος καθυπόταξε ή δημιούργησε τον τιμωρούν (Splice, Morgan, τα καινούργια Planet of the Apes). Αυτές οι ιστορίες λειτουργούν ως αντικατοπτρισμοί της «εξέγερσης των ρομπότ» στον βαθμό που η βαθύτερη δυναμική τους είναι κοινή: ο φόβος του κυρίαρχου πως θα τιμωρηθεί.

Κατ’ αυτόν τον τρόπο, βλέπουμε ότι οι ανησυχίες για την εξέγερση των ΑΙ αποκαλύπτουν άλλες, βαθύτερες φοβίες. Όπως σημειώνει ο συγγραφέας sci-fi Ken MacLeod, «τα ρομπότ στην επιστημονική φαντασία λειτουργούν ως μεταφορές για τα άγχη μας γύρω από την εργασία, την ταξική πάλη, την ίδια τη συνείδηση. Έχουν πολύ μικρή σχέση με τις πραγματικές μηχανές [του σήμερα]».² Ως εκ τούτου, η δημοφιλής-χολιγουντιανή φαντασίωση που θέλει το ΑΙ να είναι «επικίνδυνο για την ανθρωπότητα» λειτουργεί ως προπέτασμα, αφού μας κάνει να θέτουμε ανόητες ερωτήσεις («θα μας αφανίσουν τα ρομπότ;») και να αγνοούμε τα πραγματικά προβλήματα που προκαλεί το ΑΙ.  

Ποια είναι αυτά τα προβλήματα; Αρχικά, υπάρχει το ζήτημα του ασύμμετρου οικολογικού αποτυπώματος της τεχνητής νοημοσύνης, καθώς τα υπολογιστικά της κέντρα χρησιμοποιούν τεράστιες ποσότητες ενέργειας. Παράλληλα, τα ΑΙ βασίζονται σε νέες μορφές εκμετάλλευσης, αφού τα chatbots «εκπαιδεύονται» από κακοπληρωμένους εργαζόμενους στον παγκόσμιο Νότο για να παρουσιάζουν μόνο «πολιτικά ορθά» αποτελέσματα.

Τέλος, δεν πρέπει να ξεχνάμε τις δουλειές που χάνονται μέσα απ’ την αυτοματοποίηση (υπάλληλοι σε ταμεία/αεροδρόμια/διόδια, οδηγοί φορτηγών∙ εργάτες σε αποθήκες/λιμάνια/εργοστάσια). Όσο οι νέες τεχνολογίες παραμένουν στα χέρια των ιδιωτών, η αυτοματοποίηση δεν θα απελευθερώνει την ανθρωπότητα απ’ τον μόχθο. Απεναντίας, θα οδηγήσει ακόμα μεγαλύτερες πληθυσμιακές ομάδες στην ένδεια και την ανεργία.


[1] John Rieder, «Karel Čapek (1890-1938)», στο Fifty Key Figures in Science Fiction, σ. 47-49.
[2] Ken MacLeod,
«Why are we really afraid of robots?», Big Think, 02:38-3:35.

To άρθρο δημοσιεύθηκε στην έντυπη LiFO.

Το νέο τεύχος της LiFO δωρεάν στην πόρτα σας με ένα κλικ.

Οπτική Γωνία
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Φοβάται ο Αστερίξ την τεχνητή νοημοσύνη;

The Happy Reader / Φοβάται ο Αστερίξ την τεχνητή νοημοσύνη;

Τι είναι το LLM, ποιοι το απεχθάνονται ποιοι το αγαπούν. Η Καμίλα Λάκμπεργκ και τα «υποβοηθούμενα» μυθιστορήματά της. Το αφεντικό της Penguin, ο Ινδός Νιχάρ Μαλαβίγια και τι θέλει ο συγγραφέας Φαμπρίς Καρόλ γράφοντας τη νέα περιπέτεια του ανίκητου Γαλάτη ήρωα. Στα βιβλιοπωλεία και πάλι το βιβλίο «Οι δολοφόνοι του ανθισμένου φεγγαριού», λόγω Σκορσέζε.
ΝΙΚΟΣ ΜΠΑΚΟΥΝΑΚΗΣ
Με ποιους τρόπους ο αλγόριθμος διαβάζει τις σκέψεις μας;

Άκου την επιστήμη / Με ποιους τρόπους ο αλγόριθμος διαβάζει τις σκέψεις μας;

Ζούμε στην εποχή της επιστημονικής φαντασίας; Απειλεί η τεχνητή νοημοσύνη την απασχόληση στο άμεσο μέλλον; Και τι σημαίνει σήμερα να είμαστε άνθρωποι σε μια περίοδο που οι μηχανές κάνουν τόσο πολλά; Η καθηγήτρια στο Τμήμα Μηχανικών Πληροφοριακών και Επικοινωνιακών Συστημάτων του Πανεπιστημίου Αιγαίου, Λίλιαν Μήτρου, εξηγεί στον Γιάννη Πανταζόπουλο.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ

ΔΕΙΤΕ ΑΚΟΜΑ

Δυο καράβια των παιδικών χρόνων

Οπτική Γωνία / Η αριστοκρατική Μαριλένα και η τραχιά Μυρτιδιώτισσα όργωσαν τις ελληνικές θάλασσες, αφήνοντας το στίγμα τους

Βίος και πολιτεία δυο καραβιών που έγραψαν τη δική τους ξεχωριστή ιστορία στα όχι άγνωστα αλλά και όχι πάντοτε ήρεμα νερά της Ελλάδας.
ΝΙΚΟΛΑΣ ΣΕΒΑΣΤΑΚΗΣ
«Η μόνη καλλιέργεια που σώθηκε είναι της καταναλωτικής πλάνης»

Ρεπορτάζ / «Η μόνη καλλιέργεια που σώθηκε είναι της καταναλωτικής πλάνης»

Ο συγγραφέας Γιάννης Μακριδάκης, που ζει στη Χίο και καλλιεργεί εκεί ο ίδιος τη δική του γη, περιγράφει στη LiFo την καθημερινότητα, που έχει αλλάξει ριζικά μετά τις φωτιές, και την προσπάθεια των κατοίκων να σταθούν ξανά στα πόδια τους.
ΝΤΙΝΑ ΚΑΡΑΤΖΙΟΥ
Θα λήξει τον πόλεμο στην Ουκρανία ο Τραμπ και με ποιους όρους;

Βασιλική Σιούτη / Θα λήξει τον πόλεμο στην Ουκρανία ο Τραμπ και με ποιους όρους;

Πώς θα τελειώσει ο πόλεμος στην Ουκρανία και πόσο κοντά βρισκόμαστε σε αυτό το τέλος; Τραμπ και Πούτιν μοιάζουν αποφασισμένοι, αλλά ο Ζελένσκι και οι Ευρωπαίοι ηγέτες δεν βιάζονται.
ΒΑΣΙΛΙΚΗ ΣΙΟΥΤΗ
Μαζωνάκης: Το χρονικό μιας (ακόμα) διαπόμπευσης

Οπτική Γωνία / Μαζωνάκης: Το χρονικό μιας (ακόμα) διαπόμπευσης

Αν έβγαζε κάποιος ένα συμπέρασμα από τον χειρισμό της υπόθεσης αυτής, θα έλεγε πως «όλα ήταν ένα λάθος». Ένα λάθος το οποίο πολλοί δεν το βλέπουν ως τέτοιο, καθώς θεωρούν αυτονόητο να μαθαίνουν πληροφορίες για τις ζωές των άλλων, ακόμα και αν αυτές έχουν δυσκολίες και απαιτούν σεβασμό.
ΓΙΑΝΝΗΣ ΠΑΝΤΕΛΑΚΗΣ
Για τους «εμπρηστές της Πάτρας»: Ιδεολογικές καταχρήσεις μιας φωτογραφίας

Οπτική Γωνία / Για τους «εμπρηστές της Πάτρας»: Ιδεολογικές καταχρήσεις μιας φωτογραφίας

Από που προκύπτει το αναρχικό, πόσο μάλλον κάποιο «κομμουνιστικό» προφίλ των «εμπρηστών»; Από ένα σκουλαρίκι, την είδηση για το χασίς και τα τσίπουρα, τα ρούχα που είναι αυτά που συναντάς σε πλήθος εικοσάρηδων σε πλατείες και δρόμους της χώρας;
ΝΙΚΟΛΑΣ ΣΕΒΑΣΤΑΚΗΣ
Υπάρχει όντως λόγος να επιστρέψει ο Τσίπρας;

Οπτική Γωνία / Υπάρχει όντως λόγος να επιστρέψει ο Τσίπρας;

Υπάρχει ανάγκη στην πολιτική ζωή για ένα νέο κόμμα; Υπάρχει κρίσιμος ζωτικός χώρος που δεν έχει εκπροσώπηση; Μπορεί να ξεπεραστούν ή, έστω, να αμβλυνθούν οι έντονα αρνητικές μνήμες από τη διακυβέρνηση του ΣΥΡΙΖΑ; Είναι ο Αλέξης Τσίπρας το ιδανικό πρόσωπο;
ΓΙΑΝΝΗΣ ΠΑΝΤΕΛΑΚΗΣ
Σουδάν: Ο ξεχασμένος πόλεμος και τα «παιδιά-πρόσφυγες» που κατηγορούνται ως διακινητές

Οπτική Γωνία / Σουδάν: Η μεγαλύτερη τραγωδία του αιώνα δεν γίνεται ποτέ πρωτοσέλιδο

Οι νεκροί από τις συγκρούσεις, την πείνα και τις επιδημίες υπολογίζεται συνολικά περί το 1 εκατ., και περισσότεροι από τους μισούς εξ αυτών είναι παιδιά. Μια εφιαλτική κατάσταση, που έχει όμως την «ατυχία» να περνά σε δεύτερη ή και τρίτη μοίρα, καθώς ούτε τα ΜΜΕ και τους διεθνείς οργανισμούς φαίνεται να συγκινεί ιδιαίτερα ούτε εντάσσεται εύκολα σε κάποιο πολιτικό αφήγημα ώστε να εμπνεύσει μαζικά κινήματα αλληλεγγύης.
ΘΟΔΩΡΗΣ ΑΝΤΩΝΟΠΟΥΛΟΣ
Η Εύα Ιλούζ, η Γάζα και μια εκδοτική επιλογή

Οπτική Γωνία / Η Εύα Ιλούζ, η Γάζα και μια εκδοτική επιλογή

Σκέψεις πάνω στην απόφαση του Oposito, ενός μικρού εκδοτικού οίκου που έχει δώσει ενδιαφέροντα δείγματα ανήσυχης κοινωνικής και πολιτισμικής σκέψης, για την «αποδέσμευσή» του σε σχέση με το βιβλίο της κοινωνιολόγου Eύα Ιλούζ «Ψυχρή τρυφερότητα. Η άνοδος του συναισθηματικού καπιταλισμού».
ΝΙΚΟΛΑΣ ΣΕΒΑΣΤΑΚΗΣ
Ο διάβολος κρύβεται στις λεπτομέρειες

Ακροβατώντας / Ο διάβολος κρύβεται στις λεπτομέρειες

Ένα εντυπωσιακά μεγάλο κομμάτι της κοινωνίας είναι διατεθειμένο να δώσει «συγχωροχάρτι» για ένα μεγάλο οικονομικό σκάνδαλο, αρκεί οι εμπλεκόμενοι να τηρήσουν ακροδεξιά και ρατσιστική στάση στο μεταναστευτικό.
ΓΙΑΝΝΗΣ ΠΑΝΤΕΛΑΚΗΣ