ΑΠΕΙΛΕΙ Η ΤΕΧΝΟΛΟΓΙΑ τη δημοκρατία στις μέρες μας; Ποιες είναι οι προοπτικές και ποιοι οι κίνδυνοι που ελλοχεύουν από τη χρήση της τεχνητής νοημοσύνης; Χάνουμε την ιδιαιτερότητά μας εξαιτίας των αλγορίθμων; Και τι μας μαθαίνει σήμερα ο Αριστοτέλης; Όλα αυτά τα ερωτήματα έθεσα στον διακεκριμένο καθηγητή Φιλοσοφίας του Πανεπιστημίου της Οξφόρδης αλλά και πρώτο διευθυντή του Ινστιτούτου Ηθικής στην Τεχνητή Νοημοσύνη, Τζον Τασιούλα.
Γεννήθηκε στην Αυστραλία, όπου οι γονείς του είχαν μεταναστεύσει από την Ελλάδα στις αρχές της δεκαετίας του 1960. Σπούδασε Φιλοσοφία και Νομικά στο Πανεπιστήμιο της Μελβούρνης και συνέχισε ως Rhodes Scholar στο Πανεπιστήμιο της Οξφόρδης, όπου ολοκλήρωσε το διδακτορικό του.
Μεταξύ άλλων, έχει δραστηριοποιηθεί ως σύμβουλος στην Παγκόσμια Τράπεζα και είναι μέλος της Διεθνούς Συμβουλευτικής Επιτροπής του Panel for the Future of Science and Technology (STOA) του Ευρωπαϊκού Κοινοβουλίου. Σε συνεργασία με την καθηγήτρια Hélène Landemore (Πανεπιστήμιο Yale) πραγματοποιεί αυτήν τη στιγμή ένα έργο για την ανάπτυξη μιας ανθρωπιστικής ηθικής της τεχνητής νοημοσύνης. Σε λίγες μέρες θα βρεθεί στη χώρα μας προκειμένου να συμμετάσχει ως ομιλητής στο φετινό TEDxAthens, το οποίο εδώ και 15 χρόνια αποτελεί μια ζωντανή πλατφόρμα για την ανταλλαγή ιδεών και την πυροδότηση συζητήσεων που έχουν τη δύναμη να αλλάξουν τον κόσμο. Όταν τον ρωτώ τι θα ακούσει το κοινό στη δική του ομιλία, απαντά: «Ελπίζω ένα μήνυμα σχετικά με την ανάγκη να υποστηρίξουμε την αξία της ανθρωπιάς μας σε μια εποχή που πολλά ισχυρά συμφέροντα προσπαθούν να υποτιμήσουν και να υπονομεύσουν τις ανθρώπινες ικανότητες και τις χαρακτηριστικές μορφές της ανθρώπινης δραστηριότητας και αλληλεπίδρασης». Στη συνέντευξη που ακολουθεί μιλά για τις προκλήσεις που έχουμε να αντιμετωπίσουμε, τις συνέπειες από τη διείσδυση των νέων τεχνολογιών στη σύγχρονη δημοκρατία, για το τι μας διδάσκει ο Αριστοτέλης για την ΑΙ, τι σηματοδοτεί η δύναμη των αλγορίθμων καθώς και ποιες σκέψεις έρχονται στο μυαλό του όταν ακούει τη λέξη «Ελλάδα».
Κάνουμε έναν αγώνα δρόμου, καθώς πρέπει να υποβάλουμε τις νέες τεχνολογίες σε δημοκρατικό έλεγχο και να τις χρησιμοποιήσουμε για να βελτιώσουμε την ποιότητα της δημοκρατικής ζωής, προτού προκαλέσουν ακόμα μεγαλύτερη ζημιά στις δημοκρατικές κοινωνίες. Η εξεύρεση τρόπων για την τιθάσευση της δύναμης της μεγάλης τεχνολογίας είναι ζωτικής σημασίας.
— Πώς θα χαρακτηρίζατε την εποχή μας;
Στην εποχή μας πολλές παλιές παραδοχές που έχουν δομήσει τη ζωή μας, π.χ. ότι η δημοκρατία είναι το καλύτερο σύστημα διακυβέρνησης, ότι η εκπαίδευση οδηγεί σε καλές θέσεις εργασίας, ότι μπορούμε να επιδιώκουμε σθεναρά την οικονομική ανάπτυξη, ότι τα εθνικά σύνορα είναι σταθερά, τίθενται όλο και περισσότερο υπό αμφισβήτηση. Το αποτέλεσμα είναι μια ευρέως διαδεδομένη αίσθηση αποπροσανατολισμού σχετικά με το πώς τα άτομα και οι κοινωνίες μπορούν να ζήσουν μια αξιοπρεπή ζωή σήμερα.
— Τι σας ανησυχεί περισσότερο στις μέρες μας;
Η φαινομενική ανικανότητα των δημοκρατικών κυβερνήσεων να αντιμετωπίσουν τις μεγάλες προκλήσεις που αντιμετωπίζουμε και, σε σχέση με αυτό, η φθίνουσα πίστη, ιδίως μεταξύ των νέων, στο δημοκρατικό σύστημα διακυβέρνησης. Αυτό είναι ακόμα πιο προβληματικό δεδομένης της ανόδου της Κίνας και της αυταρχικής εναλλακτικής της λύσης όσον αφορά τη δημοκρατία. Είναι, λοιπόν, επείγον να βρούμε τρόπους να αναζωογονήσουμε τη δημοκρατία στην εποχή μας και γι’ αυτό χρειάζεται η κατανόηση των απαιτητικών πολιτικών, ηθικών και οικονομικών προϋποθέσεων μιας γνήσιας δημοκρατίας. Μεταξύ αυτών είναι η δέσμευση και η εκπαίδευση των πολιτών καθώς και οι ισχυροί περιορισμοί στην επικρατούσα κατάσταση και στις οικονομικές ανισότητες.
— Ποιες θα είναι οι συνέπειες από τη διείσδυση των νέων τεχνολογιών στη σύγχρονη δημοκρατία;
Οι συνέπειές της εξαρτώνται από τις επιλογές που κάνουμε, καθώς και από το ποιος τις κάνει και σε ποια βάση. Η Ιστορία δείχνει ότι η τεχνολογική πρόοδος δεν βελτιώνει απαραίτητα την ποιότητα ζωής όλων. Προκειμένου να ωφελήσει τους δημοκρατικούς πολίτες, η τεχνολογία πρέπει να υπόκειται σε πραγματικό δημοκρατικό έλεγχο. Η ψηφιακή τεχνολογία και η τεχνητή νοημοσύνη έχουν τη δυνατότητα να ενισχύσουν τη δημοκρατική συμμετοχή. Σκεφτείτε, για παράδειγμα, τη χρήση της πλατφόρμας Polis από την κυβέρνηση της Ταϊβάν για τη διευκόλυνση της συμμετοχής των πολιτών στη λήψη πολιτικών αποφάσεων. Ωστόσο, πολύ συχνά, η τεχνολογία λειτουργεί υπονομευτικά για το ήθος της δημοκρατίας, επιτρέποντας την κυβερνητική και εταιρική επιτήρηση, εξαλείφοντας τις ευκαιρίες εργασίας, ενισχύοντας την πολιτική πόλωση, επιδεινώνοντας τις οικονομικές και καταστατικές ανισότητες, υπονομεύοντας τα δικαιώματα που μάχονται τις διακρίσεις κ.ο.κ. Κάνουμε έναν αγώνα δρόμου, καθώς πρέπει να υποβάλουμε τις νέες τεχνολογίες σε δημοκρατικό έλεγχο και να τις χρησιμοποιήσουμε για να βελτιώσουμε την ποιότητα της δημοκρατικής ζωής, προτού προκαλέσουν ακόμα μεγαλύτερη ζημιά στις δημοκρατικές κοινωνίες. Η εξεύρεση τρόπων για την τιθάσευση της δύναμης της μεγάλης τεχνολογίας είναι ζωτικής σημασίας.
— Τι σημαίνει να είμαστε άνθρωποι σε μια περίοδο που οι μηχανές κάνουν τόσο πολλά;
Οι ισχυρισμοί ότι οι μηχανές μπορούν να κάνουν πολλά, όταν υποβάλλονται σε προσεκτικότερο έλεγχο, συχνά καταρρίπτονται ως ιδιοτελής διαφημιστική εκστρατεία της βιομηχανίας. Μια διάσημη μελέτη σχετικά με τον αντίκτυπο της τεχνητής νοημοσύνης στην εργασία, πριν από μερικά χρόνια, έδειξε το επάγγελμα του οδηγού σχολικού λεωφορείου ως ένα από τα επαγγέλματα που θα μπορούσαν σύντομα να αυτοματοποιηθούν πλήρως. Πιστέψτε, λίγοι γονείς θα συμφωνούσαν. Αναμφίβολα οι μηχανές είναι όλο και περισσότερο σε θέση να κάνουν πολλά πράγματα που παλιότερα ήταν αποκλειστικό προνόμιο των ανθρώπων, από τη διάγνωση καρκίνου μέχρι τη συγγραφή ποιημάτων. Ωστόσο, πρέπει να αναγνωρίσουμε ότι η αξία της ανθρώπινης δραστηριότητας δεν έγκειται μόνο στα αποτελέσματά της αλλά και στις διαδικασίες μέσω των οποίων παράγεται, οι οποίες προσδίδουν σε αυτά τα αποτελέσματα ένα ιδιαίτερο νόημα. Αυτή είναι η σοφία του Καβάφη στην «Ιθάκη», ότι και το ταξίδι, όχι μόνο ο τελικός προορισμός, έχει σημασία. Δεν θέλουμε απλώς μια σωστή απόφαση από έναν δικαστή, θέλουμε μια απόφαση που να βασίζεται σε ορθή επιχειρηματολογία, για την οποία ο δικαστής θα μπορεί να λογοδοτήσει και η οποία αντανακλά την ικανότητά του να συμπάσχει με τη δυσχερή θέση των διαδίκων της υπόθεσης. Και στον εργασιακό χώρο δεν επιθυμούμε απλώς να παράγουμε πολύτιμα αγαθά ή υπηρεσίες ή να εξασφαλίσουμε ένα εισόδημα· θέλουμε να εξασφαλίσουμε όλα αυτά μέσω της άσκησης των ιδιαίτερων ανθρώπινων ικανοτήτων μας για διορατικότητα, συλλογισμό, ικανότητα, επιμονή, συνεργασία κ.ο.κ. Αν είμαστε τυχεροί, οι βελτιωμένες ικανότητες των μηχανών θα πρέπει να μας οδηγήσουν σε μια αυξημένη εκτίμηση της ανθρώπινης κατάστασης, γιατί δεν είμαστε απλώς μηχανικοί παραγωγοί πολύτιμων προϊόντων. Αλλά αυτό δεν πρέπει να θεωρείται δεδομένο, διότι υπάρχουν πολλά ισχυρά ιδεολογικά ρεύματα που επιδιώκουν να εξαλείψουν τη ζωτική διάκριση μεταξύ ανθρώπου και μηχανής.
— Η τεχνητή νοημοσύνη αποτελεί απειλή για την απασχόληση στο άμεσο μέλλον; Ποιες είναι οι προοπτικές και ποιοι οι κίνδυνοι;
Οι περισσότερες εταιρείες τεχνητής νοημοσύνης, όπως η OpenAI και η Google, ισχυρίζονται ότι επιδιώκουν τη δημιουργία της τεχνητής γενικής νοημοσύνης (AΓI), η οποία είναι ένα σύστημα τεχνητής νοημοσύνης που μπορεί να προσομοιώνει τις ανθρώπινες γνωστικές ικανότητες σε όλο το φάσμα τους. Αν αυτός είναι ο στόχος, τότε φαίνεται ότι σκοπός της είναι να αντικαταστήσει τον άνθρωπο, κάτι που με τη σειρά του αποτελεί σοβαρή απειλή για τις μελλοντικές μας εργασιακές ευκαιρίες. Ο Josiah Ober κι εγώ έχουμε υποστηρίξει στην εργασία μας «The Lyceum Project: AI Ethics with Aristotle» ότι η αναζήτηση της ΑΓΙ είναι λανθασμένη. Αντίθετα, θα πρέπει να σκεφτόμαστε τα συστήματα τεχνητής νοημοσύνης ως «ευφυή εργαλεία» που αυξάνουν την ποιότητα της ανθρώπινης δραστηριότητας σε συγκεκριμένους τομείς αντί να στοχεύουν πρωτίστως στην αντιγραφή και αντικατάσταση των ανθρώπων. Η ιδέα είναι ότι ένα σύστημα τεχνητής νοημοσύνης κατάλληλα ενσωματωμένο στην ανθρώπινη δραστηριότητα είναι το ιδανικό που πρέπει να επιδιώξουμε, όχι η πλήρης αντικατάσταση της ανθρώπινης προσπάθειας μέσω της αυτοματοποίησης. Γι’ αυτό είναι τόσο ζωτικής σημασίας για τις δημοκρατίες να αποσπάσουν τον έλεγχο της ανάπτυξης και της εφαρμογής της τεχνητής νοημοσύνης από τις τεχνολογικές εταιρείες.
— Πόσο απέχουμε από τη δημιουργία υπερ-ευφυών συστημάτων τα οποία θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο;
Δεν είμαι εμπειρογνώμονας τεχνικών ζητημάτων, αλλά, ενώ δεν μπορεί να αποκλειστεί εκ των προτέρων, μου φαίνεται ότι αυτό το σενάριο είναι «τραβηγμένο» και συχνά χρησιμεύει για να επισκιάσει τις πιο άμεσες προκλήσεις της τεχνολογίας της τεχνητής νοημοσύνης, π.χ. την απειλή της ανεργίας, τις επιπτώσεις στο περιβάλλον, τη άλωση της ιδιωτικής ζωής, την υπονόμευση του δημοκρατικού ήθους κ.ο.κ. Τα δυστοπικά οράματα (υπαρξιακός κίνδυνος από τα υπερ-ευφυή συστήματα τεχνητής νοημοσύνης) είναι συχνά η άλλη όψη των ουτοπικών οραμάτων (υπερ-ευφυή συστήματα τεχνητής νοημοσύνης που θα εγκαινιάσουν μια εποχή απεριόριστης αφθονίας, χωρίς γεωπολιτικό ανταγωνισμό). Τόσο η καταστροφολογία όσο και η υστεροβουλία μπορούν να μας αποσπάσουν την προσοχή από τις πιο σημαντικές ευκαιρίες και τις πιο πιεστικές προκλήσεις που δημιουργεί μια νέα τεχνολογία.
— Μπορεί ο αλγόριθμος να είναι ο νέος Μεγάλος Αδελφός; Χάνουμε την ιδιαιτερότητά μας;
Σίγουρα υπάρχει το σοβαρό πρόβλημα ότι η τεχνητή νοημοσύνη τίθεται στην υπηρεσία της εταιρικής και κυβερνητικής επιτήρησης και προπαγάνδας, προκειμένου να αυξηθούν οι εξουσίες των συμφερόντων εις βάρος του κοινού καλού, συμπεριλαμβανομένων εκείνων των πτυχών του κοινού καλού που επιτρέπουν την ελεύθερη ανάπτυξη του ατόμου. Πρέπει να συνειδητοποιήσουμε ότι η αναμφισβήτητη αποτελεσματικότητα και η ευκολία που μπορούν να προσφέρουν αυτοί οι αλγόριθμοι έχουν επίσης ένα πνευματικό κόστος.
Πρέπει να επανέλθουμε στην ιδέα ότι η ελευθερία δεν είναι απλώς η επιδίωξη των υποκειμενικών προτιμήσεων κάποιου, όποιες κι αν είναι αυτές, αλλά έχει να κάνει με το να μπορεί κανείς να διαμορφώνει τη ζωή του κάνοντας τεκμηριωμένες επιλογές από ένα πραγματικά αξιόλογο φάσμα δυνατοτήτων.
— Τι μας μαθαίνει σήμερα ο Αριστοτέλης;
Το σημαντικότερο ηθικό μάθημα είναι ότι είμαστε ανθρώπινα όντα με τις δυνατότητες και τα τρωτά σημεία που συνεπάγεται η ανθρώπινη φύση και ότι θα βρούμε την υψηλότερη εκπλήρωσή μας μέσω της ορθολογικής άσκησης αυτών των δυνατοτήτων σε κοινωνία με άλλους που κάνουν το ίδιο. Αυτή η αρχαία σοφία είναι ένα ισχυρό αντίδοτο στις σύγχρονες τάσεις όπως ο «διανθρωπισμός», που λέει ότι θα πρέπει να επιδιώξουμε να υπερβούμε τη ανθρώπινη υπόστασή μας, ανάγοντας εαυτόν στη θέση ενός υπολογιστή ή με το να γίνουμε cyborgs (αυτοματοποιημένος τεχνητός οργανισμός ο οποίος ενισχύει ή διευρύνει τις δυνατότητές του χρησιμοποιώντας τεχνολογικά μέσα), ή όπως η ευρέως διαδεδομένη ιδέα ότι οι αξίες δεν είναι τίποτα περισσότερο από τις υποκειμενικές προτιμήσεις των ατόμων.
— Μήπως η υπερβολική ελευθερία έχει εξελιχθεί σε μια αγχώδη ανελευθερία;
Σε αυτό που λέτε υπάρχει πράγματι μια αλήθεια. Αν θεωρήσουμε την ελευθερία ως ένα απλό ζήτημα δυνατότητας επιλογής χωρίς καμία αντίληψη για το ποια πράγματα αξίζουν πραγματικά να επιλέξει κανείς, είναι πιθανό να πέσουμε σε έναν αγχώδη κομφορμισμό. Πρέπει να επανέλθουμε στην ιδέα ότι η ελευθερία δεν είναι απλώς η επιδίωξη των υποκειμενικών προτιμήσεων κάποιου, όποιες κι αν είναι αυτές, αλλά έχει να κάνει με το να μπορεί κανείς να διαμορφώνει τη ζωή του κάνοντας τεκμηριωμένες επιλογές από ένα πραγματικά αξιόλογο φάσμα δυνατοτήτων. Δυστυχώς, η ιδέα της «ευθυγράμμισης αξιών» που κυριαρχεί σε μεγάλο μέρος της σκέψης στην τεχνητή νοημοσύνη παρουσιάζεται συνήθως ως ευθυγράμμιση των συστημάτων της με τις συνολικές υποκειμενικές προτιμήσεις των ανθρώπων.
— Ποιες σκέψεις έρχονται στο μυαλό σας στο άκουσμα της λέξης «Ελλάδα»;
Πάνω απ’ όλα, σκέφτομαι τους γονείς μου, αισθάνομαι αγάπη και ευγνωμοσύνη γι’ αυτούς. Επίσης, σκέφτομαι τη φιλοσοφία, επειδή η δική μου πορεία προς αυτήν ήταν μέσω του Πλάτωνα και του Αριστοτέλη. Τέλος, έχω ένα αίσθημα βαθιάς νοσταλγίας για κάτι όμορφο που είναι και μέρος του εαυτού μου αλλά και κάτι από το οποίο έχω απομακρυνθεί.
— Τι θεωρείτε σημαντικό στη ζωή;
Να αγωνιζόμαστε πάντα για το αληθινό καλό, τόσο για το δικό μας όσο και των κοινοτήτων μας, συμπεριλαμβανομένης ολόκληρης της ανθρωπότητας. Είναι σημαντικό να εκτιμήσουμε ότι σε έναν κόσμο όπως ο δικός μας, που βρίσκεται σε πτωτική πορεία, αυτό μπορεί να μας φέρει σε αντίθεση με τις συμβατικές αντιλήψεις περί «επιτυχίας» που εστιάζουν στον πλούτο, στη δύναμη και στο status.
Το φετινό TEDxAthens θα πραγματοποιηθεί στις 5 Οκτωβρίου στην Πειραιώς 260
