Το ChatGPT ως ΜΑΤατζής

ΕΠΕΞ Το ChatGPT ως ΜΑΤατζής Facebook Twitter
Tο PredPol δημιουργεί έναν «φαύλο κύκλο», όπου τα data ρατσιστικής στοχοποίησης και υπεραστυνόμευσης χρησιμοποιούνται για να παραχθούν αντίστοιχα πρωτόκολλα στο παρόν. Εικονογράφηση: bianka/ LIFO
0


Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ χρησιμοποιείται ήδη από αστυνομικές και στρατιωτικές δομές ανά τον κόσμο. Προπαντός, η «προληπτική αστυνόμευση» –η πρόβλεψη των περιοχών όπου θα γίνουν εγκλήματα (ή των ατόμων που θα τα διαπράξουν) και η διοχέτευση ενεργειών εκεί– αυτοματοποιείται με γρήγορους ρυθμούς.

Το 2012, το LAPD και άλλες αστυνομίες των ΗΠΑ υιοθέτησαν το PredPol, ένα σύστημα ΑΙ που αναλύει δεδομένα εγκληματικότητας και αστυνόμευσης για να κατευθύνει περιπολίες και ελέγχους σε ορισμένες περιοχές. Στο Pasco County της Φλόριντα ένα αντίστοιχο πρόγραμμα τεχνητής νοημοσύνης συνέτασσε λίστες με τα άτομα που θεωρούσε ότι είναι πιθανό να διαπράξουν κάποιο έγκλημα∙ εν συνεχεία, η αστυνομία τα επισκεπτόταν και τα ανέκρινε, παρενοχλώντας πάνω από χίλιους ενήλικους και ανήλικους πολίτες.¹

Όταν μιλάμε με το ChatGPT συμμετέχουμε σε μια διαδικασία που διευκολύνει την εξέλιξη των δυνατοτήτων της τεχνητής νοημοσύνης. Η πρόοδος των εμπορικών μοντέλων στη γλωσσική κατανόηση ή την ανάλυση εικόνων συχνά καταλήγει να αξιοποιείται σε άλλα πεδία, όπως η αστυνόμευση και οι πολεμικές επιχειρήσεις.

Το πρόβλημα με αυτές τις χρήσεις του ΑΙ δεν αφορά μόνο τα ηθικά και θεωρητικά ζητήματα αλά Minority Report που εγείρουν. Έγκειται στο γεγονός ότι, με το να αναλύουν δεδομένα που έχουν διαμορφωθεί από ανθρώπινες αποφάσεις (π.χ. μοτίβα αστυνόμευσης ορισμένων περιοχών), τα προβλεπτικά ΑΙ αναπαράγουν την ανθρώπινη αυθαιρεσία και τον ρατσισμό του παρελθόντος. Έτσι, σύμφωνα με την «Guardian», το PredPol δημιουργεί έναν «φαύλο κύκλο», όπου τα data ρατσιστικής στοχοποίησης και υπεραστυνόμευσης χρησιμοποιούνται για να παραχθούν αντίστοιχα πρωτόκολλα στο παρόν (τα οποία, με τη σειρά τους, γίνονται data προς ανάλυση).²

Μάλιστα, αυτά τα προγράμματα ΑΙ επιφέρουν κάτι ακόμα πιο προβληματικό, αφού μειώνουν τη λογοδοσία της αστυνομίας, η οποία μπορεί πια να ισχυριστεί ότι η εκάστοτε έρευνα, περιπολία ή παρενόχληση μειονοτήτων δεν είναι απόφαση της διοίκησης ή των αστυνομικών αλλά του αλγορίθμου, ο οποίος είναι εξ ορισμού τόσο απρόσωπος όσο και ακατανόητος, ένα «μαύρο κουτί» που ασκεί μεγάλη εξουσία.

Μπορεί αυτά τα παραδείγματα να μας φαίνονται φουτουριστικά, αλλά, όπως οι περισσότερες τεχνολογίες ελέγχου, έρχονται στη χώρα μας υπό το πρόσχημα του «εκσυγχρονισμού». Ήδη, το 2017, η ΕΛ.ΑΣ. σχεδίαζε το πρόγραμμα «Smart Policing» για να εντάξει συστήματα facial recognition σε κάμερες που θα φορούν οι αστυνομικοί. Τον Μάρτιο του 2019 το έργο ανατέθηκε στην Intracom Telecom. Ύστερα, το 2022 γνωστοποιήθηκε ότι η κυβέρνηση είχε υπογράψει σύμβαση με την Palantir (και μετά με τη συνδεόμενη PwC), έναν «κολοσσό προληπτικής αστυνόμευσης», για τη δημιουργία μιας βάσης δεδομένων με σκοπό τη διαχείριση κρίσεων.³ Τέλος, φέτος μάθαμε ότι το υπουργείο Προστασίας του Πολίτη συνεργάζεται με το Ψηφιακής Διακυβέρνησης για να βάλει την τεχνητή νοημοσύνη στην υπηρεσία της ΕΛ.ΑΣ., μια τεχνολογία που, σύμφωνα με την «Καθημερινή», «μπορεί να δράσει ακόμα και προληπτικά». Η πρωτοβουλία πάρθηκε από τον Κυρανάκη και, αφού ο Χρυσοχοΐδης «έδειξε ιδιαίτερο ενδιαφέρον», ο υπουργός Ψηφιακής Διακυβέρνησης ταξίδεψε «στην Ουάσινγκτον, όπου συμμετείχε σε κλειστή σύσκεψη υπό τον CEO της Google, Τόμας Κούριαν».[4]

Φυσικά, η χρήση του ΑΙ στην υπηρεσία της καταστολής δεν περιορίζεται στα προγράμματα προληπτικής αστυνόμευσης. Στις ΗΠΑ, η τεχνητή νοημοσύνη βοηθά να εφαρμοστεί η απόφαση του Τραμπ για την απέλαση μη Αμερικανών φοιτητών που εκφράστηκαν δημόσια υπέρ της Παλαιστίνης. Συγκεκριμένα, συστήματα ΑΙ σκανάρουν δεκάδες χιλιάδες αναρτήσεις στα μέσα κοινωνικής δικτύωσης. Όταν βρίσκουν ποστ που θεωρούν ότι είναι υπέρ της Χαμάς, ταυτοποιούν τον συντάκτη τους προς απέλαση.[5]

Γνωστή είναι και η χρήση της τεχνητής νοημοσύνης από τον ισραηλινό στρατό. Μετά τα συστήματα Lavender και Gospel –τα οποία δημιούργησαν λίστες με χιλιάδες στόχους βομβαρδισμών, αδιαφορώντας για τους θανάτους αμάχων–, το IDF εισήγαγε ένα καινούργιο ΑΙ σύστημα παρακολούθησης που λειτουργεί σαν το ChatGPT. Το chatbot Unit 8200 αναλύει μεγάλους όγκους τηλεφωνικών συνομιλιών και μηνυμάτων στα αραβικά, ώστε να μπορεί να δώσει πληροφορίες για άτομα που ζουν στις κατεχόμενες περιοχές. Συγκεκριμένα, η εφαρμογή εντοπίζει «ύποπτους» Παλαιστίνιους που θεωρεί ότι μπορεί να είναι (ή να γίνουν) «ταραχοποιοί» γιατί εξέφρασαν θυμό προς το Ισραήλ σε ιδιωτικές συνομιλίες.[6]

Μέσα απ’ τα παραπάνω παραδείγματα βλέπουμε την ολοένα πιο συστηματική χρήση της τεχνητής νοημοσύνης με τρόπους που ενισχύουν τη βία των μηχανισμών καταστολής, ενώ ταυτόχρονα αποκλείουν τη δυνατότητα λογοδοσίας.

Δεν πρέπει να ξεχνάμε ότι η λειτουργία αυτών των εφαρμογών βασίζεται στα δικά μας data, στο δικό μας διαδικτυακό αποτύπωμα και στις δικές μας αλληλεπιδράσεις με την τεχνολογία. Σε ένα πρώτο επίπεδο, τα δεδομένα μας μπορούν να πουληθούν σε εταιρείες που συνεργάζονται με στρατούς και δυνάμεις καταστολής, αφήνοντας, για παράδειγμα, τις φωτογραφίες μας να εκπαιδεύσουν προγράμματα αναγνώρισης προσώπου. Βέβαια, υπάρχει και η περίπτωση της Clearview AI, η οποία κατέβασε παράνομα πάνω από τριάντα δισεκατομμύρια φωτογραφίες από δημόσια προφίλ στα social media για να πουλήσει εφαρμογές facial recognition στο αμερικανικό κράτος.[7]

Την ίδια στιγμή, και σε ένα δεύτερο επίπεδο, η ίδια μας η αλληλεπίδραση με εφαρμογές ΑΙ έχει σημαντικές συνέπειες, καθώς μπορεί να συμβάλει στη βελτίωση αυτών των συστημάτων. Όταν μιλάμε με το ChatGPT, δεν ενισχύουμε μόνο αυτό αλλά συμμετέχουμε σε μια διαδικασία που διευκολύνει την εξέλιξη των δυνατοτήτων της τεχνητής νοημοσύνης. Η πρόοδος των εμπορικών μοντέλων στη γλωσσική κατανόηση ή την ανάλυση εικόνων συχνά καταλήγει να αξιοποιείται σε άλλα πεδία, όπως η αστυνόμευση και οι πολεμικές επιχειρήσεις.

Μια ευρύτερη συζήτηση για την τεχνητή νοημοσύνη δεν μπορεί να αγνοεί τα παραπάνω στοιχεία. Ούτε αρκεί να πούμε ότι το πρόβλημα δεν είναι η τεχνολογία καθαυτή αλλά η χρήση που γίνεται, η κατάχρηση συγκεκριμένων τεχνικών συστημάτων από τα κράτη και τις εταιρείες. Η κατεύθυνση αυτής της τεχνολογίας είναι ήδη εγγεγραμμένη στον τρόπο σχεδιασμού, ανάπτυξης και χρηματοδότησής της, ενώ η πιθανότητα μιας «απελευθερωτικής» χρήσης του ΑΙ παραμένει μακρινή.


[1] https://theconversation.com/predictive-policing-ai-is-on-the-rise-making-it-accountable-to-the-public-could-curb-its-harmful-effects-254185
[2]
https://www.theguardian.com/us-news/2021/nov/07/lapd-predictive-policing-surveillance-reform Το LAPD σταμάτησε να χρησιμοποιεί το PredPol το 2020 και υιοθέτησε το DICFP, ένα πρόγραμμα τόσο παρόμοιο, που πολλοί βλέπουν την αλλαγή ως ένα απλό «rebranding».
[3]
https://thepressproject.gr/proliptiki-astynomefsi-me-syskeves-anagnorisis-prosopou-apo-tin-astynomia/
[4]
https://www.kathimerini.gr/politics/563422951/neo-oplo-gia-tin-el-as-i-techniti-noimosyni-pos-tha-axiopoiithei/
[5]
https://www.theguardian.com/us-news/2025/mar/06/foreign-student-visas-pro-palestinian-ai
[6]
https://www.theguardian.com/world/2025/mar/06/israel-military-ai-surveillance?utm_source=chatgpt.com
[7]
https://wearesolomon.com/el/mag/format-el/erevnes/clearview-pws-i-skiwdis-amerikaniki-etaireia-sinexizei-na-skanarei-ta-proswpa-mas/

Το άρθρο δημοσιεύθηκε στην έντυπη LiFO.

Το νέο τεύχος της LiFO δωρεάν στην πόρτα σας με ένα κλικ.

Οπτική Γωνία
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Tίτλος: Explainer: Το κίνημα "Cute Winter Boots" και το κριντζ της ψηφιακής πολιτικοποίησης

Explainer / «Cute Winter Boots»: Όσο κι αν το υποτιμάτε, το TikTok παράγει πολιτική

Το hashtag #CuteWinterBoots συγκεντρώνει τους προβληματισμούς των χρηστών για την άνοδο της παγκόσμιας ακροδεξιάς και για τον τρόπο που εφαρμόζεται η δημοκρατία σήμερα. Έχουμε αφήσει πίσω μας για πάντα το «για να συμμετέχω στην πολιτική πάω σε συνελεύσεις και γράφομαι σε κόμμα».
ΛΑΣΚΑΡΙΝΑ ΛΙΑΚΑΚΟΥ
ειρήνη

Οπτική Γωνία / Η αδιάκοπη βία και ο ορίζοντας που έχει εξαφανιστεί

«Αυτό που με έχει επηρεάσει περισσότερο μετά την επιστροφή μας δεν είναι οι ελλείψεις, αλλά η παντελής απουσία χρώματος. Τα πάντα είναι γκρίζα. Το μόνο που βλέπεις είναι σκόνη, μισοκατεστραμμένα σπίτια, σοκάκια κομμένα ανάμεσα στα μπάζα»¹.
ΧΑΡΗΣ ΚΑΛΑΪΤΖΙΔΗΣ

ΔΕΙΤΕ ΑΚΟΜΑ

CHECK Κρήτη: καμιά δομή-χιλιάδες πρόσφυγες

Ρεπορτάζ / Κρήτη: Kαμiα δομή - χιλιάδες πρόσφυγες

Αντιμέτωπη με ένα πρωτόγνωρο κύμα μεταναστευτικών-προσφυγικών ροών βρίσκεται η Κρήτη. Και ενώ η συχνότητα και ο αριθμός των αφίξεων έχουν αυξηθεί κατακόρυφα, το υπουργείο Μετανάστευσης και Ασύλου δεν έχει δημιουργήσει καμία οργανωμένη δομή υποδοχής στο νησί για τους ανθρώπους αυτούς.
ΝΤΙΝΑ ΚΑΡΑΤΖΙΟΥ
Γιατί η κυβέρνηση Μητσοτάκη στηρίζει τόσο πολύ την κυβέρνηση Νετανιάχου;

Οπτική Γωνία / Γιατί η κυβέρνηση Μητσοτάκη στηρίζει τόσο πολύ την κυβέρνηση Νετανιάχου;

Η κυβέρνηση Μητσοτάκη στηρίζει τον Ισραηλινό πρωθυπουργό Μπενιαμίν Νετανιάχου, αγνοώντας τις επικρίσεις που δέχεται, καθώς δεν θέλει να διαταράξει τη «στρατηγική σχέση» και τα μεγάλα επιχειρηματικά deals.
ΒΑΣΙΛΙΚΗ ΣΙΟΥΤΗ
To μίσος για τους άλλους…

Οπτική Γωνία / To μίσος για τους άλλους

Για τους περισσότερους η αλήθεια δεν έχει ιδιαίτερη σημασία. Eίδαν κάπου μια εικόνα που εξυπηρετεί το προσωπικό τους αφήγημα, το οποίο συνήθως προσεγγίζεται με συναισθηματικούς όρους, όπου κυριαρχεί το μίσος, κι αυτό τους αρκεί.
ΓΙΑΝΝΗΣ ΠΑΝΤΕΛΑΚΗΣ
Γιατί η Ελλάδα και η Ευρώπη βρίσκονται αντιμέτωπες με μια επικίνδυνη αποσταθεροποίηση στα σύνορά τους;

Οπτική Γωνία / Η στρατηγική του χάους και το μέλλον της Μέσης Ανατολής

Γιατί η Ελλάδα και η Ευρώπη βρίσκονται αντιμέτωπες με μια επικίνδυνη αποσταθεροποίηση στα σύνορά τους; Μιλά στη LiFO ο καθηγητής Διεθνών Σχέσεων και Ευρωπαϊκής Ενοποίησης, Σωτήρης Ντάλης.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ
Χάρβαρντ: Οι τελευταίοι των διεθνών

Οπτική Γωνία / Χάρβαρντ: Οι τελευταίοι των διεθνών

Ο Ισπανός επισκέπτης ερευνητής στο Χάρβαρντ, Αλμπέρτο Λόπεζ Ορτέγκα, γράφει στην El País ότι αυτό που παρακολουθούμε δεν είναι απλώς μια επίθεση στο ίδρυμα ή στους διεθνείς φοιτητές, αλλά μια επίθεση στην ίδια την ιδέα της γνώσης ως παγκόσμιου εγχειρήματος.
THE LIFO TEAM