Τι μπορεί να συμβεί όταν ένας αλγόριθμος κάνει λάθος;

Τι μπορεί να συμβεί όταν ένας αλγόριθμος κάνει λάθος; Facebook Twitter
Δεδομένου ότι πρόκειται για «προγράμματα» που έχουν κατασκευαστεί από ανθρώπους, οι αλγόριθμοι μπορούν να κάνουν λάθη.
0

Οι αλγόριθμοι είναι κάποιες οδηγίες που χρησιμοποιούνται για την επίλυση προβλημάτων και για την πραγματοποίηση διάφορων ενεργειών. Οι οδηγίες αυτές ακολουθούνται βήμα προς βήμα από τους υπολογιστές με στόχο είτε τη βελτιστοποίηση ή την απλοποίηση μιας διαδικασίας.


Το Ίντερνετ, ως γνωστόν, είναι γεμάτο με αλγόριθμους, όπως επίσης τα social media, οι μηχανές αναζήτησης, οι εφαρμογές, η τεχνητή νοημοσύνη, τα video games, τα sites για dating, ταξίδια, βιβλία, κρασιά κ.ό.κ. Όλα αυτά τα πράγματα δεν θα μπορούσαν να υπάρχουν χωρίς τους αλγόριθμους.


Δεδομένου ότι πρόκειται για «προγράμματα» που έχουν κατασκευαστεί από ανθρώπους, οι αλγόριθμοι μπορούν να κάνουν λάθη. Σύμφωνα με μια ανάλυση που είχε κάνει το 2017 το Pew Research Center, μια λανθασμένη χρήση του αλγόριθμου μπορεί να δώσει τη δυνατότητα είτε σε κάποια κυβέρνηση είτε σε μεγάλες εταιρείες να αποκτήσουν τον έλεγχο της ζωής των χρηστών, δημιουργώντας το λεγόμενο «filter bubble».

Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth».


Είναι σεξιστική η Apple Card;

Στις αρχές του περασμένου Νοέμβρη, ο David Heinemeier Hansson, γνωστός δημιουργός λογισμικού από τη Δανία, στράφηκε κατά της Apple Card λέγοντας τα εξής: «Η Apple Card είναι ένα γαμ***** σεξιστικό πρόγραμμα. Εγώ και η γυναίκα μου έχουμε κοινή φορολογική δήλωση και είμαστε παντρεμένοι εδώ και πολύ καιρό. Όμως, ο αλγόριθμος της Apple θεωρεί ότι εγώ αξίζω κατά 20 φορές περισσότερο το πιστωτικό όριο σε σύγκριση με τη γυναίκα μου».

Τι μπορεί να συμβεί όταν ένας αλγόριθμος κάνει λάθος; Facebook Twitter
Το tweet του David Heinemeier Hansson στις 7 Νοεμβρίου του 2019.


Αυτή η υποψία του Hansson επιβεβαιώθηκε στη συνέχεια από πολλούς ακόμη χρήστες, μεταξύ των οποίων και ο συνιδρυτής της Apple, Steve Wozniak. Το τμήμα οικονομικών υπηρεσιών της Νέας Υόρκης διεξήγαγε έρευνα, με την Apple να κατηγορεί την Goldman Sachs – που είναι υπεύθυνη για τη διαχείριση – ενώ η τράπεζα επενδύσεων, με τη σειρά της, απέδωσε ευθύνες σε έναν αλγόριθμο.


Η πραγματική αλήθεια

Το πρόβλημα με τον παραπάνω αλγόριθμο είναι ότι έχει δημιουργηθεί με παλαιότερα δεδομένα, τα οποία δεν λαμβάνουν υπ'όψιν τους τις αλλαγές της κοινωνίας. «Αν πρέπει να μεγιστοποιήσεις τον βαθμό αξιοπιστίας και να κοιτάξεις τα ιστορικά δεδομένα, τότε ιστορικά οι άνδρες έβγαζαν πάντα περισσότερα χρήματα από τις γυναίκες», εξηγεί η Meredith Broussard, καθηγήτρια του New York University και συγγραφέας του βιβλίου «Artificial Unintelligence: How Computers Misunderstand the World».


Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth» (χρυσή αλήθεια). Ο αλγόριθμος καταλαβαίνει πώς να συμπεριφερθεί με βάση τα δεδομένα που έχει στη διάθεσή του, μετατρέποντας κάθε περίπτωση σε ένα σύνολο μεταβλητών και μαθαίνοντας ποιες από αυτές επηρεάζουν τελικά την ταξινόμηση. Στόχος αυτής της διαδικασίας είναι φυσικά η αναπαραγωγή της «gold truth», η οποία σε ορισμένες περιπτώσεις μπορεί να εμπεριέχει και στατιστικό λάθος.

O αλγόριθμος που απορρίπτει τα βιογραφικά των γυναικών

Ανάλογη ήταν μια περίπτωση του 2014 με έναν αλγόριθμο της Amazon, ο οποίος έκανε επιλεκτικές διακρίσεις σε άτομα με βάση τα βιογραφικά που έστελναν. Το πρόγραμμα βασιζόταν σε δεδομένα ανθρώπων από την τελευταία δεκαετία και επειδή οι περισσότεροι ήταν άνδρες, οι γυναίκες αυτόματα απορρίπτονταν.

Μια ανασκόπηση για το τι είναι αλγόριθμος

Σύμφωνα με την καθηγήτρια Meredith Broussard, για περισσότερα από είκοσι χρόνια πιστεύαμε ότι οι αλγόριθμοι θα είναι καλύτεροι από τον άνθρωπο, όμως τώρα καταλαβαίνουμε ότι κάτι τέτοιο δεν ισχύει. Κάπως έτσι έχει εμφανιστεί μια ολόκληρη, νέα κατηγορία επαγγελματιών, οι οποίοι εργάζονται για να προβλέπουν και να αποκλείουν τυχόν τεχνολογικά λάθη. 

Το έργο αυτών των ανθρώπων στρέφεται γύρω από την αξιολόγηση της διαφάνειας και της ακρίβειας με τις οποίες έχει δημιουργηθεί το λογισμικό. Πλέον, η συγκεκριμένη πρακτική φαίνεται πως έχει γίνει trend, καθώς ολοένα και περισσότερες εταιρείες, όπως για παράδειγμα η Deloitte, επενδύουν πάνω στο πώς να περιορίσουν τα ενδεχόμενα προβλήματα από τους αλγόριθμους. 

Με πληροφορίες από Corriere della Sera

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Ψάρια στη Σελήνη: Το φιλόδοξο σχέδιο της Γαλλίας για διαστημική ιχθυοκαλλιέργεια

Τech & Science / Ψάρια στη Σελήνη: Το σχέδιο της Γαλλίας για διαστημικές ιχθυοκαλλιέργειες

Το γαλλικό πρόγραμμα Lunar Hatch ετοιμάζεται να στείλει λαβράκια στο διάστημα, ανοίγοντας τον δρόμο για βιώσιμη τροφή σε αποστολές στη Σελήνη και τον Άρη – αλλά και σε απομονωμένες περιοχές της Γης
LIFO NEWSROOM
Ο δορυφόρος που θα «ζυγίσει» τα 1,5 τρισεκατομμύρια δέντρα του πλανήτη

Τech & Science / Ο δορυφόρος που θα «ζυγίσει» τα 1,5 τρισεκατομμύρια δέντρα του πλανήτη

Η σημασία της αποστολής είναι τεράστια, καθώς μέχρι σήμερα η εκτίμηση του αποθηκευμένου άνθρακα βασιζόταν σε μεμονωμένες μετρήσεις δέντρων και υπολογισμούς με σημαντικό περιθώριο σφάλματος
LIFO NEWSROOM
Τι μας δείχνουν τα πρώτα ίχνη ζωής εκτός της Γης;

Διάστημα / Βρέθηκαν όντως ίχνη εξωγήινης ζωής;

Τι ανακάλυψε ακριβώς το τηλεσκόπιο James Webb; Θα υπάρξει σύντομα κατοικήσιμος πλανήτης; Πόσο κοντά είμαστε στην κατάκτηση του Διαστήματος; Ο αστρονόμος και καθηγητής Φυσικής του Διαστήματος Ξενοφών Μουσάς εξηγεί τι σηματοδοτεί η ανακάλυψη του Πανεπιστημίου του Κέιμπριτζ.
ΓΙΑΝΝΗΣ ΠΑΝΤΑΖΟΠΟΥΛΟΣ