Οι αλγόριθμοι είναι κάποιες οδηγίες που χρησιμοποιούνται για την επίλυση προβλημάτων και για την πραγματοποίηση διάφορων ενεργειών. Οι οδηγίες αυτές ακολουθούνται βήμα προς βήμα από τους υπολογιστές με στόχο είτε τη βελτιστοποίηση ή την απλοποίηση μιας διαδικασίας.


Το Ίντερνετ, ως γνωστόν, είναι γεμάτο με αλγόριθμους, όπως επίσης τα social media, οι μηχανές αναζήτησης, οι εφαρμογές, η τεχνητή νοημοσύνη, τα video games, τα sites για dating, ταξίδια, βιβλία, κρασιά κ.ό.κ. Όλα αυτά τα πράγματα δεν θα μπορούσαν να υπάρχουν χωρίς τους αλγόριθμους.


Δεδομένου ότι πρόκειται για «προγράμματα» που έχουν κατασκευαστεί από ανθρώπους, οι αλγόριθμοι μπορούν να κάνουν λάθη. Σύμφωνα με μια ανάλυση που είχε κάνει το 2017 το Pew Research Center, μια λανθασμένη χρήση του αλγόριθμου μπορεί να δώσει τη δυνατότητα είτε σε κάποια κυβέρνηση είτε σε μεγάλες εταιρείες να αποκτήσουν τον έλεγχο της ζωής των χρηστών, δημιουργώντας το λεγόμενο «filter bubble».

 

Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth».


Είναι σεξιστική η Apple Card;

Στις αρχές του περασμένου Νοέμβρη, ο David Heinemeier Hansson, γνωστός δημιουργός λογισμικού από τη Δανία, στράφηκε κατά της Apple Card λέγοντας τα εξής: «Η Apple Card είναι ένα γαμ***** σεξιστικό πρόγραμμα. Εγώ και η γυναίκα μου έχουμε κοινή φορολογική δήλωση και είμαστε παντρεμένοι εδώ και πολύ καιρό. Όμως, ο αλγόριθμος της Apple θεωρεί ότι εγώ αξίζω κατά 20 φορές περισσότερο το πιστωτικό όριο σε σύγκριση με τη γυναίκα μου».

 

Το tweet του David Heinemeier Hansson στις 7 Νοεμβρίου του 2019.
Το tweet του David Heinemeier Hansson στις 7 Νοεμβρίου του 2019.


Αυτή η υποψία του Hansson επιβεβαιώθηκε στη συνέχεια από πολλούς ακόμη χρήστες, μεταξύ των οποίων και ο συνιδρυτής της Apple, Steve Wozniak. Το τμήμα οικονομικών υπηρεσιών της Νέας Υόρκης διεξήγαγε έρευνα, με την Apple να κατηγορεί την Goldman Sachs – που είναι υπεύθυνη για τη διαχείριση – ενώ η τράπεζα επενδύσεων, με τη σειρά της, απέδωσε ευθύνες σε έναν αλγόριθμο.


Η πραγματική αλήθεια

Το πρόβλημα με τον παραπάνω αλγόριθμο είναι ότι έχει δημιουργηθεί με παλαιότερα δεδομένα, τα οποία δεν λαμβάνουν υπ'όψιν τους τις αλλαγές της κοινωνίας. «Αν πρέπει να μεγιστοποιήσεις τον βαθμό αξιοπιστίας και να κοιτάξεις τα ιστορικά δεδομένα, τότε ιστορικά οι άνδρες έβγαζαν πάντα περισσότερα χρήματα από τις γυναίκες», εξηγεί η Meredith Broussard, καθηγήτρια του New York University και συγγραφέας του βιβλίου «Artificial Unintelligence: How Computers Misunderstand the World».


Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth» (χρυσή αλήθεια). Ο αλγόριθμος καταλαβαίνει πώς να συμπεριφερθεί με βάση τα δεδομένα που έχει στη διάθεσή του, μετατρέποντας κάθε περίπτωση σε ένα σύνολο μεταβλητών και μαθαίνοντας ποιες από αυτές επηρεάζουν τελικά την ταξινόμηση. Στόχος αυτής της διαδικασίας είναι φυσικά η αναπαραγωγή της «gold truth», η οποία σε ορισμένες περιπτώσεις μπορεί να εμπεριέχει και στατιστικό λάθος.

 

O αλγόριθμος που απορρίπτει τα βιογραφικά των γυναικών

Ανάλογη ήταν μια περίπτωση του 2014 με έναν αλγόριθμο της Amazon, ο οποίος έκανε επιλεκτικές διακρίσεις σε άτομα με βάση τα βιογραφικά που έστελναν. Το πρόγραμμα βασιζόταν σε δεδομένα ανθρώπων από την τελευταία δεκαετία και επειδή οι περισσότεροι ήταν άνδρες, οι γυναίκες αυτόματα απορρίπτονταν.

 

Μια ανασκόπηση για το τι είναι αλγόριθμος

Σύμφωνα με την καθηγήτρια Meredith Broussard, για περισσότερα από είκοσι χρόνια πιστεύαμε ότι οι αλγόριθμοι θα είναι καλύτεροι από τον άνθρωπο, όμως τώρα καταλαβαίνουμε ότι κάτι τέτοιο δεν ισχύει. Κάπως έτσι έχει εμφανιστεί μια ολόκληρη, νέα κατηγορία επαγγελματιών, οι οποίοι εργάζονται για να προβλέπουν και να αποκλείουν τυχόν τεχνολογικά λάθη. 

Το έργο αυτών των ανθρώπων στρέφεται γύρω από την αξιολόγηση της διαφάνειας και της ακρίβειας με τις οποίες έχει δημιουργηθεί το λογισμικό. Πλέον, η συγκεκριμένη πρακτική φαίνεται πως έχει γίνει trend, καθώς ολοένα και περισσότερες εταιρείες, όπως για παράδειγμα η Deloitte, επενδύουν πάνω στο πώς να περιορίσουν τα ενδεχόμενα προβλήματα από τους αλγόριθμους. 

 

Με πληροφορίες από Corriere della Sera