Τι μπορεί να συμβεί όταν ένας αλγόριθμος κάνει λάθος;

Τι μπορεί να συμβεί όταν ένας αλγόριθμος κάνει λάθος; Facebook Twitter
Δεδομένου ότι πρόκειται για «προγράμματα» που έχουν κατασκευαστεί από ανθρώπους, οι αλγόριθμοι μπορούν να κάνουν λάθη.
0

Οι αλγόριθμοι είναι κάποιες οδηγίες που χρησιμοποιούνται για την επίλυση προβλημάτων και για την πραγματοποίηση διάφορων ενεργειών. Οι οδηγίες αυτές ακολουθούνται βήμα προς βήμα από τους υπολογιστές με στόχο είτε τη βελτιστοποίηση ή την απλοποίηση μιας διαδικασίας.


Το Ίντερνετ, ως γνωστόν, είναι γεμάτο με αλγόριθμους, όπως επίσης τα social media, οι μηχανές αναζήτησης, οι εφαρμογές, η τεχνητή νοημοσύνη, τα video games, τα sites για dating, ταξίδια, βιβλία, κρασιά κ.ό.κ. Όλα αυτά τα πράγματα δεν θα μπορούσαν να υπάρχουν χωρίς τους αλγόριθμους.


Δεδομένου ότι πρόκειται για «προγράμματα» που έχουν κατασκευαστεί από ανθρώπους, οι αλγόριθμοι μπορούν να κάνουν λάθη. Σύμφωνα με μια ανάλυση που είχε κάνει το 2017 το Pew Research Center, μια λανθασμένη χρήση του αλγόριθμου μπορεί να δώσει τη δυνατότητα είτε σε κάποια κυβέρνηση είτε σε μεγάλες εταιρείες να αποκτήσουν τον έλεγχο της ζωής των χρηστών, δημιουργώντας το λεγόμενο «filter bubble».

Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth».


Είναι σεξιστική η Apple Card;

Στις αρχές του περασμένου Νοέμβρη, ο David Heinemeier Hansson, γνωστός δημιουργός λογισμικού από τη Δανία, στράφηκε κατά της Apple Card λέγοντας τα εξής: «Η Apple Card είναι ένα γαμ***** σεξιστικό πρόγραμμα. Εγώ και η γυναίκα μου έχουμε κοινή φορολογική δήλωση και είμαστε παντρεμένοι εδώ και πολύ καιρό. Όμως, ο αλγόριθμος της Apple θεωρεί ότι εγώ αξίζω κατά 20 φορές περισσότερο το πιστωτικό όριο σε σύγκριση με τη γυναίκα μου».

Τι μπορεί να συμβεί όταν ένας αλγόριθμος κάνει λάθος; Facebook Twitter
Το tweet του David Heinemeier Hansson στις 7 Νοεμβρίου του 2019.


Αυτή η υποψία του Hansson επιβεβαιώθηκε στη συνέχεια από πολλούς ακόμη χρήστες, μεταξύ των οποίων και ο συνιδρυτής της Apple, Steve Wozniak. Το τμήμα οικονομικών υπηρεσιών της Νέας Υόρκης διεξήγαγε έρευνα, με την Apple να κατηγορεί την Goldman Sachs – που είναι υπεύθυνη για τη διαχείριση – ενώ η τράπεζα επενδύσεων, με τη σειρά της, απέδωσε ευθύνες σε έναν αλγόριθμο.


Η πραγματική αλήθεια

Το πρόβλημα με τον παραπάνω αλγόριθμο είναι ότι έχει δημιουργηθεί με παλαιότερα δεδομένα, τα οποία δεν λαμβάνουν υπ'όψιν τους τις αλλαγές της κοινωνίας. «Αν πρέπει να μεγιστοποιήσεις τον βαθμό αξιοπιστίας και να κοιτάξεις τα ιστορικά δεδομένα, τότε ιστορικά οι άνδρες έβγαζαν πάντα περισσότερα χρήματα από τις γυναίκες», εξηγεί η Meredith Broussard, καθηγήτρια του New York University και συγγραφέας του βιβλίου «Artificial Unintelligence: How Computers Misunderstand the World».


Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth» (χρυσή αλήθεια). Ο αλγόριθμος καταλαβαίνει πώς να συμπεριφερθεί με βάση τα δεδομένα που έχει στη διάθεσή του, μετατρέποντας κάθε περίπτωση σε ένα σύνολο μεταβλητών και μαθαίνοντας ποιες από αυτές επηρεάζουν τελικά την ταξινόμηση. Στόχος αυτής της διαδικασίας είναι φυσικά η αναπαραγωγή της «gold truth», η οποία σε ορισμένες περιπτώσεις μπορεί να εμπεριέχει και στατιστικό λάθος.

O αλγόριθμος που απορρίπτει τα βιογραφικά των γυναικών

Ανάλογη ήταν μια περίπτωση του 2014 με έναν αλγόριθμο της Amazon, ο οποίος έκανε επιλεκτικές διακρίσεις σε άτομα με βάση τα βιογραφικά που έστελναν. Το πρόγραμμα βασιζόταν σε δεδομένα ανθρώπων από την τελευταία δεκαετία και επειδή οι περισσότεροι ήταν άνδρες, οι γυναίκες αυτόματα απορρίπτονταν.

Μια ανασκόπηση για το τι είναι αλγόριθμος

Σύμφωνα με την καθηγήτρια Meredith Broussard, για περισσότερα από είκοσι χρόνια πιστεύαμε ότι οι αλγόριθμοι θα είναι καλύτεροι από τον άνθρωπο, όμως τώρα καταλαβαίνουμε ότι κάτι τέτοιο δεν ισχύει. Κάπως έτσι έχει εμφανιστεί μια ολόκληρη, νέα κατηγορία επαγγελματιών, οι οποίοι εργάζονται για να προβλέπουν και να αποκλείουν τυχόν τεχνολογικά λάθη. 

Το έργο αυτών των ανθρώπων στρέφεται γύρω από την αξιολόγηση της διαφάνειας και της ακρίβειας με τις οποίες έχει δημιουργηθεί το λογισμικό. Πλέον, η συγκεκριμένη πρακτική φαίνεται πως έχει γίνει trend, καθώς ολοένα και περισσότερες εταιρείες, όπως για παράδειγμα η Deloitte, επενδύουν πάνω στο πώς να περιορίσουν τα ενδεχόμενα προβλήματα από τους αλγόριθμους. 

Με πληροφορίες από Corriere della Sera

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Τech & Science / Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Το απολίθωμα, μια γνάθος που διατηρήθηκε σε εξαιρετική κατάσταση, αναλύθηκε με σύγχρονες τεχνικές σάρωσης, αποκαλύπτοντας χαρακτηριστικά που το κατατάσσουν σε ένα άγνωστο έως τώρα είδος
LIFO NEWSROOM
Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Τech & Science / Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Εντυπωσιακά αποτελέσματα μέσα σε λίγες εβδομάδες από νέα θεραπεία που στοχεύει το γονίδιο OTOF – Παιδιά απέκτησαν ξανά την αίσθηση της ακοής, με μία επταετή να συνομιλεί κανονικά με τη μητέρα της τέσσερις μήνες μετά
LIFO NEWSROOM
Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Τech & Science / Ελικοβακτηρίδιο: Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Οι περισσότεροι μολύνονται με το βακτήριο όταν είναι παιδιά και μπορεί να το έχουν για χρόνια χωρίς να το ξέρουν, γιατί συνήθως δεν έχει συμπτώματα
LIFO NEWSROOM
Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Τech & Science / Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Σε έναν κόσμο γεμάτο υπερδιέγερση από μέσα κοινωνικής δικτύωσης, υπερεπεξεργασμένες τροφές και ψηφιακές απολαύσεις, ο εγκέφαλος κατακλύζεται από τεχνητές εξάρσεις ντοπαμίνης
LIFO NEWSROOM
«Απλά... ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Τech & Science / «Απλά. Ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Η εικόνα δείχνει ένα σπάνιο ατμοσφαιρικό φαινόμενο που είναι δύσκολο να εντοπιστεί από το έδαφος αλλά γίνεται πιο ορατό από το διάστημα, σε ύψος περίπου 400 χιλιομέτρων από τη Γη
LIFO NEWSROOM
Η Apple ενώνει τις δυνάμεις της με τη SpaceX, εισάγοντας το Starlink στα iPhones

Τech & Science / Η Apple ενώνει τις δυνάμεις της με τη SpaceX, εισάγοντας το Starlink στα iPhones

O Έλον Μασκ ανέφερε ότι οι χρήστες μπορούν να αναμένουν υποστήριξη για εικόνες, μουσική και podcasts μέσω της τρέχουσας τεχνολογίας Starlink, με σχέδια για προσθήκη υποστήριξης βίντεο σε μελλοντικές ενημερώσεις
LIFO NEWSROOM
Σταματήστε να μετράτε πρόβατα... και άλλα ανούσια tips για να σας πάρει ο ύπνος

Τech & Science / Σταματήστε να μετράτε προβατάκια και ακόμα επτά πρακτικά tips για να σας πάρει ο ύπνος

Από την αλλαγή περιβάλλοντος μέχρι το να σταθείτε ξυπόλητοι στο κρύο πάτωμα του μπάνιου, ειδικοί μοιράζονται δοκιμασμένα κόλπα για να χαλαρώσετε και να ξαναβυθιστείτε στην αγκαλιά του Μορφέα
LIFO NEWSROOM