Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
0

Το Twitter ζητά συγγνώμη για έναν αλγόριθμο κροπαρίσματος φωτογραφιών, που εστιάζει σε λευκά πρόσωπα έναντι των μαύρων. 

Οι χρήστες άρχισαν να παρατηρούν το πρόβλημα μέσα στο Σαββατοκύριακο και σύντομα το ζήτημα έλαβε τεράστιες διαστάσεις στην πλατφόρμα κοινωνικής δικτύωσης όπου συζητήθηκε εκτενώς. Όπως αποκάλυψαν οι επανειλημμένες δοκιμές πολλών χρηστών, ο αλγόριθμος περικοπής φωτογραφιών στα ποστ «προτιμούσε» να κεντράρει στους λευκούς αντί για τους μαύρους σε όλες τις περιπτώσεις που βρίσκονταν μέσα στο ίδιο πλάνο. 

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Αρχική φωτογραφία
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Τελικό κροπάρισμα στο Feed

Το Twitter υποστηρίζει ότι είχε δοκιμάσει το πρόγραμμα για σφάλματα πριν προχωρήσει στην εφαρμογή του, αλλά παραδέχεται ότι μάλλον δεν έκανε ικανοποιητικούς ελέγχους. 

Σε όλες τις αναρτήσεις της πλατφόρμας, οι φωτογραφίες κροπάρονται ώστε να μην καταλαμβάνουν πάρα πολύ χώρο στο Feed, επιτρέποντας έτσι την προβολή πολλαπλών εικόνων στο ίδιο Tweet. Το Twitter χρησιμοποιεί διάφορα αλγοριθμικά εργαλεία που υποτίθεται πως εστιάζουν πάντα στο πιο σημαντικό κομμάτι της κάθε εικόνας, διατηρώντας εντός πλαισίου τα πρόσωπα και τυχόν κείμενο

Όμως οι χρήστες της πλατφόρμας εντόπισαν μία σειρά σφαλμάτων μέσα σε μόλις δύο ημέρες. Ο πρώτος που έθιξε δημοσίως το ζήτημα ήταν ένας διδακτορικός φοιτητής, ο Κόλι Μάντλαντ που ανακάλυψε το πρόβλημα όταν ανάρτησε μια φωτογραφία του ίδιου και ενός μαύρου συμφοιτητή του. Αμέσως παρατήρησε πως στην κροπαρισμένη φωτογραφία φαινόταν μόνο το δικό του πρόσωπο και όχι αυτό του φίλου του. 

Ακολούθησαν δοκιμές και από άλλους, με πολύ ενδιαφέρουσα την απόπειρα του επιχειρηματία Τόνι Αρτσιέρι, που παρατήρησε ότι σε μια φωτογραφία του πρώην προέδρου των ΗΠΑ Μπαράκ Ομπάμα με τον γερουσιαστή Μιτς ΜακΚόνελ, ο αλγόριθμος εστίαζε συστηματικά στον λευκό γερουσιαστή αφήνοντας απέξω τον Ομπάμα. 

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter

Παρόμοια τύχη είχαν και οι φωτογραφίες με λευκά και μαύρα μοντέλα από στοκ φωτογραφιών, με χαρακτήρες της σειράς κινουμένων σχεδίων Simpsons όπως Λένι και Καρλ και ακόμα και με ζώα, λευκά και μαύρα σκυλιά ράτσας λαμπραντόρ. 

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Ακόμα και σε σκίτσα των Simpsons
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Και σε σκυλιά
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter

Εκπρόσωπος του Twitter σχολίασε δημοσίως ότι το πρόγραμμα χρειάζεται «περισσότερη ανάλυση» και δεσμεύτηκε πως θα ενημερώσει στο μέλλον για οτιδήποτε νεότερο προκύψει, καθώς και για την δράση που θα αναλάβει από εδώ και στο εξής η πλατφόρμα.

Το Twitter υπόσχεται πως τα αποτελέσματα θα δημοσιευτούν ώστε και άλλοι να είναι σε θέση να τα ελέγξουν και να τα επαναλάβουν. 

Αυτή δεν είναι η πρώτη φορά που παρατηρούνται κρούσματα «ψηφιακού ρατσισμού» σε αλγορίθμους. Το 2018, είχε αποκαλυφθεί πως η Google είχε μπλοκάρει στις υπηρεσίες φωτογραφιών οποιαδήποτε αναφορά σε γορίλες, χιμπατζήδες και πιθήκους, καθώς το πρόγραμμα φαίνεται πως πρόσθετε επανειλημμένως αυτές τις εσφαλμένες εξηγήσεις σε ανθρώπινα πρόσωπα. 

Διεθνή
0

ΔΕΙΤΕ ΑΚΟΜΑ

Από τη στήριξη στην αμφισβήτηση: Η μεταστροφή του Πιρς Μόργκαν για το Ισραήλ και τη Γάζα

Διεθνή / Από τη στήριξη στην αμφισβήτηση: Η μεταστροφή του Πιρς Μόργκαν για το Ισραήλ και τη Γάζα

Η επεισοδιακή συνέντευξη με την πρέσβειρα του Ισραήλ στο Ηνωμένο Βασίλειο - Ο Βρετανός δημοσιογράφος σήμερα μιλά για υπέρμετρη ισραηλινή απάντηση και έλλειψη διαφάνειας στους θανάτους αμάχων Παλαιστινίων
LIFO NEWSROOM
Η Αίγυπτος κλείνει τη Μονή Σινά - Για νέα «Άλωση» μιλά ο Αρχιεπίσκοπος Ιερώνυμος

Διεθνή / Η Αίγυπτος κλείνει τη Μονή Σινά - Για νέα «Άλωση» μιλά ο Αρχιεπίσκοπος Ιερώνυμος

ΥΠΕΞ για Όρος Σινά: Κανένα περιθώριο να αποκλίνουμε από την κοινή κατανόηση Ελλάδας και Αιγύπτου - Αιγύπτιοι αρχαιολόγοι υποστηρίζουν πως οι δημεύσεις εμπίπτουν στους νόμους περί αρχαιοτήτων και πως η απόφαση αυτή είναι προς όφελος της Μονής
LIFO NEWSROOM
Κωπηλάτης από τη Γαλλία συνελήφθη στα ρωσοεσθονικά σύνορα - Πέρασε στην Εσθονία κάνοντας κουπί

Διεθνή / Κωπηλάτης από τη Γαλλία συνελήφθη στα ρωσοεσθονικά σύνορα - Πέρασε στην Εσθονία κάνοντας κουπί

Το προξενείο της χώρας στην Αγία Πετρούπολη επικοινώνησε με τις ρωσικές αρχές ώστε να διασφαλίσει ότι ο άνδρας αυτός θα λάβει προξενική βοήθεια, όπως προβλέπει η Συνθήκη της Βιέννης
LIFO NEWSROOM