Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
0

Το Twitter ζητά συγγνώμη για έναν αλγόριθμο κροπαρίσματος φωτογραφιών, που εστιάζει σε λευκά πρόσωπα έναντι των μαύρων. 

Οι χρήστες άρχισαν να παρατηρούν το πρόβλημα μέσα στο Σαββατοκύριακο και σύντομα το ζήτημα έλαβε τεράστιες διαστάσεις στην πλατφόρμα κοινωνικής δικτύωσης όπου συζητήθηκε εκτενώς. Όπως αποκάλυψαν οι επανειλημμένες δοκιμές πολλών χρηστών, ο αλγόριθμος περικοπής φωτογραφιών στα ποστ «προτιμούσε» να κεντράρει στους λευκούς αντί για τους μαύρους σε όλες τις περιπτώσεις που βρίσκονταν μέσα στο ίδιο πλάνο. 

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Αρχική φωτογραφία
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Τελικό κροπάρισμα στο Feed

Το Twitter υποστηρίζει ότι είχε δοκιμάσει το πρόγραμμα για σφάλματα πριν προχωρήσει στην εφαρμογή του, αλλά παραδέχεται ότι μάλλον δεν έκανε ικανοποιητικούς ελέγχους. 

Σε όλες τις αναρτήσεις της πλατφόρμας, οι φωτογραφίες κροπάρονται ώστε να μην καταλαμβάνουν πάρα πολύ χώρο στο Feed, επιτρέποντας έτσι την προβολή πολλαπλών εικόνων στο ίδιο Tweet. Το Twitter χρησιμοποιεί διάφορα αλγοριθμικά εργαλεία που υποτίθεται πως εστιάζουν πάντα στο πιο σημαντικό κομμάτι της κάθε εικόνας, διατηρώντας εντός πλαισίου τα πρόσωπα και τυχόν κείμενο

Όμως οι χρήστες της πλατφόρμας εντόπισαν μία σειρά σφαλμάτων μέσα σε μόλις δύο ημέρες. Ο πρώτος που έθιξε δημοσίως το ζήτημα ήταν ένας διδακτορικός φοιτητής, ο Κόλι Μάντλαντ που ανακάλυψε το πρόβλημα όταν ανάρτησε μια φωτογραφία του ίδιου και ενός μαύρου συμφοιτητή του. Αμέσως παρατήρησε πως στην κροπαρισμένη φωτογραφία φαινόταν μόνο το δικό του πρόσωπο και όχι αυτό του φίλου του. 

Ακολούθησαν δοκιμές και από άλλους, με πολύ ενδιαφέρουσα την απόπειρα του επιχειρηματία Τόνι Αρτσιέρι, που παρατήρησε ότι σε μια φωτογραφία του πρώην προέδρου των ΗΠΑ Μπαράκ Ομπάμα με τον γερουσιαστή Μιτς ΜακΚόνελ, ο αλγόριθμος εστίαζε συστηματικά στον λευκό γερουσιαστή αφήνοντας απέξω τον Ομπάμα. 

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter

Παρόμοια τύχη είχαν και οι φωτογραφίες με λευκά και μαύρα μοντέλα από στοκ φωτογραφιών, με χαρακτήρες της σειράς κινουμένων σχεδίων Simpsons όπως Λένι και Καρλ και ακόμα και με ζώα, λευκά και μαύρα σκυλιά ράτσας λαμπραντόρ. 

Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Ακόμα και σε σκίτσα των Simpsons
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter
Και σε σκυλιά
Twitter: «Ρατσιστικός αλγόριθμος» κρόπαρε φωτογραφίες εστιάζοντας στους λευκούς έναντι των μαύρων Facebook Twitter

Εκπρόσωπος του Twitter σχολίασε δημοσίως ότι το πρόγραμμα χρειάζεται «περισσότερη ανάλυση» και δεσμεύτηκε πως θα ενημερώσει στο μέλλον για οτιδήποτε νεότερο προκύψει, καθώς και για την δράση που θα αναλάβει από εδώ και στο εξής η πλατφόρμα.

Το Twitter υπόσχεται πως τα αποτελέσματα θα δημοσιευτούν ώστε και άλλοι να είναι σε θέση να τα ελέγξουν και να τα επαναλάβουν. 

Αυτή δεν είναι η πρώτη φορά που παρατηρούνται κρούσματα «ψηφιακού ρατσισμού» σε αλγορίθμους. Το 2018, είχε αποκαλυφθεί πως η Google είχε μπλοκάρει στις υπηρεσίες φωτογραφιών οποιαδήποτε αναφορά σε γορίλες, χιμπατζήδες και πιθήκους, καθώς το πρόγραμμα φαίνεται πως πρόσθετε επανειλημμένως αυτές τις εσφαλμένες εξηγήσεις σε ανθρώπινα πρόσωπα. 

Διεθνή
0

ΔΕΙΤΕ ΑΚΟΜΑ

Ο Τραμπ θέλει να φτιάξει ξανά αμερικανική στρατιωτική βάση στο Αφγανιστάν

Διεθνή / Ο Τραμπ θέλει να πάρει πίσω την αμερικανική στρατιωτική βάση στο Αφγανιστάν

Η βάση είναι στα χέρια των Ταλιμπάν, με τους οποίους ο Αμερικανός πρόεδρος δεν έχει επίσημες διπλωματικές σχέσεις, αλλά έχουν υπάρξει συνομιλίες για ανταλλαγή ομήρων και κρατουμένων
LIFO NEWSROOM
Λωρίδα της Γάζας: Χωρίς

Διεθνή / Λωρίδα της Γάζας: Χωρίς τηλέφωνο και ίντερνετ καθώς ο ισραηλινός στρατός προελαύνει - «Είναι κακός οιωνός»

Η Παλαιστινιακή Εταιρεία Τηλεπικοινωνιών ανέφερε σε ανακοίνωσή της ότι οι υπηρεσίες της διακόπηκαν «λόγω της συνεχιζόμενης επίθεσης και της στοχοποίησης των κύριων διαδρομών του δικτύου»
LIFO NEWSROOM
Η αγωγή του Τραμπ εναντίον των New York Times για 15 δισ. δολάρια κρύβει κάτι σοβαρό

Διεθνή / Πώς ο Τραμπ, εμμονικά και ξεδιάντροπα, προσπαθεί να κατεδαφίσει τα κορυφαία media

Η αγωγή του Τραμπ εναντίον των «New York Times» για 15 δισ. δολάρια κρύβει μια άρρωστη εμμονή του με τα media. Θέλει να κατεδαφίσει ακόμη έναν ζωτικής σημασίας θεσμό και να αποδυναμώσει τη νομική προστασία των μέσων ενημέρωσης.
THE LIFO TEAM
Ο Ισραηλινός υπουργός Οικονομικών μιλά για «real estate bonanza» στη Γάζα εν μέσω βομβαρδισμών

Διεθνή / Ο Ισραηλινός υπουργός Οικονομικών μιλά για «real estate bonanza» στη Γάζα εν μέσω βομβαρδισμών

Οι δηλώσεις έγιναν ενώ οι ισραηλινές δυνάμεις συνέχισαν για δεύτερη ημέρα τις επιχειρήσεις στη Γάζα, με τον τοπικό απολογισμό να ξεπερνά τους 100 νεκρούς μέσα σε μία ημέρα μόνο στην πόλη της Γάζας
LIFO NEWSROOM
«Προσευχόμαστε να έρθει η βίζα πριν τον θάνατο» - Άγνωστο το μέλλον για τα βαριά τραυματισμένα παιδιά της Γάζας

Διεθνή / «Προσευχόμαστε να έρθει η βίζα πριν τον θάνατο» - Το άγνωστο μέλλον των βαριά τραυματισμένων παιδιών της Γάζας

Δεκάδες τραυματισμένα παιδιά από τη Γάζα βρίσκονται εγκλωβισμένα στην Αίγυπτο και «επικίνδυνα» μακριά από τη θεραπεία τους, μετά την αιφνίδια απαγόρευση του Τραμπ για την είσοδο Παλαιστινίων στις ΗΠΑ
LIFO NEWSROOM