To Twitter πλήρωσε 3.500$ έναν απόφοιτο που απέδειξε ότι ο αλγόριθμος «προτιμά» αδύνατα & φωτεινά πρόσωπα

Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
0

Ο αλγόριθμος «κροπαρίσματος» φωτογραφιών του Twitter (σ.σ αυτόματης περικοπής) , φαίνεται πως «προτιμά» να εστιάζει σε νεότερα, πιο αδύνατα και πιο ανοικτόχρωμα πρόσωπα.  

Η πλατφόρμα πλήρωσε 3.500 δολάρια έναν απόφοιτο του ελβετικού πανεπιστημίου EFPL που απέδειξε τις διακρίσεις που έκανε ο αλγόριθμος, ο οποίος υποτίθεται πως εστίαζε «στο πιο ενδιαφέρον κομμάτι» των φωτογραφιών, κατά την μερική σμίκρυνση που αυτές υφίστανται στην ροή του feed, πριν πατήσει κανείς πάνω στον εκάστοτε σύνδεσμο ώστε να ανοίξουν ολόκληρες οι φωτογραφίες. 

Ο Bogdan Kulynych απέδειξε την ψηφιακή προκατάληψη στο πλαίσιο ενός διαγωνισμού, στο συνέδριο ασφαλείας DEF CON στο Λας Βέγκας. Για να το επιτύχει, πρώτα δημιούργησε με τεχνητό τρόπο ψηφιακά πρόσωπα που δεν υπήρχαν στην πραγματικότητα, με διαφορετικά χαρακτηριστικά. Στη συνέχεια τα φόρτωσε στο Twitter παρατηρώντας που εστίαζε το λογισμικό. 

Έχοντας τον πλήρη έλεγχο, ο Kulynych μπορούσε να δημιουργήσει ανύπαρκτα, ψηφιακά πρόσωπα σχεδόν πανομοιότυπα μεταξύ τους, με απειροελάχιστες διαφορές στον τόνο του δέρματος, το πλάτος του κεφαλιού, την φαινομενική ηλικία κ.λπ. Πολύ εύκολα, απέδειξε πως ο αλγόριθμος εστίαζε σε νεότερα, πιο λεπτά, πιο φωτεινά πρόσωπα, σε βάρος των πιο ηλικιωμένων, πλατύτερων και πιο σκουρόχρωμων. 

Ο επικεφαλής του τμήματος ηθικής της τεχνητής νοημοσύνης στο Twitter, Rumman Chowdhury, σχολίασε: «Όταν σκεφτόμαστε για τις προκαταλήψεις στα μοντέλα μας, δεν είναι απλώς το ακαδημαϊκό ή το πειραματικό κομμάτι (...) αλλά επίσης το πώς δουλεύει σε σχέση με τον τρόπο που σκεφτόμαστε εντός κοινωνίας (...) χρησιμοποιώ την έκφραση «η ζωή μιμείται την τέχνη που μιμείται τη ζωή. Δημιουργούμε αυτά τα φίλτρα επειδή νομίζουμε ότι «αυτό είναι όμορφο», και αυτό καταλήγει να εκπαιδεύει τα μοντέλα μας, οδηγώντας σε αυτή τη μη ρεαλιστική ιδέα για το τι σημαίνει ελκυστικό». 

Το Twitter είχε δεχτεί εντονότατη κριτική το 2020 και είχε αναγκαστεί να ζητήσει συγγνώμη για τον αλγόριθμο κροπαρίσματος φωτογραφιών, που εστίαζε σε λευκά πρόσωπα έναντι των μαύρων. 

Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
Η φωτογραφία ολόκληρη
Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
Και το πρόσωπο στο οποίο εστίαζε τελικά στη σμίκρυνση στο feed

Οι χρήστες άρχισαν να παρατηρούν το πρόβλημα και μέσα σε ένα Σαββατοκύριακο το θέμα είχε λάβει τεράστιες διαστάσεις στην πλατφόρμα κοινωνικής δικτύωσης. Όπως αποκάλυψαν οι επανειλημμένες δοκιμές πολλών χρηστών, ο αλγόριθμος περικοπής φωτογραφιών στα ποστ «προτιμούσε» να κεντράρει στους λευκούς αντί για τους μαύρους σε όλες τις περιπτώσεις που δύο άτομα βρίσκονταν μέσα στο ίδιο πλάνο. 

Τότε η εταιρεία είχε υποστηρίξει ότι δεν είχε αποδείξεις για κάποια ρατσιστική ή φυλετική διάκριση στον αλγόριθμό του. Ο Kulynych όμως το απέδειξε καθώς η πλατφόρμα ξεκίνησε έναν ανοικτό διαγωνισμό, προσφέροντας χιλιάδες δολάρια σε όποιον μπορούσε να επιδείξει επιβλαβή αποτελέσματα ααπό τον αλγόριθμο κροπαρίσματος. 

Αν και νικητής Kulynych, αφού έλαβε το χρηματικό έπαθλο, δήλωσε πως είχε ανάμεικτα συναισθήματα για τον διαγωνισμό. «Οι βλάβες του αλγορίθμου δεν είναι μόνο bugs. Σε αρκετές περιπτώσεις, η επιβλαβής τεχνολογία δεν οφείλεται σε ατυχήματα ή ακούσια σφάλματα, αλλά στον σχεδιασμό. Αυτό προκύπτει από την μεγιστοποίηση της συγκέντρωσης ενδιαφέροντος και, εν γένει, την πολιτική του κέρδους που εξωτερικεύει το κόστος σε άλλους.»

Με πληροφορίες από Guardian

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Τech & Science / Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Xρησιμοποιεί υπερηχητικούς παλμούς που κατευθύνονται με ακρίβεια σε συγκεκριμένες περιοχές του εγκεφάλου, προσφέροντας εναλλακτική λύση στη χειρουργική εμφύτευση ηλεκτροδίων
LIFO NEWSROOM
Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Τech & Science / Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Ανθρώπινα αιμοσφαίρια που στάλθηκαν στο Διάστημα άρχισαν να χάνουν την ικανότητά τους να παράγουν υγιή νέα κύτταρα, ένδειξη επιταχυνόμενης γήρανσης, σύμφωνα με τη μελέτη
LIFO NEWSROOM
Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

Τech & Science / Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

«Θα μπορούσε να είναι μια πραγματική ευκαιρία να επιβραδύνουμε την εξέλιξη του γλοιοβλαστώματος», υποστηρίζουν με συγκρατημένη αισιοδοξία, καθώς απαιτείται περαιτέρω δοκιμών
LIFO NEWSROOM
Αλτσχάιμερ: Εγκρίθηκε φάρμακο που χορηγείται αποκλειστικά στο σπίτι

Τech & Science / Αλτσχάιμερ: Εγκρίθηκε θεραπεία που μπορεί να χορηγηθεί στο σπίτι από τον ίδιο τον ασθενή

Η έκδοση για χρήση στο σπίτι εγκρίθηκε ως θεραπεία συντήρησης που οι ασθενείς μπορούν να χορηγούν στον εαυτό τους αφού ολοκληρώσουν τον κύκλο της ενδοφλέβιας θεραπείας
LIFO NEWSROOM
«Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Τech & Science / «Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Οι ειδικοί προειδοποιούν ότι τα ηλεκτρονικά τσιγάρα δημιουργούν νέους εθισμούς στη νικοτίνη και προκαλούν σοβαρούς κινδύνους για την καρδιά, τους πνεύμονες και τον εγκέφαλο των παιδιών και των εφήβων
LIFO NEWSROOM
«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM
Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική ια πρόκληση για τις θεωρίες μας»

Τech & Science / Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική πρόκληση για τις θεωρίες μας»

Οι αστρονόμοι εκτιμούν ότι ίσως ανήκει σε μία κατηγορία αντικειμένων που είχε θεωρητικά προβλέψει ο Στίβεν Χόκινγκ, αλλά που μέχρι σήμερα δεν είχε ποτέ εντοπιστεί
LIFO NEWSROOM
Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Τech & Science / Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Ο όρος διαδίδεται στα social media μεταξύ των ανθρώπων που δηλώνουν «κουρασμένοι» με την τεχνητή νοημοσύνη που «εφευρίσκει» πράγματα, ακούγεται υπερβολικά ανθρώπινη και απειλεί να εξαφανίσει θέσεις εργασίας
LIFO NEWSROOM
Από την Amy έως τον Wubbo: Πώς επιλέγουν οι μετεωρολόγοι τα ονόματα των καταιγίδων και γιατί είναι σημαντικά

Τech & Science / Από την Amy μέχρι τον Wubbo: Πώς επιλέγουν οι μετεωρολόγοι τα ονόματα των καταιγίδων και γιατί είναι σημαντικά

«Όταν μια καταιγίδα έχει όνομα, γίνεται πιο εύκολο για τα μέσα ενημέρωσης και το κοινό να μιλούν γι’ αυτήν, να μοιράζονται πληροφορίες και να προετοιμάζονται», εξηγεί η επικεφαλής μετεωρολόγος του Met Office, Rebekah Hicks
LIFO NEWSROOM
Στην Αρχαία Ολυμπία ξεκίνησαν οι πρώτοι «Ολυμπιακοί» των ρομπότ 

Τech & Science / Στην Αρχαία Ολυμπία ξεκίνησαν οι πρώτοι «Ολυμπιακοί» των ρομπότ

Στον ίδιο χώρο όπου πριν από χιλιάδες χρόνια συναθροίζονταν οι Έλληνες αθλητές, αυτή τη φορά συναντήθηκαν ομάδες μηχανικών από τέσσερις ηπείρους, μετατρέποντας την Ολυμπία σε παγκόσμιο εργαστήριο ρομποτικής
LIFO NEWSROOM