To Twitter πλήρωσε 3.500$ έναν απόφοιτο που απέδειξε ότι ο αλγόριθμος «προτιμά» αδύνατα & φωτεινά πρόσωπα

Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
0

Ο αλγόριθμος «κροπαρίσματος» φωτογραφιών του Twitter (σ.σ αυτόματης περικοπής) , φαίνεται πως «προτιμά» να εστιάζει σε νεότερα, πιο αδύνατα και πιο ανοικτόχρωμα πρόσωπα.  

Η πλατφόρμα πλήρωσε 3.500 δολάρια έναν απόφοιτο του ελβετικού πανεπιστημίου EFPL που απέδειξε τις διακρίσεις που έκανε ο αλγόριθμος, ο οποίος υποτίθεται πως εστίαζε «στο πιο ενδιαφέρον κομμάτι» των φωτογραφιών, κατά την μερική σμίκρυνση που αυτές υφίστανται στην ροή του feed, πριν πατήσει κανείς πάνω στον εκάστοτε σύνδεσμο ώστε να ανοίξουν ολόκληρες οι φωτογραφίες. 

Ο Bogdan Kulynych απέδειξε την ψηφιακή προκατάληψη στο πλαίσιο ενός διαγωνισμού, στο συνέδριο ασφαλείας DEF CON στο Λας Βέγκας. Για να το επιτύχει, πρώτα δημιούργησε με τεχνητό τρόπο ψηφιακά πρόσωπα που δεν υπήρχαν στην πραγματικότητα, με διαφορετικά χαρακτηριστικά. Στη συνέχεια τα φόρτωσε στο Twitter παρατηρώντας που εστίαζε το λογισμικό. 

Έχοντας τον πλήρη έλεγχο, ο Kulynych μπορούσε να δημιουργήσει ανύπαρκτα, ψηφιακά πρόσωπα σχεδόν πανομοιότυπα μεταξύ τους, με απειροελάχιστες διαφορές στον τόνο του δέρματος, το πλάτος του κεφαλιού, την φαινομενική ηλικία κ.λπ. Πολύ εύκολα, απέδειξε πως ο αλγόριθμος εστίαζε σε νεότερα, πιο λεπτά, πιο φωτεινά πρόσωπα, σε βάρος των πιο ηλικιωμένων, πλατύτερων και πιο σκουρόχρωμων. 

Ο επικεφαλής του τμήματος ηθικής της τεχνητής νοημοσύνης στο Twitter, Rumman Chowdhury, σχολίασε: «Όταν σκεφτόμαστε για τις προκαταλήψεις στα μοντέλα μας, δεν είναι απλώς το ακαδημαϊκό ή το πειραματικό κομμάτι (...) αλλά επίσης το πώς δουλεύει σε σχέση με τον τρόπο που σκεφτόμαστε εντός κοινωνίας (...) χρησιμοποιώ την έκφραση «η ζωή μιμείται την τέχνη που μιμείται τη ζωή. Δημιουργούμε αυτά τα φίλτρα επειδή νομίζουμε ότι «αυτό είναι όμορφο», και αυτό καταλήγει να εκπαιδεύει τα μοντέλα μας, οδηγώντας σε αυτή τη μη ρεαλιστική ιδέα για το τι σημαίνει ελκυστικό». 

Το Twitter είχε δεχτεί εντονότατη κριτική το 2020 και είχε αναγκαστεί να ζητήσει συγγνώμη για τον αλγόριθμο κροπαρίσματος φωτογραφιών, που εστίαζε σε λευκά πρόσωπα έναντι των μαύρων. 

Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
Η φωτογραφία ολόκληρη
Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
Και το πρόσωπο στο οποίο εστίαζε τελικά στη σμίκρυνση στο feed

Οι χρήστες άρχισαν να παρατηρούν το πρόβλημα και μέσα σε ένα Σαββατοκύριακο το θέμα είχε λάβει τεράστιες διαστάσεις στην πλατφόρμα κοινωνικής δικτύωσης. Όπως αποκάλυψαν οι επανειλημμένες δοκιμές πολλών χρηστών, ο αλγόριθμος περικοπής φωτογραφιών στα ποστ «προτιμούσε» να κεντράρει στους λευκούς αντί για τους μαύρους σε όλες τις περιπτώσεις που δύο άτομα βρίσκονταν μέσα στο ίδιο πλάνο. 

Τότε η εταιρεία είχε υποστηρίξει ότι δεν είχε αποδείξεις για κάποια ρατσιστική ή φυλετική διάκριση στον αλγόριθμό του. Ο Kulynych όμως το απέδειξε καθώς η πλατφόρμα ξεκίνησε έναν ανοικτό διαγωνισμό, προσφέροντας χιλιάδες δολάρια σε όποιον μπορούσε να επιδείξει επιβλαβή αποτελέσματα ααπό τον αλγόριθμο κροπαρίσματος. 

Αν και νικητής Kulynych, αφού έλαβε το χρηματικό έπαθλο, δήλωσε πως είχε ανάμεικτα συναισθήματα για τον διαγωνισμό. «Οι βλάβες του αλγορίθμου δεν είναι μόνο bugs. Σε αρκετές περιπτώσεις, η επιβλαβής τεχνολογία δεν οφείλεται σε ατυχήματα ή ακούσια σφάλματα, αλλά στον σχεδιασμό. Αυτό προκύπτει από την μεγιστοποίηση της συγκέντρωσης ενδιαφέροντος και, εν γένει, την πολιτική του κέρδους που εξωτερικεύει το κόστος σε άλλους.»

Με πληροφορίες από Guardian

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Η Meta παρουσίασε τα πρώτα Ray-Ban με ενσωματωμένη οθόνη επαυξημένης πραγματικότητας

Τech & Science / Η Meta παρουσίασε τα πρώτα Ray-Ban με ενσωματωμένη οθόνη επαυξημένης πραγματικότητας

Ο Μαρκ Ζούκερμπεργκ παρουσίασε τα γυαλιά στο συνέδριο Meta Connect στην Καλιφόρνια, σημειώνοντας ότι «τα γυαλιά είναι το μόνο μέσο όπου η τεχνητή νοημοσύνη μπορεί να δει και να ακούσει ό,τι βλέπεις κι ακούς εσύ»
LIFO NEWSROOM
Νέο εργαλείο AI προβλέπει τον κίνδυνο για 1.000 ασθένειες έως και 20 χρόνια πριν

Τech & Science / Νέο εργαλείο AI προβλέπει τον κίνδυνο για 1.000 ασθένειες έως και 20 χρόνια πριν

Λαμβάνει υπόψη το ιατρικό ιστορικό, βασικά δημογραφικά στοιχεία και παράγοντες τρόπου ζωή ώστε να εκτιμήσει αν και πότε μπορεί να εμφανιστούν παθήσεις όπως καρκίνος, διαβήτης και καρδιολογικά ή αναπνευστικά νοσήματα
LIFO NEWSROOM
Η Σελήνη «πωλείται»: Φινλανδική εταιρεία αγόρασε ήδη πόρους - Τι είναι το Ήλιο-3

Τech & Science / Η Σελήνη «πωλείται»: Φινλανδική εταιρεία αγόρασε ήδη πόρους - Τι είναι το Ήλιο-3

Το ηλιακό φως «βομβαρδίζει» το φεγγάρι με Ήλιο-3 εδώ και 4 δισεκατομμύρια χρόνια - Επειδή η Σελήνη δεν έχει μαγνητικό πεδίο, το ισότοπο παραμένει στην επιφάνεια, αντίθετα με τη Γη, όπου απορρίπτεται στο διάστημα
LIFO NEWSROOM
Πώς χρησιμοποιούν οι άνθρωποι το ChatGPT – Η μεγαλύτερη μέχρι σήμερα μελέτη

Τech & Science / Πώς χρησιμοποιούν οι άνθρωποι το ChatGPT – Η μεγαλύτερη μέχρι σήμερα μελέτη

Η μελέτη αποδεικνύει ότι το μοντέλο δεν χρησιμοποιείται μόνο για την επιτάχυνση επαγγελματικών διαδικασιών αλλά και για να εμπλουτίσει την καθημερινή ζωή εκατομμυρίων ανθρώπων παγκοσμίως
LIFO NEWSROOM
Η Apple αποκλείει τους Ευρωπαίους χρήστες από τη νέα λειτουργία ζωντανής μετάφρασης των AirPods Pro

Τech & Science / Η Apple αποκλείει τους Ευρωπαίους χρήστες από τη νέα λειτουργία ζωντανής μετάφρασης των AirPods Pro

H λειτουργία «Live Translation with AirPods», που αποτελεί μέρος του Apple Intelligence, δεν θα ενεργοποιείται εάν ο χρήστης βρίσκεται εντός ΕΕ και ο λογαριασμός Apple ανήκει σε περιοχή της ΕΕ
LIFO NEWSROOM
Πώς η Αιθιοπία γίνεται ένας απρόσμενος ηγέτης στην επανάσταση των ηλεκτρικών οχημάτων

Τech & Science / Πώς η Αιθιοπία γίνεται ένας απρόσμενος ηγέτης στην επανάσταση των ηλεκτρικών οχημάτων

Σύμφωνα με το υπουργείο Μεταφορών, περίπου 115.000 ηλεκτρικά αυτοκίνητα κυκλοφορούν ήδη στην Αιθιοπία, από τα 1,5 εκατομμύρια συνολικά οχήματα στη χώρα, με στόχο να φτάσουν τα 500.000 μέχρι το 2030
LIFO NEWSROOM