To Twitter πλήρωσε 3.500$ έναν απόφοιτο που απέδειξε ότι ο αλγόριθμος «προτιμά» αδύνατα & φωτεινά πρόσωπα

Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
0

Ο αλγόριθμος «κροπαρίσματος» φωτογραφιών του Twitter (σ.σ αυτόματης περικοπής) , φαίνεται πως «προτιμά» να εστιάζει σε νεότερα, πιο αδύνατα και πιο ανοικτόχρωμα πρόσωπα.  

Η πλατφόρμα πλήρωσε 3.500 δολάρια έναν απόφοιτο του ελβετικού πανεπιστημίου EFPL που απέδειξε τις διακρίσεις που έκανε ο αλγόριθμος, ο οποίος υποτίθεται πως εστίαζε «στο πιο ενδιαφέρον κομμάτι» των φωτογραφιών, κατά την μερική σμίκρυνση που αυτές υφίστανται στην ροή του feed, πριν πατήσει κανείς πάνω στον εκάστοτε σύνδεσμο ώστε να ανοίξουν ολόκληρες οι φωτογραφίες. 

Ο Bogdan Kulynych απέδειξε την ψηφιακή προκατάληψη στο πλαίσιο ενός διαγωνισμού, στο συνέδριο ασφαλείας DEF CON στο Λας Βέγκας. Για να το επιτύχει, πρώτα δημιούργησε με τεχνητό τρόπο ψηφιακά πρόσωπα που δεν υπήρχαν στην πραγματικότητα, με διαφορετικά χαρακτηριστικά. Στη συνέχεια τα φόρτωσε στο Twitter παρατηρώντας που εστίαζε το λογισμικό. 

Έχοντας τον πλήρη έλεγχο, ο Kulynych μπορούσε να δημιουργήσει ανύπαρκτα, ψηφιακά πρόσωπα σχεδόν πανομοιότυπα μεταξύ τους, με απειροελάχιστες διαφορές στον τόνο του δέρματος, το πλάτος του κεφαλιού, την φαινομενική ηλικία κ.λπ. Πολύ εύκολα, απέδειξε πως ο αλγόριθμος εστίαζε σε νεότερα, πιο λεπτά, πιο φωτεινά πρόσωπα, σε βάρος των πιο ηλικιωμένων, πλατύτερων και πιο σκουρόχρωμων. 

Ο επικεφαλής του τμήματος ηθικής της τεχνητής νοημοσύνης στο Twitter, Rumman Chowdhury, σχολίασε: «Όταν σκεφτόμαστε για τις προκαταλήψεις στα μοντέλα μας, δεν είναι απλώς το ακαδημαϊκό ή το πειραματικό κομμάτι (...) αλλά επίσης το πώς δουλεύει σε σχέση με τον τρόπο που σκεφτόμαστε εντός κοινωνίας (...) χρησιμοποιώ την έκφραση «η ζωή μιμείται την τέχνη που μιμείται τη ζωή. Δημιουργούμε αυτά τα φίλτρα επειδή νομίζουμε ότι «αυτό είναι όμορφο», και αυτό καταλήγει να εκπαιδεύει τα μοντέλα μας, οδηγώντας σε αυτή τη μη ρεαλιστική ιδέα για το τι σημαίνει ελκυστικό». 

Το Twitter είχε δεχτεί εντονότατη κριτική το 2020 και είχε αναγκαστεί να ζητήσει συγγνώμη για τον αλγόριθμο κροπαρίσματος φωτογραφιών, που εστίαζε σε λευκά πρόσωπα έναντι των μαύρων. 

Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
Η φωτογραφία ολόκληρη
Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces Facebook Twitter
Και το πρόσωπο στο οποίο εστίαζε τελικά στη σμίκρυνση στο feed

Οι χρήστες άρχισαν να παρατηρούν το πρόβλημα και μέσα σε ένα Σαββατοκύριακο το θέμα είχε λάβει τεράστιες διαστάσεις στην πλατφόρμα κοινωνικής δικτύωσης. Όπως αποκάλυψαν οι επανειλημμένες δοκιμές πολλών χρηστών, ο αλγόριθμος περικοπής φωτογραφιών στα ποστ «προτιμούσε» να κεντράρει στους λευκούς αντί για τους μαύρους σε όλες τις περιπτώσεις που δύο άτομα βρίσκονταν μέσα στο ίδιο πλάνο. 

Τότε η εταιρεία είχε υποστηρίξει ότι δεν είχε αποδείξεις για κάποια ρατσιστική ή φυλετική διάκριση στον αλγόριθμό του. Ο Kulynych όμως το απέδειξε καθώς η πλατφόρμα ξεκίνησε έναν ανοικτό διαγωνισμό, προσφέροντας χιλιάδες δολάρια σε όποιον μπορούσε να επιδείξει επιβλαβή αποτελέσματα ααπό τον αλγόριθμο κροπαρίσματος. 

Αν και νικητής Kulynych, αφού έλαβε το χρηματικό έπαθλο, δήλωσε πως είχε ανάμεικτα συναισθήματα για τον διαγωνισμό. «Οι βλάβες του αλγορίθμου δεν είναι μόνο bugs. Σε αρκετές περιπτώσεις, η επιβλαβής τεχνολογία δεν οφείλεται σε ατυχήματα ή ακούσια σφάλματα, αλλά στον σχεδιασμό. Αυτό προκύπτει από την μεγιστοποίηση της συγκέντρωσης ενδιαφέροντος και, εν γένει, την πολιτική του κέρδους που εξωτερικεύει το κόστος σε άλλους.»

Με πληροφορίες από Guardian

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Sora: Η εφαρμογή AI βίντεο της OpenAI έφτασε τις 1 εκατ. λήψεις πιο γρήγορα και από το ChatGPT

Τech & Science / Sora: Η εφαρμογή AI βίντεο της OpenAI έφτασε τις 1 εκατ. λήψεις πιο γρήγορα από το ChatGPT

Πολλά από τα βίντεο που παράγονται μέσω της Sora περιλαμβάνουν χαρακτήρες από ταινίες, τηλεοπτικές σειρές ή βιντεοπαιχνίδια, προκαλώντας νέα ερωτήματα γύρω από τα πνευματικά δικαιώματα
LIFO NEWSROOM
TikTok: Η επιστήμη πίσω από τον αλγόριθμο που μας κρατά κολλημένους

Τech & Science / TikTok: Η επιστήμη πίσω από τον αλγόριθμο που μας κρατά κολλημένους

Μια νέα μελέτη δείχνει πώς το TikTok δημιουργεί εθιστικές συνήθειες στους χρήστες, αυξάνοντας τον χρόνο παρακολούθησης, την συχνότητα ανοίγματος της εφαρμογής και την ταχύτητα scrolling, με σοβαρές επιπτώσεις στην καθημερινή ζωή
LIFO NEWSROOM
«Ξιφόδρακος του Ντόρσετ»: Ανακαλύφθηκε νέο είδος ιχθυόσαυρου στη Βρετανία

Τech & Science / «Ξιφόδρακος του Ντόρσετ»: Ανακαλύφθηκε νέο είδος ιχθυόσαυρου στη Βρετανία

Ένα εντυπωσιακό απολίθωμα ιχθυόσαυρου στην Ιουρασική Ακτή του Ντόρσετ αποδείχθηκε νέο είδος, το Xiphodracon goldencapensis ή «Ξιφόδρακος του Ντόρσετ», φωτίζοντας ένα χαμένο κεφάλαιο της εξέλιξης των θαλάσσιων ερπετών
LIFO NEWSROOM
Η αλήθεια για το θρυλικό ναυάγιο του Endurance: Ο Σάκλετον ήξερε ότι το πλοίο του ήταν ακατάλληλο

Τech & Science / Η αλήθεια για το θρυλικό ναυάγιο του Endurance: Ο Σάκλετον ήξερε ότι το πλοίο του ήταν ακατάλληλο

Νέα μελέτη αποκαλύπτει ότι το ιστορικό πλοίο Endurance του Έρνεστ Σάκλετον βυθίστηκε όχι εξαιτίας των πάγων, αλλά λόγω σχεδιαστικών αδυναμιών που ο ίδιος ο εξερευνητής γνώριζε
LIFO NEWSROOM
Google: Εισάγει το AI Mode στην Ελλάδα - Όσα αλλάζουν στην αναζήτηση

Τech & Science / Google: Εισάγει το AI Mode στην Ελλάδα - Όσα αλλάζουν στην αναζήτηση

Tο AI Mode χρησιμοποιεί την τεχνική "query fan-out" (διασπορά ερωτημάτων) της Google, η οποία αναλύει την ερώτηση των χρηστών σε επιμέρους θέματα και εκτελεί ταυτόχρονα πληθώρα αναζητήσεων για λογαριασμό του
LIFO NEWSROOM
Κατάθλιψη: Οι γυναίκες διατρέχουν μεγαλύτερο κίνδυνο εμφάνισης σε σύγκριση με τους άνδρες

Τech & Science / Κατάθλιψη: Οι γυναίκες διατρέχουν μεγαλύτερο κίνδυνο εμφάνισης σε σύγκριση με τους άνδρες

Η μελέτη αναγνωρίζει ότι υπάρχουν πολλαπλές εξηγήσεις για τη διαφορά στα ποσοστά κατάθλιψης μεταξύ ανδρών και γυναικών - από συμπεριφορικούς και περιβαλλοντικούς, έως βιολογικούς παράγοντες
LIFO NEWSROOM
Ευρωπαίοι πολιτικοί ελέγχθηκαν για PFAS – Όλοι βγήκαν θετικοί στα «παντοτινά πλαστικά»

Τech & Science / Ευρωπαίοι πολιτικοί ελέγχθηκαν για τοξικά χημικά PFAS – Όλοι βγήκαν θετικοί στα «παντοτινά πλαστικά»

«Πρόκειται για μια ανατριχιαστική πραγματικότητα. Είναι κρίσιμο να αναλάβουμε δράση» τόνισε ο Δανός υπουργός Περιβάλλοντος, στο αίμα του οποίου βρέθηκαν τρεις ουσίες τοξικές για την αναπαραγωγή
LIFO NEWSROOM
AI στα σχολεία: Όταν οι μαθητές διδάσκουν τους δασκάλους για την Τεχνητή Νοημοσύνη

Τech & Science / Αυτοί οι έφηβοι από τη Silicon Valley ορίζουν πώς θα μπει η AI στα σχολεία όλου του κόσμου

Μαθητές στη Σίλικον Βάλεϊ αναλαμβάνουν πρωτοβουλία να καθορίσουν οι ίδιοι –μαζί με γονείς και εκπαιδευτικούς– τους κανόνες χρήσης της Τεχνητής Νοημοσύνης στην εκπαίδευση
LIFO NEWSROOM
ChatGPT: Πατέρας παρέκαμψε σε 5 λεπτά τα φίλτρα ασφαλείας για εφήβους

Τech & Science / ChatGPT: Πατέρας παρέκαμψε σε 5 λεπτά τα φίλτρα ασφαλείας για εφήβους

Το ChatGPT παρουσίασε νέους γονικούς ελέγχους, όμως οι ειδικοί προειδοποιούν: τα παιδιά μπορούν να τους παρακάμψουν εύκολα - Οι ανησυχίες για την ασφάλεια, την ιδιωτικότητα και την ψυχική υγεία των εφήβων φουντώνουν, ενώ οι αρχές ζητούν αυστηρότερη νομοθεσία για την τεχνητή νοημοσύνη
LIFO NEWSROOM