Πώς οι γεννήτριες εικόνων AI προωθούν ρατσιστικά στερεότυπα

AI-BIAS.gif
0

Τα εργαλεία δημιουργίας εικόνων που χρησιμοποιούν την τεχνητή νοημοσύνη έχουν την τάση να αναπαράγουν προσβλητικά, απαρχαιωμένα στερεότυπα.

Οι Ασιάτισσες γυναίκες είναι πάντα υπερσεξουαλικοποιημένες – μια αναφορά στην κουλτούρα των manga και των anime, οι κρατούμενοι είναι πάντα έγχρωμοι άντρες, οι παραγωγικοί άνθρωποι είναι πάντα άντρες και φυσικά, λευκοί.

Η αναπαραγωγή των συγκεκριμένων στερεοτύπων προέρχεται από δεδομένα που χρησιμοποιούνται για την εκπαίδευση της ίδιας της τεχνολογίας. Αυτά τα δεδομένα που συλλέχθηκαν χωρίς ιδιαίτερο έλεγχο από το διαδίκτυο μπορούν να αποβούν ιδιαίτερα επικίνδυνα καθώς προωθούν μια ρατσιστική, μισογυνική και άκρως προβληματική ατζέντα. 

Οι εταιρείες έχουν γίνει όλο και πιο μυστικοπαθείς σχετικά με το περιεχόμενο των βάσεων δεδομένων, εν μέρει επειδή το κείμενο και οι εικόνες που περιλαμβάνονται συχνά περιέχουν υλικό που προστατεύεται από πνευματικά δικαιώματα.

Ωστόσο, παρά τις προσπάθειες που γίνονται για την εξάλειψή τους, φαίνεται ότι τα εργαλεία αυτά ακόμη προωθούν σε μεγάλο βαθμό ξεπερασμένα δυτικά στερεότυπα.

Πώς οι γεννήτριες εικόνων AI προωθούν ρατσιστικά στερεότυπα; Facebook Twitter
Η «σύνθεση» του Παναγιώτη Κοτρίδη που προέκυψε ως αποτέλεσμα επεξεργασίας photoshop και του προγράμματος τεχνητής νοημοσύνης Midjourney.

Σύμφωνα με τον Christoph Schuhmann, συνιδρυτή της LAION – μιας μη κερδοσκοπικής εταιρείας που βρίσκεται πίσω από τη συλλογή δεδομένων που χρησιμοποιεί ένα από τα δημοφιλέστερα εργαλεία δημιουργίας εικόνων με χρήση AI, η Stable Diffusion – υποστηρίζει ότι οι γεννήτριες εικόνων αντικατοπτρίζουν φυσικά τον κόσμο των λευκών, καθώς η μη κερδοσκοπική εταιρεία δεν εστιάζει στην Κίνα και την Ινδία, απ’ όπου μάλιστα προέρχεται το μεγαλύτερο ποσοστό χρηστών του διαδικτύου.

«Το εργαλείο θα σας δώσει μια στερεοτυπική απεικόνιση βασισμένη στο νοητικό μοντέλο του μέσου Αμερικανού και Ευρωπαίου ανθρώπου. Δεν χρειάζεστε πτυχίο στην επιστήμη ανάλυσης δεδομένων για να το συμπεράνετε αυτό», δηλώνει ο Schuhmann.

Καθώς οι τεχνητές εικόνες που δημιουργούνται με χρήση AI καταλαμβάνουν τον κυβερνοχώρο με ταχύτατο ρυθμό, ένα κύμα αναβίωσης ξεπερασμένων και προσβλητικών στερεοτύπων βρίσκεται προ των πυλών.

Όπως το ChatGPT, τα εργαλεία παραγωγής εικόνων μέσω AI «μαθαίνουν» για τον κόσμο μέσω γιγαντιαίων βάσεων δεδομένων. Η διαφορά έγκειται στο ότι αντί για δισεκατομμύρια λέξεις, τροφοδοτούνται με δισεκατομμύρια ζεύγη εικόνων και τις απαραίτητες λεζάντες, που επίσης συλλέγονται από τον ιστό.

Οι εταιρείες έχουν γίνει όλο και πιο μυστικοπαθείς σχετικά με το περιεχόμενο αυτών των βάσεων δεδομένων, εν μέρει επειδή το κείμενο και οι εικόνες που περιλαμβάνονται συχνά περιέχουν υλικό που προστατεύεται από πνευματικά δικαιώματα. Ωστόσο, η Stable Diffusion και η LAION, όντως έργα ανοικτού κώδικα (open source), επιτρέπουν σε τρίτους να επιθεωρήσουν λεπτομέρειες του μοντέλου.

Πώς οι γεννήτριες εικόνων AI προωθούν ρατσιστικά στερεότυπα; Facebook Twitter
Η είκονα που δημιούργηθηκε με χρήση AI από την βουλευτή του Δημοκρατικού Κόμματος της Κύπρου, Χριστιάνας Ερωτοκρίτου.

Ο διευθύνων σύμβουλος της Stability AI, Emad Mostaque, δήλωσε ότι η εταιρεία του θεωρεί τη διαφάνεια ως το κλειδί για τον έλεγχο και την εξάλειψη των στερεοτύπων.

Οι εικόνες της LAION, όπως και πολλών άλλων βάσεων δεδομένων, επιλέγονται επειδή περιέχουν κώδικα alt-text, ο οποίος βοηθά το λογισμικό να περιγράφει εικόνες σε τυφλούς ανθρώπους. Αν και ο κώδικας alt-text είναι φθηνότερος και πιο εύκολος στην χρήση από την προσθήκη λεζάντας, είναι και πιο αναξιόπιστος. Μπορεί να περιέχει προσβλητικές περιγραφές και άσχετους όρους που προορίζονται να βοηθήσουν τις εικόνες να κατατάσσονται ψηλά στην αναζήτηση.

Τα εργαλεία AI δημιουργούν εικόνες αντιστοιχίζοντας λέξεις και εικονοστοιχεία που κατατάσσονται ψηλά στην αναζήτηση. Έτσι όταν ζητείται από το εργαλείο να δημιουργήσει μια απεικόνιση ενός ελκυστικού ατόμου, το αποτέλεσμα είναι εικόνες λευκών, ανοιχτόχρωμων, λεπτών ατόμων με ευρωπαϊκά χαρακτηριστικά.

Αντίστοιχα, όταν ζητηθεί η εικόνα μιας «ευτυχισμένης οικογένειας» αυτό παράγει εικόνες χαμογελαστών, ετεροφυλόφιλων, λευκών ζευγαριών με τα παιδιά τους που ποζάρουν σε περιποιημένα γκαζόν.

Οι προσπάθειες για την «αποτοξίνωση» των εργαλείων έχουν επικεντρωθεί σε μερικές φαινομενικά γόνιμες παρεμβάσεις: το φιλτράρισμα των βάσεων δεδομένων, την τελειοποίηση των τελικών σταδίων ανάπτυξης και την κωδικοποίηση κανόνων για την άμεση αντιμετώπιση ζητημάτων που αφορούν την δημιουργία στερεοτυπικών εικόνων.

Σύμφωνα με την Stability AI θα ήταν ορθότερο κάθε χώρα να διαθέτει τη δική της «εθνική» γεννήτρια εικόνας, η οποία θα αντικατοπτρίζει τις εθνικές αξίες, με βάσεις δεδομένων που παρέχονται από την κυβέρνηση και τους δημόσιους φορείς.

Με στοιχεία από το The Washington Post.

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Η ιρλανδική ρυθμιστική αρχή αυστηροποιεί την πίεση στην πλατφόρμα X του Έλον Μασκ για έλεγχο ηλικίας σε πορνογραφικό περιεχόμενο

Τech & Science / Η ιρλανδική ρυθμιστική αρχή αυστηροποιεί την πίεση στην πλατφόρμα X του Έλον Μασκ για έλεγχο ηλικίας σε πορνογραφικό περιεχόμενο

Ο νέος Κώδικας Ασφάλειας Διαδικτύου της Ιρλανδίας περιλαμβάνει αυστηρές διατάξεις για τον έλεγχο ηλικίας, με σκοπό να αποτραπεί η πρόσβαση ανηλίκων σε επιβλαβές περιεχόμενο, όπως πορνογραφία και βίαιο υλικό
LIFO NEWSROOM
Aeneas: Η Google και ο Έλληνας Γιάννης Ασσαέλ δίνουν νέα ζωή στις ρωμαϊκές επιγραφές με εργαλείο AI

Τech & Science / Aeneas: Η Google και ο Έλληνας Γιάννης Ασσαέλ δίνουν νέα ζωή στις ρωμαϊκές επιγραφές με εργαλείο AI

Το σύστημα, που ονομάζεται Aeneas από τον μυθικό Τρωικό ήρωα, βοηθά τους ιστορικούς να ερμηνεύσουν, να αποδώσουν και να αποκαταστήσουν αρχαίες ρωμαϊκές επιγραφές
LIFO NEWSROOM
«Η ανθρωπότητα νίκησε»: Ποια είναι η ιδιοφυΐα που κέρδισε το ChatGPT στον κορυφαίο διαγωνισμό προγραμματισμού

Τech & Science / «Η ανθρωπότητα νίκησε»: Ποια είναι η ιδιοφυΐα που κέρδισε το ChatGPT στον κορυφαίο διαγωνισμό προγραμματισμού

Όπως λέει, «δεν είχε ποτέ πραγματικό σχέδιο για τη ζωή» και τυπικά έχει μόνο δευτεροβάθμια εκπαίδευση, καθώς δεν ολοκλήρωσε τις πανεπιστημιακές του σπουδές
LIFO NEWSROOM
Στέλεχος βακτηρίου ανθεκτικό στα αντιβιοτικά εξαπλώνεται στην Ευρώπη, προειδοποιούν επιστήμονες

Τech & Science / Στέλεχος βακτηρίου ανθεκτικό στα αντιβιοτικά εξαπλώνεται στην Ευρώπη, προειδοποιούν επιστήμονες

Εντοπίστηκε για πρώτη φορά πριν από σχεδόν μια δεκαετία στην Ολλανδία και τη Γερμανία, και έκτοτε έχει εξαπλωθεί σε τουλάχιστον εννέα ακόμη ευρωπαϊκές χώρες
LIFO NEWSROOM
Η Γη περιστρέφεται πιο γρήγορα και ίσως χρειαστεί να «αφαιρεθεί» ένα δευτερόλεπτο για πρώτη φορά στην ιστορία

Τech & Science / Η Γη περιστρέφεται πιο γρήγορα και ίσως χρειαστεί να «αφαιρεθεί» ένα δευτερόλεπτο για πρώτη φορά στην ιστορία

Μικρότερες ημέρες, μεγάλη ανησυχία για τους χρονομέτρες: Μια απροσδόκητη επιτάχυνση της Γης φέρνει για πρώτη φορά το ενδεχόμενο ενός «αρνητικού δευτερολέπτου»
LIFO NEWSROOM
Explainer: Γιατί η Nvidia αξίζει περισσότερο από την Apple και την Tesla μαζί

Explainer / Γιατί η Nvidia αξίζει περισσότερο από την Apple και την Tesla μαζί

Η Nvidia δεν έχει oρατή παρουσία στην καθημερινότητα των περισσότερων ανθρώπων, όμως χωρίς την τεχνολογία της, πολλές από τις συσκευές και τις υπηρεσίες που σήμερα αποκαλούμε «έξυπνες» δεν θα ήταν εφικτές
LIFO NEWSROOM