ChatGPT: Οι χαμηλόμισθοι εργαζόμενοι που έκαναν το AI λιγότερο ρατσιστικό και σεξιστικό

ChatGPT: Οι χαμηλόμισθοι εργάτες που έκαναν το AI λιγότερο «τοξικό» Facebook Twitter
Φωτ.: Getty Images.
0

Το ChatGPT θεωρείται μία από τις πιο εντυπωσιακές τεχνολογικές καινοτομίες του 2022. Ωστόσο, η εργασιακή πραγματικότητα πίσω από αυτό το εργαλείο αναδεικνύει συνθήκες εκμετάλλευσης εργαζομένων σε χώρες του τρίτου κόσμου. 

Το πανίσχυρο chatbot τεχνητής νοημοσύνης (AI) μπορεί να παράξει κείμενο για σχεδόν οτιδήποτε, ξεκινώντας από εκλεπτυσμένη λογοτεχνία σε ύφος Σαίξπηρ, μέχρι πολύπλοκα μαθηματικά θεωρήματα που περιγράφονται σε προσιτή γλώσσα.

Ο εταιρεία-δημιουργός του ChatGPT, η OpenAI, φέρεται τώρα να βρίσκεται σε συζητήσεις με επενδυτές για εξαγορά τουλάχιστον 29 δισεκατομμυρίων δολαρίων, συμπεριλαμβανομένης μιας πιθανής επένδυσης 10 δισεκατομμυρίων δολαρίων από τη Microsoft. Αυτό θα καθιστούσε την OpenAI, η οποία ιδρύθηκε στο Σαν Φρανσίσκο το 2015, μία από τις πιο ακριβές εταιρείες τεχνητής νοημοσύνης στον κόσμο.

Η ροπή του ChatGPT στον ρατσιστικό λόγο

Ωστόσο, η επιτυχία του ChatGPT δεν αποτελεί έργο μονάχα ορισμένων υψηλά ιστάμενων στη Σίλικον Βάλεϊ. Στην προσπάθειά της να κάνει το AI λιγότερο σεξιστικό και ρατσιστικό, η OpenAI χρησιμοποίησε εργαζόμενους από την Κένυα πληρώνοντάς του λιγότερο από δύο δολάρια την ώρα. 

Η δουλειά αυτών των ανθρώπων υπήρξε ζωτικής σημασίας για την OpenAI. Ο «πρόγονος» του ChatGPT, το GPT-3, είχε ήδη δείξει μια εντυπωσιακή ικανότητα να συνδέει προτάσεις μεταξύ τους και ως εκ τούτου να παράγει κατανοητά κείμενα. Ωστόσο, ήταν εξαιρετικά δύσκολο να γίνει «εμπορικό» καθώς η εφαρμογή ήταν επιρρεπής στο να μιλά βίαια, σεξιστικά και ρατσιστικά.

Αυτό οφείλεται στο γεγονός ότι η τεχνητή νοημοσύνη είχε εκπαιδευτεί σε εκατοντάδες δισεκατομμύρια λέξεις που είχαν συλλεχθεί από το διαδίκτυο. Αυτό το τεράστιο σύνολο δεδομένων εκπαίδευσης ήταν ο λόγος για τις εντυπωσιακές γλωσσικές ικανότητες του GPT-3, αλλά ήταν ίσως και η μεγαλύτερη «κατάρα» του.

Δεδομένου ότι ορισμένα τμήματα του διαδικτύου είναι γεμάτα τοξικότητα, προκαταλήψεις και ρατσισμό, δεν υπήρχε εύκολος τρόπος ώστε το ΑΙ να αποφύγει αυτές τις πλευρές του διαδικτύου. Ακόμη και μια ομάδα εκατοντάδων ανθρώπων θα χρειαζόταν δεκαετίες για να ψάξει χειροκίνητα το τεράστιο σύνολο δεδομένων.

Ωστόσο, η δημιουργία ενός πρόσθετου μηχανισμού ασφαλείας με τεχνητή νοημοσύνη θα μπορούσε να περιορίσει αυτά τα αρνητικά χαρακτηριστικά παράγοντας ένα chatbot συμπεριληπτικό και κατάλληλο για καθημερινή χρήση.

Για να δημιουργήσει αυτό το σύστημα ασφαλείας, η OpenAI πήρε παράδειγμα από άλλες εταιρείες κοινωνικής δικτύωσης, όπως το Facebook. Το σκεπτικό ήταν απλό: τροφοδοτούμε ένα ΑΙ με παραδείγματα βίας, ρητορικής μίσους και σεξουαλικής κακοποίησης, και το εργαλείο αυτό θα μπορούσε να μάθει να ανιχνεύει αυτές τις μορφές τοξικότητας. Ο εν λόγω ανιχνευτής ενσωματώθηκε στο ChatGPT με σκοπό να φιλτράρει τα λεγόμενά του. 

Η εκμετάλλευση του τρίτου κόσμου για φθηνά εργατικά χέρια

Για να πετύχει το στόχο της, η OpenAI έστειλε δεκάδες χιλιάδες αποσπάσματα κειμένων σε μια εταιρεία εξωτερικής ανάθεσης στην Κένυα, τον Νοέμβριο του 2021. Μεγάλο μέρος αυτών των κειμένων περιέγραφαν σοκαριστικές καταστάσεις με λεπτομέρειες, όπως σεξουαλική κακοποίηση παιδιών, η κτηνοβασία, η δολοφονία, η αυτοκτονία, τα βασανιστήρια, τον αυτοτραυματισμό και την αιμομιξία.

Η Sama, ο εξωτερικός συνεργάτης της OpenAI, απασχολεί εργαζόμενους στην Κένυα, την Ουγκάντα και την Ινδία έχοντας πελάτες στη Δύση όπως η Google, η Meta και η Microsoft. Οι αναλυτές δεδομένων που απασχολούσε η Sama για λογαριασμό της OpenAI αμείβονταν με μισθό που κυμαινόταν μεταξύ μόλις 1,32 και 2 δολαρίων την ώρα

Η ιστορία των εργαζομένων που έκαναν το ChatGPT αυτό που είναι σήμερα προσφέρει μια ματιά στις συνθήκες εκμετάλλευσης που επικρατούν σε αυτό το ελάχιστα γνωστό τμήμα της βιομηχανίας τεχνητής νοημοσύνης.

Το τμήμα αυτό ωστόσο διαδραματίζει ουσιαστικό ρόλο στην προσπάθεια να καταστούν τα ΑΙ ασφαλή για δημόσια κατανάλωση.

«Παρά τον θεμελιώδη ρόλο που διαδραματίζουν αυτοί οι επαγγελματίες του εμπλουτισμού δεδομένων, όλο και περισσότερες έρευνες αποκαλύπτουν τις επισφαλείς συνθήκες εργασίας που αντιμετωπίζουν», αναφέρει η Partnership on AI, μια ομάδα οργανώσεων στην οποία ανήκει το OpenAI. 

Με πληροφορίες από Time

Διεθνή
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Κίνα & τεχνητή νοημοσύνη: Η μυστική επιχείρηση «GoLaxy» για παγκόσμιο έλεγχο της κοινής γνώμης

Διεθνή / Ο νέος κυβερνοστρατός του Πεκίνου: Πώς η τεχνητή νοημοσύνη γίνεται όπλο παγκόσμιας προπαγάνδας

Έγγραφα αποκαλύπτουν ότι η κινεζική εταιρεία GoLaxy, με δεσμούς με το Πεκίνο, χρησιμοποιεί τεχνητή νοημοσύνη για να παρακολουθεί και να επηρεάζει την κοινή γνώμη σε Ταϊβάν, Χονγκ Κονγκ και πέρα
LIFO NEWSROOM
Η Τουρκία αρνείται να στηρίξει το σχέδιο της ΕΕ για απεξάρτηση από το ρωσικό αέριο – Κίνδυνος παραβίασης των κυρώσεων

Διεθνή / Η Τουρκία αρνείται να στηρίξει το σχέδιο της ΕΕ για απεξάρτηση από το ρωσικό αέριο – Κίνδυνος παραβίασης των κυρώσεων

Η Τουρκία αρνείται να συνεργαστεί με την ΕΕ για τον έλεγχο των ρωσικών ενεργειακών εισαγωγών, απειλώντας το σχέδιο της Ευρώπης να τερματίσει την εξάρτησή της από το ρωσικό αέριο έως το 2027
LIFO NEWSROOM
Παγκόσμιος συναγερμός: Οι νέοι δασμοί Τραμπ έως 41% προκαλούν αντιδράσεις σε πάνω από 60 χώρες

Διεθνή / Παγκόσμιος συναγερμός: Οι νέοι δασμοί Τραμπ έως 41% προκαλούν αντιδράσεις σε πάνω από 60 χώρες

Πάνω από 60 χώρες αντιδρούν στους νέους δασμούς Τραμπ, που φτάνουν το 41% - Οι αυξήσεις πυροδοτούν φόβους για απώλειες θέσεων εργασίας και ένταση στις παγκόσμιες εμπορικές σχέσεις
LIFO NEWSROOM
Τραμπ: Σχέδιο για τεράστια κέντρα κράτησης μεταναστών σε στρατιωτικές βάσεις των ΗΠΑ

Διεθνή / Τραμπ: Σχέδιο για τεράστια κέντρα κράτησης μεταναστών σε στρατιωτικές βάσεις των ΗΠΑ

Η κυβέρνηση Τραμπ ετοιμάζει το μεγαλύτερο δίκτυο κέντρων κράτησης μεταναστών στην ιστορία των ΗΠΑ, με στρατιωτικές βάσεις όπως το Fort Bliss να μετατρέπονται σε εγκαταστάσεις για χιλιάδες κρατουμένους, προκαλώντας έντονες αντιδράσεις.
LIFO NEWSROOM
«Προσαρμοστικός οπορτουνιστής»: Η διπλωματία της Τουρκίας με τη Ρωσία από τον Εύξεινο Πόντο ως την Αρκτική

Ανάλυση / «Προσαρμοστικός οπορτουνιστής»: Η διπλωματία της Τουρκίας με τη Ρωσία από τον Εύξεινο Πόντο ως την Αρκτική

Πώς Τουρκία και Ρωσία ισορροπούν ανάμεσα σε συνεργασία και ανταγωνισμό, επεκτείνοντας την επιρροή τους από τη Μαύρη Θάλασσα μέχρι την Αρκτική
ΠΕΤΡΟΣ ΚΡΑΝΙΑΣ
H Γρενάδα ζητά συγγνώμη και αποζημιώσεις από τον Βασιλιά Κάρολο για κέρδη της μοναρχίας από τη δουλεία

Διεθνή / H Γρενάδα ζητά αποζημιώσεις από τον Βασιλιά Κάρολο για κέρδη της μοναρχίας από τη δουλεία

Νέα έρευνα αποκαλύπτει ότι ο βασιλιάς Γεώργιος Δ΄ κέρδισε προσωπικά από την εργασία σκλάβων σε φυτείες της Γρενάδας. Η χώρα ζητά από τον Βασιλιά Κάρολο συγγνώμη και αποζημιώσεις για το παρελθόν της βρετανικής μοναρχίας στη δουλεία
ΦΩΤ.: GETTY
Απίστευτη απόδραση: Βορειοκορεάτης κολύμπησε 10 ώρες για να φτάσει στη Νότια Κορέα

Διεθνή / Απίστευτη απόδραση: Βορειοκορεάτης κολύμπησε 10 ώρες για να φτάσει στη Νότια Κορέα

Βορειοκορεάτης άνδρας διέφυγε από το καθεστώς του Κιμ Γιονγκ Ουν, κολυμπώντας 10 ώρες κατά μήκος της ακτής και αποφεύγοντας ένοπλους φρουρούς με εντολή να σκοτώσουν κάθε φυγά
ΦΩΤ.: GETTY