ChatGPT: Οι χαμηλόμισθοι εργαζόμενοι που έκαναν το AI λιγότερο ρατσιστικό και σεξιστικό

ChatGPT: Οι χαμηλόμισθοι εργάτες που έκαναν το AI λιγότερο «τοξικό» Facebook Twitter
Φωτ.: Getty Images.
0

Το ChatGPT θεωρείται μία από τις πιο εντυπωσιακές τεχνολογικές καινοτομίες του 2022. Ωστόσο, η εργασιακή πραγματικότητα πίσω από αυτό το εργαλείο αναδεικνύει συνθήκες εκμετάλλευσης εργαζομένων σε χώρες του τρίτου κόσμου. 

Το πανίσχυρο chatbot τεχνητής νοημοσύνης (AI) μπορεί να παράξει κείμενο για σχεδόν οτιδήποτε, ξεκινώντας από εκλεπτυσμένη λογοτεχνία σε ύφος Σαίξπηρ, μέχρι πολύπλοκα μαθηματικά θεωρήματα που περιγράφονται σε προσιτή γλώσσα.

Ο εταιρεία-δημιουργός του ChatGPT, η OpenAI, φέρεται τώρα να βρίσκεται σε συζητήσεις με επενδυτές για εξαγορά τουλάχιστον 29 δισεκατομμυρίων δολαρίων, συμπεριλαμβανομένης μιας πιθανής επένδυσης 10 δισεκατομμυρίων δολαρίων από τη Microsoft. Αυτό θα καθιστούσε την OpenAI, η οποία ιδρύθηκε στο Σαν Φρανσίσκο το 2015, μία από τις πιο ακριβές εταιρείες τεχνητής νοημοσύνης στον κόσμο.

Η ροπή του ChatGPT στον ρατσιστικό λόγο

Ωστόσο, η επιτυχία του ChatGPT δεν αποτελεί έργο μονάχα ορισμένων υψηλά ιστάμενων στη Σίλικον Βάλεϊ. Στην προσπάθειά της να κάνει το AI λιγότερο σεξιστικό και ρατσιστικό, η OpenAI χρησιμοποίησε εργαζόμενους από την Κένυα πληρώνοντάς του λιγότερο από δύο δολάρια την ώρα. 

Η δουλειά αυτών των ανθρώπων υπήρξε ζωτικής σημασίας για την OpenAI. Ο «πρόγονος» του ChatGPT, το GPT-3, είχε ήδη δείξει μια εντυπωσιακή ικανότητα να συνδέει προτάσεις μεταξύ τους και ως εκ τούτου να παράγει κατανοητά κείμενα. Ωστόσο, ήταν εξαιρετικά δύσκολο να γίνει «εμπορικό» καθώς η εφαρμογή ήταν επιρρεπής στο να μιλά βίαια, σεξιστικά και ρατσιστικά.

Αυτό οφείλεται στο γεγονός ότι η τεχνητή νοημοσύνη είχε εκπαιδευτεί σε εκατοντάδες δισεκατομμύρια λέξεις που είχαν συλλεχθεί από το διαδίκτυο. Αυτό το τεράστιο σύνολο δεδομένων εκπαίδευσης ήταν ο λόγος για τις εντυπωσιακές γλωσσικές ικανότητες του GPT-3, αλλά ήταν ίσως και η μεγαλύτερη «κατάρα» του.

Δεδομένου ότι ορισμένα τμήματα του διαδικτύου είναι γεμάτα τοξικότητα, προκαταλήψεις και ρατσισμό, δεν υπήρχε εύκολος τρόπος ώστε το ΑΙ να αποφύγει αυτές τις πλευρές του διαδικτύου. Ακόμη και μια ομάδα εκατοντάδων ανθρώπων θα χρειαζόταν δεκαετίες για να ψάξει χειροκίνητα το τεράστιο σύνολο δεδομένων.

Ωστόσο, η δημιουργία ενός πρόσθετου μηχανισμού ασφαλείας με τεχνητή νοημοσύνη θα μπορούσε να περιορίσει αυτά τα αρνητικά χαρακτηριστικά παράγοντας ένα chatbot συμπεριληπτικό και κατάλληλο για καθημερινή χρήση.

Για να δημιουργήσει αυτό το σύστημα ασφαλείας, η OpenAI πήρε παράδειγμα από άλλες εταιρείες κοινωνικής δικτύωσης, όπως το Facebook. Το σκεπτικό ήταν απλό: τροφοδοτούμε ένα ΑΙ με παραδείγματα βίας, ρητορικής μίσους και σεξουαλικής κακοποίησης, και το εργαλείο αυτό θα μπορούσε να μάθει να ανιχνεύει αυτές τις μορφές τοξικότητας. Ο εν λόγω ανιχνευτής ενσωματώθηκε στο ChatGPT με σκοπό να φιλτράρει τα λεγόμενά του. 

Η εκμετάλλευση του τρίτου κόσμου για φθηνά εργατικά χέρια

Για να πετύχει το στόχο της, η OpenAI έστειλε δεκάδες χιλιάδες αποσπάσματα κειμένων σε μια εταιρεία εξωτερικής ανάθεσης στην Κένυα, τον Νοέμβριο του 2021. Μεγάλο μέρος αυτών των κειμένων περιέγραφαν σοκαριστικές καταστάσεις με λεπτομέρειες, όπως σεξουαλική κακοποίηση παιδιών, η κτηνοβασία, η δολοφονία, η αυτοκτονία, τα βασανιστήρια, τον αυτοτραυματισμό και την αιμομιξία.

Η Sama, ο εξωτερικός συνεργάτης της OpenAI, απασχολεί εργαζόμενους στην Κένυα, την Ουγκάντα και την Ινδία έχοντας πελάτες στη Δύση όπως η Google, η Meta και η Microsoft. Οι αναλυτές δεδομένων που απασχολούσε η Sama για λογαριασμό της OpenAI αμείβονταν με μισθό που κυμαινόταν μεταξύ μόλις 1,32 και 2 δολαρίων την ώρα

Η ιστορία των εργαζομένων που έκαναν το ChatGPT αυτό που είναι σήμερα προσφέρει μια ματιά στις συνθήκες εκμετάλλευσης που επικρατούν σε αυτό το ελάχιστα γνωστό τμήμα της βιομηχανίας τεχνητής νοημοσύνης.

Το τμήμα αυτό ωστόσο διαδραματίζει ουσιαστικό ρόλο στην προσπάθεια να καταστούν τα ΑΙ ασφαλή για δημόσια κατανάλωση.

«Παρά τον θεμελιώδη ρόλο που διαδραματίζουν αυτοί οι επαγγελματίες του εμπλουτισμού δεδομένων, όλο και περισσότερες έρευνες αποκαλύπτουν τις επισφαλείς συνθήκες εργασίας που αντιμετωπίζουν», αναφέρει η Partnership on AI, μια ομάδα οργανώσεων στην οποία ανήκει το OpenAI. 

Με πληροφορίες από Time

Διεθνή
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Γάζα: Η Χαμάς επιβεβαιώνει τον θάνατο του στρατιωτικού ηγέτη της, Μοχάμεντ Σινουάρ

Διεθνή / Γάζα: Η Χαμάς επιβεβαιώνει τον θάνατο του στρατιωτικού ηγέτη της, Μοχάμεντ Σινουάρ

Η Χαμάς δεν υπεισήλθε σε λεπτομέρειες σχετικά με τις συνθήκες του θανάτου του Μοχάμεντ Σινουάρ, αλλά συμπεριέλαβε τη φωτογραφία του μαζί με εκείνες άλλων ηγετών του κινήματος που χαρακτηρίστηκαν «μάρτυρες»
LIFO NEWSROOM
Μεξικό: Μία ολόκληρη «πόλη» έχει εξαφανισθεί από το 2007 που κηρύχθηκε ο «πόλεμος κατά των ναρκωτικών

Διεθνή / Μεξικό: Μία ολόκληρη «πόλη» έχει εξαφανισθεί από το 2007 που κηρύχθηκε ο «πόλεμος κατά των ναρκωτικών

Περισσότερα από 130.000 άτομα έχουν δηλωθεί ως αγνοούμενα στο Μεξικό - Διαδηλώσεις σε όλη την χώρα από συγγενείς, φίλους αγνοουμένων, καθώς και ακτιβιστές των ανθρώπινων δικαιωμάτων
LIFO NEWSROOM
Μπρους Γουίλις: Ζει σε διαφορετικό σπίτι από την οικογένειά του - Η σύζυγός του απαντά για την κριτική που δέχεται

Διεθνή / Μπρους Γουίλις: Η σύζυγός του αποκάλυψε ότι ο σταρ ζει σε διαφορετικό σπίτι και δέχτηκε κριτική

Η Έμα Χέμιγνκ Γουίλις μιλά για τη «δυσκολότερη απόφαση» που κλήθηκε να πάρει και την κριτική που έχει δεχθεί εν μέσω της μάχης του Μπρους Γουίλις με την άνοια
LIFO NEWSROOM
Τι κρύβει η απόφαση των ΗΠΑ να μπλοκάρουν τη συμμετοχή του Μαχμούντ Αμπάς στη Γενική Συνέλευση του ΟΗΕ

Διεθνή / Τι κρύβει η απόφαση των ΗΠΑ να μπλοκάρουν τη συμμετοχή του Μαχμούντ Αμπάς στη Γενική Συνέλευση του ΟΗΕ

Ο Αμερικανός Υπουργός Εξωτερικών, Μάρκο Ρούμπιο, ακύρωσε τις θεωρήσεις εισόδου που είχαν χορηγηθεί σε μέλη της Παλαιστινιακής Αρχής (PA) και της Οργάνωσης για την Απελευθέρωση της Παλαιστίνης (PLO), ενώ έχει αρνηθεί σε άλλους να υποβάλουν αίτηση για βίζα
LIFO NEWSROOM
Ο Τραμπ εξετάζει την αποστολή ιδιωτικού στρατού στην Ουκρανία

Διεθνή / Ο Τραμπ εξετάζει την αποστολή ιδιωτικού στρατού στην Ουκρανία - Τι περιλαμβάνει το σχέδιο

Η παρουσία των ιδιωτικών στρατιωτικών δυνάμεων θα λειτουργήσει ως αποτρεπτικό μέτρο ώστε να αποθαρρύνει τον Βλαντίμιρ Πούτιν από το να παραβιάσει μια ενδεχόμενη συμφωνία κατάπαυσης του πυρός
LIFO NEWSROOM
Το Πεντάγωνο ανέθεσε συμβόλαιο 1,2 δισ. για κέντρο κράτησης σε εταιρεία που δηλώνει έδρα ένα σπίτι

Διεθνή / Το Πεντάγωνο ανέθεσε συμβόλαιο 1,2 δισ. για κέντρο κράτησης σε εταιρεία που δηλώνει έδρα ένα σπίτι

Η εταιρεία, που ανέλαβε την κατασκευή του μεγαλύτερου κέντρου κράτησης μεταναστών στις ΗΠΑ, δεν διαθέτει λειτουργική ιστοσελίδα - Το Πεντάγωνο αρνείται να δημοσιοποιήσει το συμβόλαιο
LIFO NEWSROOM
Ουκρανία: Σφοδρά ρωσικά πλήγματα σε πολλές περιφέρειες - Τουλάχιστον ένας νεκρός

Διεθνή / Ουκρανία: Σφοδρά ρωσικά πλήγματα σε πολλές περιφέρειες - Τουλάχιστον ένας νεκρός

Ο διοικητής της Ζαπορίζια έκανε λόγο για ρωσική επίθεση με πυραύλους και μη επανδρωμένα αεροσκάφη (drones) που προκάλεσαν τον θάνατο ενός ανθρώπου και τον τραυματισμό 22, μεταξύ των οποίων τρία παιδιά
LIFO NEWSROOM