Έρευνα δύο σουηδικών εφημερίδων φέρνει στο φως ότι εργαζόμενοι στην Κένυα που απασχολούνται από εταιρεία εξωτερικής ανάθεσης επεξεργάζονται προσωπικό οπτικοακουστικό υλικό χρηστών από τα «έξυπνα» γυαλιά της Meta, στο πλαίσιο της εκπαίδευσης των συστημάτων τεχνητής νοημοσύνης της εταιρείας.
Η έρευνα των Svenska Dagbladet και Göteborgs-Posten, που δημοσιεύθηκε στις 27 Φεβρουαρίου, αναδεικνύει τον ρόλο της ανθρώπινης εργασίας πίσω από την ανάπτυξη φορητών συστημάτων τεχνητής νοημοσύνης της Meta και εγείρει ερωτήματα για την προστασία προσωπικών δεδομένων, τη μεταφορά δεδομένων εκτός Ευρώπης και τις συνθήκες εργασίας των εργαζομένων που επεξεργάζονται το υλικό.
Τα Ray-Ban smart glasses της Meta, που αναπτύχθηκαν σε συνεργασία με την EssilorLuxottica, προωθούνται ως συσκευή με δυνατότητες τεχνητής νοημοσύνης που μπορεί να κάνει μετάφραση, να περιγράφει το περιβάλλον, να τραβά φωτογραφίες και βίντεο χωρίς χρήση χεριών και να απαντά σε ερωτήματα για όσα βλέπει ο χρήστης.
Ωστόσο, σύμφωνα με την έρευνα, βίντεο και εικόνες που καταγράφονται από τα γυαλιά καταλήγουν σε εργαζομένους της εταιρείας Sama στην Κένυα, οι οποίοι τα εξετάζουν και τα επισημαίνουν ώστε να βελτιωθεί η λειτουργία των αλγορίθμων.
Meta Ray-ban smart glasses: Υλικό από ιδιωτικές στιγμές
Εργαζόμενοι δήλωσαν ότι κατά την εργασία τους έρχονται συχνά αντιμέτωποι με ιδιαίτερα ευαίσθητο περιεχόμενο. Σύμφωνα με τις μαρτυρίες τους, το υλικό περιλαμβάνει καθημερινές σκηνές από σπίτια, αλλά και ιδιωτικές στιγμές που οι χρήστες πιθανόν να μην αντιλαμβάνονταν ότι καταγράφονταν.
Σε ορισμένες περιπτώσεις, ανέφεραν, εμφανίζονται οικονομικά στοιχεία όπως τραπεζικές κάρτες ή εικόνες από ιδιωτικούς χώρους, όπως υπνοδωμάτια και μπάνια.
Ένας εργαζόμενος είπε ότι σε ορισμένα βίντεο «μπορείς να δεις κάποιον να πηγαίνει στην τουαλέτα ή να γδύνεται», εκφράζοντας την εκτίμηση ότι τα άτομα που εμφανίζονται στο υλικό πιθανότατα δεν γνωρίζουν ότι καταγράφονται.
Σε άλλη περίπτωση, σύμφωνα με μαρτυρία εργαζομένου, καταγράφηκε σκηνή όπου ο χρήστης άφησε τα γυαλιά στο κομοδίνο και η σύζυγός του μπήκε στο δωμάτιο και άρχισε να γδύνεται χωρίς να γνωρίζει ότι καταγραφόταν.
Η έρευνα σημειώνει επίσης ότι οι πληροφορίες που δίνονται στους καταναλωτές για τον τρόπο αποθήκευσης και επεξεργασίας των δεδομένων δεν είναι πάντα σαφείς. Σύμφωνα με δοκιμές που επικαλείται το δημοσίευμα, αρκετές λειτουργίες τεχνητής νοημοσύνης των γυαλιών βασίζονται σε επεξεργασία μέσω cloud, γεγονός που σημαίνει ότι εικόνες και φωνητικές εντολές μπορεί να μεταφέρονται σε απομακρυσμένους διακομιστές.
Ο ρόλος της Sama
Η Sama, εταιρεία που παρέχει υπηρεσίες επισήμανσης δεδομένων για την εκπαίδευση αλγορίθμων, συνεργάζεται με μεγάλες τεχνολογικές εταιρείες, μεταξύ των οποίων η Meta και η OpenAI. Στο παρελθόν έχει βρεθεί στο επίκεντρο καταγγελιών για εργασιακές πρακτικές σε ορισμένα έργα.
Οι εργαζόμενοι δεσμεύονται από αυστηρές συμφωνίες εμπιστευτικότητας που περιορίζουν όσα μπορούν να αποκαλύψουν δημόσια. Ωστόσο, σύμφωνα με τις μαρτυρίες που δημοσιεύθηκαν από τις σουηδικές εφημερίδες, η εκπαίδευση συστημάτων τεχνητής νοημοσύνης βασίζεται σε μεγάλο βαθμό σε ανθρώπους που εξετάζουν μεγάλες ποσότητες ακατέργαστου υλικού ώστε τα συστήματα να μάθουν να αναγνωρίζουν αντικείμενα και καταστάσεις.
Η Meta αναφέρει στις πολιτικές απορρήτου ότι περιεχόμενο χρηστών μπορεί να εξετάζεται από ανθρώπους για τη βελτίωση των υπηρεσιών και για λόγους ασφάλειας. Για τους Ευρωπαίους χρήστες, την ευθύνη συμμόρφωσης με τον κανονισμό προστασίας δεδομένων της ΕΕ (GDPR) έχει η ιρλανδική θυγατρική της εταιρείας.
Η έρευνα θέτει επίσης ερωτήματα για τη μεταφορά δεδομένων από την Ευρώπη ή τις Ηνωμένες Πολιτείες σε χώρες όπως η Κένυα, οι οποίες δεν διαθέτουν καθεστώς ισοδύναμης προστασίας δεδομένων με εκείνο της Ευρωπαϊκής Ένωσης.
Παρά το γεγονός ότι η επεξεργασία δεδομένων για τεχνητή νοημοσύνη έχει συμβάλει στην ανάπτυξη του τεχνολογικού τομέα στο Ναϊρόμπι, οι θέσεις αυτές χαρακτηρίζονται από χαμηλές αμοιβές, μεγάλο φόρτο εργασίας και έκθεση σε δύσκολο ή ευαίσθητο περιεχόμενο.
Η Meta έχει στο παρελθόν δηλώσει ότι επενδύει σε μηχανισμούς προστασίας της ιδιωτικότητας και περιορίζει τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των συστημάτων της. Ωστόσο, σύμφωνα με την έρευνα των σουηδικών εφημερίδων, η λειτουργία πολλών εφαρμογών τεχνητής νοημοσύνης εξακολουθεί να βασίζεται σε μεγάλο βαθμό στην ανθρώπινη εποπτεία.
Με πληροφορίες από Futurism.com
