Instagram: Λάθος κατηγορίες για σεξουαλική κακοποίηση ανηλίκων προκαλούν αποκλεισμούς και ψυχικό σοκ σε χρήστες

Instagram: Λάθος κατηγορίες για σεξουαλική κακοποίηση ανηλίκων προκαλούν αποκλεισμούς και ψυχικό σοκ σε χρήστες Facebook Twitter
Φωτ. Αρχείου: Unsplash
0

Οργή και αγωνία προκαλεί η αποκάλυψη ότι χρήστες του Instagram βρέθηκαν ξαφνικά αποκλεισμένοι από τους λογαριασμούς τους, αφού το σύστημα της πλατφόρμας –το οποίο βασίζεται στην τεχνητή νοημοσύνη– τους κατηγόρησε λανθασμένα για παραβίαση των κανόνων περί σεξουαλικής κακοποίησης παιδιών.

Η Meta, μητρική εταιρεία του Instagram και του Facebook, φέρεται να απέκλεισε δεκάδες λογαριασμούς με την κατηγορία περί «εκμετάλλευσης ανηλίκων», κατηγορία που οι θιγόμενοι χρήστες περιγράφουν ως «ακραία προσβλητική και ψυχοφθόρα», ιδίως όταν αφορά άτομα χωρίς καμία σχετική εμπλοκή ή υπόνοια.

Ένας από αυτούς, ο Ντέιβιντ από το Αμπερντίν της Σκωτίας, έχασε πρόσβαση σε λογαριασμούς δέκα ετών: «Έχασα μηνύματα, φωτογραφίες, αναμνήσεις. Είναι ντροπή. Δεν μπορώ να κοιμηθώ, αισθάνομαι απομονωμένος. Είναι τρομερό να έχεις μια τέτοια κατηγορία να αιωρείται πάνω σου».

Η υπόθεσή του εξετάστηκε από τη Meta μόνο αφότου παρουσιάστηκε στα ΜΜΕ και μόλις τότε αποκαταστάθηκε ο λογαριασμός του. Η Meta παραδέχτηκε το λάθος, ζητώντας συγγνώμη με ένα τυποποιημένο μήνυμα: «Λυπούμαστε που κάναμε λάθος και που δεν μπορέσατε να χρησιμοποιήσετε το Instagram για ένα διάστημα. Κάποιες φορές απαιτούνται ενέργειες για να κρατήσουμε ασφαλή την κοινότητά μας».

Αντίστοιχη εμπειρία είχε και ο Φάισαλ, φοιτητής στο Λονδίνο, ο οποίος ξεκινούσε επαγγελματική πορεία στον χώρο των δημιουργικών τεχνών και λάμβανε παραγγελίες μέσω Instagram. Μετά τον αποκλεισμό, ένιωσε ότι η ψυχική του υγεία κατέρρευσε: «Δεν ξέρω τι να κάνω, είμαι πολύ στεναχωρημένος. Η Meta με κατηγόρησε ψευδώς για έγκλημα. Έχω απομονωθεί εντελώς».

Ο λογαριασμός του αποκαταστάθηκε μόλις η υπόθεσή του έφτασε στη δημοσιότητα. Ωστόσο, όπως λέει, πλέον χρησιμοποιεί το Instagram με φόβο και είναι ανήσυχος για το εάν η κατηγορία θα εμφανιστεί σε μελλοντικό έλεγχο ταυτοπροσωπίας.

Ο Σαλίμ, επίσης με παρόμοια εμπειρία, καταγγέλλει ότι το σύστημα προσφυγής της Meta είναι πρακτικά ανεπαρκές, ενώ η τεχνητή νοημοσύνη καταλήγει να «στοχοποιεί απλούς ανθρώπους σαν εγκληματίες». Οι λογαριασμοί του επίσης αποκαταστάθηκαν μόνο έπειτα από δημοσιοποίηση της υπόθεσής του.

27.000 υπογραφές και χιλιάδες καταγγελίες

Περισσότεροι από 100 χρήστες έχουν έρθει σε επαφή με το BBC αναφέροντας ότι αποκλείστηκαν αδίκως, χωρίς καμία αιτιολόγηση. Άλλοι μιλούν για απώλειες εισοδήματος, ενώ αρκετοί επισημαίνουν το ψυχολογικό τραύμα και την απομόνωση που προκάλεσε η εμπειρία.

Περισσότερα από 27.000 άτομα έχουν υπογράψει αίτημα ζητώντας αναθεώρηση του αλγορίθμου της Meta, ο οποίος, όπως υποστηρίζουν, μπλοκάρει χρήστες χωρίς λόγο και δεν τους παρέχει αξιόπιστη διαδικασία ένστασης. Χιλιάδες είναι και τα σχετικά posts σε Reddit και άλλες πλατφόρμες.

Η Meta αρνήθηκε να σχολιάσει τις συγκεκριμένες υποθέσεις, ενώ δεν απάντησε στο εάν υπάρχει συστημικό πρόβλημα στο σύστημα εποπτείας περιεχομένου.

Ωστόσο, στον εθνικό κοινοβούλιο της Νότιας Κορέας, η πρόεδρος της επιτροπής Τεχνολογίας και Επικοινωνιών δήλωσε πρόσφατα ότι η Meta αναγνώρισε πιθανότητα λανθασμένων αποκλεισμών στη χώρα της – κάτι που αποτελεί έμμεση αποδοχή ότι το πρόβλημα μπορεί να είναι ευρύτερο.

Η ερευνήτρια και blogger Δρ Καρολίνα Αρέ, ειδική στη θεματολογία moderation και μέσων κοινωνικής δικτύωσης, υποστηρίζει ότι η έλλειψη διαφάνειας από τη Meta δεν επιτρέπει να διαπιστωθούν τα πραγματικά αίτια του προβλήματος. Εικάζει ότι ίσως πρόκειται για ατυχείς αλλαγές στις διατυπώσεις των κανονισμών της πλατφόρμας ή για αποτυχία στο σύστημα ένστασης.

«Η Meta δεν εξηγεί ποτέ τι ακριβώς πυροδότησε τη διαγραφή. Δεν έχουμε πρόσβαση στο τι πήγε στραβά με τον αλγόριθμο», δήλωσε στο BBC.

Η εταιρεία, πάντως, υπερασπίζεται το σύστημά της, δηλώνοντας ότι χρησιμοποιεί συνδυασμό ανθρώπων και τεχνολογίας για να εντοπίσει παραβιάσεις και πως κάθε χρήστης έχει δικαίωμα προσφυγής. Προσθέτει ότι αναγνωρίζει «συμπεριφορές υψηλού κινδύνου», όπως περιπτώσεις όπου λογαριασμοί ενηλίκων καταγγέλλονται από εφήβους ή όταν ενήλικες αναζητούν όρους που σχετίζονται με κακοποίηση.

Η Meta δηλώνει πως οποιαδήποτε ένδειξη «φανερής παιδικής εκμετάλλευσης» αναφέρεται στο Εθνικό Κέντρο για Εξαφανισμένα και Κακοποιημένα Παιδιά των ΗΠΑ (NCMEC), που με τη σειρά του ενημερώνει διεθνώς τις αρχές.

Meta υπό πίεση

Η υπόθεση των μαζικών αποκλεισμών, ειδικά όταν συνοδεύονται από σοβαρότατες κατηγορίες που στιγματίζουν τους χρήστες, φέρνει ξανά στο προσκήνιο τα όρια και τις αποτυχίες της αυτοματοποιημένης εποπτείας περιεχομένου. Η αδιαφάνεια, η απουσία ανθρώπινης αξιολόγησης και η αδυναμία ουσιαστικής ένστασης οδηγούν –σύμφωνα με τους χρήστες– σε έναν επικίνδυνο ψηφιακό αυταρχισμό.

Η Meta, όπως και άλλες μεγάλες πλατφόρμες, βρίσκεται υπό αυξανόμενη πίεση από τις ρυθμιστικές αρχές να διασφαλίσει ότι οι πλατφόρμες της είναι ασφαλείς και αξιόπιστες – όχι μόνο απέναντι σε εγκληματικές συμπεριφορές, αλλά και απέναντι σε αθώους χρήστες που σήμερα βρίσκονται χωρίς φωνή και χωρίς επανόρθωση.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Η Meta παγώνει τις προσλήψεις στην Τεχνητή Νοημοσύνη, μετά τις δαπανηρές κινήσεις Ζούκερμπεργκ

Τech & Science / Η Meta παγώνει τις προσλήψεις στην Τεχνητή Νοημοσύνη, μετά τις δαπανηρές κινήσεις Ζούκερμπεργκ

Ο Ζούκερμπεργκ είχε αναλάβει προσωπικά την προσέλκυση ταλέντων από OpenAI, Google DeepMind και άλλες εταιρείες, προσφέροντας πακέτα αποδοχών ακόμη και 100 εκατ. δολαρίων
LIFO NEWSROOM
Η πρόωρη εφηβεία ενδέχεται να συνδέεται με κοινό χημικό σε προϊόντα προσωπικής φροντίδας

Τech & Science / Η πρόωρη εφηβεία ενδέχεται να συνδέεται με κοινό χημικό σε προϊόντα προσωπικής φροντίδας

Μία χημική ένωση που βρίσκεται σε πληθώρα προϊόντων - από καλλυντικά και αρωματικά χώρου έως απορρυπαντικά και σαπούνια - μπορεί να στέλνει σήμα σε περιοχή του εγκεφάλου που ενεργοποιεί την έναρξη της εφηβείας
LIFO NEWSROOM
Οι ΗΠΑ σε διαπραγματεύσεις για το 10% της Intel: «Ο πρόεδρος θέτει τις ανάγκες της Αμερικής σε προτεραιότητα»

Τech & Science / Οι ΗΠΑ σε διαπραγματεύσεις για το 10% της Intel: «Ο πρόεδρος θέτει τις ανάγκες της Αμερικής σε προτεραιότητα»

Επιβεβαίωσε ο Λευκός Οίκος πως υπάρχει ενδιαφέρον για τη γιγαντιαία εταιρεία μικροτσίπ - Οι ΗΠΑ ζητούν μερίδιο σε αντάλλαγμα για παλαιότερες επιχορηγήσεις
LIFO NEWSROOM
Η Intel εξασφαλίζει «σωσίβιο» 2 δισ. δολαρίων από τη SoftBank – Σκέψεις για συμμετοχή και από την κυβέρνηση Τραμπ

Τech & Science / Η Intel εξασφαλίζει «σωσίβιο» 2 δισ. δολαρίων από τη SoftBank – Σκέψεις για συμμετοχή και από την κυβέρνηση Τραμπ

Οι μετοχές της Intel κατέγραψαν άνοδο άνω του 5% - Ο Τραμπ έχει ήδη συμφωνήσει με Nvidia και AMD να καταβάλουν το 15% των εσόδων τους από πωλήσεις κινεζικών AI chips στο αμερικανικό κράτος
LIFO NEWSROOM
Curio: Τα λούτρινα παιχνίδια με τεχνητή νοημοσύνη που μιλούν στα παιδιά

Τech & Science / Curio: Τα λούτρινα παιχνίδια με τεχνητή νοημοσύνη που μιλούν στα παιδιά

Η εταιρεία Curio δημιουργεί αρκουδάκια-chatbots με τεχνητή νοημοσύνη που συνομιλούν με παιδιά από 3 ετών - Πώς αλλάζουν τα παιχνίδια την έννοια του παιδικού παιχνιδιού και τι πρέπει να γνωρίζουν οι γονείς;
LIFO NEWSROOM
Έλον Μασκ και Τζεφ Μπέζος σχεδιάζουν ανεφοδιασμό καυσίμων στο διάστημα για αποστολές σε Σελήνη και Άρη

Τech & Science / Έλον Μασκ και Τζεφ Μπέζος σχεδιάζουν ανεφοδιασμό καυσίμων στο διάστημα για αποστολές σε Σελήνη και Άρη

Ο Έλον Μασκ και ο Τζεφ Μπέζος εξερευνούν τον ανεφοδιασμό καυσίμων σε τροχιά, ώστε τα διαστημόπλοια να ταξιδεύουν πιο μακριά με λιγότερο βάρος στην εκτόξευση, ανοίγοντας τον δρόμο για φθηνότερες και μακρινότερες αποστολές στη Σελήνη και τον Άρη
LIFO NEWSROOM