Instagram: Λάθος κατηγορίες για σεξουαλική κακοποίηση ανηλίκων προκαλούν αποκλεισμούς και ψυχικό σοκ σε χρήστες

Instagram: Λάθος κατηγορίες για σεξουαλική κακοποίηση ανηλίκων προκαλούν αποκλεισμούς και ψυχικό σοκ σε χρήστες Facebook Twitter
Φωτ. Αρχείου: Unsplash
0

Οργή και αγωνία προκαλεί η αποκάλυψη ότι χρήστες του Instagram βρέθηκαν ξαφνικά αποκλεισμένοι από τους λογαριασμούς τους, αφού το σύστημα της πλατφόρμας –το οποίο βασίζεται στην τεχνητή νοημοσύνη– τους κατηγόρησε λανθασμένα για παραβίαση των κανόνων περί σεξουαλικής κακοποίησης παιδιών.

Η Meta, μητρική εταιρεία του Instagram και του Facebook, φέρεται να απέκλεισε δεκάδες λογαριασμούς με την κατηγορία περί «εκμετάλλευσης ανηλίκων», κατηγορία που οι θιγόμενοι χρήστες περιγράφουν ως «ακραία προσβλητική και ψυχοφθόρα», ιδίως όταν αφορά άτομα χωρίς καμία σχετική εμπλοκή ή υπόνοια.

Ένας από αυτούς, ο Ντέιβιντ από το Αμπερντίν της Σκωτίας, έχασε πρόσβαση σε λογαριασμούς δέκα ετών: «Έχασα μηνύματα, φωτογραφίες, αναμνήσεις. Είναι ντροπή. Δεν μπορώ να κοιμηθώ, αισθάνομαι απομονωμένος. Είναι τρομερό να έχεις μια τέτοια κατηγορία να αιωρείται πάνω σου».

Η υπόθεσή του εξετάστηκε από τη Meta μόνο αφότου παρουσιάστηκε στα ΜΜΕ και μόλις τότε αποκαταστάθηκε ο λογαριασμός του. Η Meta παραδέχτηκε το λάθος, ζητώντας συγγνώμη με ένα τυποποιημένο μήνυμα: «Λυπούμαστε που κάναμε λάθος και που δεν μπορέσατε να χρησιμοποιήσετε το Instagram για ένα διάστημα. Κάποιες φορές απαιτούνται ενέργειες για να κρατήσουμε ασφαλή την κοινότητά μας».

Αντίστοιχη εμπειρία είχε και ο Φάισαλ, φοιτητής στο Λονδίνο, ο οποίος ξεκινούσε επαγγελματική πορεία στον χώρο των δημιουργικών τεχνών και λάμβανε παραγγελίες μέσω Instagram. Μετά τον αποκλεισμό, ένιωσε ότι η ψυχική του υγεία κατέρρευσε: «Δεν ξέρω τι να κάνω, είμαι πολύ στεναχωρημένος. Η Meta με κατηγόρησε ψευδώς για έγκλημα. Έχω απομονωθεί εντελώς».

Ο λογαριασμός του αποκαταστάθηκε μόλις η υπόθεσή του έφτασε στη δημοσιότητα. Ωστόσο, όπως λέει, πλέον χρησιμοποιεί το Instagram με φόβο και είναι ανήσυχος για το εάν η κατηγορία θα εμφανιστεί σε μελλοντικό έλεγχο ταυτοπροσωπίας.

Ο Σαλίμ, επίσης με παρόμοια εμπειρία, καταγγέλλει ότι το σύστημα προσφυγής της Meta είναι πρακτικά ανεπαρκές, ενώ η τεχνητή νοημοσύνη καταλήγει να «στοχοποιεί απλούς ανθρώπους σαν εγκληματίες». Οι λογαριασμοί του επίσης αποκαταστάθηκαν μόνο έπειτα από δημοσιοποίηση της υπόθεσής του.

27.000 υπογραφές και χιλιάδες καταγγελίες

Περισσότεροι από 100 χρήστες έχουν έρθει σε επαφή με το BBC αναφέροντας ότι αποκλείστηκαν αδίκως, χωρίς καμία αιτιολόγηση. Άλλοι μιλούν για απώλειες εισοδήματος, ενώ αρκετοί επισημαίνουν το ψυχολογικό τραύμα και την απομόνωση που προκάλεσε η εμπειρία.

Περισσότερα από 27.000 άτομα έχουν υπογράψει αίτημα ζητώντας αναθεώρηση του αλγορίθμου της Meta, ο οποίος, όπως υποστηρίζουν, μπλοκάρει χρήστες χωρίς λόγο και δεν τους παρέχει αξιόπιστη διαδικασία ένστασης. Χιλιάδες είναι και τα σχετικά posts σε Reddit και άλλες πλατφόρμες.

Η Meta αρνήθηκε να σχολιάσει τις συγκεκριμένες υποθέσεις, ενώ δεν απάντησε στο εάν υπάρχει συστημικό πρόβλημα στο σύστημα εποπτείας περιεχομένου.

Ωστόσο, στον εθνικό κοινοβούλιο της Νότιας Κορέας, η πρόεδρος της επιτροπής Τεχνολογίας και Επικοινωνιών δήλωσε πρόσφατα ότι η Meta αναγνώρισε πιθανότητα λανθασμένων αποκλεισμών στη χώρα της – κάτι που αποτελεί έμμεση αποδοχή ότι το πρόβλημα μπορεί να είναι ευρύτερο.

Η ερευνήτρια και blogger Δρ Καρολίνα Αρέ, ειδική στη θεματολογία moderation και μέσων κοινωνικής δικτύωσης, υποστηρίζει ότι η έλλειψη διαφάνειας από τη Meta δεν επιτρέπει να διαπιστωθούν τα πραγματικά αίτια του προβλήματος. Εικάζει ότι ίσως πρόκειται για ατυχείς αλλαγές στις διατυπώσεις των κανονισμών της πλατφόρμας ή για αποτυχία στο σύστημα ένστασης.

«Η Meta δεν εξηγεί ποτέ τι ακριβώς πυροδότησε τη διαγραφή. Δεν έχουμε πρόσβαση στο τι πήγε στραβά με τον αλγόριθμο», δήλωσε στο BBC.

Η εταιρεία, πάντως, υπερασπίζεται το σύστημά της, δηλώνοντας ότι χρησιμοποιεί συνδυασμό ανθρώπων και τεχνολογίας για να εντοπίσει παραβιάσεις και πως κάθε χρήστης έχει δικαίωμα προσφυγής. Προσθέτει ότι αναγνωρίζει «συμπεριφορές υψηλού κινδύνου», όπως περιπτώσεις όπου λογαριασμοί ενηλίκων καταγγέλλονται από εφήβους ή όταν ενήλικες αναζητούν όρους που σχετίζονται με κακοποίηση.

Η Meta δηλώνει πως οποιαδήποτε ένδειξη «φανερής παιδικής εκμετάλλευσης» αναφέρεται στο Εθνικό Κέντρο για Εξαφανισμένα και Κακοποιημένα Παιδιά των ΗΠΑ (NCMEC), που με τη σειρά του ενημερώνει διεθνώς τις αρχές.

Meta υπό πίεση

Η υπόθεση των μαζικών αποκλεισμών, ειδικά όταν συνοδεύονται από σοβαρότατες κατηγορίες που στιγματίζουν τους χρήστες, φέρνει ξανά στο προσκήνιο τα όρια και τις αποτυχίες της αυτοματοποιημένης εποπτείας περιεχομένου. Η αδιαφάνεια, η απουσία ανθρώπινης αξιολόγησης και η αδυναμία ουσιαστικής ένστασης οδηγούν –σύμφωνα με τους χρήστες– σε έναν επικίνδυνο ψηφιακό αυταρχισμό.

Η Meta, όπως και άλλες μεγάλες πλατφόρμες, βρίσκεται υπό αυξανόμενη πίεση από τις ρυθμιστικές αρχές να διασφαλίσει ότι οι πλατφόρμες της είναι ασφαλείς και αξιόπιστες – όχι μόνο απέναντι σε εγκληματικές συμπεριφορές, αλλά και απέναντι σε αθώους χρήστες που σήμερα βρίσκονται χωρίς φωνή και χωρίς επανόρθωση.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Τech & Science / Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Το απολίθωμα, μια γνάθος που διατηρήθηκε σε εξαιρετική κατάσταση, αναλύθηκε με σύγχρονες τεχνικές σάρωσης, αποκαλύπτοντας χαρακτηριστικά που το κατατάσσουν σε ένα άγνωστο έως τώρα είδος
LIFO NEWSROOM
Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Τech & Science / Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Εντυπωσιακά αποτελέσματα μέσα σε λίγες εβδομάδες από νέα θεραπεία που στοχεύει το γονίδιο OTOF – Παιδιά απέκτησαν ξανά την αίσθηση της ακοής, με μία επταετή να συνομιλεί κανονικά με τη μητέρα της τέσσερις μήνες μετά
LIFO NEWSROOM
Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Τech & Science / Ελικοβακτηρίδιο: Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Οι περισσότεροι μολύνονται με το βακτήριο όταν είναι παιδιά και μπορεί να το έχουν για χρόνια χωρίς να το ξέρουν, γιατί συνήθως δεν έχει συμπτώματα
LIFO NEWSROOM
Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Τech & Science / Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Σε έναν κόσμο γεμάτο υπερδιέγερση από μέσα κοινωνικής δικτύωσης, υπερεπεξεργασμένες τροφές και ψηφιακές απολαύσεις, ο εγκέφαλος κατακλύζεται από τεχνητές εξάρσεις ντοπαμίνης
LIFO NEWSROOM
«Απλά... ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Τech & Science / «Απλά. Ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Η εικόνα δείχνει ένα σπάνιο ατμοσφαιρικό φαινόμενο που είναι δύσκολο να εντοπιστεί από το έδαφος αλλά γίνεται πιο ορατό από το διάστημα, σε ύψος περίπου 400 χιλιομέτρων από τη Γη
LIFO NEWSROOM
Η Apple ενώνει τις δυνάμεις της με τη SpaceX, εισάγοντας το Starlink στα iPhones

Τech & Science / Η Apple ενώνει τις δυνάμεις της με τη SpaceX, εισάγοντας το Starlink στα iPhones

O Έλον Μασκ ανέφερε ότι οι χρήστες μπορούν να αναμένουν υποστήριξη για εικόνες, μουσική και podcasts μέσω της τρέχουσας τεχνολογίας Starlink, με σχέδια για προσθήκη υποστήριξης βίντεο σε μελλοντικές ενημερώσεις
LIFO NEWSROOM
Σταματήστε να μετράτε πρόβατα... και άλλα ανούσια tips για να σας πάρει ο ύπνος

Τech & Science / Σταματήστε να μετράτε προβατάκια και ακόμα επτά πρακτικά tips για να σας πάρει ο ύπνος

Από την αλλαγή περιβάλλοντος μέχρι το να σταθείτε ξυπόλητοι στο κρύο πάτωμα του μπάνιου, ειδικοί μοιράζονται δοκιμασμένα κόλπα για να χαλαρώσετε και να ξαναβυθιστείτε στην αγκαλιά του Μορφέα
LIFO NEWSROOM