Οργή και αγωνία προκαλεί η αποκάλυψη ότι χρήστες του Instagram βρέθηκαν ξαφνικά αποκλεισμένοι από τους λογαριασμούς τους, αφού το σύστημα της πλατφόρμας –το οποίο βασίζεται στην τεχνητή νοημοσύνη– τους κατηγόρησε λανθασμένα για παραβίαση των κανόνων περί σεξουαλικής κακοποίησης παιδιών.
Η Meta, μητρική εταιρεία του Instagram και του Facebook, φέρεται να απέκλεισε δεκάδες λογαριασμούς με την κατηγορία περί «εκμετάλλευσης ανηλίκων», κατηγορία που οι θιγόμενοι χρήστες περιγράφουν ως «ακραία προσβλητική και ψυχοφθόρα», ιδίως όταν αφορά άτομα χωρίς καμία σχετική εμπλοκή ή υπόνοια.
Ένας από αυτούς, ο Ντέιβιντ από το Αμπερντίν της Σκωτίας, έχασε πρόσβαση σε λογαριασμούς δέκα ετών: «Έχασα μηνύματα, φωτογραφίες, αναμνήσεις. Είναι ντροπή. Δεν μπορώ να κοιμηθώ, αισθάνομαι απομονωμένος. Είναι τρομερό να έχεις μια τέτοια κατηγορία να αιωρείται πάνω σου».
Η υπόθεσή του εξετάστηκε από τη Meta μόνο αφότου παρουσιάστηκε στα ΜΜΕ και μόλις τότε αποκαταστάθηκε ο λογαριασμός του. Η Meta παραδέχτηκε το λάθος, ζητώντας συγγνώμη με ένα τυποποιημένο μήνυμα: «Λυπούμαστε που κάναμε λάθος και που δεν μπορέσατε να χρησιμοποιήσετε το Instagram για ένα διάστημα. Κάποιες φορές απαιτούνται ενέργειες για να κρατήσουμε ασφαλή την κοινότητά μας».
Αντίστοιχη εμπειρία είχε και ο Φάισαλ, φοιτητής στο Λονδίνο, ο οποίος ξεκινούσε επαγγελματική πορεία στον χώρο των δημιουργικών τεχνών και λάμβανε παραγγελίες μέσω Instagram. Μετά τον αποκλεισμό, ένιωσε ότι η ψυχική του υγεία κατέρρευσε: «Δεν ξέρω τι να κάνω, είμαι πολύ στεναχωρημένος. Η Meta με κατηγόρησε ψευδώς για έγκλημα. Έχω απομονωθεί εντελώς».
Ο λογαριασμός του αποκαταστάθηκε μόλις η υπόθεσή του έφτασε στη δημοσιότητα. Ωστόσο, όπως λέει, πλέον χρησιμοποιεί το Instagram με φόβο και είναι ανήσυχος για το εάν η κατηγορία θα εμφανιστεί σε μελλοντικό έλεγχο ταυτοπροσωπίας.
Ο Σαλίμ, επίσης με παρόμοια εμπειρία, καταγγέλλει ότι το σύστημα προσφυγής της Meta είναι πρακτικά ανεπαρκές, ενώ η τεχνητή νοημοσύνη καταλήγει να «στοχοποιεί απλούς ανθρώπους σαν εγκληματίες». Οι λογαριασμοί του επίσης αποκαταστάθηκαν μόνο έπειτα από δημοσιοποίηση της υπόθεσής του.
27.000 υπογραφές και χιλιάδες καταγγελίες
Περισσότεροι από 100 χρήστες έχουν έρθει σε επαφή με το BBC αναφέροντας ότι αποκλείστηκαν αδίκως, χωρίς καμία αιτιολόγηση. Άλλοι μιλούν για απώλειες εισοδήματος, ενώ αρκετοί επισημαίνουν το ψυχολογικό τραύμα και την απομόνωση που προκάλεσε η εμπειρία.
Περισσότερα από 27.000 άτομα έχουν υπογράψει αίτημα ζητώντας αναθεώρηση του αλγορίθμου της Meta, ο οποίος, όπως υποστηρίζουν, μπλοκάρει χρήστες χωρίς λόγο και δεν τους παρέχει αξιόπιστη διαδικασία ένστασης. Χιλιάδες είναι και τα σχετικά posts σε Reddit και άλλες πλατφόρμες.
Η Meta αρνήθηκε να σχολιάσει τις συγκεκριμένες υποθέσεις, ενώ δεν απάντησε στο εάν υπάρχει συστημικό πρόβλημα στο σύστημα εποπτείας περιεχομένου.
Ωστόσο, στον εθνικό κοινοβούλιο της Νότιας Κορέας, η πρόεδρος της επιτροπής Τεχνολογίας και Επικοινωνιών δήλωσε πρόσφατα ότι η Meta αναγνώρισε πιθανότητα λανθασμένων αποκλεισμών στη χώρα της – κάτι που αποτελεί έμμεση αποδοχή ότι το πρόβλημα μπορεί να είναι ευρύτερο.
Η ερευνήτρια και blogger Δρ Καρολίνα Αρέ, ειδική στη θεματολογία moderation και μέσων κοινωνικής δικτύωσης, υποστηρίζει ότι η έλλειψη διαφάνειας από τη Meta δεν επιτρέπει να διαπιστωθούν τα πραγματικά αίτια του προβλήματος. Εικάζει ότι ίσως πρόκειται για ατυχείς αλλαγές στις διατυπώσεις των κανονισμών της πλατφόρμας ή για αποτυχία στο σύστημα ένστασης.
«Η Meta δεν εξηγεί ποτέ τι ακριβώς πυροδότησε τη διαγραφή. Δεν έχουμε πρόσβαση στο τι πήγε στραβά με τον αλγόριθμο», δήλωσε στο BBC.
Η εταιρεία, πάντως, υπερασπίζεται το σύστημά της, δηλώνοντας ότι χρησιμοποιεί συνδυασμό ανθρώπων και τεχνολογίας για να εντοπίσει παραβιάσεις και πως κάθε χρήστης έχει δικαίωμα προσφυγής. Προσθέτει ότι αναγνωρίζει «συμπεριφορές υψηλού κινδύνου», όπως περιπτώσεις όπου λογαριασμοί ενηλίκων καταγγέλλονται από εφήβους ή όταν ενήλικες αναζητούν όρους που σχετίζονται με κακοποίηση.
Η Meta δηλώνει πως οποιαδήποτε ένδειξη «φανερής παιδικής εκμετάλλευσης» αναφέρεται στο Εθνικό Κέντρο για Εξαφανισμένα και Κακοποιημένα Παιδιά των ΗΠΑ (NCMEC), που με τη σειρά του ενημερώνει διεθνώς τις αρχές.
Meta υπό πίεση
Η υπόθεση των μαζικών αποκλεισμών, ειδικά όταν συνοδεύονται από σοβαρότατες κατηγορίες που στιγματίζουν τους χρήστες, φέρνει ξανά στο προσκήνιο τα όρια και τις αποτυχίες της αυτοματοποιημένης εποπτείας περιεχομένου. Η αδιαφάνεια, η απουσία ανθρώπινης αξιολόγησης και η αδυναμία ουσιαστικής ένστασης οδηγούν –σύμφωνα με τους χρήστες– σε έναν επικίνδυνο ψηφιακό αυταρχισμό.
Η Meta, όπως και άλλες μεγάλες πλατφόρμες, βρίσκεται υπό αυξανόμενη πίεση από τις ρυθμιστικές αρχές να διασφαλίσει ότι οι πλατφόρμες της είναι ασφαλείς και αξιόπιστες – όχι μόνο απέναντι σε εγκληματικές συμπεριφορές, αλλά και απέναντι σε αθώους χρήστες που σήμερα βρίσκονται χωρίς φωνή και χωρίς επανόρθωση.
Με πληροφορίες από BBC
