Αφού έχασε τη δουλειά της λόγω πανδημίας και πήρε 18 κιλά, η 25χρονη Remi Bader άρχισε να περνά περισσότερο χρόνο στο TikTok, δημοσιεύοντας για ρούχα που δεν της χωρούν πια και τις δυσκολίες να βρει κατάλληλα μεγέθη σε μαγαζιά της Νέας Υόρκης.
Ωστόσο, στις αρχές Δεκεμβρίου, η 25χρονη που μετρά πάνω από 800.000 followers, δοκίμασε ένα υπερβολικά μικρό, καφέ δερμάτινο παντελόνι από τα Zara, με αποτέλεσμα να φανούν λίγο τα οπίσθιά της. Το TikTok διέγραψε το βίντεο. Η Baden ενοχλήθηκε, δεδομένου πως το βίντεο, που είχε σκοπό να προωθήσει το body positivity, αφαιρέθηκε ενώ βίντεο από άλλους χρήστες του TikTok, με σεξουαλικά υπονοούμενα παραμένουν στην εφαρμογή. «Δεν μου έβγαζε κανένα νόημα», λέει.
Η Julia Kondratink, μια 29χρονη blogger που περιγράφει τον εαυτό της ως «μεσαίου μεγέθους», είχε μια παρόμοια εμπειρία, επίσης τον Δεκέμβριο. Το TikTok διέγραψε ένα βίντεο όπου φορούσε μπλε εσώρουχα λόγω «γυμνού». «Έπαθα σοκ», λέει στο CNN Business. «Δεν υπήρχε τίποτα πρόστυχο ή ακατάλληλο».
Και η Maddie Touma λέει πως το έχει δει να συμβαίνει στα βίντεο της πολλές φορές. Η 23χρονη influencer του TikTok με σχεδόν 200.000 followers έχει δει να αφαιρούνται βίντεο όπου φορά εσώρουχα αλλά και κανονικά ρούχα, κάτι που την έκανε να αναθεωρήσει το περιεχόμενο που δημοσιεύει, δυσκολεύοντας την αποστολή της, ήτοι το body positivity.
Κοιτάζοντας βίντεο στο TikTok κάθε άλλο παρά λείπουν οι προκλητικά ντυμένες γυναίκες και το περιεχόμενο με σεξουαλικά υπονοούμενα. Οπότε όταν influencers με περισσότερες καμπύλες όπως οι Bader και Touma, ποστάρουν παρόμοια βίντεο που μετά αφαιρούνται, δε γίνεται παρά να αναρωτιούνται τι συνέβη: Ήταν λάθος του διαχειριστή, του αλγόριθμου ή κάτι άλλο; Το αξιοπερίεργο είναι πως ακόμη και μετά που απευθύνονται στην εταιρία, τα βίντεο δεν επαναφέρονται πάντα.
Και δεν είναι οι μοναδικές σε σύγχυση. Η Adore Me, εταιρία εσωρούχων που συνεργάζεται και με τις τρεις γυναίκες σε χορηγούμενα ποστ στα social media, πρόσφατα έγινε θέμα συζήτησης με μια σειρά από tweets , υποστηρίζοντας ότι οι αλγόριθμοι του TikTok κάνουν διακρίσεις στα ποστ plus-sized γυναικών αλλά και εκείνα μοντέλων με «διάφορες αναπηρίες» ή έγχρωμων γυναικών.
However, it’s been a very open secret that the algorithm itself was built with very explicit discrimination against the overweight, the "ugly," the differently abled, and even the poor. https://t.co/pMGxhabAkB
— Adore Me (@AdoreMe) February 4, 2021
Το πρόβλημα δεν είναι, βέβαια, καινούργιο: Πριν από περίπου ένα χρόνο, η τραγουδίστρια Lizzo εξαπέλυσε επίθεση εναντίον του TikTok επειδή αφαίρεσε βίντεο που την έδειχναν με μαγιό, αλλά όχι και βίντεο, όπως είπε, άλλων γυναικών με μαγιό.
@lizzo 😬 #fyp
♬ iknowiknowiknowiknow - erin mcmillen
Τα θέματα ελέγχου περιεχομένου δεν περιορίζονται, φυσικά, στο TikTok αλλά είναι σχετικά καινούργια συγκριτικά με Facebook, Twitter κ.α. που δέχονται πυρά για παρόμοια ατοπήματα εδώ και χρόνια.
«Με εξοργίζει. Έχω δει χιλιάδες βίντεο στο TikTok πιο αδύνατων ατόμων με μαγιό ή ίδιο ντύσιμο με το δικό μου και δεν τους κάνουν παρατήρηση για γυμνό», λέει η Touma. «Ωστόσο, σε μένα ως plus sized άτομο, κάνουν».
Το TikTok είπε στο CNN Business πως δεν ενεργεί στο περιεχόμενο με βάση τον σωματότυπο ή άλλα χαρακτηριστικά, όπως ισχυρίζεται η Adore Me, προσθέτοντας ότι αναρτήσεις στις ΗΠΑ μπορεί να δέχονται επισήμανση από ένα σύστημα αλγόριθμου αλλά τελικά κάποιος άνθρωπος αποφασίζει αν θα κατέβουν- εκτός ΗΠΑ, το περιεχόμενο μπορεί να αφαιρείται αυτόματα.
«Ας το ξεκαθαρίσουμε, το TikTok δεν διαχειρίζεται περιεχόμενο με βάση το σώμα, το μέγεθος ή τις ικανότητες. Συνεχώς ενισχύουμε τις πολιτικές μας και προωθούμε το body acceptance», σημείωσε εκπρόσωπος του μέσου.
Ωστόσο το TikTok έχει περιορίσει ξανά συγκεκριμένα βίντεο στο παρελθόν. Το 2019 η εταιρία επιβεβαίωσε ότι το έκανε σε μια προσπάθεια να αποτρέψει το bullying. Η ανακοίνωση ακολούθησε μιας καταγγελίας πως η πλατφόρμα πείραξε μεταξύ άλλων αναρτήσεις από χρήστες υπέρβαρους.
Όπως άλλες πλατφόρμες, το TikTok έχει κατηγορήσει τα «bugs» στο σύστημά του και τους ανθρώπους που επιβλέπουν για αμφιλεγόμενες διαγραφές στο παρελθόν, μεταξύ άλλων εκείνες σε σχέση με το κίνημα Black Lives Matter. Κατά τα άλλα, τι πραγματικά συμβαίνει παραμένει ασαφές.
While this technical issue affected a wide range of terms, we recognize that it unfortunately came at a painful time for the Black community in particular. We deeply value the diverse voices on TikTok, and we apologize for the confusion and pain this situation caused.
— TikTokSupport (@TikTokSupport) May 29, 2020
Η Miriam Vogel, πρόεδρος και CEO της ΜΚΟ EqualAI, που βοηθά εταιρίες να μειώσουν τη μεροληψία στα συστήματα τεχνητής νοημοσύνης, θεωρεί ότι οι πλατφόρμες έχουν υπερβολικές απαιτήσεις από αυτά τα συστήματα στη διαχείριση περιεχομένου. «Η τεχνητή νοημοσύνη είναι σίγουρα ένα χρήσιμο εργαλείο. Μπορεί να έχει απίστευτη απόδοση και πλεονεκτήματα. Μόνο όμως αν έχουν επίγνωση των ορίων της», λέει.
Συστήματα τεχνητής νοημοσύνης που παρακολουθούν κείμενα, τα οποία αναρτούν χρήστες, ίσως έχουν εκπαιδευτεί να εντοπίζουν συγκεκριμένες λέξεις ως προσβολές - «παχύς» για παράδειγμα. Τέτοιοι όροι έχουν αναθεωρηθεί ως θετικοί στην κοινότητα του body positivity, αλλά η τεχνητή νοημοσύνη δεν γνωρίζει το ευρύτερο κοινωνικό πλαίσιο- ξέρει μόνο να εντοπίζει μοτίβα στα δεδομένα.
Επιπλέον, το TikTok απασχολεί χιλιάδες διαχειριστές, ανάμεσά τους υπαλλήλους πλήρους απασχόλησης και εξωτερικούς συνεργάτες. Η πλειονότητα βρίσκεται στις ΗΠΑ, αλλά διαθέτει επίσης διαχειριστές στη Νοτιοανατολική Ασία. Αυτό θα μπορούσε να συντελέσει σε μια κατάσταση όπου ένας διαχειριστής στις Φιλιππίνες, για παράδειγμα, να μην γνωρίζει τι είναι το body positivity. Οπότε αν ένα τέτοιου είδους βίντεο επισημανθεί από το σύστημα τεχνητής νοημοσύνης και δεν εμπίπτει στο κοινωνικό πλαίσιο του διαχειριστή, εκείνος να το κατεβάσει.
Με πληροφορίες από CNN
