Όταν το Twitter έκανε «αγώνα δρόμου» για να λανσάρει το Spaces, τη νέα live audio chat λειτουργία, κάποιοι εργαζόμενοι ρώτησαν πώς η εταιρεία σκόπευε να διασφαλίσει ότι αυτή η υπηρεσία δεν θα γινόταν βήμα για ρητορική μίσους, bullying και έκκληση σε βία. Στην πραγματικότητα, δεν υπήρχε σχέδιο, γράφει η Washington Post.
Σε παρουσίαση σε συναδέλφους, λίγο πριν από το λανσάρισμα τον Μάιο, κορυφαίο στέλεχος του Twitter, ο Κέιβον Μπέικπουρ, παραδέχθηκε ότι ήταν πιθανό οι χρήστες να παραβιάζουν τους κανονισμούς του Twitter στα audio chats, σύμφωνα με παριστάμενους που μίλησαν στην Washington Post με την προϋπόθεση να μην κατονομαστούν. Όμως ο ίδιος και άλλα στελέχη του Twitter, πεπεισμένοι ότι το Spaces θα δώσει νέα πνοή στην εταιρεία, αρνήθηκαν να προχωρήσουν πιο αργά.
Έξι μήνες αργότερα, αυτά τα προβλήματα είναι πραγματικότητα. Υποστηρικτές των Ταλιμπάν, εθνικιστές και αρνητές των εμβολίων που διασπείρουν παραπληροφόρηση για τον κορωνοϊό έχουν κάνει live audio broadcasts στο Spaces, στα οποία συντονίστηκαν εκατοντάδες άνθρωποι, σύμφωνα με ερευνητές, χρήστες και screenshots που επικαλείται η εφημερίδα.
Άλλες συζητήσεις στο Spaces δυσφημούσαν τους transgender και τους μαύρους Αμερικανούς. Αυτά τα chats δεν αστυνομεύονται από το Twitter, ούτε τα διαχειρίζεται η πλατφόρμα, παραδέχεται η εταιρεία, επειδή δεν έχει το προσωπικό ή την τεχνολογία για να σκανάρεται το ηχητικό περιεχόμενο σε πραγματικό χρόνο.
«Αγαπητό TwitterSafety, άτομα που στρατολογούν για τον ISIS είναι ενεργοί στο Spaces. Ανοιχτά υποκινούν γενοκτονία των Σιιτών», έγραψε ένας χρήστης της πλατφόρμας στα τέλη Νοεμβρίου, δημοσιεύοντας απόσπασμα από συζήτηση στο Spaces, στο οποίο χρήστης κάνει υποτιμητικά σχόλια για τους Σιίτες μουσουλμάνους. Δύο άνθρωποι που μετείχαν στη συζήτηση διάρκειας μίας ώρας, ανάμεσά τους δημοσιογράφος από το Αφγανιστάν, είπαν στην Washington Post ότι ο «οικοδεσπότης» δήλωσε στήριξη στο Ισλαμικό Κράτος και είπε ότι οι Σιίτες αξίζουν να πεθάνουν.
Dear @TwitterSafety,
— 🅰🅽🆃🅸-🆃🅰🅻🅸🅱🅰🅽 (@afghanpolymath) November 19, 2021
ISIS recruiters are active on @TwitterSpaces.
They are openly inciting genocide of Shia people. @mohammadkhawri is justifying the killing of Shias. He calls them Non-Muslim. Twitter is sleeping. @jack wtf bro? #StopShiaGenocide #BeingShiaIsNotACrime pic.twitter.com/vlaRt8SfjP
Το πρόχειρο λανσάρισμα του Spaces είναι ένα σημάδι του πώς η συνεχιζόμενη αναταραχή στο Twitter κάνει την εταιρεία να παραβλέπει το μίσος, την πόλωση και τον εξτρεμισμό, σημειώνει η εφημερίδα. Πριν από λίγες ημέρες ο CEO της εταιρείας, Τζακ Ντόρσεϊ, παραιτήθηκε απρόσμενα, εν μέσω μιας καμπάνιας από επενδυτές για πιο γρήγορες καινοτομίες.
Οι «άμυνες»
Αυτή η πίεση έκανε την εταιρεία να λανσάρει προϊόντα προτού δοκιμαστούν για την ασφάλεια, είπαν στην εφημερίδα πρώην και νυν εργαζόμενοι. Ακόμη και πριν από την παρουσίαση του Spaces, εργαζόμενοι άρχισαν να προειδοποιούν για την πιθανότητα να χρησιμοποιούνται τα live audio broadcasts για την καλλιέργεια μίσους και εξτρεμισμού. Όμως, διευθυντές παραγκώνισαν όσους ζητούσαν να γίνουν πιο αργά βήματα, σύμφωνα με τέσσερις πρώην και νυν εργαζόμενους, που μίλησαν στην εφημερίδα.
«Η διασφάλιση της ασφάλειας των ανθρώπων και η ενθάρρυνση υγειών συζητήσεων, ενώ βοηθάμε οικοδεσπότες και ακροατές να ελέγξουν την εμπειρία τους, είναι βασικές προτεραιότητες από την αρχή της ανάπτυξης του Spaces», δήλωσε η εκπρόσωπος της εταιρείας, Βιβιάνα Γουίγολ, που παραδέχθηκε την έλλειψη ελέγχου για τις ηχητικές συζητήσεις.
«Εξερευνούμε νέους τρόπους υπό αυτό το πρίσμα, αλλά δεν είναι κάτι που έχουμε διαθέσιμο αυτή τη στιγμή», συμπλήρωσε. Παράλληλα σημείωσε ότι η τεχνολογία που θα μπορούσε να σκανάρει σε πραγματικό χρόνο το ηχητικό περιεχόμενο είτε δεν υπάρχει αυτή τη στιγμή, είτε είναι σε επεξεργασία. Αλλά πρόσθεσε ότι υπάρχουν κάποιες άμυνες ενάντια στο επιβλαβές ηχητικό περιεχόμενο. Αυτό περιλαμβάνει υπάρχον λογισμικό που ανιχνεύει προβληματικές λέξεις κλειδιά- όπως ρατσιστικές προσβολές- για το σκανάρισμα των τίτλων των συζητήσεων στο Spaces, αλλά και με βάση τις αναφορές χρηστών για περιεχόμενο που πιθανόν παραβιάζει τους κανονισμούς.
Όμως, αυτό το σύστημα ασφαλείας ήδη έχει αποτύχει να εντοπίσει αρκετά επιβλαβή και κατά των κανόνων chats, όπως μία συζήτηση που έγινε τον Νοέμβριο με τίτλο «Ας είμαστε ειλικρινείς, οι tr@ns γυναίκες γεννιούνται ανέντιμες, απατεώνισσες και ψεύτρες» και άλλη με τίτλο «Ρωτήστε οτιδήποτε έναν λευκό εθνικιστή».
Ακόμη χειρότερα, το λογισμικό του Twitter κατά λάθος βοήθησε κάποιες από αυτές τις συζητήσεις να γίνουν viral. To λογισμικό της εταιρείες αναγνώρισε τα chat ως δημοφιλή, επειδή είχαν συντονιστεί πολλοί ακροατές και κατά συνέπεια τα προώθησε σε περισσότερους χρήστες. Η Γουίγολ παραδέχθηκε το ζήτημα και το απέδωσε σε σφάλμα του λογισμικού το οποίο, σύμφωνα με την ίδια, αντιμετωπίστηκε.
Αγνοήθηκαν οι προειδοποιήσεις
«Το χάος δεν περιγράφει καν» τον τρόπο που έγινε η διαχείριση του Spaces, δήλωσε πρώην μέλος της ομάδας. «Όταν δουλεύεις σε κάτι για μήνες και κανένας δεν συγκεντρώνει ευρήματα για το πόσο άσχημα μπορεί να το χρησιμοποιήσουν αυτό οι άνθρωποι, τότε δεν είναι σοκαριστικό ότι έπειτα από μήνες έχεις Ταλιμπάν ή ρατσιστές να χρησιμοποιούν την πλατφόρμα», επεσήμανε.
Όταν το Twitter ετοιμαζόταν να λανσάρει το Spaces σε χρήστες με πάνω από 600 followers, τον Μάιο, εργαζόμενοι άρχισαν να ρωτάνε αν θα έχει τεχνολογικά εργαλεία προκειμένου να σκανάρεται το ηχητικό περιεχόμενο, για παραβιάσεις κανονισμών.
Όμως, τους είπαν ότι δεν υπήρχε η τεχνολογία για κάτι τέτοιο και ο μικρός αριθμός των εποπτών σήμαινε ότι δεν υπήρχε η δυνατότητα να ακούνε δεκάδες χιλιάδες συζητήσεις, σε διάφορες γλώσσες, σε πραγματικό χρόνο. Έτσι, κάποιοι πρότειναν να προχωρήσει πιο αργά το πρότζεκτ, για να δημιουργηθεί καλύτερη τεχνολογία ασφαλείας. Όσο το έκαναν είτε απολύθηκαν, είτε αποκλείστηκαν από μίτινγκ, σύμφωνα με τρεις εργαζομένους.
Ταλιμπάν και εθνικιστές
Μετά την επιστροφή των Ταλιμπάν στην εξουσία, υποστηρικτές τους σε όλο τον κόσμο στράφηκαν στο Spaces, κάνοντας δεκάδες συζητήσεις στα αγγλικά, τα αφγανικά και τα περσικά, για να συγκεντρώσουν υποστήριξη για εκείνους, σύμφωνα με τον Έμερσον Μπρούκινγκ από το Digital Forensics Lab του Atlantic Council.
Σε κάποια chat που άκουσε, άνθρωποι συζητούσαν θεωρίες συνωμοσίες για τις τρομοκρατικές επιθέσεις της 11ης Σεπτεμβρίου, ενώ άλλες ήταν ανοιχτά αντισημιτικές. Σε μερικές, υποστηρικτές των κρυπτονομισμάτων ενθάρρυναν τους Ταλιμπάν να στραφούν σε αυτή τη λύση, για να παρακάμψουν το παγκόσμιο χρηματοοικονομικό σύστημα. Σε κάποιες περιπτώσεις, εθνικιστές έμπαιναν σε υπέρ των Ταλιμπάν συζητήσεις, για να κάνουν αρνητικά σχόλια για το Ισραήλ και τους Εβραίους.
Ο Μπρούκινγκ δήλωσε σοκαρισμένος γιατί το Twitter φαινόταν να εφαρμόζει τις πολιτικές του ενάντια στα υπέρ των Ταλιμπάν tweet, αλλά αγνοούσε δεκάδες ηχητικές συζητήσεις στις οποίες παραβιάζονταν οι κανόνες και μέσω των οποίων διαδίδονταν ιδέες που είναι γνωστές ότι ριζοσπαστικοποιούν ανθρώπους. Επίσης, η πλατφόρμα δεν επέτρεπε να ηχογραφείται το Spaces, κάτι που έκανε σχεδόν αδύνατο για τους ερευνητές να παρακολουθούν τι έχει ειπωθεί. Πλέον, το Twitter επιτρέπει την ηχογράφηση και λέει ότι κρατά τους server του τα ηχητικά αρχεία για έως 90 ημέρες.
Μέχρι το φθινόπωρο, άλλοι εξτρεμιστές, ανάμεσά τους εθνικιστές και συνωμοσιολόγοι είχαν αρχίσει να διοργανώνουν συζητήσεις και να προωθούν άλλες, δήλωσε η Ρίτα Κατζ, διευθύντρια του SITE Intelligence Group. Κάποιοι χρήστες που ανέφεραν προβλήματα, δήλωσαν στην Washington Post ότι η αντίδραση της εταιρείας ήταν πολύ αργή.
Τα προβλήματα του Spaces θυμίζει ένα μοτίβο παρομοίων λαθών άλλων εταιρειών, σημείωσε η Σάρα Ρόμπερτς, καθηγήτρια στο Center for Critical Internet Inquiry του UCLA. Το Facebook το 2015 λάνσαρε το live video streaming και σύντομα άνθρωποι άρχισαν να καταγράφουν αυτοκτονίες, δολοφονίες και πυροβολισμούς, σημείωσε. «Το ηχητικό περιεχόμενο είναι η άγρια Δύση», ανέφερε χαρακτηριστικά.
