Εκατομμύρια άνθρωποι σε όλο τον κόσμο δημιουργούν και μοιράζονται deepfake γυμνές φωτογραφίες στην εφαρμογή ανταλλαγής μηνυμάτων Telegram, όπως έδειξε μια ανάλυση του Guardian.
Την ίδια ώρα η εξάπλωση των προηγμένων εργαλείων τεχνητής νοημοσύνης βιομηχανοποιεί την online κακοποίηση των γυναικών.
Ορισμένα από τα κανάλια του Telegram προσφέρουν «γυμνές» φωτογραφίες ή βίντεο έναντι αμοιβής: οι χρήστες μπορούν να ανεβάσουν μια φωτογραφία οποιασδήποτε γυναίκας και η τεχνητή νοημοσύνη θα δημιουργήσει ένα βίντεο με την εν λόγω γυναίκα να εκτελεί σεξουαλικές πράξεις. Πολλά άλλα προσφέρουν μια ροή εικόνων – διασημοτήτων, influencer των κοινωνικών μέσων και απλών γυναικών – που γίνονται γυμνές ή εκτελούν σεξουαλικές πράξεις από την τεχνητή νοημοσύνη. Οι ακόλουθοι χρησιμοποιούν επίσης τα κανάλια για να μοιράζονται συμβουλές σχετικά με τα διαθέσιμα εργαλεία deepfake.
Το μη συναινετικό γυμνό περιεχόμενο στο Telegram
Ενώ εδώ και καιρό υπάρχουν κανάλια Telegram αφιερωμένα στη διανομή μη συναινετικών γυμνών εικόνων γυναικών, η ευρεία διαθεσιμότητα των εργαλείων τεχνητής νοημοσύνης σημαίνει ότι ο καθένας μπορεί να γίνει αμέσως αντικείμενο γραφικού σεξουαλικού περιεχομένου που μπορεί να δουν εκατομμύρια άνθρωποι.
Σε ένα ρωσόφωνο κανάλι Telegram που διαφημίζει deepfake «διαρροές από bloggers» και «διαρροές από διασημότητες», μια ανάρτηση σχετικά με ένα bot Telegram τεχνητής νοημοσύνης υποσχέθηκε «ένα δίκτυο που δεν γνωρίζει τη λέξη 'όχι'».
«Επιλέξτε στάσεις, σχήματα και τοποθεσίες. Κάντε μαζί της ό,τι δεν μπορείτε να κάνετε στην πραγματική ζωή», ανέφερε.
Σε ένα κανάλι Telegram στην κινεζική γλώσσα με σχεδόν 25.000 συνδρομητές, άνδρες μοιράζονταν βίντεο με τις «πρώτες τους αγάπες» ή τις «καλύτερες φίλες των κοριτσιών τους», που είχαν δημιουργηθεί με τη χρήση τεχνητής νοημοσύνης.
Ένα δίκτυο καναλιών Telegram που απευθύνεται σε χρήστες από τη Νιγηρία διαδίδει deepfakes μαζί με εκατοντάδες κλεμμένες γυμνές και προσωπικές φωτογραφίες.
Το Telegram είναι μια ασφαλής εφαρμογή ανταλλαγής μηνυμάτων που επιτρέπει στους χρήστες να δημιουργούν ομάδες ή κανάλια για να μεταδίδουν περιεχόμενο σε απεριόριστους επαφές. Σύμφωνα με τους όρους χρήσης της πλατφόρμας, οι χρήστες δεν μπορούν να δημοσιεύουν «παράνομο πορνογραφικό περιεχόμενο» σε «δημόσια ορατά» κανάλια και bots, ούτε να «συμμετέχουν σε δραστηριότητες που αναγνωρίζονται ως παράνομες στην πλειονότητα των χωρών».
Μια ανασκόπηση των δεδομένων της ανεξάρτητης υπηρεσίας ανάλυσης και βάσης δεδομένων Telemetr.io, η οποία διαθέτει έναν κατάλογο τέτοιων καναλιών, δείχνει ότι το Telegram έχει κλείσει μια σειρά από κανάλια με γυμνές φωτογραφίες.
Το Telegram δήλωσε στον Guardian ότι η deepfake πορνογραφία και τα εργαλεία για τη δημιουργία της απαγορεύονται ρητά από τους όρους χρήσης του, προσθέτοντας ότι «τέτοιο περιεχόμενο αφαιρείται συστηματικά όποτε εντοπίζεται. Οι διαχειριστές, οι οποίοι διαθέτουν ειδικά εργαλεία τεχνητής νοημοσύνης, παρακολουθούν προληπτικά τα δημόσια τμήματα της πλατφόρμας και δέχονται αναφορές προκειμένου να αφαιρούν περιεχόμενο που παραβιάζει τους όρους χρήσης μας, συμπεριλαμβανομένης της ενθάρρυνσης της δημιουργίας πορνογραφικού υλικού deepfake».
Στην ανακοίνωσή του, το Telegram ανέφερε ότι αφαίρεσε περισσότερα από 952.000 προσβλητικές εικόνες και βίντεο το 2025.
Αυξημένα αντίστοιχα περιστατικά σε άλλες πλατφόρμες
Τις τελευταίες εβδομάδες, η χρήση εργαλείων τεχνητής νοημοσύνης για τη δημιουργία σεξουαλικών deepfakes και την ψηφιακή κακοποίηση των γυναικών έχει γίνει θέμα δημόσιας συζήτησης, μετά την απαίτηση προς το Grok, το chatbot τεχνητής νοημοσύνης στην πλατφόρμα κοινωνικών μέσων X του Έλον Μασκ, να δημιουργήσει χιλιάδες εικόνες γυναικών με μπικίνι ή ελάχιστα ρούχα, χωρίς τη συγκατάθεσή τους.
Η οργή που προκάλεσε αυτό το γεγονός οδήγησε την εταιρεία τεχνητής νοημοσύνης του Μασκ, xAI, να ανακοινώσει ότι θα σταματήσει να επιτρέπει στο Grok να επεξεργάζεται φωτογραφίες πραγματικών προσώπων με μπικίνι. Η ρυθμιστική αρχή των μέσων ενημέρωσης του Ηνωμένου Βασιλείου, Ofcom, ανακοίνωσε επίσης την έναρξη έρευνας για την X.
Ωστόσο, υπάρχει μια πληθώρα φόρουμ, ιστότοπων και εφαρμογών, συμπεριλαμβανομένου του Telegram, που επιτρέπουν σε εκατομμύρια ανθρώπους να έχουν εύκολη πρόσβαση σε γραφικό, μη συναινετικό περιεχόμενο – και να δημιουργούν και να μοιράζονται αυτό το περιεχόμενο κατά παραγγελία, χωρίς τη γνώση των γυναικών που παραβιάζονται από αυτό. Μια έκθεση που δημοσιεύθηκε την Τρίτη από το Tech Transparency Project διαπίστωσε ότι δεκάδες εφαρμογές γυμνού είναι διαθέσιμες στο Google Play Store και στο Apple App Store, και ότι συνολικά αυτές έχουν 705 εκατομμύρια λήψεις.
Ένας εκπρόσωπος της Apple δήλωσε ότι η εταιρεία είχε αφαιρέσει 28 από τις 47 εφαρμογές γυμνού που εντοπίστηκαν από το Tech Transparency Project στην έρευνά του, ενώ ένας εκπρόσωπος της Google δήλωσε ότι «οι περισσότερες από τις εφαρμογές» στην υπηρεσία τους είχαν ανασταλεί και ότι η έρευνα ήταν σε εξέλιξη.
Η ψηφιακή κακοποίηση
Τα εργαλεία τεχνητής νοημοσύνης έχουν εντείνει την παγκόσμια αύξηση της διαδικτυακής βίας κατά των γυναικών, επιτρέποντας σε σχεδόν οποιονδήποτε να δημιουργεί και να μοιράζεται προσβλητικές εικόνες. Σε πολλές περιπτώσεις, συμπεριλαμβανομένου του μεγαλύτερου μέρους του παγκόσμιου νότου, υπάρχουν λίγες νομικές οδοί για να λογοδοτήσουν οι δράστες. Λιγότερο από το 40% των χωρών διαθέτουν νόμους που προστατεύουν τις γυναίκες και τα κορίτσια από την ηλεκτρονική παρενόχληση ή την ηλεκτρονική καταδίωξη, σύμφωνα με στοιχεία της Παγκόσμιας Τράπεζας για το 2024. Ο ΟΗΕ εκτιμά ότι 1,8 δισεκατομμύρια γυναίκες και κορίτσια εξακολουθούν να στερούνται νομικής προστασίας από την ηλεκτρονική παρενόχληση και άλλες μορφές κακοποίησης που διευκολύνεται από την τεχνολογία.
Η έλλειψη ρύθμισης είναι μόνο ένας από τους λόγους για τους οποίους οι γυναίκες και τα κορίτσια σε χώρες με χαμηλό εισόδημα είναι ιδιαίτερα ευάλωτες, σύμφωνα με τους ακτιβιστές. Ζητήματα όπως η χαμηλή ψηφιακή παιδεία και η φτώχεια μπορούν να αυξήσουν τους κινδύνους. Η Ουγκότσι Ίχε, συνεργάτης της TechHer, μιας οργάνωσης με έδρα τη Νιγηρία που ενθαρρύνει τις γυναίκες και τα κορίτσια να μάθουν και να εργαστούν με την τεχνολογία, λέει ότι έχει συναντήσει περιπτώσεις όπου γυναίκες που έλαβαν χρήματα από εφαρμογές δανεισμού έπεσαν θύματα εκβιασμού από «άνδρες χωρίς ηθικούς φραγμούς που χρησιμοποιούν τεχνητή νοημοσύνη. Κάθε μέρα η κακοποίηση γίνεται όλο και πιο δημιουργική».
Οι πραγματικές συνέπειες της ψηφιακής κακοποίησης είναι καταστροφικές, συμπεριλαμβανομένων των προβλημάτων ψυχικής υγείας, της απομόνωσης και της απώλειας εργασίας.
«Αυτά τα πράγματα είναι βέβαιο ότι θα καταστρέψουν τη ζωή μιας νεαρής κοπέλας», δήλωσε η Μέρασι Μιουτέμι, δικηγόρος με έδρα την Κένυα που εκπροσωπεί τέσσερα θύματα κακοποίησης με deepfake.
Η Ίχε είπε ότι η οργάνωσή της είχε χειριστεί καταγγελίες από γυναίκες που είχαν εξοστρακιστεί από τις οικογένειές τους μετά από απειλές με γυμνές και προσωπικές εικόνες που είχαν ληφθεί από κανάλια Telegram.
«Μόλις κυκλοφορήσει, δεν μπορείς να ανακτήσεις την αξιοπρέπειά σου, την ταυτότητά σου. Ακόμα και αν ο δράστης έρθει να πει, «Ω, αυτό ήταν deepfake», δεν μπορείς να ξέρεις πόσοι άνθρωποι το έχουν δει. Η ζημιά στη φήμη είναι ανεπανόρθωτη».
Με πληροφορίες από Guardian
