Για τη Γερμανίδα δημοσιογράφο Πατρίτσια Σλόσερ όλα ξεκίνησαν με ένα τηλεφώνημα από συνάδελφό της. «Λυπάμαι, αλλά βρήκα αυτό. Το γνωρίζεις;»
Της είχε στείλει έναν σύνδεσμο, ο οποίος την οδήγησε σε έναν ιστότοπο με την ονομασία Mr DeepFakes. Εκεί βρήκε ψεύτικες εικόνες της ίδιας που την έδειχαν γυμνή, σκυμμένη, αλυσοδεμένη, να πραγματοποιεί σεξουαλικές πράξεις με διάφορα ζώα. «Ήταν πολύ ακραίες, πολύ ταπεινωτικές οι εικόνες», θυμάται. «Ήταν επίσης πολύ κακοφτιαγμένες, κάτι που με βοήθησε να αποστασιοποιηθώ και να πείσω ακόμα και τον εαυτό μου ότι ήταν ψεύτικες. Αλλά ήταν πολύ ανησυχητικό να φαντάζομαι ότι κάποιος, κάπου, περνούσε ώρες στο διαδίκτυο ψάχνοντας φωτογραφίες μου και φτιάχνοντας όλα αυτά».
Η ιστορία του Mr DeepFakes, του μεγαλύτερου και πιο διαβόητου ιστότοπου με deepfake πορνογραφικό περιεχόμενο, είναι στην πραγματικότητα η ιστορία της ίδιας της ΑΙ πορνογραφίας.
Ο ιστότοπος τής ήταν άγνωστος, παρά τις προηγούμενες έρευνές της για την πορνογραφική βιομηχανία. «Δεν είχα ακούσει ποτέ για το Mr DeepFakes, έναν πορνογραφικό ιστότοπο αφιερωμένο εξ ολοκλήρου σε ψεύτικα βίντεο και φωτογραφίες πορνογραφικού περιεχομένου. Με εξέπληξε το μέγεθός του: τόσο πολλά βίντεο με κάθε διασημότητα που γνωρίζεις». Η πρώτη αντίδρασή της όταν είδε τον εαυτό της ανάμεσα σε όλα αυτά ήταν να το αγνοήσει. «Προσπάθησα να το βγάλω από το μυαλό μου, που ήταν στην πραγματικότητα ένας τρόπος για να μην το αντιμετωπίσω», λέει. «Αλλά είναι περίεργο το πώς λειτουργεί το μυαλό. Ξέρεις ότι είναι ψεύτικο, αλλά εξακολουθείς να το βλέπεις. Δεν είσαι εσύ, αλλά και πάλι είσαι εσύ. Είσαι εκεί με έναν σκύλο και μια αλυσίδα. Νιώθεις τα όριά σου παραβιασμένα, νιώθεις όμως και μπερδεμένη. Κάποια στιγμή αποφάσισα: "Όχι. Είμαι θυμωμένη. Δεν θέλω να κυκλοφορούν αυτές οι εικόνες"».
Το ντοκιμαντέρ που έκανε στη συνέχεια η Σλόσερ είχε ως αποτέλεσμα να αφαιρεθούν οι εικόνες. Επίσης, εντόπισε τον νεαρό που τις είχε δημιουργήσει και δημοσιεύσει, μάλιστα πήγε στο σπίτι του και μίλησε με τη μητέρα του. (Ο ίδιος ο δράστης δεν βγήκε ποτέ από το δωμάτιό του.) Ωστόσο, δεν κατάφερε να εντοπίσει τον ίδιον τον «Mr DeepFakes» ή όποιον βρισκόταν πίσω από τον ιστότοπο, παρά τη βοήθεια της ομάδας ερευνητικής δημοσιογραφίας Bellingcat.
Η ιστορία του Mr DeepFakes, του μεγαλύτερου και πιο διαβόητου ιστότοπου με deepfake πορνογραφικό περιεχόμενο, είναι στην πραγματικότητα η ιστορία της ίδιας της ΑΙ πορνογραφίας. Ως «σημείο μηδέν» της πορνογραφίας που δημιουργείται με τεχνητή νοημοσύνη, οι σελίδες του, οι οποίες έχουν περισσότερα από 2 δισεκατομμύρια views, έχουν δείξει αμέτρητες διάσημες γυναίκες, από πολιτικούς, ηθοποιούς και τραγουδίστριες μέχρι πριγκίπισσες, συζύγους και κόρες Προέδρων των ΗΠΑ, να απάγονται, να βασανίζονται, να δένονται, να ακρωτηριάζονται, να βιάζονται και να στραγγαλίζονται.
Ωστόσο, όλο αυτό το περιεχόμενο (το οποίο θα χρειαζόταν περισσότερες από 200 ημέρες για να το δει κανείς) ήταν απλώς η «βιτρίνα» του ιστότοπου. Η πραγματική του καρδιά, το «μηχανοστάσιό» του, ήταν το φόρουμ του. Εκεί, όποιος ήθελε να δημιουργήσει deepfakes για κάποιον που γνώριζε (φίλη, αδελφή, συμμαθήτρια ή συνάδελφο) μπορούσε να βρει κάποιον πρόθυμο να τα φτιάξει κατά παραγγελία με το ανάλογο αντίτιμο. Ήταν επίσης ένας «εκπαιδευτικός χώρος», ένα τεχνικό κέντρο όπου «ερασιτέχνες» δίδασκαν ο ένας τον άλλον, μοιράζονταν συμβουλές, δημοσίευαν εργασίες και «έλυναν προβλήματα». (Ένα επαναλαμβανόμενο πρόβλημα ήταν πώς να φτιάξεις deepfake χωρίς ένα καλό «σύνολο δεδομένων», δηλαδή όταν δεν έχεις πολλές φωτογραφίες – όχι για μια διασημότητα, αλλά ίσως για κάποιον που γνωρίζεις και του οποίου έχεις κλέψει απλώς εικόνες από τα social media.)
Οι ρίζες του Mr Deepfakes ανάγονται στο 2017-18, όταν το AI πορνό μόλις άρχιζε να αναπτύσσεται σε ιστότοπους κοινωνικών μέσων όπως το Reddit. Ένας ανώνυμος χρήστης του Reddit και «πρωτοπόρος» του AI πορνό, γνωστός με το όνομα «deepfakes» (και στον οποίο αποδίδεται η επινόηση του όρου), έδωσε μια πρώιμη συνέντευξη στο «Vice» σχετικά με τις δυνατότητές του. Λίγο μετά, όμως, στις αρχές του 2018, το Reddit απαγόρευσε το deepfake πορνό από τον ιστότοπό του. Τότε δημιουργήθηκε το Mr DeepFakes με αρχικό domain name dpfks.com. Ο διαχειριστής είχε το ίδιο όνομα χρήστη, dpfks, και ήταν ο άνθρωπος που ζητούσε εθελοντές για να εργαστούν ως moderators, δημοσίευε κανόνες και οδηγίες, καθώς και deepfake βίντεο και έναν αναλυτικό οδηγό για τη χρήση λογισμικού για deepfake πορνό. Ποιος ήταν πίσω από αυτό; Κατά καιρούς, ο «Mr DeepFakes» έδινε ανώνυμες συνεντεύξεις. Σε ένα ντοκιμαντέρ του BBC το 2022 με τίτλο «Deepfake Porn: Could you be next?», ο «ιδιοκτήτης» του ιστότοπου, με το ψευδώνυμο «deepfakes», υποστήριζε ότι δεν απαιτείται η συγκατάθεση των γυναικών, καθώς «πρόκειται απλώς για μια φαντασίωση, δεν είναι πραγματικό».
Τον περασμένο Απρίλιο, οι Αρχές πίστεψαν ότι είχαν βρει τον «κύριο DeepFakes» και έστειλαν emails στον ύποπτο. Στις 4 Μαΐου, ο ιστότοπος έκλεισε λόγω «απώλειας δεδομένων», όπως εξηγούσε μια ανακοίνωση στην αρχική σελίδα του, που προκλήθηκε από την απόσυρση ενός «κρίσιμου παρόχου υπηρεσιών». «Δεν πρόκειται να επιστρέψουμε», συνέχιζε η ανακοίνωση. «Οποιοσδήποτε ιστότοπος ισχυρίζεται κάτι τέτοιο είναι ψεύτικος. Το συγκεκριμένο domain κλείνει οριστικά και δεν φέρουμε ευθύνη για μελλοντική χρήση της ονομασίας. Αυτό το μήνυμα θα αφαιρεθεί σε περίπου μια εβδομάδα». Το Mr DeepFakes είχε τελειώσει, αλλά το deepfake πορνό έχει γίνει τόσο δημοφιλές, τόσο mainstream, που δεν χρειάζεται πλέον κάποια βάση. Αυτά που οι «ειδικοί» υπερηφανεύονταν ότι έμαθαν να κάνουν και δίδασκαν σε άλλους είναι πλέον τόσο ενσωματωμένα, που είναι προσβάσιμα σε οποιονδήποτε με ένα κλικ.
Και για όσους θέλουν κάτι πιο σύνθετο, οι αυτοαποκαλούμενοι ειδικοί που κάποτε παραμόνευαν στο φόρουμ του Mr DeepFakes, τώρα είναι εκεί έξω και διαφημίζουν τις υπηρεσίες τους. Η Πατρίτσια Σλόσερ είναι βέβαιη γι' αυτό. «Στο πλαίσιο της έρευνάς μου μπήκα μυστικά και επικοινώνησα με μερικούς από τους ανθρώπους στα φόρουμ, ζητώντας δήθεν ένα deepfake για μια πρώην κοπέλα μου», λέει η Σλόσερ. «Αν και συχνά υποστηριζόταν από τον ίδιο τον ιστότοπο ότι αφορούσε μόνο διασημότητες, αυτό φυσικά δεν ήταν αλήθεια. Αφού έκλεισε το Mr DeepFakes, έλαβα ένα αυτόματο email από έναν από αυτούς που δούλευαν εκεί, το οποίο έλεγε: "Αν θέλεις να φτιάξουμε κάτι, πες μου... Το Mr DeepFakes έκλεισε, αλλά φυσικά εμείς συνεχίζουμε να δουλεύουμε».
Με στοιχεία από την «Guardian»
