Μια σειρά από υποτιθέμενα βίντεο του Τομ Κρουζ έχει προκαλέσει σύγχυση στους χρήστες του TikTok, μετρώντας πάνω 11 εκατομμύρια views, με ειδικούς να τα χαρακτηρίζουν το πιο ανησυχητικό ζωντανό παράδειγμα deepfake τεχνολογίας μέχρι σήμερα.
Ο όρος deepfake (μια σύνθετη λέξη που προέρχεται από τα «deep learning» και «fake») αναφέρεται σε τροποποιημένα media στα οποία ένα άτομο σε μια υπάρχουσα φωτογραφία ή βίντεο αντικαθίσταται από ένα άλλο.
Τα βίντεο του «Κρουζ» που εμφανίστηκαν στο TikTok, την προηγούμενη εβδομάδα, ξεκινούν με κάποιον που υποστηρίζει ότι είναι ο 58χρονος ηθοποιός να παίζει γκολφ.
«Αν σας αρέσει αυτό που βλέπετε, περιμένετε να δείτε τι έρχεται μετά», λέει ο ψεύτικος Κρουζ- με το βίντεο να τελειώνει με μια απίστευτα αληθοφανή μίμηση του διάσημου γέλιου του ηθοποιού.
Three videos in this thread that are not #TomCruise on #TikTok. They are #DeepFakes of Tom Cruise on TikTok, created by #ArtificialIntelligence. In the future it will become increasingly difficult to believe the evidence of our own eyes.#DeepTomCruise pic.twitter.com/1QFvAYLffB
— Keith Mansfield📚🚀✨ (@KeithMansfield) March 3, 2021
Το ίδιο γέλιο επαναλαμβάνεται και σε επόμενο βίντεο, όπου ο «Κρουζ» πεδικλώνεται και μετά αφηγείται μια ασυνάρτητη ιστορία για μια φερόμενη συνάντηση με τον Μιχαήλ Γκορμπατσώφ, τελευταίο ηγέτη της Σοβιετικής Ένωσης.
A series of deepfake videos of Tom Cruise is confusing millions of TikTok users. See the convincing videos and learn how this technology could be used to spread misinformation. https://t.co/sotNbbdYzq pic.twitter.com/IOUCcJZUUm
— CNN (@CNN) March 3, 2021
Το τελευταίο -και πιο ρεαλιστικό από όλα- βίντεο δημοσιεύτηκε πριν μερικές ημέρες, με ένα κοντινό πλάνο του deepfake Κρουζ να κάνει ένα μαγικό κόλπο με ένα κέρμα.
«Θα σας δείξω λίγη μαγεία... είναι αλήθεια», λέει ενώ κρατά το νόμισμα που σε λίγο εξαφανίζει. «Είναι όλο αληθινό», συνεχίζει, κουνώντας το χέρι πάνω από το κεφάλι του, ενώ κλείνει ξανά με το χαρακτηριστικό γέλιο του.
This isn't cameo.
— The Hustle (@TheHustle) March 1, 2021
This is deepfake Tom Cruise.
Holy technology. pic.twitter.com/CCpMrd8u1Z
Και τα τρία βίντεο μαζί μετρούν πάνω από 11 εκατομμύρια views στο TikTok, με εκατομμύρια ακόμη χρήστες να τα έχουν παρακολουθήσει σε κοινοποιήσεις στα social media.
Κάποια σάιτ αμφισβήτησαν την αυθεντικότητα των βίντεο, αν και τα περισσότερα σχόλια υποδεικνύουν πως όντως οι χρήστες συμπέραναν ότι ο διάσημος ηθοποιός έκανε TikTok.
Εκείνο που πρόδωσε την απάτη ήταν το ίδιο το όνομα του λογαριασμού, «deeptomcruise», που το TikTok είπε ότι μπορεί να παραμείνει ενεργός καθώς δεν προσπαθεί να παραπλανήσει τους χρήστες, σύμφωνα με σχετική δήλωση στους Times of London.
Η πλατφόρμα είπε στη βρετανική εφημερίδα πως αφαιρεί ψηφιακές απάτες «που παραπλανούν τους χρήστες διαστρεβλώνοντας την αλήθεια από γεγονότα και βλάπτουν το αντικείμενο του βίντεο, άλλα άτομα ή την κοινωνία».
Changes to the law will be necessary to safeguard everyone, writes @Mathilde_Pavis https://t.co/imxcqwKkia pic.twitter.com/XYhWoKNWJ9
— The Times (@thetimes) March 2, 2021
Μέχρι στιγμής δεν έχει γίνει γνωστό ποιος κρύβεται πίσω από τα βίντεο, που πολύ σύντομα παρουσιάστηκαν ως απόλυτα παραδείγματα του πόσο ανησυχητικά εξελίσσεται η τεχνολογία.
«Αυτή η τεχνολογία ήρθε για να μείνει», σχολίασε ο Henry Ajder, ειδικός στην deepfake τεχνολογία, μιλώντας στους UK Times.
Ωστόσο προειδοποίησε πως αν και τα βίντεο με τον Τομ Κρουζ είναι διασκεδαστικά, «υπάρχει επίσης μια τεράστια ποσότητα πραγματικά αρνητικών και κακόβουλων υποθέσεων», με την τεχνολογία να χρησιμοποιείται ήδη σε revenge porn αλλά και ψεύτικες δηλώσεις σε ομιλίες πολιτικών.
Ο καθηγητής Hany Farid από το Πανεπιστήμιο της Καλιφόρνια χαρακτήρισε τα βίντεο «απίστευτα καλοφτιαγμένα», σημειώνοντας πως είναι από τα πιο ρεαλιστικά μέχρι στιγμής.
Also important to mention that just because you feel you can personally tell the difference between synthetic & authentic media, it doesn’t mean we’re good to go. It matters what the general public believes. Altered media has real world safety, political etc impact for everyone.
— Rachel Tobac (@RachelTobac) February 26, 2021
Η Rachel Tobac, CEO της εταιρίας ασφαλείας SocialProof, σημείωσε ότι τα συγκεκριμένα βίντεο αποδεικνύουν ότι έχουμε φτάσει σε ένα στάδιο σχεδόν «μη ανιχνεύσιμων Deepfakes». «Επειδή εσύ μπορεί κάποιος να εντοπίσει τη διαφορά, δεν σημαίνει ότι είμαστε εντάξει. Σημασία έχει τι πιστεύει το γενικό κοινό. Τα Deepfakes θα επηρεάσουν την δημόσια εμπιστοσύνη, θα προσφέρουν κάλυψη και αμφιβολίες σε εγκληματίες που κατέγραψε βίντεο και θα χρησιμοποιηθούν στη χειραγώγηση και τον χλευασμό ανθρώπων», τόνισε.
Ο Sam Gregory, διευθυντής στο witness.org, σχολίασε αναφορικά με τα deepfakes στο Twitter: «Πολλές γυναίκες έχουν ήδη πέσει θύματα των deepfake. Αν φτάσουμε στο σημείο να μην πιστεύουμε στα μάτια μας, θα υπονομευτεί και η αξιοπιστία των πραγματικών βίντεο».
Με πληροφορίες από New York Post
