Διαδικτυακοί εγκληματίες ισχυρίζονται ότι χρησιμοποίησαν το chatbot Grok του Έλον Μασκ για να δημιουργήσουν σεξουαλικές εικόνες παιδιών, ενώ ένας οργανισμός παρακολούθησης της ασφάλειας των παιδιών προειδοποίησε ότι το εργαλείο τεχνητής νοημοσύνης ενέχει τον κίνδυνο να κάνει τέτοιο υλικό ευρέως διαδεδομένο.
Ο βρετανικός οργανισμός Internet Watch Foundation (IWF) ανέφερε ότι χρήστες ενός φόρουμ στο dark web καυχήθηκαν ότι χρησιμοποίησαν το Grok Imagine για να δημιουργήσουν σεξουαλικές εικόνες και εικόνες με γυμνό στήθος κοριτσιών ηλικίας μεταξύ 11 και 13 ετών. Οι αναλυτές της IWF δήλωσαν ότι οι εικόνες θα θεωρούνταν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) σύμφωνα με τη βρετανική νομοθεσία.
«Μπορούμε να επιβεβαιώσουμε ότι οι αναλυτές μας έχουν ανακαλύψει εγκληματικές εικόνες παιδιών ηλικίας μεταξύ 11 και 13 ετών, οι οποίες φαίνεται να έχουν δημιουργηθεί με τη χρήση του εργαλείου», δήλωσε η Ngaire Alexander, επικεφαλής της γραμμής επικοινωνίας της IWF.
Το X, η πλατφόρμα κοινωνικής δικτύωσης του Έλον Μασκ, έχει κατακλυστεί από εικόνες γυναικών και παιδιών των οποίων τα ρούχα έχουν αφαιρεθεί ψηφιακά από το εργαλείο Grok, προκαλώντας δημόσια κατακραυγή και καταδίκη από πολιτικούς.
Εν τω μεταξύ, την Τετάρτη, η Επιτροπή Γυναικών και Ισότητας της Βουλής των Κοινοτήτων στο Ηνωμένο Βασίλειο ανακοίνωσε ότι δεν θα χρησιμοποιεί πλέον το X στις επικοινωνίες της, δηλώνοντας ότι δεν είναι πλέον σκόπιμο να το κάνει, δεδομένου ότι η πρόληψη της βίας κατά των γυναικών και των κοριτσιών αποτελεί έναν από τους βασικούς τομείς πολιτικής της.
Η απόφαση αυτή αποτελεί την πρώτη σημαντική κίνηση ενός οργανισμού του Westminster να αποχωρήσει από το X ως απάντηση στην κατάχρηση του Grok. Αν και η απόφαση αφορούσε μόνο τον λογαριασμό της επιτροπής, ορισμένα μεμονωμένα μέλη, μεταξύ των οποίων και η πρόεδρος του Εργατικού Κόμματος, Sarah Owen, έχουν ήδη σταματήσει να χρησιμοποιούν το X.
Μια άλλη, η βουλευτής των Φιλελεύθερων Δημοκρατών Christine Jardine, δήλωσε ότι αποχωρεί από την πλατφόρμα, χαρακτηρίζοντας τις εικόνες που δημιουργεί το Grok ως «την τελευταία σταγόνα».
Ο Alexander δήλωσε ότι οι εικόνες που είδε το IWF έχουν χρησιμοποιηθεί για τη δημιουργία ακόμη πιο ακραίου υλικού – γνωστού ως Κατηγορία Α, το οποίο περιλαμβάνει σεξουαλική δραστηριότητα – χρησιμοποιώντας ένα διαφορετικό εργαλείο τεχνητής νοημοσύνης.
«Είμαστε εξαιρετικά ανήσυχοι για την ευκολία και την ταχύτητα με την οποία οι άνθρωποι μπορούν προφανώς να δημιουργούν φωτορεαλιστικό υλικό σεξουαλικής κακοποίησης παιδιών. Εργαλεία όπως το Grok κινδυνεύουν πλέον να φέρουν τις σεξουαλικές εικόνες τεχνητής νοημοσύνης παιδιών στο προσκήνιο. Αυτό είναι απαράδεκτο», πρόσθεσε ο Alexander.
Η Downing Street δήλωσε ότι «όλες οι επιλογές είναι ανοιχτές», συμπεριλαμβανομένου του μποϊκοτάζ της X, καθώς οι υπουργοί υποστήριξαν την απόφαση της βρετανικής ρυθμιστικής αρχής Ofcom να λάβει μέτρα.
Την Τετάρτη, ο επίσημος εκπρόσωπος του πρωθυπουργού δήλωσε: «Η X πρέπει να αντιμετωπίσει το θέμα επειγόντως και η Ofcom έχει την πλήρη υποστήριξή μας για να λάβει μέτρα επιβολής του νόμου σε όλες τις περιπτώσεις όπου οι εταιρείες δεν προστατεύουν τους χρήστες του Ηνωμένου Βασιλείου.
Έχει ήδη την εξουσία να επιβάλλει πρόστιμα ύψους έως και δισεκατομμυρίων λιρών και ακόμη και να σταματήσει την πρόσβαση σε έναν ιστότοπο που παραβιάζει το νόμο».
Με πληροφορίες από Guardian
