Η αύξηση του διαδικτυακού ρατσισμού και της ρητορικής μίσους που οφείλεται σε ψεύτικες εικόνες είναι «μόνο η αρχή ενός επερχόμενου προβλήματος» μετά την τελευταία έκδοση του λογισμικού τεχνητής νοημοσύνης της X, Grok, προειδοποίησαν ειδικοί σε θέματα διαδικτυακής κατάχρησης.
Οι ανησυχίες των εμπειρογνωμόνων εκφράστηκαν αφού fake εικόνες που δημιουργήθηκαν από υπολογιστή με τη χρήση του Grok, του generative chatbot τεχνητής νοημοσύνης της X, κατέκλυσαν τον ιστότοπο κοινωνικής δικτύωσης τον περασμένο Δεκέμβριο.
Η Signify, μια οργάνωση που συνεργάζεται με εξέχουσες ομάδες και συλλόγους στον αθλητισμό για τον εντοπισμό και την αναφορά διαδικτυακού μίσους, δήλωσε ότι έχει παρατηρήσει αύξηση των αναφορών κακοποίησης μετά την τελευταία ενημέρωση του Grok και πιστεύει ότι η εισαγωγή της φωτορεαλιστικής τεχνητής νοημοσύνης θα την κάνει πολύ πιο διαδεδομένη.
«Είναι ένα πρόβλημα τώρα, αλλά στην πραγματικότητα είναι μόνο η αρχή ενός επερχόμενου προβλήματος. Θα γίνει πολύ χειρότερο και βρισκόμαστε μόλις στην αρχή, αναμένουμε ότι μέσα στους επόμενους 12 μήνες θα γίνει απίστευτα σοβαρό» σημείωσε η Signify.
Το Grok ξεκίνησε το 2023 από τον Έλον Μασκ και πρόσφατα απέκτησε μια νέα λειτουργία μετατροπής κειμένου σε εικόνα με την ονομασία Aurora, η οποία δημιουργεί φωτορεαλιστικές εικόνες τεχνητής νοημοσύνης με βάση απλές οδηγίες που γράφει ο χρήστης.
Μια προηγούμενη, λιγότερο προηγμένη έκδοση, που ονομαζόταν Flux, προκάλεσε αντιδράσεις νωρίτερα φέτος, καθώς διαπιστώθηκε ότι μπορούσε να κάνει πράγματα που πολλά άλλα παρόμοια λογισμικά δεν θα έκαναν, όπως να απεικονίζει χαρακτήρες που προστατεύονται από πνευματικά δικαιώματα και δημόσια πρόσωπα σε συμβιβαστικές θέσεις, να παίρνουν ναρκωτικά ή να διαπράττουν πράξεις βίας.
Υπήρξαν αρκετές αναφορές ότι η νεότερη ενημέρωση Grok χρησιμοποιήθηκε για τη δημιουργία φωτορεαλιστικών ρατσιστικών -και fake- εικόνων με κεντρικά πρόσωπα ποδοσφαιριστές και μάνατζερ. Μία από τις fake εικόνες απεικονιζε έναν παίκτη, ο οποίος είναι μαύρος, να μαζεύει βαμβάκι, ενώ μια άλλη έδειχνε τον ίδιο παίκτη να τρώει μια μπανάνα περιτριγυρισμένος από μαϊμούδες σε ένα δάσος. Μια άλλη ψεύτικη εικόνα απεικόνιζε δύο διαφορετικούς παίκτες ως πιλότους στο πιλοτήριο ενός αεροπλάνου με φόντο τους Δίδυμους Πύργους. Άλλες fake εικόνες έδειχναν παίκτες να συναντούν και να συνομιλούν με τον Χίτλερ, τον Σαντάμ Χουσεΐν και τον Οσάμα Μπιν Λάντεν.
Ο Callum Hood, επικεφαλής της έρευνας στο Κέντρο για την Αντιμετώπιση του Ψηφιακού Μίσους (CCDH), δήλωσε ότι το X έχει γίνει μια πλατφόρμα που δίνει κίνητρα και ανταμείβει τη διάδοση του μίσους μέσω του διαμοιρασμού των εσόδων, και οι εικόνες τεχνητής νοημοσύνης το καθιστούν ακόμη πιο εύκολο.
«Αυτό που έχει κάνει το X, σε βαθμό που καμία άλλη mainstream πλατφόρμα δεν το έχει κάνει, είναι να προσφέρει χρηματικά κίνητρα σε λογαριασμούς για να το κάνουν αυτό, οπότε οι λογαριασμοί στο X δημοσιεύουν πολύ συνειδητά το πιο γυμνό μίσος και την παραπληροφόρηση» συμπλήρωσε.
Μια βασική ανησυχία που περιγράφεται από πολλούς είναι όχι μόνο η σχετική έλλειψη περιορισμών σχετικά με το τι μπορούν να ζητήσουν οι χρήστες, αλλά και η ευκολία με την οποία οι προτροπές που δίνονται στο Grok μπορούν να παρακάμψουν τις κατευθυντήριες γραμμές της AI με «jailbreak», το οποίο περιλαμβάνει την περιγραφή των φυσικών χαρακτηριστικών οποιουδήποτε θέλει ο «δημιουργός» της εικόνας, αντί απλώς να τον κατονομάσει. Μια καλοκαιρινή έκθεση που δημοσιεύθηκε από το CCDH διαπίστωσε ότι όταν δόθηκαν διαφορετικές προτροπές μίσους, το Grok δημιούργησε το 80% από αυτές.
Με πληροφορίες από Guardian
