Επεξεργασμένες εικόνες AI δείχνουν σεξουαλική κακοποίηση παιδιών και κατακλύζουν το Διαδίκτυο

Επεξεργασμένες εικόνες AI δείχνουν σεξουαλική κακοποίηση παιδιών και κατακλύζουν το Διαδίκτυο Facebook Twitter
Φωτογραφία αρχείου: Freepik.com
0

Ένα ανησυχητικό κύμα εικόνων και βίντεο σεξουαλικής κακοποίησης παιδιών (CSAM) που δημιουργούνται μέσω τεχνητής νοημοσύνης κατακλύζει το διαδίκτυο, προκαλώντας ανησυχία στις αρχές επιβολής του νόμου και σε οργανισμούς προστασίας των παιδιών.

Σύμφωνα με νέες εκθέσεις, η ρεαλιστικότητα των παραγόμενων εικόνων αγγίζει πλέον το όριο του αδιάκριτου, απειλώντας να υπονομεύσει τις προσπάθειες εντοπισμού και δίωξης πραγματικών περιστατικών κακοποίησης.

Όπως καταγράφει το Internet Watch Foundation (IWF), μη κερδοσκοπικός οργανισμός με έδρα τη Βρετανία, μόνο το πρώτο εξάμηνο του 2025 εντοπίστηκαν 1.286 βίντεο CSAM δημιουργημένα από AI, έναντι μόλις δύο κατά το αντίστοιχο διάστημα του 2024. Παράλληλα, στις ΗΠΑ, το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC) δήλωσε ότι έχει λάβει περισσότερες από 485.000 αναφορές τέτοιου περιεχομένου φέτος - υπερδεκαπλάσιες από το σύνολο του 2024.

Η άνοδος αποδίδεται στην πρόοδο της τεχνολογίας παραγωγικής τεχνητής νοημοσύνης και στη συνεργασία χρηστών σε σκοτεινά φόρουμ του dark web. Οι εικόνες είναι πλέον πιο ομαλές, λεπτομερείς και δύσκολα ανιχνεύσιμες.

«Ένα τσουνάμι εικόνων»

«Πρόκειται για ένα απόλυτο τσουνάμι», δήλωσε ο προσωρινός διευθύνων σύμβουλος του IWF, Derek Ray-Hill, επισημαίνοντας ότι το AI-generated περιεχόμενο συχνά συνδυάζει πραγματικές φωτογραφίες παιδιών με ψεύτικες συνθέσεις, καθιστώντας το έργο των διωκτικών αρχών εξαιρετικά περίπλοκο.

Παρότι οι εικόνες που δημιουργούνται από τεχνητή νοημοσύνη εξακολουθούν να αποτελούν μικρό μέρος του συνόλου του υλικού CSAM στο διαδίκτυο, οι αρχές δηλώνουν καταβεβλημένες από τον όγκο των αναφορών. Αυτό δυσχεραίνει την επικέντρωση σε περιπτώσεις πραγματικής κακοποίησης.

Ομοσπονδιακοί και πολιτειακοί νόμοι στις ΗΠΑ καλύπτουν πλέον ρητά και τις εικόνες CSAM που δημιουργούνται με τεχνητή νοημοσύνη, αν και η νομική προσέγγιση παραμένει ασαφής και εξελισσόμενη. Ορισμένα δικαστήρια μόλις τώρα ξεκινούν να αντιμετωπίζουν τις ιδιαιτερότητες αυτών των υποθέσεων.

Περίπου 35 εταιρείες τεχνολογίας δηλώνουν ότι αναγνωρίζουν και αναφέρουν υλικό CSAM που παράγεται με τεχνητή νοημοσύνη. Η Amazon, μέσω της υπηρεσίας cloud AWS, ανέφερε 380.000 περιπτώσεις το πρώτο εξάμηνο του έτους. Η OpenAI δήλωσε ότι απέσυρε 75.000 περιπτώσεις. Η Stability AI ανέφερε λιγότερες από 30.

Η Stability AI δήλωσε ότι έχει ενισχύσει τα φίλτρα ασφαλείας και παραμένει «βαθιά δεσμευμένη» στην πρόληψη κακόβουλης χρήσης των εργαλείων της. Παρόμοιες αναφορές εξέδωσαν και η OpenAI και η Amazon.

Εκβιασμοί, deepfakes και χρήση σχολικών εικόνων

Το πρόβλημα επιτείνεται από τη χρήση εργαλείων AI για τη δημιουργία γυμνών deepfakes με πρόσωπα ανηλίκων ή τον εκβιασμό παιδιών με χρήση συνθετικών εικόνων. Συχνά, οι φωτογραφίες αντλούνται από σχολικά sites και προφίλ στα social media.

Ερευνητές του Πανεπιστημίου Στάνφορντ είχαν εντοπίσει τον Δεκέμβριο του 2023 υλικό παιδικής κακοποίησης σε εκπαιδευτικό dataset πρώιμης έκδοσης του Stable Diffusion. Η Stability AI υποστηρίζει ότι δεν συμμετείχε στη συγκεκριμένη εκπαίδευση.

Τον Μάρτιο, άνδρας από το Ουισκόνσιν που κατηγορείται για κατοχή και διανομή 13.000 εικόνων AI-generated CSAM, επικαλέστηκε την Πρώτη Τροπολογία και δικαιώθηκε σε μία από τις κατηγορίες. Ωστόσο, η υπόθεσή του παραμένει ανοιχτή για τις κατηγορίες παραγωγής και διανομής, καθώς επιχείρησε να μοιραστεί τις εικόνες μέσω Instagram με ανήλικο.

«Το Υπουργείο Δικαιοσύνης θεωρεί όλες τις μορφές CSAM που δημιουργούνται από τεχνητή νοημοσύνη ως σοβαρή και αναδυόμενη απειλή», δήλωσε ο Matt Galeotti, επικεφαλής του ποινικού τμήματος.

Η κλιμάκωση του φαινομένου δημιουργεί νέες ανάγκες για νομοθετική επαγρύπνηση, διεθνή συνεργασία και αυστηρότερους μηχανισμούς προστασίας των παιδιών στο ψηφιακό περιβάλλον.

Με πληροφορίες από New York Times

 
Διεθνή
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Σκάνδαλο με e-υπογραφές στην Τουρκία: Εξέδιδαν δικηγορικά έγγραφα με το πτυχίο νεκρής στους δίδυμους σεισμούς του 2023

Διεθνή / Σκάνδαλο με e-υπογραφές στην Τουρκία: Εξέδιδαν δικηγορικά έγγραφα με πτυχίο νεκρής από τους δίδυμους σεισμούς του 2023

Ο Αναπληρωτής Υπουργός Μεταφορών και Υποδομών της Τουρκίας, αφαίρεσε από το προσωπικό του ιστολόγιο πληροφορίες για τέσσερα πτυχία του
ΠΕΤΡΟΣ ΚΡΑΝΙΑΣ
Η «πιο μισητή γυναίκα της Αυστραλίας» αθωώνεται μετά από 20 χρόνια φυλακής – Αντιδράσεις για την αποζημίωσή της

Διεθνή / Η «πιο μισητή γυναίκα της Αυστραλίας» αθωώθηκε μετά από 20 χρόνια στη φυλακή – Αντιδράσεις για την αποζημίωσή της

Η Kathleen Folbigg καταδικάστηκε για τους θανάτους των παιδιών της αλλά είκοσι χρόνια μετά, αθωώθηκε - Το ποσό της αποζημίωσής της φέρνει αντιδράσεις
LIFO NEWSROOM
Ολική κατοχή της Γάζας: Συνεδριάζει το υπουργικό συμβούλιο του Ισραήλ εν μέσω προειδοποιήσεων για ανθρωπιστική καταστροφή

Διεθνή / Ολική κατοχή της Γάζας: Συνεδριάζει το υπουργικό συμβούλιο του Ισραήλ εν μέσω προειδοποιήσεων για ανθρωπιστική καταστροφή

Ο Νετανιάχου εξετάζει την πλήρη στρατιωτική κατοχή της Γάζας, με διεθνείς οργανώσεις να προειδοποιούν για νέα κύματα θανάτων και εκτοπισμού
LIFO NEWSROOM
Ο Τραμπ ετοιμάζεται να πάρει θέση εναντίον του Μαμντάνι: Σκέψεις για δημόσια υποστήριξη σε Κουόμο-Άνταμς

Διεθνή / Ο Τραμπ «στη μάχη» κατά του Μαμντάνι: Σκέψεις για δημόσια υποστήριξη σε Κουόμο-Άνταμς

Ο Τραμπ εξετάζει το ενδεχόμενο να παρέμβει στις εκλογές για τον δήμο της Νέας Υόρκης, πιέζοντας υπέρ των Αντριου Κουόμο ή Έρικ Άνταμς για να βγάλει εκτός τον δημοκρατικό υποψήφιο Ζόχραν Μαμντάνι
LIFO NEWSROOM
Η Κίνα και η Κρίση στην Ταϊβάν: Πώς οι Εσωτερικές Διαιρέσεις Ενισχύουν την Επιρροή του Πεκίνου

Διεθνή / Η Κίνα και η κρίση στην Ταϊβάν: Πώς οι εσωτερικές διαιρέσεις ενισχύουν την επιρροή του Πεκίνου

Η Ταϊβάν αντιμετωπίζει έντονες πιέσεις από την Κίνα τόσο εξωτερικά όσο και εσωτερικά, με το πολιτικό σκηνικό να διχάζεται και κινδύνους υπονόμευσης της δημοκρατίας
LIFO NEWSROOM
Ένα κορίτσι που ήθελε να δοκιμάσει σουτιέν και «η τρανς υπάλληλος»: Η διασταύρωση των γεγονότων

Διεθνή / Ένα κορίτσι που ήθελε να δοκιμάσει σουτιέν και «η τρανς υπάλληλος»: Η διασταύρωση των γεγονότων

Η εταιρεία Marks & Spencer στη Βρετανία εξέδωσε ανακοίνωση συγγνώμης προς μία μητέρα και τη 13χρονη κόρη της για την «αναστάτωση» - Στη διαμάχη δεν παρέλειψε να επέμβει και η γνωστή τρανσφοβική του Χάρι Πότερ, J K Rowlling
LIFO NEWSROOM
Σε σοκ η Τουρκία: Χιλιάδες κρατικά έγγραφα εκδόθηκαν με κλεμμένες e-υπογραφές - Διάτρητο το σύστημα, συναγερμός στα υπουργεία

Διεθνή / Σκάνδαλο στην Τουρκία: Χιλιάδες κρατικά έγγραφα εκδόθηκαν με κλεμμένες e-υπογραφές - Συναγερμός σε υπουργεία

Εγκληματικό δίκτυο εξέδιδε πλαστά διπλώματα, άδειες και κρατικά έγγραφα με πλήρη νομική ισχύ - Αποκαλύψεις για παραβίαση κρίσιμων συστημάτων του Δημοσίου
LIFO NEWSROOM