Η Meta ανακοίνωσε ότι θα προσθέσει νέες δικλείδες ασφαλείας στα AI chatbot της, ώστε να αποτρέπεται η επικοινωνία τους με εφήβους γύρω από θέματα όπως αυτοκτονία, αυτοτραυματισμός και διατροφικές διαταραχές.
Πλέον, οι έφηβοι που θα θέτουν τέτοια ζητήματα θα παραπέμπονται πλέον σε εξειδικευμένες γραμμές υποστήριξης αντί να συνεχίζεται η συζήτηση.
Η κίνηση έρχεται δύο εβδομάδες αφού ένας Αμερικανός γερουσιαστής ξεκίνησε έρευνα, έπειτα από τη διαρροή εσωτερικού εγγράφου σύμφωνα με το οποίο τα chatbots της Meta θα μπορούσαν να έχουν «αισθησιακές» συνομιλίες με ανήλικους χρήστες. Η εταιρεία απέρριψε τις αναφορές χαρακτηρίζοντάς τις ανακριβείς και αντίθετες με τις πολιτικές της που απαγορεύουν περιεχόμενο με σεξουαλικοποίηση παιδιών.
Παρόλα αυτά, η Meta δήλωσε ότι προσθέτει «επιπλέον προφυλάξεις» και προσωρινά θα περιορίσει τα chatbots με τα οποία μπορούν να αλληλεπιδρούν οι έφηβοι. «Από την αρχή ενσωματώσαμε προστασίες στα προϊόντα μας, ώστε να ανταποκρίνονται με ασφάλεια σε ερωτήματα γύρω από αυτοκτονία ή διατροφικές διαταραχές», ανέφερε εκπρόσωπος της εταιρείας.
Η απόφαση έγινε δεκτή με σκεπτικισμό από ειδικούς. Ο Άντι Μπάρους, επικεφαλής του ιδρύματος Molly Rose, σχολίασε ότι είναι «ασύλληπτο» να έχουν διατεθεί στο κοινό chatbots που θα μπορούσαν να θέσουν ανηλίκους σε κίνδυνο. «Η ασφάλεια πρέπει να ελέγχεται πριν από την κυκλοφορία ενός προϊόντος, όχι κατόπιν εορτής», σημείωσε, ζητώντας από τη Meta να κινηθεί άμεσα και την ρυθμιστική αρχή Ofcom να ερευνήσει την υπόθεση, σε περίπτωση που τα νέα μέτρα δεν προστατεύσουν επαρκώς τους ανηλίκους. Η εταιρεία ήδη εφαρμόζει ειδικά «teen accounts» σε Facebook, Instagram και Messenger για χρήστες 13–18 ετών, με ρυθμίσεις που περιορίζουν το περιεχόμενο και αυξάνουν την ιδιωτικότητα. Από τον Απρίλιο δίνει επίσης στους γονείς τη δυνατότητα να βλέπουν με ποια chatbots έχει συνομιλήσει ο έφηβος την τελευταία εβδομάδα.
Οι ανησυχίες για την ασφάλεια ανηλίκων σε συνομιλίες με AI εντείνονται διεθνώς. Πρόσφατα, ζευγάρι στην Καλιφόρνια μήνυσε την OpenAI, ισχυριζόμενο ότι το chatbot της ενθάρρυνε τον γιο τους να αυτοκτονήσει. Η υπόθεση ακολούθησε την ανακοίνωση αλλαγών από την εταιρεία για «πιο υγιή χρήση» του ChatGPT. «Η AI μπορεί να φαίνεται πιο προσωπική και πιο ανταποκρινόμενη από τις προηγούμενες τεχνολογίες, ειδικά για άτομα σε ψυχική ή συναισθηματική δυσφορία», σημείωνε η OpenAI σε σχετική ανάρτηση.
Την ίδια στιγμή, το Reuters αποκάλυψε ότι εργαλεία της Meta χρησιμοποιήθηκαν για τη δημιουργία «παρωδιακών» chatbots με τη μορφή διάσημων γυναικών, μεταξύ των οποίων οι Τέιλορ Σουίφτ και Σκάρλετ Γιόχανσον. Σύμφωνα με την έρευνα, οι εικονικοί συνομιλητές συχνά ισχυρίζονταν ότι ήταν οι πραγματικές καλλιτέχνιδες και προχωρούσαν σε σεξουαλικές προτάσεις. Σε ορισμένες περιπτώσεις δημιουργήθηκαν ακόμη και avatars που μιμούνταν ανήλικους διασήμους, με ένα να απεικονίζεται σε ρεαλιστική φωτογραφία χωρίς μπλούζα.
Η Meta αφαίρεσε αρκετά από αυτά τα chatbots, τονίζοντας τα εργαλεία της επιτρέπουν τη χρήση της εικόνας δημοσίων προσώπων σε περιεχόμενο που δεν είναι άσεμνο, αλλά απαγορεύουν ρητά τη δημιουργία chatbots που προσποιούνται ότι είναι οι ίδιοι οι διάσημοι.
Με πληροφορίες από BBC
