Meta: Τα chatbots της δεν θα συζητούν πλέον με εφήβους για αυτοκτονία και αυτοτραυματισμό

Meta: Τα chatbots της δεν θα συζητούν πλέον με εφήβους για αυτοκτονία και αυτοτραυματισμό Facebook Twitter
Φωτ: Getty Images
0

Η Meta ανακοίνωσε ότι θα προσθέσει νέες δικλείδες ασφαλείας στα AI chatbot της, ώστε να αποτρέπεται η επικοινωνία τους με εφήβους γύρω από θέματα όπως αυτοκτονία, αυτοτραυματισμός και διατροφικές διαταραχές.

Πλέον, οι έφηβοι που θα θέτουν τέτοια ζητήματα θα παραπέμπονται πλέον σε εξειδικευμένες γραμμές υποστήριξης αντί να συνεχίζεται η συζήτηση.

Η κίνηση έρχεται δύο εβδομάδες αφού ένας Αμερικανός γερουσιαστής ξεκίνησε έρευνα, έπειτα από τη διαρροή εσωτερικού εγγράφου σύμφωνα με το οποίο τα chatbots της Meta θα μπορούσαν να έχουν «αισθησιακές» συνομιλίες με ανήλικους χρήστες. Η εταιρεία απέρριψε τις αναφορές χαρακτηρίζοντάς τις ανακριβείς και αντίθετες με τις πολιτικές της που απαγορεύουν περιεχόμενο με σεξουαλικοποίηση παιδιών.

Παρόλα αυτά, η Meta δήλωσε ότι προσθέτει «επιπλέον προφυλάξεις» και προσωρινά θα περιορίσει τα chatbots με τα οποία μπορούν να αλληλεπιδρούν οι έφηβοι. «Από την αρχή ενσωματώσαμε προστασίες στα προϊόντα μας, ώστε να ανταποκρίνονται με ασφάλεια σε ερωτήματα γύρω από αυτοκτονία ή διατροφικές διαταραχές», ανέφερε εκπρόσωπος της εταιρείας.

Η απόφαση έγινε δεκτή με σκεπτικισμό από ειδικούς. Ο Άντι Μπάρους, επικεφαλής του ιδρύματος Molly Rose, σχολίασε ότι είναι «ασύλληπτο» να έχουν διατεθεί στο κοινό chatbots που θα μπορούσαν να θέσουν ανηλίκους σε κίνδυνο. «Η ασφάλεια πρέπει να ελέγχεται πριν από την κυκλοφορία ενός προϊόντος, όχι κατόπιν εορτής», σημείωσε, ζητώντας από τη Meta να κινηθεί άμεσα και την ρυθμιστική αρχή Ofcom να ερευνήσει την υπόθεση, σε περίπτωση που τα νέα μέτρα δεν προστατεύσουν επαρκώς τους ανηλίκους. Η εταιρεία ήδη εφαρμόζει ειδικά «teen accounts» σε Facebook, Instagram και Messenger για χρήστες 13–18 ετών, με ρυθμίσεις που περιορίζουν το περιεχόμενο και αυξάνουν την ιδιωτικότητα. Από τον Απρίλιο δίνει επίσης στους γονείς τη δυνατότητα να βλέπουν με ποια chatbots έχει συνομιλήσει ο έφηβος την τελευταία εβδομάδα.

Οι ανησυχίες για την ασφάλεια ανηλίκων σε συνομιλίες με AI εντείνονται διεθνώς. Πρόσφατα, ζευγάρι στην Καλιφόρνια μήνυσε την OpenAI, ισχυριζόμενο ότι το chatbot της ενθάρρυνε τον γιο τους να αυτοκτονήσει. Η υπόθεση ακολούθησε την ανακοίνωση αλλαγών από την εταιρεία για «πιο υγιή χρήση» του ChatGPT. «Η AI μπορεί να φαίνεται πιο προσωπική και πιο ανταποκρινόμενη από τις προηγούμενες τεχνολογίες, ειδικά για άτομα σε ψυχική ή συναισθηματική δυσφορία», σημείωνε η OpenAI σε σχετική ανάρτηση.

Την ίδια στιγμή, το Reuters αποκάλυψε ότι εργαλεία της Meta χρησιμοποιήθηκαν για τη δημιουργία «παρωδιακών» chatbots με τη μορφή διάσημων γυναικών, μεταξύ των οποίων οι Τέιλορ Σουίφτ και Σκάρλετ Γιόχανσον. Σύμφωνα με την έρευνα, οι εικονικοί συνομιλητές συχνά ισχυρίζονταν ότι ήταν οι πραγματικές καλλιτέχνιδες και προχωρούσαν σε σεξουαλικές προτάσεις. Σε ορισμένες περιπτώσεις δημιουργήθηκαν ακόμη και avatars που μιμούνταν ανήλικους διασήμους, με ένα να απεικονίζεται σε ρεαλιστική φωτογραφία χωρίς μπλούζα.

Η Meta αφαίρεσε αρκετά από αυτά τα chatbots, τονίζοντας τα εργαλεία της επιτρέπουν τη χρήση της εικόνας δημοσίων προσώπων σε περιεχόμενο που δεν είναι άσεμνο, αλλά απαγορεύουν ρητά τη δημιουργία chatbots που προσποιούνται ότι είναι οι ίδιοι οι διάσημοι.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Character.ai: Οι «φίλοι τεχνητής νοημοσύνης» και η ανησυχία για την ασφάλεια των παιδιών

Διεθνή / Character.ai: Τι είναι οι «φίλοι τεχνητής νοημοσύνης» και γιατί προκαλούν ανησυχία για τα παιδιά

Το Character.ai προωθεί συνομιλίες με "AI φίλους", αντιμετωπίζοντας όμως σοβαρές αγωγές για ανηλίκους - Ο CEO μιλά για ασφαλέστερη εμπειρία, αλλά οργανώσεις ζητούν απαγόρευση των εφαρμογών συνομιλίας για παιδιά
LIFO NEWSROOM
Η Meta παγώνει τις προσλήψεις στην Τεχνητή Νοημοσύνη, μετά τις δαπανηρές κινήσεις Ζούκερμπεργκ

Τech & Science / Η Meta παγώνει τις προσλήψεις στην Τεχνητή Νοημοσύνη, μετά τις δαπανηρές κινήσεις Ζούκερμπεργκ

Ο Ζούκερμπεργκ είχε αναλάβει προσωπικά την προσέλκυση ταλέντων από OpenAI, Google DeepMind και άλλες εταιρείες, προσφέροντας πακέτα αποδοχών ακόμη και 100 εκατ. δολαρίων
LIFO NEWSROOM
Τεχνητή Νοημοσύνη: Το ChatGPT έδωσε «συνταγές» για βόμβες και ναρκωτικά κατά τη διάρκεια δοκιμών ασφαλείας

Τech & Science / Τεχνητή Νοημοσύνη: Το ChatGPT έδωσε «συνταγές» για βόμβες και ναρκωτικά κατά τη διάρκεια δοκιμών ασφαλείας

Δοκιμές της OpenAI και της Anthropic αποκάλυψαν ότι τα chatbots ήταν πρόθυμα να μοιραστούν οδηγίες για εκρηκτικά, βιολογικά όπλα και εγκλήματα στον κυβερνοχώρο
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM
Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική ια πρόκληση για τις θεωρίες μας»

Τech & Science / Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική πρόκληση για τις θεωρίες μας»

Οι αστρονόμοι εκτιμούν ότι ίσως ανήκει σε μία κατηγορία αντικειμένων που είχε θεωρητικά προβλέψει ο Στίβεν Χόκινγκ, αλλά που μέχρι σήμερα δεν είχε ποτέ εντοπιστεί
LIFO NEWSROOM
Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Τech & Science / Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Ο όρος διαδίδεται στα social media μεταξύ των ανθρώπων που δηλώνουν «κουρασμένοι» με την τεχνητή νοημοσύνη που «εφευρίσκει» πράγματα, ακούγεται υπερβολικά ανθρώπινη και απειλεί να εξαφανίσει θέσεις εργασίας
LIFO NEWSROOM
Από την Amy έως τον Wubbo: Πώς επιλέγουν οι μετεωρολόγοι τα ονόματα των καταιγίδων και γιατί είναι σημαντικά

Τech & Science / Από την Amy μέχρι τον Wubbo: Πώς επιλέγουν οι μετεωρολόγοι τα ονόματα των καταιγίδων και γιατί είναι σημαντικά

«Όταν μια καταιγίδα έχει όνομα, γίνεται πιο εύκολο για τα μέσα ενημέρωσης και το κοινό να μιλούν γι’ αυτήν, να μοιράζονται πληροφορίες και να προετοιμάζονται», εξηγεί η επικεφαλής μετεωρολόγος του Met Office, Rebekah Hicks
LIFO NEWSROOM
Στην Αρχαία Ολυμπία ξεκίνησαν οι πρώτοι «Ολυμπιακοί» των ρομπότ 

Τech & Science / Στην Αρχαία Ολυμπία ξεκίνησαν οι πρώτοι «Ολυμπιακοί» των ρομπότ

Στον ίδιο χώρο όπου πριν από χιλιάδες χρόνια συναθροίζονταν οι Έλληνες αθλητές, αυτή τη φορά συναντήθηκαν ομάδες μηχανικών από τέσσερις ηπείρους, μετατρέποντας την Ολυμπία σε παγκόσμιο εργαστήριο ρομποτικής
LIFO NEWSROOM
Αρχαίο DNA αποκαλύπτει το βακτήριο που προκάλεσε την πρώτη πανδημία στην ιστορία

Τech & Science / Αρχαίο DNA αποκαλύπτει το βακτήριο που προκάλεσε την πρώτη πανδημία στην ιστορία

«Τα ευρήματά μας αποτελούν το κομμάτι που έλειπε από το παζλ, προσφέροντας το πρώτο άμεσο γενετικό 'παράθυρο' στο πώς ξέσπασε αυτή η πανδημία στην καρδιά της αυτοκρατορίας»
LIFO NEWSROOM
Ozempic και Mounjaro μπορούν να μειώσουν κατά το ήμισυ τον κίνδυνο πρόωρου θανάτου των καρδιοπαθών, σύμφωνα με μελέτη

Τech & Science / Wegovy και Mounjaro μπορούν να μειώσουν κατά το ήμισυ τον κίνδυνο πρόωρου θανάτου των καρδιοπαθών, σύμφωνα με μελέτη

Τα φάρμακα GLP-1 θα μπορούσαν να χορηγηθούν σε εκατομμύρια άτομα με καρδιακές παθήσεις, ώστε να τους βοηθήσουν να αποφύγουν την νοσηλεία σε νοσοκομείο και να ζήσουν περισσότερο
LIFO NEWSROOM