Παρουσιάζουν chatbots ως ψυχολόγους για παιδιά - Έρευνα στις ΗΠΑ για Meta και Character.ai

Παρουσιάζουν chatbots ως ψυχολόγους για παιδιά - Έρευνα στις ΗΠΑ για Meta και Character.ai Facebook Twitter
Στο στόχαστρο έρευνας ο Ζούκερμπεργκ / Φωτογραφία: Getty Images
0

Η Meta και η νεοφυής εταιρεία τεχνητής νοημοσύνης Character.ai βρίσκονται στο μικροσκόπιο των αμερικανικών αρχών, καθώς εξετάζεται αν παραπλανούν τους χρήστες - και ιδίως ανηλίκους - παρουσιάζοντας τα chatbots τους ως εργαλεία ψυχολογικής υποστήριξης.

Ο γενικός εισαγγελέας του Τέξας, Κεν Πάξτον, ανακοίνωσε ότι ξεκινά έρευνα για πιθανές «παραπλανητικές εμπορικές πρακτικές», καθώς τα συστήματα AI παρουσιάζονται ως «επαγγελματικά θεραπευτικά εργαλεία, χωρίς να διαθέτουν την απαραίτητη ιατρική πιστοποίηση ή εποπτεία».

«Όταν πλατφόρμες AI εμφανίζονται ως πηγές συναισθηματικής στήριξης, μπορούν να παραπλανήσουν ευάλωτους χρήστες, ιδιαίτερα παιδιά, κάνοντάς τους να πιστέψουν ότι λαμβάνουν πραγματική ψυχιατρική ή ψυχολογική βοήθεια», τόνισε ο Πάξτον.

Η έρευνα του Τέξας ακολουθεί την αντίστοιχη του Κογκρέσου, το οποίο διερευνά τη Meta μετά από διαρροή εσωτερικών εγγράφων που αποκάλυπταν ότι η εταιρεία επέτρεπε στο chatbot της να έχει «ρομαντικές» ή «αισθησιακές» συνομιλίες με ανήλικους. Ο γερουσιαστής Τζος Χόλεϊ, επικεφαλής της υποεπιτροπής εγκλήματος και τρομοκρατίας, δήλωσε πως η έρευνα θα εξετάσει αν τα προϊόντα generative AI της Meta «διευκολύνουν την εκμετάλλευση ή άλλα εγκλήματα εις βάρος παιδιών».

«Υπάρχει άραγε κάτι που δεν θα κάνει η Big Tech για γρήγορο κέρδος;» έγραψε δηκτικά ο Χόλεϊ στην πλατφόρμα Χ.

Η Meta υποστηρίζει ότι οι πολιτικές της απαγορεύουν περιεχόμενο που σεξουαλικοποιεί παιδιά και πως τα έγγραφα που διέρρευσαν «ήταν λανθασμένα και αντιφατικά με τις πολιτικές μας». Η εταιρεία, υπό τον Μαρκ Ζούκερμπεργκ, επενδύει δισεκατομμύρια στην ανάπτυξη του Meta AI και του γλωσσικού μοντέλου Llama, με στόχο να γίνει «ο ηγέτης στην τεχνητή νοημοσύνη».

Ο ίδιος ο Ζούκερμπεργκ έχει αφήσει να εννοηθεί ότι το chatbot της Meta μπορεί να παίξει ρόλο «θεραπευτή», λέγοντας πρόσφατα σε podcast: «Για όσους δεν έχουν ψυχολόγο, πιστεύω ότι όλοι θα έχουν ένα AI».

Η Character.ai, από την πλευρά της, προσφέρει chatbots με διαφορετικές προσωπικότητες, ενώ επιτρέπει στους χρήστες να δημιουργούν δικά τους. Μεταξύ αυτών υπάρχουν δεκάδες «εικονικοί θεραπευτές», με το bot «Psychologist» να έχει καταγράψει πάνω από 200 εκατ. αλληλεπιδράσεις. Η εταιρεία, ωστόσο, αντιμετωπίζει ήδη αγωγές από οικογένειες που ισχυρίζονται ότι τα παιδιά τους υπέστησαν βλάβες από τη χρήση της πλατφόρμας.

Σύμφωνα με τον Πάξτον, τα bots της Meta και της Character μπορούν να εμφανίζονται ως αδειοδοτημένοι επαγγελματίες ψυχικής υγείας, να «εφευρίσκουν» προσόντα και να υπόσχονται εμπιστευτικότητα, την ώρα που τα δεδομένα των χρηστών καταγράφονται και αξιοποιούνται για διαφημιστικούς σκοπούς.

Η Meta απάντησε ότι «τα chatbots συνοδεύονται από ξεκάθαρες επισημάνσεις, ώστε να είναι σαφές ότι δεν πρόκειται για ανθρώπους ούτε για αδειοδοτημένους επαγγελματίες», ενώ η Character τόνισε ότι «οι χαρακτήρες είναι αποκύημα φαντασίας, για λόγους ψυχαγωγίας, και συνοδεύονται από προειδοποιήσεις ώστε να μην εκλαμβάνονται ως πραγματικοί θεραπευτές».

Με πληροφορίες από Financial Times

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Character.ai: Οι «φίλοι τεχνητής νοημοσύνης» και η ανησυχία για την ασφάλεια των παιδιών

Διεθνή / Character.ai: Τι είναι οι «φίλοι τεχνητής νοημοσύνης» και γιατί προκαλούν ανησυχία για τα παιδιά

Το Character.ai προωθεί συνομιλίες με "AI φίλους", αντιμετωπίζοντας όμως σοβαρές αγωγές για ανηλίκους - Ο CEO μιλά για ασφαλέστερη εμπειρία, αλλά οργανώσεις ζητούν απαγόρευση των εφαρμογών συνομιλίας για παιδιά
LIFO NEWSROOM
Curio: Τα λούτρινα παιχνίδια με τεχνητή νοημοσύνη που μιλούν στα παιδιά

Τech & Science / Curio: Τα λούτρινα παιχνίδια με τεχνητή νοημοσύνη που μιλούν στα παιδιά

Η εταιρεία Curio δημιουργεί αρκουδάκια-chatbots με τεχνητή νοημοσύνη που συνομιλούν με παιδιά από 3 ετών - Πώς αλλάζουν τα παιχνίδια την έννοια του παιδικού παιχνιδιού και τι πρέπει να γνωρίζουν οι γονείς;
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Τech & Science / Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Xρησιμοποιεί υπερηχητικούς παλμούς που κατευθύνονται με ακρίβεια σε συγκεκριμένες περιοχές του εγκεφάλου, προσφέροντας εναλλακτική λύση στη χειρουργική εμφύτευση ηλεκτροδίων
LIFO NEWSROOM
Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Τech & Science / Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Ανθρώπινα αιμοσφαίρια που στάλθηκαν στο Διάστημα άρχισαν να χάνουν την ικανότητά τους να παράγουν υγιή νέα κύτταρα, ένδειξη επιταχυνόμενης γήρανσης, σύμφωνα με τη μελέτη
LIFO NEWSROOM
Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

Τech & Science / Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

«Θα μπορούσε να είναι μια πραγματική ευκαιρία να επιβραδύνουμε την εξέλιξη του γλοιοβλαστώματος», υποστηρίζουν με συγκρατημένη αισιοδοξία, καθώς απαιτείται περαιτέρω δοκιμών
LIFO NEWSROOM
Αλτσχάιμερ: Εγκρίθηκε φάρμακο που χορηγείται αποκλειστικά στο σπίτι

Τech & Science / Αλτσχάιμερ: Εγκρίθηκε θεραπεία που μπορεί να χορηγηθεί στο σπίτι από τον ίδιο τον ασθενή

Η έκδοση για χρήση στο σπίτι εγκρίθηκε ως θεραπεία συντήρησης που οι ασθενείς μπορούν να χορηγούν στον εαυτό τους αφού ολοκληρώσουν τον κύκλο της ενδοφλέβιας θεραπείας
LIFO NEWSROOM
«Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Τech & Science / «Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Οι ειδικοί προειδοποιούν ότι τα ηλεκτρονικά τσιγάρα δημιουργούν νέους εθισμούς στη νικοτίνη και προκαλούν σοβαρούς κινδύνους για την καρδιά, τους πνεύμονες και τον εγκέφαλο των παιδιών και των εφήβων
LIFO NEWSROOM
«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM