Οι παράξενες εμμονές χρηστών με το ChatGPT προκαλούν ανησυχία

Οι παράξενες εμμονές χρηστών με το ChatGPT προκαλούν ανησυχία Facebook Twitter
Φωτ. Αρχείου: Unsplash
0

Όλο και περισσότεροι χρήστες του ChatGPT περιγράφουν περιπτώσεις στις οποίες η χρήση του δημοφιλούς chatbot της OpenAI έχει εξελιχθεί σε επικίνδυνη ψύχωση, οδηγώντας σε πνευματικές παραληρηματικές ιδέες, συνωμοσιολογικές εμμονές και θρησκευτικές φαντασιώσεις. Σύμφωνα με αποκαλυπτικό ρεπορτάζ του Rolling Stone, οι οικογένειες και οι φίλοι αυτών των ατόμων εκφράζουν έντονη ανησυχία για τη μεταβολή της συμπεριφοράς τους.

Σε αναρτήσεις χρηστών στο Reddit περιγράφονται περιπτώσεις όπου άτομα πιστεύουν ότι έχουν επιλεγεί από την Τεχνητή Νοημοσύνη για «ιερές αποστολές» ή έχουν λάβει «μυστικά σχέδια» για διαστημικές συσκευές και τηλεμεταφορείς. Σε πολλές περιπτώσεις, οι απαντήσεις του ChatGPT, αν και στατιστικά εύλογες, ενίσχυαν, εν αγνοία του, ψυχωτικούς μηχανισμούς.

Μια 41χρονη μητέρα και εργαζόμενη σε ΜΚΟ δήλωσε ότι ο σύζυγός της κατέληξε να ζει εμμονικά μέσα σε ένα πλέγμα παραληρημάτων με τη βοήθεια του ChatGPT, γεγονός που κατέληξε στη διάλυση του γάμου τους. Όπως εξηγεί, ο άνδρας της την κατηγορούσε για «σαπούνι στα τρόφιμα» και πίστευε πως τον παρακολουθούσαν. «Έκλαιγε ενώ μου διάβαζε μηνύματα του chatbot που τον αποκαλούσαν “spiral starchild” και “river walker”», αναφέρει χαρακτηριστικά.

Σε άλλη περίπτωση, γυναίκα φέρεται να έχει εγκαταλείψει την εργασία και τη ζωή της προκειμένου να γίνει «πνευματική σύμβουλος» με καθοδήγηση από... το ChatGPT, το οποίο, κατά τα λεγόμενα του συζύγου της, έχει μετεξελιχθεί σε μια μορφή «ChatGPT Ιησού».

Η OpenAI αρνήθηκε να σχολιάσει στο Rolling Stone. Το δημοσίευμα έρχεται λίγο μετά την απόσυρση ενημέρωσης του ChatGPT που το είχε καταστήσει υπερβολικά κολακευτικό και συμφωνητικό προς τους χρήστες, χαρακτηριστικά που ενδέχεται να ενισχύουν υπάρχουσες παραληρηματικές ιδέες.

«Το chatbot δεν μπορεί να καταλάβει πότε κάτι δεν πάει καλά. Αν κάποιος βρίσκεται σε επεισόδιο ψύχωσης, το μοντέλο θα συνεχίσει να τον ενισχύει, επειδή λειτουργεί στατιστικά, όχι κριτικά», έγραψε χρήστης στο Reddit που δηλώνει ότι πάσχει από σχιζοφρένεια, αλλά ελέγχει την κατάστασή του μέσω φαρμακευτικής αγωγής.

Ο ερευνητής του Center for AI Safety, Νέιτ Σαραντίν, εξηγεί πως τα μεγάλα γλωσσικά μοντέλα δημιουργούν τοξικές συνθήκες όταν λειτουργούν ως συνομιλητές για άτομα που αναζητούν ερμηνείες για τον κόσμο, ακόμη κι αν αυτές οι ερμηνείες είναι εντελώς λανθασμένες ή παρανοϊκές. «Είναι σαν ψυχοθεραπεία χωρίς ψυχοθεραπευτή», παρατηρεί η ψυχολόγος Έριν Γουέστγκεϊτ του Πανεπιστημίου της Φλόριντα. «Οι εξηγήσεις έχουν δύναμη, ακόμα κι όταν είναι εντελώς λάθος».

Η πιο αλλόκοτη περίπτωση που καταγράφεται στο άρθρο είναι ενός χρήστη με ιστορικό ψυχικής ασθένειας, ο οποίος ξεκίνησε να χρησιμοποιεί το ChatGPT για κώδικα, αλλά βρέθηκε να συζητά «μεταφυσικές αποκαλύψεις» και να αναρωτιέται: «Είναι αυτό αληθινό ή είμαι ψευδαισθητικός;»

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Τech & Science / Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Xρησιμοποιεί υπερηχητικούς παλμούς που κατευθύνονται με ακρίβεια σε συγκεκριμένες περιοχές του εγκεφάλου, προσφέροντας εναλλακτική λύση στη χειρουργική εμφύτευση ηλεκτροδίων
LIFO NEWSROOM
Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Τech & Science / Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Ανθρώπινα αιμοσφαίρια που στάλθηκαν στο Διάστημα άρχισαν να χάνουν την ικανότητά τους να παράγουν υγιή νέα κύτταρα, ένδειξη επιταχυνόμενης γήρανσης, σύμφωνα με τη μελέτη
LIFO NEWSROOM
Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

Τech & Science / Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

«Θα μπορούσε να είναι μια πραγματική ευκαιρία να επιβραδύνουμε την εξέλιξη του γλοιοβλαστώματος», υποστηρίζουν με συγκρατημένη αισιοδοξία, καθώς απαιτείται περαιτέρω δοκιμών
LIFO NEWSROOM
Αλτσχάιμερ: Εγκρίθηκε φάρμακο που χορηγείται αποκλειστικά στο σπίτι

Τech & Science / Αλτσχάιμερ: Εγκρίθηκε θεραπεία που μπορεί να χορηγηθεί στο σπίτι από τον ίδιο τον ασθενή

Η έκδοση για χρήση στο σπίτι εγκρίθηκε ως θεραπεία συντήρησης που οι ασθενείς μπορούν να χορηγούν στον εαυτό τους αφού ολοκληρώσουν τον κύκλο της ενδοφλέβιας θεραπείας
LIFO NEWSROOM
«Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Τech & Science / «Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Οι ειδικοί προειδοποιούν ότι τα ηλεκτρονικά τσιγάρα δημιουργούν νέους εθισμούς στη νικοτίνη και προκαλούν σοβαρούς κινδύνους για την καρδιά, τους πνεύμονες και τον εγκέφαλο των παιδιών και των εφήβων
LIFO NEWSROOM
«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM
Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική ια πρόκληση για τις θεωρίες μας»

Τech & Science / Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική πρόκληση για τις θεωρίες μας»

Οι αστρονόμοι εκτιμούν ότι ίσως ανήκει σε μία κατηγορία αντικειμένων που είχε θεωρητικά προβλέψει ο Στίβεν Χόκινγκ, αλλά που μέχρι σήμερα δεν είχε ποτέ εντοπιστεί
LIFO NEWSROOM
Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Τech & Science / Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Ο όρος διαδίδεται στα social media μεταξύ των ανθρώπων που δηλώνουν «κουρασμένοι» με την τεχνητή νοημοσύνη που «εφευρίσκει» πράγματα, ακούγεται υπερβολικά ανθρώπινη και απειλεί να εξαφανίσει θέσεις εργασίας
LIFO NEWSROOM