Οι παράξενες εμμονές χρηστών με το ChatGPT προκαλούν ανησυχία

Οι παράξενες εμμονές χρηστών με το ChatGPT προκαλούν ανησυχία Facebook Twitter
Φωτ. Αρχείου: Unsplash
0

Όλο και περισσότεροι χρήστες του ChatGPT περιγράφουν περιπτώσεις στις οποίες η χρήση του δημοφιλούς chatbot της OpenAI έχει εξελιχθεί σε επικίνδυνη ψύχωση, οδηγώντας σε πνευματικές παραληρηματικές ιδέες, συνωμοσιολογικές εμμονές και θρησκευτικές φαντασιώσεις. Σύμφωνα με αποκαλυπτικό ρεπορτάζ του Rolling Stone, οι οικογένειες και οι φίλοι αυτών των ατόμων εκφράζουν έντονη ανησυχία για τη μεταβολή της συμπεριφοράς τους.

Σε αναρτήσεις χρηστών στο Reddit περιγράφονται περιπτώσεις όπου άτομα πιστεύουν ότι έχουν επιλεγεί από την Τεχνητή Νοημοσύνη για «ιερές αποστολές» ή έχουν λάβει «μυστικά σχέδια» για διαστημικές συσκευές και τηλεμεταφορείς. Σε πολλές περιπτώσεις, οι απαντήσεις του ChatGPT, αν και στατιστικά εύλογες, ενίσχυαν, εν αγνοία του, ψυχωτικούς μηχανισμούς.

Μια 41χρονη μητέρα και εργαζόμενη σε ΜΚΟ δήλωσε ότι ο σύζυγός της κατέληξε να ζει εμμονικά μέσα σε ένα πλέγμα παραληρημάτων με τη βοήθεια του ChatGPT, γεγονός που κατέληξε στη διάλυση του γάμου τους. Όπως εξηγεί, ο άνδρας της την κατηγορούσε για «σαπούνι στα τρόφιμα» και πίστευε πως τον παρακολουθούσαν. «Έκλαιγε ενώ μου διάβαζε μηνύματα του chatbot που τον αποκαλούσαν “spiral starchild” και “river walker”», αναφέρει χαρακτηριστικά.

Σε άλλη περίπτωση, γυναίκα φέρεται να έχει εγκαταλείψει την εργασία και τη ζωή της προκειμένου να γίνει «πνευματική σύμβουλος» με καθοδήγηση από... το ChatGPT, το οποίο, κατά τα λεγόμενα του συζύγου της, έχει μετεξελιχθεί σε μια μορφή «ChatGPT Ιησού».

Η OpenAI αρνήθηκε να σχολιάσει στο Rolling Stone. Το δημοσίευμα έρχεται λίγο μετά την απόσυρση ενημέρωσης του ChatGPT που το είχε καταστήσει υπερβολικά κολακευτικό και συμφωνητικό προς τους χρήστες, χαρακτηριστικά που ενδέχεται να ενισχύουν υπάρχουσες παραληρηματικές ιδέες.

«Το chatbot δεν μπορεί να καταλάβει πότε κάτι δεν πάει καλά. Αν κάποιος βρίσκεται σε επεισόδιο ψύχωσης, το μοντέλο θα συνεχίσει να τον ενισχύει, επειδή λειτουργεί στατιστικά, όχι κριτικά», έγραψε χρήστης στο Reddit που δηλώνει ότι πάσχει από σχιζοφρένεια, αλλά ελέγχει την κατάστασή του μέσω φαρμακευτικής αγωγής.

Ο ερευνητής του Center for AI Safety, Νέιτ Σαραντίν, εξηγεί πως τα μεγάλα γλωσσικά μοντέλα δημιουργούν τοξικές συνθήκες όταν λειτουργούν ως συνομιλητές για άτομα που αναζητούν ερμηνείες για τον κόσμο, ακόμη κι αν αυτές οι ερμηνείες είναι εντελώς λανθασμένες ή παρανοϊκές. «Είναι σαν ψυχοθεραπεία χωρίς ψυχοθεραπευτή», παρατηρεί η ψυχολόγος Έριν Γουέστγκεϊτ του Πανεπιστημίου της Φλόριντα. «Οι εξηγήσεις έχουν δύναμη, ακόμα κι όταν είναι εντελώς λάθος».

Η πιο αλλόκοτη περίπτωση που καταγράφεται στο άρθρο είναι ενός χρήστη με ιστορικό ψυχικής ασθένειας, ο οποίος ξεκίνησε να χρησιμοποιεί το ChatGPT για κώδικα, αλλά βρέθηκε να συζητά «μεταφυσικές αποκαλύψεις» και να αναρωτιέται: «Είναι αυτό αληθινό ή είμαι ψευδαισθητικός;»

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Μπετόβεν: Το αληνθινό πρόσωπό του - Οι εικόνες που δημοσίευσε 3D creator

Τech & Science / Μπετόβεν: Το αληθινό πρόσωπό του - Οι εικόνες που δημοσίευσε 3D creator

«Αυτή είναι η πρώτη προσέγγιση του προσώπου που γίνεται από το κρανίο του, χρησιμοποίησα την ίδια προσέγγιση που χρησιμοποιούμε στις αστυνομικές υποθέσεις για την αναγνώριση των θυμάτων» λέει ο Σίσερο Μοράες
LIFO NEWSROOM
Ο Τύμβος Καστά στην Αμφίπολη είναι ευθυγραμμισμένος με το χειμερινό ηλιοστάσιο, σύμφωνα με έρευνα

Τech & Science / Αμφίπολη: «Ο Τύμβος Καστά είναι ευθυγραμμισμένος με το χειμερινό ηλιοστάσιο», υποστηρίζει ερευνητής

Ο Τύμβος Καστά στην Αμφίπολη ευθυγραμμίζεται με το ηλιακό φως του χειμερινού ηλιοστασίου, υποδηλώνοντας τελετουργική χρήση και πιθανή σύνδεση με τον Ηφαιστίωνα ή τον Μέγα Αλέξανδρο, σύμφωνα με μελέτη στο Nexus Network Journal
LIFO NEWSROOM
«Γαλάζιος Δούναβης»: Το διάσημο βαλς του Γιόχαν Στράους του νεότερου θα ταξιδέψει στο Διάστημα

Τech & Science / «Γαλάζιος Δούναβης»: Το διάσημο βαλς του Γιόχαν Στράους του νεότερου θα ταξιδέψει στο Διάστημα

Η μουσική, που έγινε παγκοσμίως γνωστή μέσα από την ταινία «2001: Η Οδύσσεια του Διαστήματος» του Στάνλεϊ Κιούμπρικ, θα φτάσει στη Σελήνη σε μόλις 1,5 δευτερόλεπτο
LIFO NEWSROOM