Το ChatGPT μπορεί να οδηγεί ανθρώπους σε ψύχωση καθώς εκατομμύρια στρέφονται στην τεχνητή νοημοσύνη (AI) για παρέα ή συμβουλές, προειδοποιούν γιατροί του NHS.
Ψυχίατροι από το Εθνικό Σύστημα Υγείας της Βρετανίας και πανεπιστημιακοί ερευνητές δηλώνουν, ότι διατίθενται όλο και περισσότερα στοιχεία, πως τα chatbot τεχνητής νοημοσύνης μπορεί να «συμβάλλουν στην εκδήλωση ή την επιδείνωση» ψυχωτικών/ ψυχικών διαταραχών.
Σε ένα νέο επιστημονικό άρθρο, δώδεκα γιατροί και ειδικοί αναφέρουν ότι τα chatbot τεχνητής νοημοσύνης τείνουν να «καθρεφτίζουν, να επιβεβαιώνουν ή να ενισχύουν παραληρηματικό περιεχόμενο», κάτι που θα μπορούσε να οδηγήσει άτομα με ψυχικές νόσους να χάσουν την επαφή με την πραγματικότητα.
Πόσο «κακό» μπορεί να φέρει το ότι η AI δεν διαφωνεί ποτέ με τον χρήστη
Ιδιαίτερα, η τάση των chatbot να συμφωνούν με τους χρήστες μπορεί να επιδεινώσει τις παραληρητικές ιδέες σε ψυχικά ασθενείς. Η ίδια η OpenAI, της οποίας το ChatGPT έχει 900 εκατομμύρια download, έχει παραδεχθεί ότι τα chatbot της έχουν επιδείξει «δουλοπρέπεια και υπερβολικούς επαίνους» προς τους χρήστες.
Σύμφωνα με άρθρο της Telegraph, επικαλούμενο στοιχεία από το NHS, δεκάδες άτομα στα κοινωνικά δίκτυα έχουν ισχυριστεί ότι αγαπημένα τους πρόσωπα υπέστησαν ψυχική κατάρρευση, αφού εθίστηκαν στο ChatGPT.
Τα συμπτώματα της ψύχωσης μπορεί να περιλαμβάνουν
- δυσκολία διάκρισης μεταξύ πραγματικού και μη πραγματικού,
- και πεποίθηση σε παραληρητικές ιδέες.
Ο Dr. Tom Pollack, λέκτορας στο King’s College London και ένας από τους συγγραφείς της μελέτης, δήλωσε ότι οι αναφορές για «ψύχωση από το ChatGPT» περιλαμβάνουν άτομα που «υιοθετούν μια μεσσιανική αποστολή» ή ισχυρίζονται ότι έχουν «μεταφερθεί σε κάποιο επόμενο στάδιο της ανθρώπινης εξέλιξης».
Όπως είπε: «Δεν είμαι σίγουρος για το εάν στην επιδείνωση αυτών των περιπτώσεων, ευθύνεται το ChatGPT. Αλλά ήταν αρκετό για να σχολιάσω ότι ίσως χρειάζεται να το μειώσουν. Ίσως είναι ώρα να κλείσουν το λάπτοπ. Το μόνο που ξέρουμε αυτή τη στιγμή είναι ότι υπάρχουν άνθρωποι που εμφανίζουν την αρχή παραληρητικής ιδέας, και αυτό έχει αρχίσει να συμβαίνει περίπου την ίδια περίοδο με την αύξηση της χρήσης της τεχνητής νοημοσύνης.»
Ο Dr. Pollack πρόσθεσε σε ανάρτησή του στο Substack, ότι η ψύχωση σπάνια εμφανίζεται «από το πουθενά», αλλά η υπερβολική χρήση AI θα μπορούσε να είναι «εκλυτικός παράγοντας» σε άτομα με υποκείμενες καταστάσεις.
«Ίσως βλέπουμε μόνο την κορυφή του παγόβουνου»
Οι αναφορές που συνδέουν τα chatbot με ψυχικά επεισόδια, αυξάνονται. Τον Απρίλιο, ένας άνδρας πυροβολήθηκε και σκοτώθηκε από την αστυνομία στις ΗΠΑ, αφού απείλησε αξιωματικούς με ένα μαχαίρι. Ο πατέρας του αργότερα ισχυρίστηκε ότι ο γιος του είχε εμμονή με το ChatGPT και το Claude AI, δημιουργώντας μια ψηφιακή κοπέλα με το όνομα «Juliet», την οποία πίστευε ότι είχε σκοτώσει η OpenAI.
Οι ανησυχίες αυτές ανακύπτουν την ίδια ώρα που οι «γίγαντες» της τεχνολογίας, προωθούν τα chatbot τους ως εναλλακτική θεραπεία, παρά τα στοιχεία ότι μπορούν να επιδεινώσουν τις ήδη ευάλωτες περιπτώσεις. Μελέτη του Πανεπιστημίου Στάνφορντ συμπέρανε ότι πολλά bot έδιναν κακές συμβουλές σε ασθενείς που παρουσίαζαν σημάδια παραληρήματος και απαντούσαν «κατάλληλα μόνο περίπου στο 45% των περιπτώσεων».
Ο Søren Dinesen Østergaard, καθηγητής στο Πανεπιστημιακό Νοσοκομείο Aarhus στη Δανία, έγραψε το 2023 στη μελέτη του, ότι τα chatbot AI θα μπορούσαν «να παράγουν παραληρήματα» σε άτομα που κινδυνεύουν από ψύχωση.
«Ίσως αντιμετωπίζουμε ένα σημαντικό πρόβλημα δημόσιας ψυχικής υγείας, όπου έχουμε δει μόνο την κορυφή του παγόβουνου», υπογράμμισε.
Εκπρόσωπος της OpenAI δήλωσε: «Γνωρίζουμε ότι όλο και περισσότεροι άνθρωποι στρέφονται στα chatbot AI για καθοδήγηση σε ευαίσθητα θέματα. Με αυτήν την ευθύνη κατά νου, έχουμε εκπαιδεύσει το ChatGPT προσεκτικά ώστε να απαντά με ενσυναίσθηση και ευαισθησία και να προτείνει επαγγελματική βοήθεια και πηγές όπου είναι κατάλληλο».
Με πληροφορίες από Telegraph
