Ψυχίατροι του NHS προειδοποιούν: «Το ChatGPT μπορεί να τροφοδοτεί την ψύχωση»

Ψυχίατροι του NHS προειδοποιούν: «Το ChatGPT μπορεί να τροφοδοτεί την ψύχωση» Facebook Twitter
0

Το ChatGPT μπορεί να οδηγεί ανθρώπους σε ψύχωση καθώς εκατομμύρια στρέφονται στην τεχνητή νοημοσύνη (AI) για παρέα ή συμβουλές, προειδοποιούν γιατροί του NHS.

Ψυχίατροι από το Εθνικό Σύστημα Υγείας της Βρετανίας και πανεπιστημιακοί ερευνητές δηλώνουν, ότι διατίθενται όλο και περισσότερα στοιχεία, πως τα chatbot τεχνητής νοημοσύνης μπορεί να «συμβάλλουν στην εκδήλωση ή την επιδείνωση» ψυχωτικών/ ψυχικών διαταραχών.

Σε ένα νέο επιστημονικό άρθρο, δώδεκα γιατροί και ειδικοί αναφέρουν ότι τα chatbot τεχνητής νοημοσύνης τείνουν να «καθρεφτίζουν, να επιβεβαιώνουν ή να ενισχύουν παραληρηματικό περιεχόμενο», κάτι που θα μπορούσε να οδηγήσει άτομα με ψυχικές νόσους να χάσουν την επαφή με την πραγματικότητα.

Πόσο «κακό» μπορεί να φέρει το ότι η AI δεν διαφωνεί ποτέ με τον χρήστη

Ιδιαίτερα, η τάση των chatbot να συμφωνούν με τους χρήστες μπορεί να επιδεινώσει τις παραληρητικές ιδέες σε ψυχικά ασθενείς. Η ίδια η OpenAI, της οποίας το ChatGPT έχει 900 εκατομμύρια download, έχει παραδεχθεί ότι τα chatbot της έχουν επιδείξει «δουλοπρέπεια και υπερβολικούς επαίνους» προς τους χρήστες.

Σύμφωνα με άρθρο της Telegraph, επικαλούμενο στοιχεία από το NHS, δεκάδες άτομα στα κοινωνικά δίκτυα έχουν ισχυριστεί ότι αγαπημένα τους πρόσωπα υπέστησαν ψυχική κατάρρευση, αφού εθίστηκαν στο ChatGPT.

Τα συμπτώματα της ψύχωσης μπορεί να περιλαμβάνουν

  • δυσκολία διάκρισης μεταξύ πραγματικού και μη πραγματικού,
  • και πεποίθηση σε παραληρητικές ιδέες.

Ο Dr. Tom Pollack, λέκτορας στο King’s College London και ένας από τους συγγραφείς της μελέτης, δήλωσε ότι οι αναφορές για «ψύχωση από το ChatGPT» περιλαμβάνουν άτομα που «υιοθετούν μια μεσσιανική αποστολή» ή ισχυρίζονται ότι έχουν «μεταφερθεί σε κάποιο επόμενο στάδιο της ανθρώπινης εξέλιξης».

Όπως είπε: «Δεν είμαι σίγουρος για το εάν στην επιδείνωση αυτών των περιπτώσεων, ευθύνεται το ChatGPT. Αλλά ήταν αρκετό για να σχολιάσω ότι ίσως χρειάζεται να το μειώσουν. Ίσως είναι ώρα να κλείσουν το λάπτοπ. Το μόνο που ξέρουμε αυτή τη στιγμή είναι ότι υπάρχουν άνθρωποι που εμφανίζουν την αρχή παραληρητικής ιδέας, και αυτό έχει αρχίσει να συμβαίνει περίπου την ίδια περίοδο με την αύξηση της χρήσης της τεχνητής νοημοσύνης.»

Ο Dr. Pollack πρόσθεσε σε ανάρτησή του στο Substack, ότι η ψύχωση σπάνια εμφανίζεται «από το πουθενά», αλλά η υπερβολική χρήση AI θα μπορούσε να είναι «εκλυτικός παράγοντας» σε άτομα με υποκείμενες καταστάσεις.

«Ίσως βλέπουμε μόνο την κορυφή του παγόβουνου»

Οι αναφορές που συνδέουν τα chatbot με ψυχικά επεισόδια, αυξάνονται. Τον Απρίλιο, ένας άνδρας πυροβολήθηκε και σκοτώθηκε από την αστυνομία στις ΗΠΑ, αφού απείλησε αξιωματικούς με ένα μαχαίρι. Ο πατέρας του αργότερα ισχυρίστηκε ότι ο γιος του είχε εμμονή με το ChatGPT και το Claude AI, δημιουργώντας μια ψηφιακή κοπέλα με το όνομα «Juliet», την οποία πίστευε ότι είχε σκοτώσει η OpenAI.

Οι ανησυχίες αυτές ανακύπτουν την ίδια ώρα που οι «γίγαντες» της τεχνολογίας, προωθούν τα chatbot τους ως εναλλακτική θεραπεία, παρά τα στοιχεία ότι μπορούν να επιδεινώσουν τις ήδη ευάλωτες περιπτώσεις. Μελέτη του Πανεπιστημίου Στάνφορντ συμπέρανε ότι πολλά bot έδιναν κακές συμβουλές σε ασθενείς που παρουσίαζαν σημάδια παραληρήματος και απαντούσαν «κατάλληλα μόνο περίπου στο 45% των περιπτώσεων».

Ο Søren Dinesen Østergaard, καθηγητής στο Πανεπιστημιακό Νοσοκομείο Aarhus στη Δανία, έγραψε το 2023 στη μελέτη του, ότι τα chatbot AI θα μπορούσαν «να παράγουν παραληρήματα» σε άτομα που κινδυνεύουν από ψύχωση.

«Ίσως αντιμετωπίζουμε ένα σημαντικό πρόβλημα δημόσιας ψυχικής υγείας, όπου έχουμε δει μόνο την κορυφή του παγόβουνου», υπογράμμισε.

Εκπρόσωπος της OpenAI δήλωσε: «Γνωρίζουμε ότι όλο και περισσότεροι άνθρωποι στρέφονται στα chatbot AI για καθοδήγηση σε ευαίσθητα θέματα. Με αυτήν την ευθύνη κατά νου, έχουμε εκπαιδεύσει το ChatGPT προσεκτικά ώστε να απαντά με ενσυναίσθηση και ευαισθησία και να προτείνει επαγγελματική βοήθεια και πηγές όπου είναι κατάλληλο».

Με πληροφορίες από Telegraph

 
 
Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Οι γυναίκες διατρέχουν αυξημένο κίνδυνο κατάθλιψης και ψύχωσης τις πρώτες εβδομάδες μετά τον τοκετό

Τech & Science / Οι γυναίκες διατρέχουν αυξημένο κίνδυνο κατάθλιψης και ψύχωσης τις πρώτες εβδομάδες μετά τον τοκετό

Η μελέτη, που βασίστηκε σε σχεδόν 1,8 εκατομμύρια γεννήσεις στη Σουηδία, δείχνει ότι η ψυχική υγεία των γυναικών βελτιώνεται στην εγκυμοσύνη αλλά επιδεινώνεται αμέσως μετά τον τοκετό
LIFO NEWSROOM
«Ένας σύντροφος από κώδικα»: Πώς οι άνθρωποι κάνουν τους AI συνοδούς τους να μοιάζουν πραγματικοί

Τech & Science / «Ένας σύντροφος από κώδικα»: Πώς οι άνθρωποι κάνουν τους AI συνοδούς τους να μοιάζουν πραγματικοί

Από την επιλογή προσωπικότητας μέχρι τη δημιουργία fan art, οι χρήστες διαμορφώνουν οι ίδιοι τις σχέσεις τους με chatbots, δημιουργώντας δεσμούς που θυμίζουν ανθρώπινες σχέσεις
LIFO NEWSROOM
OpenAI: Ο CEO της εταιρείας ισχυρίζεται πως η τεχνητή νοημοσύνη ενδεχομένως να βρίσκεται κοντά στη θεραπεία του καρκίνου

Τech & Science / OpenAI: Ο Σαμ Άλτμαν δηλώνει πως η τεχνητή νοημοσύνη μπορεί να βρίσκεται κοντά στη θεραπεία του καρκίνου

«Αν η τεχνητή νοημοσύνη παραμείνει στην πορεία που πιστεύουμε ότι θα ακολουθήσει, τότε θα είναι δυνατά εκπληκτικά πράγματα», είπε χαρακτηριστικά ο Σαμ Άλτμαν
LIFO NEWSROOM