Μια πρόσφατη επιστημονική μελέτη, προκαλεί ανησυχία για το πώς τα ΑΙ chatbots, ενδέχεται να ενισχύουν παραληρηματικές σκέψεις, ιδιαίτερα σε άτομα που είναι ήδη ευάλωτα σε ψυχωσικά συμπτώματα.
Η μελέτη, που δημοσιεύτηκε στο Lancet Psychiatry, συνιστά προσεκτική κλινική αξιολόγηση των AI chatbots σε συνεργασία με εξειδικευμένους επαγγελματίες ψυχικής υγείας.
Ο Δρ Hamilton Morrin, ψυχίατρος και ερευνητής στο King’s College του Λονδίνου, ανέλυσε 20 δημοσιεύματα για την λεγόμενη «ψύχωση από AI», εστιάζοντας στο πώς τα chatbots μπορούν να προκαλέσουν ή να επιδεινώσουν παραληρητικά πιστεύω.
Τα ευρήματα δείχνουν ότι οι αλγόριθμοι τείνουν να ενισχύουν κυρίως μεγαλομανιακά παραληρήματα, συχνά μέσω μυστικιστικών ή υποστηρικτικών απαντήσεων που κάνουν τον χρήστη να νιώθει ότι έχει ιδιαίτερη σημασία ή επικοινωνεί με κοσμικές δυνάμεις.
Τέτοιες συμπεριφορές παρατηρήθηκαν κυρίως στο μοντέλο GPT-4, το οποίο πλέον έχει αποσυρθεί.
Πώς τα AI chatbots μπορούν να ενισχύσουν ψυχωσικές τάσεις
Παρά το γεγονός ότι τα chatbots δεν προκαλούν ψύχωση σε υγιή άτομα, η μελέτη τονίζει ότι όσοι βρίσκονται σε πρώιμο στάδιο ψυχωτικών τάσεων ή έχουν ήδη «αποδυναμωμένα» παραληρητικά πιστεύω είναι πιο ευάλωτοι.
Όπως επισημαίνουν οι ειδικοί, η αλληλεπίδραση με τα chatbots μπορεί να επιταχύνει την ενίσχυση αυτών των σκέψεων, αφού το AI παρέχει άμεση ανατροφοδότηση και αλληλεπιδρά ενεργά με τον χρήστη.
Οι ερευνητές προτείνουν τη χρήση όρων όπως «παραληρητικά φαινόμενα σχετιζόμενα με AI», αντί για «ψύχωση από AI», καθώς δεν υπάρχει ακόμα απόδειξη ότι τα chatbots προκαλούν πλήρη ψυχωσικά επεισόδια, όπως παραισθήσεις ή διαταραχή σκέψης. Παράλληλα, τονίζεται η ανάγκη για προσεκτική ισορροπία στην αντιμετώπιση αυτών των φαινομένων: η άμεση αμφισβήτηση του παραληρηματικού πιστεύω μπορεί να οδηγήσει σε κοινωνική απομόνωση, ενώ η υπερβολική επιβεβαίωση μπορεί να ενισχύσει την παραληρηματική σκέψη.
Η OpenAI, σε ανακοίνωσή της, υπενθυμίζει ότι τα chatbots όπως το ChatGPT δεν υποκαθιστούν επαγγελματική ψυχική φροντίδα και ότι συνεργάζεται με πάνω από 170 ειδικούς ψυχικής υγείας για να βελτιώσει την ασφάλεια του GPT-5. Ωστόσο, προβληματικές απαντήσεις εξακολουθούν να εμφανίζονται σε περιπτώσεις κρίσεων ψυχικής υγείας.
Οι επιστήμονες συμφωνούν ότι η δημιουργία ασφαλών μηχανισμών για την πρόληψη παραληρημάτων μέσω AI είναι δύσκολη, αλλά κρίσιμη, ειδικά για άτομα που ήδη εμφανίζουν ευάλωτες ψυχολογικές καταστάσεις.
Με πληροφορίες από Guardian
