Ένα αμερικανικό ιατρικό περιοδικό προειδοποίησε ότι η χρήση του ChatGPT για ιατρικές συμβουλές μπορεί να αποδειχθεί επικίνδυνη, αφού ένας άνδρας εμφάνισε σπάνια δηλητηρίαση όταν ακολούθησε μία «συμβουλή» που έλαβε από την εφαρμογή.
Η μελέτη, που δημοσιεύτηκε στο Annals of Internal Medicine, περιγράφει την περίπτωση ενός 60χρονου ο οποίος, προσπαθώντας να αφαιρέσει το επιτραπέζιο αλάτι από τη διατροφή του, αναζήτησε στο ChatGPT εναλλακτικές λύσεις. Έτσι, κατέληξε να καταναλώνει για τρεις μήνες βρωμιούχο νάτριο, ουσία που στις αρχές του 20ού αιώνα χρησιμοποιούνταν ως ηρεμιστικό, με αποτέλεσμα να παρουσιάσει σοβαρές επιπλοκές που οι γιατροί απέδωσαν σε δηλητηρίαση από βρώμιο.
Οι διαπιστώσεις των γιατρών
Οι συντάκτες της μελέτης, από το Πανεπιστήμιο της Ουάσινγκτον στο Σιάτλ, δεν είχαν πρόσβαση στη συνομιλία του ασθενούς με το ChatGPT. Ωστόσο, όταν έκαναν οι ίδιοι την ίδια ερώτηση στην εφαρμογή, το ChatGPT απάντησε περιλαμβάνοντας το βρώμιο ως εναλλακτική του χλωρίου. Μάλιστα, το chatbot δεν έδωσε καμία σαφή προειδοποίηση για τους κινδύνους της ουσίας, ούτε τους ρώτησε γιατί ζητούσαν την πληροφορία, κάτι που, όπως επισημαίνουν, θα ήταν αυτονόητο για έναν επαγγελματία υγείας.
Η δηλητηρίαση από βρώμιο, γνωστή και ως bromism, ήταν αρκετά διαδεδομένη στις αρχές του προηγούμενου αιώνα και εκτιμάται ότι ευθυνόταν για σχεδόν το 10% των ψυχιατρικών εισαγωγών της εποχής.
Στην προκειμένη περίπτωση, ο 60χρονος έφτασε στο νοσοκομείο καχύποπτος ότι ο γείτονάς του τον δηλητηρίαζε. Αν και ένιωθε έντονη δίψα, αρνιόταν να πιει το νερό που του προσφερόταν και μέσα σε 24 ώρες προσπάθησε να φύγει. Τελικά τέθηκε σε ακούσια νοσηλεία και έλαβε αγωγή για ψύχωση.
Όταν η κατάστασή του σταθεροποιήθηκε, ανέφερε συμπτώματα όπως ακμή στο πρόσωπο, αϋπνία και επίμονη δίψα, όλα τυπικά σημάδια δηλητηρίασης από βρώμιο.
Κίνδυνοι και όρια της τεχνητής νοημοσύνης
Το περιστατικό αφορά παλαιότερη έκδοση του ChatGPT, πριν από την κυκλοφορία του GPT-5, το οποίο η εταιρεία παρουσίασε πρόσφατα με βελτιωμένες δυνατότητες σε ιατρικά θέματα και μεγαλύτερη ευαισθησία στον εντοπισμό κινδύνων. Ωστόσο, ακόμη και σήμερα, οι οδηγίες χρήσης του συστήματος ξεκαθαρίζουν ότι δεν προορίζεται για διάγνωση ή θεραπεία ασθενειών.
Με πληροφορίες από Guardian
