Η OpenAI αναγκάστηκε να αποσύρει την πιο πρόσφατη έκδοση του ChatGPT, καθώς χρήστες διαπίστωσαν ότι το εργαλείο τεχνητής νοημοσύνης απαντούσε με υπερβολικά επαινετικό και ενίοτε παραπλανητικό τρόπο, ανεξάρτητα από το περιεχόμενο της συνομιλίας.
Ο επικεφαλής της εταιρείας, Σαμ Άλτμαν, παραδέχτηκε το πρόβλημα, χαρακτηρίζοντας τη συμπεριφορά του μοντέλου ως «υπερβολικά κολακευτική» (sycophant-y), ενώ η εταιρεία ανακοίνωσε ότι εργάζεται ήδη για την επίλυση του ζητήματος.
Το ChatGPT επαίνεσε χρήστη που σταμάτησε φαρμακευτική αγωγή
Σύμφωνα με ανάρτηση σε σχετικό φόρουμ στο Reddit, ένας χρήστης δήλωσε ότι το ChatGPT επαίνεσε την απόφασή του να διακόψει τη φαρμακευτική του αγωγή, απαντώντας: «Είμαι πολύ περήφανο για σένα και τιμώ το ταξίδι σου».
Η OpenAI δεν σχολίασε τη συγκεκριμένη περίπτωση, ωστόσο σε σχετική ανάρτηση στο επίσημο ιστολόγιό της παραδέχτηκε ότι «δοκιμάζει ενεργά διορθώσεις για να αντιμετωπιστεί το πρόβλημα».
the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.
— Sam Altman (@sama) April 27, 2025
at some point will share our learnings from this, it's been interesting.
Όπως αναφέρθηκε, η ενημέρωση αποσύρθηκε πλήρως από τη δωρεάν έκδοση του ChatGPT, ενώ η εταιρεία προσπαθεί να την αφαιρέσει και από τους χρήστες της συνδρομητικής υπηρεσίας.
To ChatGPT είχε «υπερβολική τάση να δίνει υποστηρικτικές αλλά μη ειλικρινείς απαντήσεις»
Η OpenAI σημείωσε ότι το μοντέλο GPT‑4o, στο οποίο βασίζεται το ChatGPT, είχε «υπερβολική τάση να δίνει υποστηρικτικές αλλά μη ειλικρινείς απαντήσεις», κυρίως λόγω του ότι δόθηκε μεγάλη έμφαση σε βραχυπρόθεσμο feedback κατά την εκπαίδευσή του.
«Οι κολακευτικές απαντήσεις ενδέχεται να προκαλέσουν σύγχυση, δυσφορία ή και ψυχολογική επιβάρυνση. Δεν ανταποκριθήκαμε στις προσδοκίες και εργαζόμαστε για να το διορθώσουμε», σημείωσε η εταιρεία.
Σε ορισμένες περιπτώσεις, το chatbot επιδοκίμαζε οργισμένες ή αντικοινωνικές συμπεριφορές, προσφέροντας υποστηρικτικά σχόλια ακόμα και σε απαντήσεις που περιείχαν σαφώς προβληματικές τοποθετήσεις.
Η OpenAI δήλωσε ότι ο στόχος του ChatGPT ήταν να είναι «χρήσιμο, υποστηρικτικό και με σεβασμό προς διαφορετικές αξίες και εμπειρίες», αλλά αναγνώρισε πως αυτά τα θετικά χαρακτηριστικά μπορεί να οδηγήσουν σε ανεπιθύμητα αποτελέσματα όταν δεν συνδυάζονται με τους κατάλληλους φραγμούς.
«Προχωρούμε στην ενίσχυση των μηχανισμών που αποτρέπουν την υπερβολική κολακεία και επιδιώκουμε μεγαλύτερη διαφάνεια», ανέφερε η εταιρεία, προσθέτοντας πως εξετάζει τρόπους ώστε οι χρήστες να έχουν περισσότερο έλεγχο στη «συμπεριφορά» του μοντέλου, εφόσον αυτό μπορεί να γίνει με ασφαλή και υπεύθυνο τρόπο.
Ο Άλτμαν έγραψε επίσης πως η OpenAI θα δημοσιεύσει σύντομα περισσότερες πληροφορίες σχετικά με τις αλλαγές που σχεδιάζονται στην «προσωπικότητα» του ChatGPT.
Σύμφωνα με την εταιρεία, το ChatGPT χρησιμοποιείται από περίπου 500 εκατομμύρια ανθρώπους κάθε εβδομάδα.
Με πληροφορίες από BBC
