Το ChatGPT «έγινε κόλακας» - Αποσύρεται η τελευταία έκδοσή του

Η OpenAI αποσύρει την τελευταία ενημέρωση του ChatGPT γιατί «έγινε κόλακας» Facebook Twitter
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν / Φωτ: EPA, αρχείου
0

Η OpenAI αναγκάστηκε να αποσύρει την πιο πρόσφατη έκδοση του ChatGPT, καθώς χρήστες διαπίστωσαν ότι το εργαλείο τεχνητής νοημοσύνης απαντούσε με υπερβολικά επαινετικό και ενίοτε παραπλανητικό τρόπο, ανεξάρτητα από το περιεχόμενο της συνομιλίας.

Ο επικεφαλής της εταιρείας, Σαμ Άλτμαν, παραδέχτηκε το πρόβλημα, χαρακτηρίζοντας τη συμπεριφορά του μοντέλου ως «υπερβολικά κολακευτική» (sycophant-y), ενώ η εταιρεία ανακοίνωσε ότι εργάζεται ήδη για την επίλυση του ζητήματος.

Το ChatGPT επαίνεσε χρήστη που σταμάτησε φαρμακευτική αγωγή

Σύμφωνα με ανάρτηση σε σχετικό φόρουμ στο Reddit, ένας χρήστης δήλωσε ότι το ChatGPT επαίνεσε την απόφασή του να διακόψει τη φαρμακευτική του αγωγή, απαντώντας: «Είμαι πολύ περήφανο για σένα και τιμώ το ταξίδι σου».

Η OpenAI δεν σχολίασε τη συγκεκριμένη περίπτωση, ωστόσο σε σχετική ανάρτηση στο επίσημο ιστολόγιό της παραδέχτηκε ότι «δοκιμάζει ενεργά διορθώσεις για να αντιμετωπιστεί το πρόβλημα».

Όπως αναφέρθηκε, η ενημέρωση αποσύρθηκε πλήρως από τη δωρεάν έκδοση του ChatGPT, ενώ η εταιρεία προσπαθεί να την αφαιρέσει και από τους χρήστες της συνδρομητικής υπηρεσίας.

To ChatGPT είχε «υπερβολική τάση να δίνει υποστηρικτικές αλλά μη ειλικρινείς απαντήσεις»

Η OpenAI σημείωσε ότι το μοντέλο GPT‑4o, στο οποίο βασίζεται το ChatGPT, είχε «υπερβολική τάση να δίνει υποστηρικτικές αλλά μη ειλικρινείς απαντήσεις», κυρίως λόγω του ότι δόθηκε μεγάλη έμφαση σε βραχυπρόθεσμο feedback κατά την εκπαίδευσή του.

«Οι κολακευτικές απαντήσεις ενδέχεται να προκαλέσουν σύγχυση, δυσφορία ή και ψυχολογική επιβάρυνση. Δεν ανταποκριθήκαμε στις προσδοκίες και εργαζόμαστε για να το διορθώσουμε», σημείωσε η εταιρεία.

Σε ορισμένες περιπτώσεις, το chatbot επιδοκίμαζε οργισμένες ή αντικοινωνικές συμπεριφορές, προσφέροντας υποστηρικτικά σχόλια ακόμα και σε απαντήσεις που περιείχαν σαφώς προβληματικές τοποθετήσεις.

Η OpenAI δήλωσε ότι ο στόχος του ChatGPT ήταν να είναι «χρήσιμο, υποστηρικτικό και με σεβασμό προς διαφορετικές αξίες και εμπειρίες», αλλά αναγνώρισε πως αυτά τα θετικά χαρακτηριστικά μπορεί να οδηγήσουν σε ανεπιθύμητα αποτελέσματα όταν δεν συνδυάζονται με τους κατάλληλους φραγμούς.

«Προχωρούμε στην ενίσχυση των μηχανισμών που αποτρέπουν την υπερβολική κολακεία και επιδιώκουμε μεγαλύτερη διαφάνεια», ανέφερε η εταιρεία, προσθέτοντας πως εξετάζει τρόπους ώστε οι χρήστες να έχουν περισσότερο έλεγχο στη «συμπεριφορά» του μοντέλου, εφόσον αυτό μπορεί να γίνει με ασφαλή και υπεύθυνο τρόπο.

Ο Άλτμαν έγραψε επίσης πως η OpenAI θα δημοσιεύσει σύντομα περισσότερες πληροφορίες σχετικά με τις αλλαγές που σχεδιάζονται στην «προσωπικότητα» του ChatGPT.

Σύμφωνα με την εταιρεία, το ChatGPT χρησιμοποιείται από περίπου 500 εκατομμύρια ανθρώπους κάθε εβδομάδα.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

«Χάνω ώρες στο κινητό και δεν το καταλαβαίνω»: Πόσο σου «τρώει» το scrolling και πώς να το μειώσεις

Τech & Science / «Χάνω ώρες στο κινητό και δεν το καταλαβαίνω»: Πόσο σου «τρώει» το scrolling και πώς να το μειώσεις

Η καθημερινή κατανάλωση περιεχομένου στο κινητό μοιάζει αθώα – μέχρι να συνειδητοποιήσεις ότι πέρασε η μισή μέρα. Πόσο χρόνο χάνουμε τελικά και τι μπορούμε να κάνουμε για να τον πάρουμε πίσω;
LIFO NEWSROOM