Το ChatGPT «έγινε κόλακας» - Αποσύρεται η τελευταία έκδοσή του

Η OpenAI αποσύρει την τελευταία ενημέρωση του ChatGPT γιατί «έγινε κόλακας» Facebook Twitter
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν / Φωτ: EPA, αρχείου
0

Η OpenAI αναγκάστηκε να αποσύρει την πιο πρόσφατη έκδοση του ChatGPT, καθώς χρήστες διαπίστωσαν ότι το εργαλείο τεχνητής νοημοσύνης απαντούσε με υπερβολικά επαινετικό και ενίοτε παραπλανητικό τρόπο, ανεξάρτητα από το περιεχόμενο της συνομιλίας.

Ο επικεφαλής της εταιρείας, Σαμ Άλτμαν, παραδέχτηκε το πρόβλημα, χαρακτηρίζοντας τη συμπεριφορά του μοντέλου ως «υπερβολικά κολακευτική» (sycophant-y), ενώ η εταιρεία ανακοίνωσε ότι εργάζεται ήδη για την επίλυση του ζητήματος.

Το ChatGPT επαίνεσε χρήστη που σταμάτησε φαρμακευτική αγωγή

Σύμφωνα με ανάρτηση σε σχετικό φόρουμ στο Reddit, ένας χρήστης δήλωσε ότι το ChatGPT επαίνεσε την απόφασή του να διακόψει τη φαρμακευτική του αγωγή, απαντώντας: «Είμαι πολύ περήφανο για σένα και τιμώ το ταξίδι σου».

Η OpenAI δεν σχολίασε τη συγκεκριμένη περίπτωση, ωστόσο σε σχετική ανάρτηση στο επίσημο ιστολόγιό της παραδέχτηκε ότι «δοκιμάζει ενεργά διορθώσεις για να αντιμετωπιστεί το πρόβλημα».

Όπως αναφέρθηκε, η ενημέρωση αποσύρθηκε πλήρως από τη δωρεάν έκδοση του ChatGPT, ενώ η εταιρεία προσπαθεί να την αφαιρέσει και από τους χρήστες της συνδρομητικής υπηρεσίας.

To ChatGPT είχε «υπερβολική τάση να δίνει υποστηρικτικές αλλά μη ειλικρινείς απαντήσεις»

Η OpenAI σημείωσε ότι το μοντέλο GPT‑4o, στο οποίο βασίζεται το ChatGPT, είχε «υπερβολική τάση να δίνει υποστηρικτικές αλλά μη ειλικρινείς απαντήσεις», κυρίως λόγω του ότι δόθηκε μεγάλη έμφαση σε βραχυπρόθεσμο feedback κατά την εκπαίδευσή του.

«Οι κολακευτικές απαντήσεις ενδέχεται να προκαλέσουν σύγχυση, δυσφορία ή και ψυχολογική επιβάρυνση. Δεν ανταποκριθήκαμε στις προσδοκίες και εργαζόμαστε για να το διορθώσουμε», σημείωσε η εταιρεία.

Σε ορισμένες περιπτώσεις, το chatbot επιδοκίμαζε οργισμένες ή αντικοινωνικές συμπεριφορές, προσφέροντας υποστηρικτικά σχόλια ακόμα και σε απαντήσεις που περιείχαν σαφώς προβληματικές τοποθετήσεις.

Η OpenAI δήλωσε ότι ο στόχος του ChatGPT ήταν να είναι «χρήσιμο, υποστηρικτικό και με σεβασμό προς διαφορετικές αξίες και εμπειρίες», αλλά αναγνώρισε πως αυτά τα θετικά χαρακτηριστικά μπορεί να οδηγήσουν σε ανεπιθύμητα αποτελέσματα όταν δεν συνδυάζονται με τους κατάλληλους φραγμούς.

«Προχωρούμε στην ενίσχυση των μηχανισμών που αποτρέπουν την υπερβολική κολακεία και επιδιώκουμε μεγαλύτερη διαφάνεια», ανέφερε η εταιρεία, προσθέτοντας πως εξετάζει τρόπους ώστε οι χρήστες να έχουν περισσότερο έλεγχο στη «συμπεριφορά» του μοντέλου, εφόσον αυτό μπορεί να γίνει με ασφαλή και υπεύθυνο τρόπο.

Ο Άλτμαν έγραψε επίσης πως η OpenAI θα δημοσιεύσει σύντομα περισσότερες πληροφορίες σχετικά με τις αλλαγές που σχεδιάζονται στην «προσωπικότητα» του ChatGPT.

Σύμφωνα με την εταιρεία, το ChatGPT χρησιμοποιείται από περίπου 500 εκατομμύρια ανθρώπους κάθε εβδομάδα.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Aeneas: Η Google και ο Έλληνας Γιάννης Ασσαέλ δίνουν νέα ζωή στις ρωμαϊκές επιγραφές με εργαλείο AI

Τech & Science / Aeneas: Η Google και ο Έλληνας Γιάννης Ασσαέλ δίνουν νέα ζωή στις ρωμαϊκές επιγραφές με εργαλείο AI

Το σύστημα, που ονομάζεται Aeneas από τον μυθικό Τρωικό ήρωα, βοηθά τους ιστορικούς να ερμηνεύσουν, να αποδώσουν και να αποκαταστήσουν αρχαίες ρωμαϊκές επιγραφές
LIFO NEWSROOM
«Η ανθρωπότητα νίκησε»: Ποια είναι η ιδιοφυΐα που κέρδισε το ChatGPT στον κορυφαίο διαγωνισμό προγραμματισμού

Τech & Science / «Η ανθρωπότητα νίκησε»: Ποια είναι η ιδιοφυΐα που κέρδισε το ChatGPT στον κορυφαίο διαγωνισμό προγραμματισμού

Όπως λέει, «δεν είχε ποτέ πραγματικό σχέδιο για τη ζωή» και τυπικά έχει μόνο δευτεροβάθμια εκπαίδευση, καθώς δεν ολοκλήρωσε τις πανεπιστημιακές του σπουδές
LIFO NEWSROOM
Στέλεχος βακτηρίου ανθεκτικό στα αντιβιοτικά εξαπλώνεται στην Ευρώπη, προειδοποιούν επιστήμονες

Τech & Science / Στέλεχος βακτηρίου ανθεκτικό στα αντιβιοτικά εξαπλώνεται στην Ευρώπη, προειδοποιούν επιστήμονες

Εντοπίστηκε για πρώτη φορά πριν από σχεδόν μια δεκαετία στην Ολλανδία και τη Γερμανία, και έκτοτε έχει εξαπλωθεί σε τουλάχιστον εννέα ακόμη ευρωπαϊκές χώρες
LIFO NEWSROOM
Η Γη περιστρέφεται πιο γρήγορα και ίσως χρειαστεί να «αφαιρεθεί» ένα δευτερόλεπτο για πρώτη φορά στην ιστορία

Τech & Science / Η Γη περιστρέφεται πιο γρήγορα και ίσως χρειαστεί να «αφαιρεθεί» ένα δευτερόλεπτο για πρώτη φορά στην ιστορία

Μικρότερες ημέρες, μεγάλη ανησυχία για τους χρονομέτρες: Μια απροσδόκητη επιτάχυνση της Γης φέρνει για πρώτη φορά το ενδεχόμενο ενός «αρνητικού δευτερολέπτου»
LIFO NEWSROOM
Explainer: Γιατί η Nvidia αξίζει περισσότερο από την Apple και την Tesla μαζί

Explainer / Γιατί η Nvidia αξίζει περισσότερο από την Apple και την Tesla μαζί

Η Nvidia δεν έχει oρατή παρουσία στην καθημερινότητα των περισσότερων ανθρώπων, όμως χωρίς την τεχνολογία της, πολλές από τις συσκευές και τις υπηρεσίες που σήμερα αποκαλούμε «έξυπνες» δεν θα ήταν εφικτές
LIFO NEWSROOM
Αντηλιακό και εντομοαπωθητικό μαζί μειώνουν την προστασία από την υπεριώδη ακτινοβολία

Τech & Science / Αντηλιακό και εντομοαπωθητικό μαζί μειώνουν την προστασία από την υπεριώδη ακτινοβολία

Επιστήμονες του CNRS στη Γαλλία διαπίστωσαν ότι ο συνδυασμός αντηλιακού και εντομοαπωθητικού επηρεάζει αρνητικά την αποτελεσματικότητα του πρώτου – Τι έδειξαν οι δοκιμές σε ανθρώπινο δέρμα
LIFO NEWSROOM