Οι εταιρείες τεχνητής νοημοσύνης παλεύουν με μια πρόκληση που οι άνθρωποι αντιμετωπίζουν από τότε που υπάρχουν: πώς να διατηρούν τις αναμνήσεις τους.
Η OpenAI, η Google, η Meta και η Microsoft έχουν εστιάσει περισσότερο στη μνήμη τους τους τελευταίους μήνες, κυκλοφορώντας αναβαθμίσεις που επιτρέπουν στα chatbots τους να αποθηκεύουν μεγαλύτερο όγκο πληροφοριών του χρήστη για να εξατομικεύουν τις απαντήσεις τους. Η κίνηση αυτή θεωρείται ως ένα σημαντικό βήμα που θα βοηθήσει τους κορυφαίους ομίλους τεχνητής νοημοσύνης να προσελκύσουν πελάτες σε μια ανταγωνιστική αγορά για chatbots και πράκτορες, καθώς και ως ένα μέσο για τη δημιουργία εσόδων από την τεχνολογία αιχμής.
Όμως, οι επικριτές έχουν προειδοποιήσει ότι η εξέλιξη αυτή θα μπορούσε επίσης να χρησιμοποιηθεί για την εκμετάλλευση των χρηστών με σκοπό το εμπορικό όφελος, καθώς και να εγείρει ανησυχίες για την προστασία της ιδιωτικής ζωής.
«Εάν έχετε έναν πράκτορα που σας γνωρίζει πραγματικά, επειδή έχει διατηρήσει αυτή τη μνήμη των συνομιλιών, καθιστά την όλη υπηρεσία πιο κολλώδη, έτσι ώστε μόλις υπογράψετε για τη χρήση [ενός προϊόντος] να μην πάτε ποτέ σε άλλο» δήλωσε η Pattie Maes, καθηγήτρια στο εργαστήριο μέσων του ΜΙΤ και ειδικός στην ανθρώπινη αλληλεπίδραση με την τεχνητή νοημοσύνη.
Τα AI chatbots, όπως το Gemini της Google και το ChatGPT της OpenAI, έχουν κάνει τεράστια βήματα προόδου. Οι βελτιώσεις περιλαμβάνουν την επέκταση των παραθύρων πλαισίου, τα οποία καθορίζουν πόσο μεγάλο μέρος μιας συνομιλίας μπορεί να θυμάται ταυτόχρονα ένα chatbot, και τη χρήση τεχνικών όπως η ανάκτηση-ενισχυμένη παραγωγή, η οποία εντοπίζει το σχετικό πλαίσιο από εξωτερικά δεδομένα.
Η εξατομίκευση ως ανταγωνιστικό πλεονέκτημα και εργαλείο κερδοφορίας
Οι ομάδες τεχνητής νοημοσύνης έχουν επίσης ενισχύσει τη μακροπρόθεσμη μνήμη των μοντέλων τεχνητής νοημοσύνης, αποθηκεύοντας προφίλ και προτιμήσεις χρηστών για να παρέχουν πιο χρήσιμες και εξατομικευμένες απαντήσεις. Για παράδειγμα, ένα chatbot μπορεί να θυμάται αν ένας χρήστης είναι χορτοφάγος και να ανταποκρίνεται ανάλογα όταν παρέχει συστάσεις εστιατορίων ή συνταγές.
Τον Μάρτιο, η Google επέκτεινε τη μνήμη του Gemini στο ιστορικό αναζήτησης ενός χρήστη - εφόσον το άτομο δίνει την άδεια - σε σύγκριση με το ότι προηγουμένως περιοριζόταν στις συνομιλίες με το chatbot, και σχεδιάζει να το επεκτείνει και σε άλλες εφαρμογές της Google στο μέλλον.
«Ακριβώς όπως και με έναν ανθρώπινο βοηθό ... όσο περισσότερο καταλαβαίνει τους στόχους σας και το ποιος είστε και με τι ασχολείστε, τόσο καλύτερη είναι η βοήθεια που θα μπορέσει να προσφέρει» δήλωσε ο Michael Siliski, ανώτερος διευθυντής διαχείρισης προϊόντων στο Google DeepMind.
Το ChatGPT της OpenAI και το chatbot της Meta στο WhatsApp και το Messenger μπορούν να αναφέρονται σε προηγούμενες συνομιλίες, αντί μόνο στην τρέχουσα συνεδρία. Οι χρήστες μπορούν να διαγράψουν συγκεκριμένες μνήμες από τις ρυθμίσεις και ενημερώνονται όταν το μοντέλο δημιουργεί μια μνήμη με ένα μήνυμα στην οθόνη.
«Η μνήμη βοηθά το ChatGPT να γίνει πιο χρήσιμο με την πάροδο του χρόνου, κάνοντας τις απαντήσεις πιο σχετικές. Έχετε πάντα τον έλεγχο - μπορείτε να ρωτήσετε το ChatGPT τι θυμάται για εσάς, να κάνετε αλλαγές στις αποθηκευμένες αναμνήσεις και τις προηγούμενες συνομιλίες ή να απενεργοποιήσετε τη μνήμη ανά πάσα στιγμή», δήλωσε η OpenAI.
Για τις επιχειρήσεις, η Microsoft έχει χρησιμοποιήσει οργανωτικά δεδομένα για να ενημερώσει τη μνήμη, όπως email, ημερολόγια και αρχεία intranet. Τον περασμένο μήνα, ο τεχνολογικός γίγαντας άρχισε να αναπτύσσει μια προεπισκόπηση του Recall σε ορισμένες συσκευές, μια λειτουργία που καταγράφει τη δραστηριότητα του χρήστη λαμβάνοντας στιγμιότυπα οθόνης από την οθόνη του υπολογιστή του. Οι χρήστες μπορούν να εξαιρεθούν ή να διακόψουν τα στιγμιότυπα οθόνης.
Όταν ανακοινώθηκε για πρώτη φορά τον περασμένο Μάιο, προκάλεσε την ανησυχία της κοινότητας κυβερνοασφάλειας και άλλων που το χαρακτήρισαν «ανατριχιαστικό», με αποτέλεσμα η Microsoft να καθυστερήσει αρκετές φορές την κυκλοφορία του.
Οι εταιρείες τεχνητής νοημοσύνης στοιχηματίζουν επίσης ότι η βελτιωμένη μνήμη θα μπορούσε να διαδραματίσει μεγάλο ρόλο στην ενίσχυση της κερδοφορίας μέσω του μάρκετινγκ θυγατρικών και της διαφήμισης.
Ο διευθύνων σύμβουλος της Meta, Μαρκ Ζούκερμπεργκ, δήλωσε κατά την κλήση για τα κέρδη της τον περασμένο μήνα ότι «θα υπάρξει μεγάλη ευκαιρία για την προβολή συστάσεων προϊόντων ή διαφημίσεων» στο chatbot της.
Τον περασμένο μήνα, η OpenAI βελτίωσε τις προσφορές της για αγορές στο ChatGPT για να εμφανίζει καλύτερα προϊόντα και κριτικές. Η εταιρεία δήλωσε στους Financial Times ότι δεν έχει συνδέσμους θυγατρικών «αυτή τη στιγμή».
Κίνδυνος εκμετάλλευσης των προσωπικών δεδομένων
Όμως, η εξάπλωση των μεγαλύτερων δυνατοτήτων μνήμης σε όλα τα LLM έχει επίσης εγείρει ανησυχίες για την προστασία της ιδιωτικής ζωής, καθώς οι ρυθμιστικές αρχές σε όλο τον κόσμο παρακολουθούν στενά πώς τα μοντέλα μπορούν να χειραγωγούν τους χρήστες για κέρδος.
Η αυξημένη μνήμη μπορεί επίσης να οδηγήσει τα μοντέλα να προσπαθούν πολύ σκληρά να προσαρμόσουν τις απαντήσεις τους στις προτιμήσεις των χρηστών, ενισχύοντας τις προκαταλήψεις ή τα λάθη. Τον περασμένο μήνα, η OpenAI ζήτησε συγγνώμη αφού διαπιστώθηκε ότι το μοντέλο GPT-4o ήταν υπερβολικά κολακευτικό και ευχάριστο και επανέφερε το μοντέλο σε μια προηγούμενη έκδοση.
Γενικότερα, τα μοντέλα τεχνητής νοημοσύνης μπορεί να έχουν παραισθήσεις, δημιουργώντας αναληθείς ή μη λογικές απαντήσεις, και να παρουσιάζουν «παρέκκλιση μνήμης», όπου οι αναμνήσεις ξεπερνούν ή αντιφάσκουν μεταξύ τους, επηρεάζοντας την ακρίβεια.
«Όσο περισσότερα γνωρίζει ένα σύστημα για εσάς, τόσο περισσότερο μπορεί να χρησιμοποιηθεί για αρνητικούς σκοπούς, είτε για να σας κάνει να αγοράσετε πράγματα είτε για να σας πείσει για συγκεκριμένες πεποιθήσεις», δήλωσε ο Maes, καθηγητής του ΜΙΤ. "Πρέπει λοιπόν να αρχίσετε να σκέφτεστε τα υποκείμενα κίνητρα των εταιρειών που προσφέρουν αυτές τις υπηρεσίες".
Με πληροφορίες από Financial Times
