Τα εργαλεία τεχνητής νοημοσύνης (AI) θα μπορούσαν να χρησιμοποιηθούν για να χειραγωγήσουν το διαδικτυακό κοινό στη λήψη αποφάσεων – από το τι να αγοράσετε μέχρι ποιον να ψηφίσετε – σύμφωνα με ερευνητές του Πανεπιστημίου του Κέιμπριτζ.
Η έρευνα αφορά στην αναδυόμενη νέα αγορά για «ψηφιακά σήματα πρόθεσης» – γνωστή ως «οικονομία προθέσεων» – όπου οι βοηθοί τεχνητής νοημοσύνης κατανοούν, προβλέπουν και χειραγωγούν τις ανθρώπινες προθέσεις, πωλώντας αυτές τις πληροφορίες σε εταιρείες.
Η οικονομία προθέσεων διαφημίζεται από ερευνητές στο Leverhulme Centre for the Future of Intelligence (LCFI) του Κέιμπριτζ ως διάδοχος της οικονομίας της προσοχής, όπου τα κοινωνικά δίκτυα κρατούν τους χρήστες «γαντζωμένους» στις πλατφόρμες τους και τους προσφέρουν διαφημίσεις.
Η οικονομία προθέσεων περιλαμβάνει εταιρείες τεχνολογίας με γνώσεις τεχνητής νοημοσύνης που πωλούν ό,τι γνωρίζουν για τα κίνητρά σας, από σχέδια διαμονής σε ξενοδοχείο έως απόψεις για έναν πολιτικό υποψήφιο. «Για δεκαετίες, η προσοχή ήταν το νόμισμα του Διαδικτύου», είπε ο Δρ Jonnie Penn, ιστορικός τεχνολογίας στο LCFI. «Η κοινή χρήση της προσοχής σας με πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το Facebook και το Instagram οδήγησε στην online οικονομία».
Και πρόσθεσε: «Εκτός εάν ρυθμιστεί, η οικονομία προθέσεων θα αντιμετωπίσει τα κίνητρά σας ως το νέο νόμισμα. Θα είναι χρυσός για όσους στοχεύουν, κατευθύνουν και πουλάνε ανθρώπινες προθέσεις. Θα πρέπει να αρχίσουμε να εξετάζουμε τον πιθανό αντίκτυπο που θα είχε μια τέτοια αγορά στις ανθρώπινες φιλοδοξίες, συμπεριλαμβανομένων των ελεύθερων και δίκαιων εκλογών, του ελεύθερου Τύπου και του θεμιτού ανταγωνισμού στην αγορά, προτού γίνουμε θύματα των ακούσιων συνεπειών της».
Η μελέτη εγείρει ένα σενάριο όπου αυτά τα παραδείγματα «δημιουργούνται δυναμικά» για να αντιστοιχίσουν παράγοντες όπως τα «προσωπικά ίχνη συμπεριφοράς» και το «ψυχολογικό προφίλ» ενός χρήστη.
«Σε μια οικονομία πρόθεσης, ένα μοντέλο τεχνητής νοημοσύνης θα μπορούσε, με χαμηλό κόστος, να αξιοποιήσει τον ρυθμό, την πολιτική, το λεξιλόγιο, την ηλικία, το φύλο, τις προτιμήσεις κ.λπ., για παράδειγμα για να πουλήσει ένα εισιτήριο ταινίας», προτείνει η μελέτη. Σε έναν τέτοιο κόσμο, ένα μοντέλο τεχνητής νοημοσύνης θα κατευθύνει τις συνομιλίες μας προς την υπηρεσία των διαφημιστών, των επιχειρήσεων και άλλων τρίτων.
Οι διαφημιστές θα μπορούν να χρησιμοποιούν εργαλεία δημιουργίας τεχνητής νοημοσύνης για τη δημιουργία ειδικών διαδικτυακών διαφημίσεων, υποστηρίζει η έκθεση. Αναφέρει επίσης το παράδειγμα ενός μοντέλου AI που δημιουργήθηκε από το Meta του Μαρκ Ζούκερμπεργκ, που ονομάζεται Cicero, το οποίο έχει επιτύχει με ικανότητα «ανθρώπινου επιπέδου» να παίζει το επιτραπέζιο παιχνίδι Diplomacy – ένα παιχνίδι που οι συγγραφείς λένε ότι εξαρτάται από το συμπέρασμα και την πρόβλεψη της πρόθεσης των αντιπάλων.
Στη συνέχεια, η μελέτη εγείρει ένα μελλοντικό σενάριο όπου η Meta θα δημοπρατήσει σε διαφημιστές την πρόθεση ενός χρήστη να κλείσει ένα εστιατόριο, πτήση ή ξενοδοχείο. Αν και υπάρχει ήδη ένας κλάδος που είναι αφοσιωμένος στην πρόβλεψη και την υποβολή προσφορών για την ανθρώπινη συμπεριφορά, ανέφερε η έκθεση, τα μοντέλα τεχνητής νοημοσύνης θα αποστάξουν αυτές τις πρακτικές σε μια «υψηλά ποσοτικοποιημένη, δυναμική και εξατομικευμένη μορφή».
Η μελέτη αναφέρει ότι η ερευνητική ομάδα πίσω από το Cicero προειδοποίησε ότι «ένας πράκτορας [AI] μπορεί να μάθει να ωθεί τον συνομιλητή του για να επιτύχει έναν συγκεκριμένο στόχο».
Η έρευνα αναφέρεται σε στελέχη τεχνολογίας που συζητούν πώς τα μοντέλα τεχνητής νοημοσύνης θα είναι σε θέση να προβλέψουν την πρόθεση και τις ενέργειες ενός χρήστη. Αναφέρει τον διευθύνοντα σύμβουλο του μεγαλύτερου κατασκευαστή τσιπ τεχνητής νοημοσύνης, Jensen Huang της Nvidia, ο οποίος είπε πέρυσι ότι τα μοντέλα θα «καταλάβουν ποια είναι η πρόθεσή σας, ποια είναι η επιθυμία σας, τι προσπαθείτε να κάνετε, δεδομένου του πλαισίου και θα παρουσιάσουν την ενημέρωση σας με τον καλύτερο δυνατό τρόπο».
Με πληροφορίες από Guardian
