Οι δημιουργοί ενός επαναστατικού προγράμματος Τεχνητής Νοημοσύνης το οποίο μπορεί να γράψει κείμενα, ειδήσεις και έργα φαντασίας, ανακοίνωσαν πως αποφάσισαν να μην δημοσιοποιήσουν την έρευνά τους καθώς φοβούνται πως κάτι τέτοιο θα ήταν επικίνδυνο.
Η OpenAI, μια μη κερδοσκοπική ερευνητική εταιρεία που υποστηρίζεται από τον Έλον Μασκ, λέει ότι το νέο πρόγραμμα τεχνητής νοημοσύνης, που ονομάζεται GPT2, είναι τόσο καλό και ο κίνδυνος κακόβουλης χρήσης τόσο υψηλός, ώστε να αποφασίσει πως δεν θα προχωρήσει στην απελευθέρωση της πλήρους έρευνας στο κοινό.
Η εταιρία αναφέρει πως απαιτείται περισσότερος χρόνος για να αναλυθούν οι συνέπειες της τεχνολογικής εξέλιξης, σύμφωνα με όσα γράφει ο Guardian.
Στον πυρήνα του, το GPT2 είναι μια γεννήτρια κειμένου, αλλά αποδείχθηκε πανίσχυρη. Το σύστημα τροφοδοτείται με κείμενο, από λίγα λόγια μέχρι μια ολόκληρη σελίδα και του ζητείται να γράψει τις επόμενες προτάσεις που βασίζονται στις προβλέψεις του για το τι θα ακολουθήσει.
Όταν χρησιμοποιείται για να παράγει απλά νέο κείμενο, το GPT2 είναι σε θέση να γράφει φυσιολογικά περάσματα που ταιριάζουν με αυτά που του δόθηκαν τόσο σε στιλ όσο και σε θέμα.
Το πρόγραμμα σπάνια απέτυχε να συνεχίσει το κείμενο με αστοχίες ενώ αναφέρεται πως όταν σε δοκιμή του δόθηκε να συνεχίζει ένα απόσπασμα από το «1984» του Τζορτζ Όργουελ, τότε αυτό πέτυχε να διατηρήσει ακόμη και το λογοτεχνικό ύφος του συγγραφέα.
Από την άποψη της έρευνας, το GPT2 είναι πρωτοποριακό με δύο τρόπους. Το ένα είναι το μέγεθός του, καθώς μπορεί να διαχειριστεί τεράστιο όγκο πληροφοριών σε σχέση με τα προηγούμενα προγράμματα και «εκπαιδεύτηκε» να λειτουργεί και να επεξεργάζεται έναν εξίσου τεράστιο όγκο εκατομμυρίων κειμένων που έφτασε τα 40 GB
Επίσης μπορεί να εκτελέσει παράλληλες εργασίες, συμπεριλαμβανομένης της μετάφρασης και της συνοπτικής παρουσίασης, και να περάσει απλές δοκιμασίες κατανόησης της ανάγνωσης, καλύτερα και από άλλα συστήματα AI που έχουν σχεδιαστεί ειδικά για αυτά τα καθήκοντα.
Αυτές όμως οι επιδόσεις θα κρατήσουν το GPT2 πίσω από κλειστές πόρτες για την ώρα, καθώς εκτιμάται πως οι συνέπειες θα ήταν απρόβλεπτες αν έπεφτε στα χέρια κακόβουλων χρηστών.
«Πρέπει να εκτελέσουμε πειράματα για να μάθουμε τι μπορούν και δεν μπορούν να κάνουν με το σύστημα», δήλωσε ο Jack Clark, ο επικεφαλής της μη κερδοσκοπικής ερευνητικής εταιρείας εξηγώντας πως δε είναι σε θέση να προβλέψουν πώς μπορεί να χρησιμοποιηθεί.
Για να δείξει τι σημαίνει αυτό, η OpenAI έκανε μια έκδοση του GPT2 με λίγες μικρές τροποποιήσεις, που μπορεί να χρησιμοποιηθεί για τη δημιουργία άπειρων θετικών ή αρνητικών κριτικών για προϊόντα.
Τα ανεπιθύμητα μηνύματα και τα ψεύτικα νέα είναι δύο άλλα προφανή δυνητικά μειονεκτήματα. Καθώς εκπαιδεύεται στο διαδίκτυο, δεν είναι δύσκολο να το ενθαρρύνει κάποιος να δημιουργήσει κείμενο φανατισμού, θεωρίες συνωμοσίας και ούτω καθεξής.
Για την ώρα το πρόγραμμα θα μείνει στο εργαστήριο και θα μελετηθεί περαιτέρω καθώς η αναπάντεχη επιτυχία του ίσως τελικά να χρειάζεται περιορισμό
σχόλια