Κορυφαίος ερευνητής ασφάλειας της Anthropic εκτιμά ότι η πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στον αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Ο Έβαν Χούμπινγκερ διευκρίνισε ότι θεωρεί χαμηλό τον κίνδυνο από τα σημερινά μοντέλα. Η ανησυχία του αφορά το ενδεχόμενο τα συστήματα να εξελιχθούν σύντομα σε πολύ πιο ισχυρές μορφές AI, ικανές να βελτιώνουν τις δυνατότητές τους και να αποκτούν όλο και μεγαλύτερη αυτονομία.
Σε ανάρτησή του στο X έγραψε ότι στην Anthropic «πραγματικά πιστεύουμε» πως η τεχνητή νοημοσύνη μπορεί να αποτελέσει κίνδυνο για την επιβίωση του ανθρώπινου είδους.
«Δεν έχουμε ακόμη σχέδιο για την υπερνοημοσύνη»
«Πιστεύω ότι η Anthropic κάνει ό,τι καλύτερο μπορεί, αλλά ακόμη δεν έχουμε σχέδιο για να λύσουμε το πρόβλημα της ευθυγράμμισης μιας υπερνοημοσύνης», ανέφερε.
Ο Χούμπινγκερ εργάζεται στον τομέα του AI alignment, δηλαδή στην προσπάθεια να διασφαλιστεί ότι τα συστήματα τεχνητής νοημοσύνης θα συνεχίσουν να ακολουθούν ανθρώπινους στόχους και περιορισμούς καθώς αποκτούν μεγαλύτερες δυνατότητες.
Οι δηλώσεις του ήρθαν ως απάντηση στον Τζέικομπ Κόξον, ερευνητή που μόλις είχε αποχωρήσει από την Anthropic και στο παρελθόν είχε εργαστεί στην OpenAI.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε ο Κόξον.
Υποστήριξε ότι τα συστήματα που αναπτύσσονται σήμερα μπορεί σύντομα να ξεπεράσουν τις ανθρώπινες δυνατότητες, να μπορούν να παραβιάζουν ψηφιακά συστήματα, να επιταχύνουν δραστικά την επιστημονική έρευνα και να αποκτούν πραγματική ισχύ και πόρους.
Την ίδια ώρα, οι Financial Times ανέφεραν ότι η Anthropic δεν έδωσε το νεότερο μοντέλο της στο βρετανικό AI Safety Institute, έναν από τους βασικούς δημόσιους φορείς διεθνώς για την αξιολόγηση της ασφάλειας προηγμένων μοντέλων.
Η βρετανική κυβέρνηση δεν επιβεβαίωσε την πληροφορία. Περιορίστηκε να δηλώσει ότι το ινστιτούτο συνεχίζει να συνεργάζεται στενά με την Anthropic και άλλες εταιρείες για την ασφάλεια της τεχνητής νοημοσύνης.
Οι κυβερνοεπιθέσεις που εντείνουν την ανησυχία
Οι ανησυχίες γύρω από τον έλεγχο των πιο προηγμένων συστημάτων έχουν ενισχυθεί και από περιστατικά του τελευταίου καλοκαιριού. OpenAI, Anthropic και Meta έχουν αναφέρει περιπτώσεις στις οποίες εργαλεία τεχνητής νοημοσύνης χρησιμοποιήθηκαν σε κυβερνοεπιθέσεις, ενώ ορισμένα από αυτά μπορούσαν να εκτελούν ενέργειες με σημαντικό βαθμό αυτονομίας.
Στη δική της έκθεση ασφάλειας τον Αύγουστο, η Anthropic εκτίμησε ότι παραμένει χαμηλή η πιθανότητα ένα μοντέλο της να αρχίσει να ενεργεί αντίθετα με τους στόχους των χειριστών του και να επιχειρεί να παρακάμπτει ή να αλλοιώνει τους μηχανισμούς ελέγχου του.
Χαμηλό χαρακτήρισε και τον κίνδυνο ένα ιδιαίτερα ικανό σύστημα να μπορεί να διεξάγει μόνο του έρευνα και ανάπτυξη με τρόπο που θα μπορούσε να προκαλέσει «καταστροφική βλάβη».
Η εταιρεία, ωστόσο, σημείωσε ότι έχει μικρότερη βεβαιότητα γι’ αυτή την εκτίμηση σε σχέση με το παρελθόν.
«Βλέπουμε πρώιμες ενδείξεις πιθανής επιτάχυνσης», ανέφερε.
Ο καθηγητής Μηχανικής Μάθησης στο Πανεπιστήμιο του Κέιμπριτζ Νιλ Λόρενς δήλωσε στο BBC ότι θεωρεί αξιόπιστη την πληροφορία των Financial Times για τη μη διάθεση του τελευταίου μοντέλου της Anthropic στο βρετανικό ινστιτούτο.
Κατά τον ίδιο, η εξέλιξη μπορεί να συνδέεται με τον ολοένα εντονότερο ανταγωνισμό ΗΠΑ και Κίνας στην τεχνητή νοημοσύνη και με την τάση της Ουάσιγκτον να αντιμετωπίζει τον τομέα περισσότερο ως ζήτημα στρατηγικής ισχύος.
Νωρίτερα τον Σεπτέμβριο, ο επικεφαλής επιστήμονας της OpenAI Γιάκουμπ Πατσότσκι είχε επίσης ζητήσει «ακραία προσοχή» στην ανάπτυξη της AI και είχε προειδοποιήσει ότι μπορεί να χρειαστούν περισσότερα μέτρα ώστε «οι άνθρωποι να παραμείνουν στον έλεγχο του μέλλοντος».
Στελέχη του κλάδου ζητούν να μπορεί να επιβραδύνεται η ανάπτυξη της AI
Την ανάγκη να επιβραδυνθεί, εφόσον χρειαστεί, η ανάπτυξη των ισχυρότερων συστημάτων έχουν θέσει δημόσια και κορυφαία στελέχη της Anthropic.
Ο διευθύνων σύμβουλος της εταιρείας Ντάριο Αμοντέι και ο συνιδρυτής της Τζάρεντ Κάπλαν συγκαταλέγονται στους περίπου 1.300 εργαζομένους εταιρειών τεχνητής νοημοσύνης που υπέγραψαν ανοιχτή επιστολή προς την αμερικανική κυβέρνηση.
Οι υπογράφοντες ζητούν από τις ΗΠΑ να στηρίξουν μια διεθνή προσπάθεια για τη δημιουργία τεχνικών και θεσμικών μηχανισμών που θα επιτρέπουν να ελέγχεται ο ρυθμός ανάπτυξης των πιο προηγμένων συστημάτων AI.
Το αίτημα αφορά κυρίως την επόμενη γενιά μοντέλων που θα μπορούν να αυτοματοποιούν μεγάλο μέρος της ίδιας της έρευνας πάνω στην τεχνητή νοημοσύνη. Ο φόβος είναι ότι, αν τα συστήματα αρχίσουν να επιταχύνουν μόνα τους την ανάπτυξη ακόμη ισχυρότερων μοντέλων, οι δυνατότητές τους μπορεί να αυξηθούν πολύ ταχύτερα απ’ όσο μπορούν να τις αξιολογήσουν οι εταιρείες και οι αρμόδιες αρχές.
Ο Χούμπινγκερ δεν εξήγησε με ποιον ακριβώς τρόπο θεωρεί ότι μια μελλοντική AI θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας. Η εκτίμησή του αφορά το ενδεχόμενο να δημιουργηθούν εξαιρετικά ισχυρά συστήματα χωρίς να έχει προηγουμένως λυθεί το πρόβλημα του ελέγχου τους.
Η Anthropic δεν είχε απαντήσει στο BBC για τις δηλώσεις του ερευνητή της, ενώ και η OpenAI κλήθηκε να σχολιάσει τις κατηγορίες του Κόξον ότι οι δύο εταιρείες δεν ενεργούν υπεύθυνα.
Με πληροφορίες από BBC
