Τρία από τα κορυφαία στελέχη του κλάδου της τεχνητής νοημοσύνης τάχθηκαν υπέρ της επιβράδυνσης του καταιγιστικού ρυθμού της τεχνολογικής προόδου και της ανάπτυξης της τεχνητής νοημοσύνης, αποκαλύπτοντας την αυξανόμενη ανησυχία για τους πιθανούς κινδύνους της.
Η έκκληση αυτή διατυπώθηκε για πρώτη φορά σε ένα δοκίμιο που δημοσίευσε στο διαδίκτυο το Σάββατο ο επικεφαλής της Anthropic, Ντάριο Αμοντέι.
Η ιδέα έχει κερδίσει έδαφος τις τελευταίες εβδομάδες, καθώς οι εταιρείες τεχνητής νοημοσύνης δυσκολεύονται σε ορισμένες περιπτώσεις να διατηρήσουν τις δημιουργίες τους υπό έλεγχο, ακόμη και ενώ εγκαινιάζουν μια εποχή στην οποία τα ίδια τα συστήματα τεχνητής νοημοσύνης μπορούν να κατασκευάσουν την πιο ισχυρή επόμενη γενιά της τεχνολογίας.
Η ανάγκη επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», έγραψε ο Αμοντέι. «Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε».
Μέσα σε λίγες ώρες το Σάββατο, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο ιδρυτής της SpaceXAI, Έλον Μασκ, εξέφρασαν αμέσως την υποστήριξή τους στις ιδέες του Αμοντέι. Οι τρεις άνδρες υπήρξαν σφοδροί αντίπαλοι — με έντονες διαφορές στον προσωπικό τους τρόπο δράσης και στις φιλοσοφίες τους σχετικά με την τεχνητή νοημοσύνη — και η φαινομενική τους συμφωνία αυξάνει τις πιθανότητες ο κλάδος να βρει τρόπους να συνεργαστεί για μια ευρεία επιβράδυνση.
Θα πρέπει να ξεπεραστούν σοβαρά εμπόδια. Δεν είναι ακόμη σαφές πώς ακριβώς θα οριστεί και θα επαληθευτεί μια επιβράδυνση, ενώ οποιαδήποτε κοινή προσπάθεια μεταξύ εταιρειών για την επιβράδυνση της ανάπτυξης θα μπορούσε να παραβιάζει τους νόμους περί ανταγωνισμού. Το ζήτημα του πώς θα οικοδομηθεί η διεθνής συνεργασία — ειδικά με την Κίνα, της οποίας οι εταιρείες τεχνητής νοημοσύνης επιδιώκουν να καλύψουν τη διαφορά από τους αμερικανούς ανταγωνιστές τους — ενδέχεται να αποδειχθεί δύσκολο να απαντηθεί.
Παρ’ όλα αυτά, η συγκεκριμένη στιγμή υπογραμμίζει τις αυξανόμενες ανησυχίες σχετικά με μια τεχνολογία που ακόμη και οι ίδιοι οι δημιουργοί της δυσκολεύονται να κατανοήσουν πλήρως.
Αυτό συμβαίνει μετά την ανακοίνωση ενός ερευνητή της Anthropic αυτή την εβδομάδα ότι παραιτείται λόγω ανησυχιών ότι η εταιρεία και οι ανταγωνιστές της δεν αναπτύσσουν υπεύθυνα μοντέλα τεχνητής νοημοσύνης που θα μπορούσαν τελικά να εξαφανίσουν την ανθρωπότητα. Ο ερευνητής, Τζέικομπ Κόξον, ο οποίος εργάστηκε επίσης για την OpenAI, ανταγωνίστρια της Anthropic, κατηγόρησε τις εταιρείες ότι επικεντρώνονται περισσότερο στον ανταγωνισμό μεταξύ τους παρά στην ασφάλεια των προϊόντων τους.
Η προειδοποίησή του προβλημάτισε τους νομοθέτες, μετά από χρόνια αδράνειας όσον αφορά τη ρύθμιση της τεχνητής νοημοσύνης στο Κογκρέσο.
Νέα περιστατικά προκαλούν ανησυχία
Ένα σχέδιο τριών βημάτων που πρότεινε ο Αμοντέι στο δοκίμιό του θα περιλαμβάνει τη συμμετοχή ανεξάρτητων αξιολογητών ασφάλειας σε «πρωτοπόρες» εταιρείες τεχνητής νοημοσύνης, τη θέσπιση κοινών προτύπων ασφάλειας στις δημοκρατικές χώρες, καθώς και τη συνεργασία των Ηνωμένων Πολιτειών και άλλων δημοκρατιών με αυταρχικές κυβερνήσεις, προκειμένου να διασφαλιστεί η συμμόρφωση.
Σημείωσε ότι η τεχνητή νοημοσύνη άρχισε να εξελίσσεται με δραματικά ταχύτερο ρυθμό τους τελευταίους μήνες. Η αλλαγή αυτή τροφοδοτήθηκε από την ικανότητα της τεχνητής νοημοσύνης να κατασκευάζει τα δικά της μοντέλα επόμενης γενιάς, κάτι που είναι γνωστό ως «επαναλαμβανόμενη αυτοβελτίωση», ανέφερε.
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα, και γι’ αυτό πρέπει να προχωρήσουμε με μεγάλη προσοχή, αν είναι όντως να προχωρήσουμε», είπε.
Ενώ ο Αμοντέι σκιαγράφησε μια πορεία για την επιβράδυνση της προόδου στο όνομα της ασφάλειας, δεν δεσμεύτηκε εκ μέρους της Anthropic να μειώσει μονομερώς το ρυθμό της δικής της εργασίας. Είπε μόνο ότι, προς το παρόν, η εταιρεία θα προσλάμβανε μια ομάδα ανεξάρτητων αξιολογητών, οι οποίοι θα ενσωματώνονταν στα γραφεία της Anthropic και θα είχαν την εξουσία να εκφράζουν ανησυχίες σχετικά με την ασφάλεια.
Ο Αμοντέι έδωσε επίσης λίγες λεπτομέρειες σχετικά με το τι θα μπορούσε να συνεπάγεται στην πράξη μια τέτοια επιβράδυνση, περιγράφοντας τη δυνατότητα χρήσης συμφωνημένων δεικτών ασφάλειας ή περιορισμών στην υπολογιστική ισχύ που χρησιμοποιείται για την εκπαίδευση νέων συστημάτων τεχνητής νοημοσύνης.
Ένα περιστατικό κυβερνοασφάλειας τον Ιούλιο προκάλεσε ανησυχία, όταν ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης που δημιουργήθηκαν από την OpenAI εισέβαλαν ανεξάρτητα στα συστήματα μιας νεοφυούς επιχείρησης τεχνητής νοημοσύνης που ονομάζεται Hugging Face.
Ο Αμοντέι ανέφερε ότι ενήργησαν ως «φανατικά αφοσιωμένη ομάδα», θυσιάζοντας τον εαυτό τους για την επίτευξη του στόχου και προσπαθώντας να εισβάλουν στο ίδιο τους το σύστημα παρακολούθησης της απόδοσης.
«Είναι εύκολο να αγνοήσουμε αυτό το περιστατικό, καθώς κανείς δεν τραυματίστηκε και η οικονομική ζημιά ήταν ελάχιστη, αλλά κατά τη γνώμη μου, ένα «σμήνος» που θα διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο απόκλισης θα μπορούσε να είχε προκαλέσει καταστροφικές ζημιές», ανέφερε.
Συμφωνία απόψεων από Ντάριο Αμοντέι, Σαμ Άλτμαν και Έλον Μασκ
Ο Αμοντέι δήλωσε ότι, δεδομένου του ρυθμού ανάπτυξης των μοντέλων τεχνητής νοημοσύνης, ανησυχεί ότι ανεξέλεγκτα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να έχουν τη δύναμη να καταλάβουν ολόκληρο το Διαδίκτυο μέσα σε διάστημα από έξι μήνες έως ένα έτος και ενδεχομένως να προκαλέσουν ζημίες ύψους εκατοντάδων δισεκατομμυρίων δολαρίων.
Ένα παρόμοιο περιστατικό πειρατείας σημειώθηκε επίσης στην Anthropic, υπογραμμίζοντας την ανάγκη για μέτρα προστασίας, πρόσθεσε.
Σε μια ανάρτηση στο X, ο Μασκ έγραψε: «Ο Ντάριο έχει δίκιο».
Ο Άλτμαν δήλωσε ότι συμμερίζεται την άποψη του Αμοντέι ότι οι πρωτοποριακές εταιρείες τεχνητής νοημοσύνης πρέπει να «χαράσσουν τα όρια» και ανέφερε ότι το θέμα αποτελούσε κορυφαίο θέμα συζήτησης στην OpenAI τις τελευταίες εβδομάδες.
«Η δέσμευση για την ύπαρξη ανεξάρτητων αξιολογητών με πρόσβαση παρόμοια με αυτή των υπαλλήλων είναι μια εξαιρετική ιδέα, και θα πράξουμε το ίδιο», έγραψε ο Άλτμαν στο X.
Η Google, η οποία θεωρείται μία από τις τρεις κορυφαίες εταιρείες τεχνητής νοημοσύνης μαζί με την Anthropic και την OpenAI, δεν ενέκρινε αμέσως την πρόταση του Αμοντέι για την προσέλκυση ανεξάρτητων ελεγκτών.
Ο Αμοντέι δήλωσε ότι εξακολουθεί να πιστεύει ότι η τεχνητή νοημοσύνη μπορεί να βελτιώσει σημαντικά την ανθρώπινη ζωή, αλλά ότι απαιτούνται μέτρα προστασίας.
«Τα μέτρα που προτείνω για να προωθήσουμε τα όρια με ασφαλή ρυθμό δεν θα είναι εύκολα», είπε. «Πιστεύω όμως ότι οφείλουμε στην ανθρωπότητα να προσπαθήσουμε».
Με πληροφορίες από Washington Post
