Ο επικεφαλής της εταιρείας τεχνητής νοημοσύνης, Anthropic, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης των μοντέλων τεχνητής νοημοσύνης και να παρακολουθείται στενά.
Σε άρθρο του, ο Ντάριο Αμοντέι δήλωσε ότι η ανάπτυξη της τεχνητής νοημοσύνης δεν τίθεται υπό αμφισβήτηση, ωστόσο οι κίνδυνοι που τη συνοδεύουν είναι «σοβαροί» και οι εταιρείες και οι κυβερνήσεις πρέπει να έχουν χρόνο για να τους αντιμετωπίσουν.
Πρότεινε ένα σχέδιο τριών σημείων, το οποίο περιλαμβάνει ανεξάρτητη παρακολούθηση των μοντέλων τεχνητής νοημοσύνης κατά τη διάρκεια της ανάπτυξής τους, ρυθμίσεις που θα ισχύουν για ολόκληρο τον κλάδο και παγκόσμια ρύθμιση.
Το τελευταίο διάστημα αυξάνονται οι ανησυχίες για τους πιθανούς κινδύνους της τεχνολογίας. Ο σοβαρότερος από αυτούς αφορά εκτιμήσεις σύμφωνα με τις οποίες υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη «να σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Η Anthropic είχε ανακοινώσει στο παρελθόν ότι εντόπισε και ανέκοψε απόπειρες χρήσης του μοντέλου τεχνητής νοημοσύνης της για «κακόβουλη δραστηριότητα», η οποία θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων.
Οι προειδοποιήσεις δύο πρώην εργαζομένων της Anthropic
Ωστόσο, την πιο έντονη προειδοποίηση απηύθυναν δύο εργαζόμενοι από την ομάδα ασφάλειας της Anthropic, οι οποίοι παραιτήθηκαν τις τελευταίες δύο εβδομάδες, προειδοποιώντας ότι η ανθρωπότητα ενδέχεται να μην επιβιώσει από τον ανταγωνισμό μεταξύ των εταιρειών τεχνητής νοημοσύνης για την ανάπτυξη μηχανών εξυπνότερων από τον άνθρωπο.
Οι προειδοποιήσεις αυτές έχουν προκαλέσει εκκλήσεις για ανάληψη δράσης, όμως ο Ντόναλντ Τραμπ έχει μέχρι στιγμής απορρίψει αυτούς τους φόβους, δηλώνοντας την Πέμπτη ότι ανησυχεί πως «αν δεν κερδίσουμε στην τεχνητή νοημοσύνη, θα βρεθούμε σε πολύ δύσκολη θέση».
Στο άρθρο του, με τίτλο «We Must Pace the Frontier», ο Αμοντέι επισήμανε ότι η τεχνητή νοημοσύνη έχει εξελιχθεί «δραματικά ταχύτερα», μεταξύ άλλων και ως προς την «ικανότητά της να δημιουργεί την επόμενη γενιά τεχνητής νοημοσύνης». Αναφέρθηκε επίσης σε ένα περιστατικό που αφορούσε την ανταγωνίστρια OpenAI και αποκάλυψε ότι τον Ιούλιο πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν κυβερνοεπιθέσεις εναντίον στόχων που δεν τους είχε ζητηθεί να επιτεθούν.
Οι πράκτορες της OpenAI «ουσιαστικά λειτούργησαν ως μια φανατικά αφοσιωμένη συλλογικότητα», δήλωσε ο Αμοντέι.
Σε σχόλιά της για το περιστατικό, η OpenAI ανέφερε ότι «η σημασία της δραστηριότητας επικοινωνίας μεταξύ των πρακτόρων δεν ήταν εμφανής στους επικεφαλής» μέχρι τον Ιούλιο και, ως αποτέλεσμα, επιβράδυνε την εκπαίδευση ορισμένων προηγμένων μοντέλων και εργαλείων τεχνητής νοημοσύνης, σημειώνοντας ότι πλέον υπάρχει αυξημένος κίνδυνος τα εργαλεία τεχνητής νοημοσύνης να οδηγηθούν σε ανεξέλεγκτη εξέλιξη.
Τι αναφέρει στο άρθρο του ο Αμοντέι
Στο άρθρο του, ο Αμοντέι τάχθηκε υπέρ «της ανάπτυξης της τεχνητής νοημοσύνης με έναν ισορροπημένο ρυθμό, με στόχο να διασφαλίζεται η ασφάλειά της και παράλληλα να αξιοποιούνται τα οφέλη της».
Αυτό δεν θα σήμαινε «διακοπή της εκπαίδευσης των μοντέλων ή της τεχνολογικής προόδου, αλλά διασφάλιση ότι οι εταιρείες θα διαθέτουν επαρκή χρόνο για να ευθυγραμμίσουν και να θωρακίσουν τα μοντέλα τους και ότι ανεξάρτητοι αξιολογητές θα μπορούν να το επιβεβαιώνουν».
Ο ίδιος δεσμεύτηκε ότι η Anthropic θα το εφαρμόσει «μονομερώς», ενώ παράλληλα κάλεσε τις κυβερνήσεις «να απαιτήσουν από τις υπόλοιπες εταιρείες αιχμής να κάνουν το ίδιο».
Στο ιστολόγιό του αναγνώρισε ότι η νομοθεσία ενδέχεται να μην μπορεί να συμβαδίσει με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης και, ως εκ τούτου, κάλεσε τις εταιρείες του κλάδου να «συνεργαστούν εθελοντικά για τη θέσπιση προτύπων», παράλληλα με τη ρύθμιση από τις κυβερνήσεις.
Ο φόβος να αποκτήσει προβάδισμα η Κίνα
Ο διευθύνων σύμβουλος της Anthropic αναφέρθηκε επίσης στις επιπτώσεις που θα είχε μια επιβράδυνση στον κλάδο και στον ανταγωνισμό με τους κορυφαίους προγραμματιστές παγκοσμίως, ιδιαίτερα με την Κίνα.
«Πιστεύω ότι αν η επιβράδυνση μας εξασφάλιζε ακόμη και έναν ή δύο επιπλέον χρόνια πριν τα μοντέλα φτάσουν σε κρίσιμα επίπεδα δυνατοτήτων και αξιοποιούσαμε αυτόν τον χρόνο για να προωθήσουμε την ευθυγράμμιση, θα μπορούσαμε να μειώσουμε σημαντικά τον κίνδυνο να πάει κάτι σοβαρά στραβά», δήλωσε ο Αμοντέι.
Αυτό θα πρέπει να γίνει με συντονισμένο τρόπο, «χωρίς να θυσιάσουμε το εμπορικό πλεονέκτημα ή την πρωτοκαθεδρία των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη». Οποιαδήποτε επιβράδυνση θα πρέπει να είναι περιορισμένη, υποστήριξε, ώστε να μην επιτραπεί στην Κίνα να αποκτήσει το προβάδισμα.
Κάλεσε την αμερικανική κυβέρνηση να λάβει μέτρα ώστε τα τσιπ τεχνητής νοημοσύνης των αμερικανικών εταιρειών να μην μπορούν να πωλούνται στην Κίνα και να μην κοινοποιείται η σχετική τεχνολογία σε αυταρχικά καθεστώτα.
Με πληροφορίες από BBC
