Η Anthropic ανακοίνωσε ότι διέκοψε φέτος αρκετές χρήσεις των μοντέλων τεχνητής νοημοσύνης της από επιστήμονες, καθώς έκρινε ότι η έρευνά τους θα μπορούσε να συμβάλει στην ανάπτυξη επικίνδυνων βιολογικών παραγόντων.
Η εταιρεία, που έχει αναπτύξει το Claude, διευκρίνισε ότι δεν μπόρεσε να εξακριβώσει αν οι συγκεκριμένοι ερευνητές είχαν κακόβουλες προθέσεις. Η δυσκολία έγκειται στο γεγονός ότι η βιολογική έρευνα μπορεί να έχει διττή χρήση. Μέθοδοι που αξιοποιούνται για την ανάπτυξη εμβολίων ή θεραπειών μπορούν επίσης να χρησιμοποιηθούν για να γίνουν παθογόνοι οργανισμοί πιο επικίνδυνοι.
Η Anthropic αναφέρει ότι επέλεξε να διακόψει την πρόσβαση στις περιπτώσεις που θεώρησε ύποπτες, επειδή οι συνέπειες μιας λανθασμένης εκτίμησης θα μπορούσαν να είναι πολύ σοβαρές.
«Δεν βλέπεις κάποιον να λέει ευθέως ότι θέλει να κατασκευάσει ένα βιολογικό όπλο», δήλωσε ο επικεφαλής πληροφοριών απειλών της εταιρείας, Τζέικομπ Κλάιν, περιγράφοντας πόσο δύσκολο είναι να διαχωριστεί η νόμιμη έρευνα από μια πιθανή κακόβουλη χρήση.
Η εταιρεία ανέφερε επίσης ότι ορισμένοι από τους χρήστες είχαν παρακάμψει περιορισμούς πρόσβασης και είχαν προσπαθήσει να αποκρύψουν τον σκοπό των ερωτημάτων τους. Οι λογαριασμοί που συνδέονταν με τις συγκεκριμένες δραστηριότητες αποκλείστηκαν.
Η υπόθεση του chikungunya
Μία από τις περιπτώσεις που ξεχώρισε η Anthropic αφορούσε επιστήμονα ο οποίος, τον Μάιο, ζήτησε τη βοήθεια του Claude για τη σύνταξη πρότασης χρηματοδότησης έρευνας πάνω στον ιό chikungunya.
Ο ιός μεταδίδεται από κουνούπια και μπορεί να προκαλέσει σοβαρό πόνο και άλλα συμπτώματα που διαρκούν για μήνες. Η έρευνα αφορούσε μεταλλάξεις που θα μπορούσαν να κάνουν τον ιό πιο επιβλαβή καθώς περνούσε επανειλημμένα από ζωντανά ζώα.
Τέτοιου είδους πειράματα εντάσσονται στην έρευνα «gain of function», δηλαδή στην ενίσχυση συγκεκριμένων χαρακτηριστικών ενός παθογόνου. Μπορούν να εξυπηρετούν νόμιμους επιστημονικούς σκοπούς, αλλά ενέχουν και σοβαρούς κινδύνους.
Η Anthropic ανησύχησε ιδιαίτερα επειδή διαπίστωσε ότι η συγκεκριμένη έρευνα επρόκειτο να γίνει σε στρατιωτικό ερευνητικό ίδρυμα.
Ο Κλάιν τόνισε ότι η εταιρεία δεν γνωρίζει αν υπήρχε πρόθεση στρατιωτικής αξιοποίησης. Όπως είπε, όμως, ο συνδυασμός έρευνας gain of function και στρατιωτικού φορέα ήταν αρκετός ώστε να κινητοποιηθούν οι μηχανισμοί ασφαλείας της εταιρείας.
Η Anthropic δεν αποκάλυψε τα ονόματα των ερευνητών ή των ιδρυμάτων που απέκλεισε, ούτε τις χώρες με τις οποίες συνδέονταν ή τους υπόλοιπους βιολογικούς παράγοντες που μελετούσαν.
Γιατί αυξάνεται η ανησυχία
Μέχρι πρόσφατα, οι φόβοι ότι προηγμένα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να βοηθήσουν στην ανάπτυξη επικίνδυνων παθογόνων βασίζονταν κυρίως σε εργαστηριακές δοκιμές και ερευνητικά σενάρια.
Η Anthropic υποστηρίζει ότι τα περιστατικά που εντόπισε φέτος δείχνουν πως τέτοιες χρήσεις αρχίζουν να εμφανίζονται και εκτός ελεγχόμενων πειραμάτων.
Ο Άντριου Γουέμπερ, ανώτερος ερευνητής στο Council on Strategic Risks και πρώην αξιωματούχος του αμερικανικού υπουργείου Άμυνας, χαρακτήρισε τις περιπτώσεις ιδιαίτερα ανησυχητικές. Εκτίμησε ότι μπορεί να δείχνουν ενδιαφέρον από ερευνητές που συνδέονται με κρατικά προγράμματα βιολογικών όπλων.
Η Σούζαν Μονάρεζ, μικροβιολόγος και ειδικός στη δημόσια υγεία, η οποία εξέτασε την έκθεση πριν από τη δημοσίευσή της, υποστήριξε επίσης ότι τα ευρήματα ενισχύουν τις ανησυχίες πως προηγμένα μοντέλα AI επιχειρείται ήδη να χρησιμοποιηθούν για έρευνα που θα μπορούσε να οδηγήσει σε επικίνδυνα παθογόνα.
Η ίδια σημείωσε ότι η τεχνητή νοημοσύνη μπορεί να επιταχύνει σημαντικά την ιατρική και βιολογική έρευνα. Οι ίδιες δυνατότητες, όμως, μπορούν να αξιοποιηθούν και από ανθρώπους με κακόβουλους σκοπούς.
Τα ισχυρότερα μοντέλα φέρνουν αυστηρότερους περιορισμούς
Η Anthropic αναφέρει ότι τα παλαιότερα μοντέλα της δεν μπορούσαν να προσφέρουν ουσιαστική βοήθεια σε ιδιαίτερα σύνθετη και επικίνδυνη βιολογική έρευνα.
Τα νεότερα μοντέλα είναι σημαντικά πιο ικανά στην επεξεργασία σύνθετων επιστημονικών προβλημάτων. Για τον λόγο αυτό, η εταιρεία έχει ενισχύσει τους περιορισμούς σε ερωτήματα που αφορούν βιολογική έρευνα υψηλού κινδύνου ή διττής χρήσης.
Ο Γουέμπερ υποστηρίζει ότι η πρόσβαση σε μοντέλα με τόσο προηγμένες δυνατότητες θα πρέπει να περιορίζεται σε ερευνητές των οποίων η ταυτότητα και το έργο μπορούν να ελεγχθούν. Αναφέρθηκε ειδικά στη Ρωσία, την Κίνα και τη Βόρεια Κορέα, τις οποίες κατηγόρησε ότι εξακολουθούν να αναπτύσσουν απαγορευμένα προγράμματα βιολογικών όπλων.
Η έκθεση της Anthropic καταγράφει και σειρά άλλων καταχρήσεων του Claude τους τελευταίους οκτώ μήνες.
Μεταξύ αυτών βρίσκονται περιπτώσεις προσώπων που φέρονται να συνδέονται με την Κίνα και το Ιράν και χρησιμοποίησαν τα μοντέλα της εταιρείας για την παρακολούθηση αντιφρονούντων και κοινοτήτων της διασποράς.
Η Anthropic αναφέρει επίσης ότι ρωσικά κρατικά μέσα αξιοποίησαν το Claude για τη δημιουργία προπαγανδιστικού περιεχομένου που παρουσιαζόταν ως ανεξάρτητη δημοσιογραφία, ακόμη και με κατασκευασμένους ισχυρισμούς σχετικά με εκλογές στη Μολδαβία.
Η εταιρεία εντόπισε ακόμη προσπάθειες χρήσης του Claude για την ανάπτυξη λογισμικού που σχετίζεται με τον σχεδιασμό συμβατικών όπλων, όπως πυροβόλα όπλα, πύραυλοι, οπλισμένα drones και βόμβες.
Καταγράφηκαν έξι τέτοιες περιπτώσεις, τρεις στην Κίνα, δύο στη Ρωσία και μία στην Υεμένη. Στην τελευταία περίπτωση η Anthropic δεν κατονομάζει την εμπλεκόμενη οργάνωση, αν και τα στοιχεία της έκθεσης παραπέμπουν στους Χούθι.
Με πληροφορίες από New York Times
