Η τεχνητή νοημοσύνη μπορεί να αυξήσει το ξέσπασμα πανδημιών κατά 5 φορές

Η τεχνητή νοημοσύνη μπορεί να αυξήσει το ξέσπασμα πανδημιών κατά 5 φορές Facebook Twitter
0

Πρόσφατες εξελίξεις στην τεχνητή νοημοσύνη (AI) μπορεί να κάνουν το ξέσπασμα πανδημιών πέντε φορές πιο πιθανό σε σχέση με πριν από έναν χρόνο, σύμφωνα με μελέτη ειδικών.

Τα δεδομένα αυτά συμφωνούν με ανησυχίες που έχουν εκφράσει πρόσφατα εταιρείες AI όπως η OpenAI και η Anthropic, οι οποίες έχουν προειδοποιήσει ότι τα σημερινά εργαλεία τεχνητής νοημοσύνης πλησιάζουν στο σημείο να μπορούν να βοηθήσουν ουσιαστικά κακόβουλους χρήστες να φτιάξουν βιολογικά όπλα. Εδώ και χρόνια οι βιολόγοι μπορούν να τροποποιούν ιούς στα εργαστήρια. Το νέο στοιχείο είναι ότι τα chatbots - όπως το ChatGPT ή το Claude - μπορούν να δώσουν ακριβείς οδηγίες επίλυσης προβλημάτων σε ερασιτέχνες βιολόγους που προσπαθούν να φτιάξουν ένα θανατηφόρο βιολογικό όπλο σε ένα εργαστήριο.

Τώρα, χάρη στην AI, η τεχνογνωσία για να προκαλέσει κανείς σκόπιμα μια νέα πανδημία «θα μπορούσε να γίνει προσβάσιμη σε πολύ περισσότερους ανθρώπους», λέει ο Seth Donoughe, ένας από τους συγγραφείς της μελέτης.

Μεταξύ Δεκεμβρίου 2024 και Φεβρουαρίου 2025, το Forecasting Research Institute ζήτησε από 46 ειδικούς βιοασφάλειας και 22 άτομα που προβλέπουν με μεγάλη ακρίβεια μελλοντικά γεγονότα να εκτιμήσουν τον κίνδυνο μιας πανδημίας που θα προκαλούσε ο άνθρωπος. Κατά μέσο όρο, οι συμμετέχοντες προέβλεψαν ότι ο ετήσιος κίνδυνος ήταν 0,3%. Στη συνέχεια, τους ρώτησαν πόσο θα αυξανόταν αυτός ο κίνδυνος αν τα εργαλεία AI μπορούσαν να έχουν τις ίδιες επιδόσεις με μια ομάδα ειδικών σε μια δύσκολη δοκιμή ιολογίας. Αν η AI μπορούσε να το κάνει αυτό, οι ειδικοί είπαν ότι ο κίνδυνος θα αυξανόταν στο 1,5% - δηλαδή πέντε φορές πάνω.

Οι προβλέποντες δεν ήξεραν ότι ο Donoughe, ερευνητής στο μη κερδοσκοπικό SecureBio, δοκίμαζε ήδη τα συστήματα AI για αυτή ακριβώς τη δυνατότητα. Τον Απρίλιο, η ομάδα του ανακοίνωσε ότι τα κορυφαία συστήματα AI σήμερα μπορούν να ξεπεράσουν ιολόγους με διδακτορικό σε μια δύσκολη δοκιμή επίλυσης προβλημάτων. Με άλλα λόγια, η AI μπορεί πλέον να κάνει αυτό που οι προβλέποντες προειδοποίησαν ότι θα αύξανε τον κίνδυνο πανδημίας κατά πέντε φορές. (Το Forecasting Research Institute σκοπεύει να ξαναρωτήσει τους ίδιους ειδικούς στο μέλλον για να δει αν οι απόψεις τους θα αλλάξουν, αλλά αυτή η έρευνα θα πάρει μήνες.)

Φυσικά, υπάρχουν λόγοι να είμαστε επιφυλακτικοί με τα αποτελέσματα. Η πρόβλεψη είναι πάντα αβέβαιη, ειδικά όταν αφορά σπάνια γεγονότα. Επίσης, οι προβλέποντες δεν είχαν πλήρη εικόνα για την ταχύτητα προόδου της AI. (Για παράδειγμα, οι περισσότεροι δεν περίμεναν η AI να ξεπεράσει τους ανθρώπους στη δοκιμή πριν το 2030, ενώ το πείραμα του Donoughe έδειξε ότι αυτό έχει ήδη συμβεί.) Όμως, ακόμα κι αν τα νούμερα χρειάζονται επιφυλακτική ανάγνωση, οι συγγραφείς της μελέτης υποστηρίζουν ότι το συνολικό μήνυμα δείχνει προς μια ανησυχητική κατεύθυνση. «Φαίνεται ότι οι δυνατότητες της AI στο κοντινό μέλλον μπορεί να αυξήσουν ουσιαστικά τον κίνδυνο μιας επιδημίας που θα προκαλέσει ο άνθρωπος», λέει ο Josh Rosenberg, διευθύνων σύμβουλος του Forecasting Research Institute.

Η μελέτη πρότεινε και τρόπους για να μειωθεί ο κίνδυνος χρήσης της AI για βιολογικά όπλα. Αυτοί οι τρόποι χωρίζονται σε δύο κατηγορίες. Η πρώτη αφορά μέτρα ασφαλείας στο επίπεδο των μοντέλων AI - όπως οι προσπάθειες εταιρειών όπως η OpenAI και η Anthropic να εμποδίζουν τα συστήματά τους να απαντούν σε ερωτήσεις που σχετίζονται με την κατασκευή βιοόπλων. Το άρθρο αναφέρει επίσης τον περιορισμό της διάδοσης «ανοικτών μοντέλων» και την προσθήκη μέτρων που εμποδίζουν το «σπάσιμο» των μοντέλων.

Η δεύτερη κατηγορία αφορά περιορισμούς στις εταιρείες που συνθέτουν γενετικό υλικό. Σήμερα, μπορεί κάποιος να στείλει σε μια τέτοια εταιρεία έναν γενετικό κώδικα και να λάβει τα βιολογικά υλικά που αντιστοιχούν σε αυτόν. Προς το παρόν, οι εταιρείες δεν είναι υποχρεωμένες να ελέγχουν αυτούς τους κώδικες πριν τους συνθέσουν, κάτι που είναι επικίνδυνο γιατί τα συνθετικά αυτά υλικά θα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία παθογόνων κατά παραγγελία. Οι συγγραφείς προτείνουν να ελέγχονται οι γενετικοί κώδικες για επικινδυνότητα και τα εργαστήρια να εφαρμόσουν διαδικασίες «γνώρισε τον πελάτη σου». Αν όλα αυτά τα μέτρα εφαρμοστούν, ο κίνδυνος μιας πανδημίας που θα «υποκινηθεί» από την τεχνητή νοημοσύνη θα μπορούσε να μειωθεί ξανά στο 0,4% - ελαφρώς πάνω από το αρχικό 0,3%.

«Γενικά, φαίνεται ότι αυτός είναι ένας νέος τομέας κινδύνου που αξίζει να προσέξουμε», λέει ο Rosenberg.

Με πληροφορίες από Time Magazine

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΠΟΥ: Μπορεί να μην μάθουμε ποτέ από πού προήλθε η Covid-19

Διεθνή / ΠΟΥ: Μπορεί να μην μάθουμε ποτέ από πού προήλθε η Covid-19

Ο Παγκόσμιος Οργανισμός Υγείας δεν έχει καταφέρει να πάρει τα απαραίτητα δεδομένα για να αξιολογήσει αν η COVID-19 ήταν αποτέλεσμα εργαστηριακού ατυχήματος, παρά τις επανειλημμένες αιτήσεις προς την κινεζική κυβέρνηση
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Το κλάμα των μωρών μπορεί να αυξήσει τη θερμοκρασία του σώματος των ανθρώπων σύμφωνα με έρευνα

Τech & Science / Το κλάμα των μωρών μπορεί να αυξήσει τη θερμοκρασία του σώματος των ανθρώπων, σύμφωνα με έρευνα

Με τη χρήση θερμικής κάμερας, οι επιστήμονες διαπίστωσαν ότι όταν εθελοντές άκουγαν ηχογραφήσεις μωρών να κλαίνε ανέβηκε αισθητά η θερμοκρασία του σώματος τους
LIFO NEWSROOM
Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Τech & Science / Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Xρησιμοποιεί υπερηχητικούς παλμούς που κατευθύνονται με ακρίβεια σε συγκεκριμένες περιοχές του εγκεφάλου, προσφέροντας εναλλακτική λύση στη χειρουργική εμφύτευση ηλεκτροδίων
LIFO NEWSROOM
Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Τech & Science / Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Ανθρώπινα αιμοσφαίρια που στάλθηκαν στο Διάστημα άρχισαν να χάνουν την ικανότητά τους να παράγουν υγιή νέα κύτταρα, ένδειξη επιταχυνόμενης γήρανσης, σύμφωνα με τη μελέτη
LIFO NEWSROOM
Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

Τech & Science / Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

«Θα μπορούσε να είναι μια πραγματική ευκαιρία να επιβραδύνουμε την εξέλιξη του γλοιοβλαστώματος», υποστηρίζουν με συγκρατημένη αισιοδοξία, καθώς απαιτείται περαιτέρω δοκιμών
LIFO NEWSROOM
Αλτσχάιμερ: Εγκρίθηκε φάρμακο που χορηγείται αποκλειστικά στο σπίτι

Τech & Science / Αλτσχάιμερ: Εγκρίθηκε θεραπεία που μπορεί να χορηγηθεί στο σπίτι από τον ίδιο τον ασθενή

Η έκδοση για χρήση στο σπίτι εγκρίθηκε ως θεραπεία συντήρησης που οι ασθενείς μπορούν να χορηγούν στον εαυτό τους αφού ολοκληρώσουν τον κύκλο της ενδοφλέβιας θεραπείας
LIFO NEWSROOM
«Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Τech & Science / «Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Οι ειδικοί προειδοποιούν ότι τα ηλεκτρονικά τσιγάρα δημιουργούν νέους εθισμούς στη νικοτίνη και προκαλούν σοβαρούς κινδύνους για την καρδιά, τους πνεύμονες και τον εγκέφαλο των παιδιών και των εφήβων
LIFO NEWSROOM
«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM