Κορυφαίος ειδικός ασφάλειας AI παραιτείται και δηλώνει ότι «ο κόσμος βρίσκεται σε κίνδυνο»

AI ANTHROPIC ΤΕΧΝΗΤΗ ΝΟΥΜΟΣΗΝΗ Facebook Twitter
Φωτ: Getty Images
0

Ο Μρινάνκ Σάρμα, επικεφαλής ομάδας που δούλευε σε δικλίδες ασφαλείας για τα συστήματα τεχνητής νοημοσύνης της Anthropic, της αμερικανικής εταιρείας πίσω από το chatbot Claude, ανακοίνωσε την παραίτησή του με επιστολή που δημοσίευσε στο X, γράφοντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».

Στο κείμενό του επικαλέστηκε ανησυχίες για την τεχνητή νοημοσύνη, τους κινδύνους από τα βιολογικά όπλα και μια ευρύτερη εικόνα αλληλένδετων κρίσεων. Η Anthropic παρουσιάζει τη δουλειά της ως προσανατολισμένη στην ασφάλεια των πιο προηγμένων συστημάτων AI.

Παρότι δήλωσε ότι απόλαυσε τη δουλειά του, σημείωσε ότι έχει έρθει η στιγμή να αποχωρήσει. Εγραψε ότι οι κρίσεις που εξελίσσονται διεθνώς είναι αλληλένδετες και δεν περιορίζονται μόνο στην τεχνητή νοημοσύνη. Πρόσθεσε ότι θα επιστρέψει στο Ηνωμένο Βασίλειο για να σπουδάσει ποίηση και να αφοσιωθεί στη συγγραφή, λέγοντας πως σκοπεύει να «γίνει αόρατος» για ένα διάστημα.

Η αποχώρησή του έρχεται την ίδια εβδομάδα που και άλλη ερευνήτρια, η Ζόι Χίτζιγκ, ανακοίνωσε ότι παραιτήθηκε από την OpenAI, εκφράζοντας επιφυλάξεις για την απόφαση της εταιρείας να ενσωματώσει διαφημίσεις στο ChatGPT. Σε άρθρο της στους New York Times υποστήριξε ότι οι συνομιλίες των χρηστών με chatbots περιλαμβάνουν ευαίσθητα προσωπικά δεδομένα, από ιατρικούς φόβους μέχρι θρησκευτικές πεποιθήσεις, και ότι η αξιοποίησή τους για διαφημιστικούς σκοπούς ενέχει κίνδυνο χειραγώγησης.

Η Anthropic ιδρύθηκε το 2021 από πρώην στελέχη της OpenAI και αυτοπροσδιορίζεται ως εταιρεία δημόσιου οφέλους με στόχο να μεγιστοποιεί τα οφέλη της τεχνητής νοημοσύνης και να περιορίζει τους κινδύνους της. Έχει δημοσιεύσει αναφορές για την ασφάλεια των δικών της συστημάτων, μεταξύ άλλων όταν αποκάλυψε ότι η τεχνολογία της χρησιμοποιήθηκε από χάκερ σε σύνθετες κυβερνοεπιθέσεις.

Παράλληλα, έχει δεχθεί κριτική για πρακτικές της. Το 2025 συμφώνησε να καταβάλει 1,5 δισ. δολάρια για τον εξωδικαστικό συμβιβασμό ομαδικής αγωγής από συγγραφείς που υποστήριξαν ότι τα έργα τους χρησιμοποιήθηκαν χωρίς άδεια για την εκπαίδευση μοντέλων AI.

Η εταιρεία έχει επίσης επιτεθεί δημόσια στην OpenAI για την επιλογή της να εισαγάγει διαφημίσεις στο ChatGPT, με σχετική διαφημιστική καμπάνια. Ο επικεφαλής της OpenAI, Σαμ Αλτμαν, είχε δηλώσει στο παρελθόν ότι απεχθάνεται τις διαφημίσεις και θα τις χρησιμοποιούσε μόνο ως έσχατη λύση. Μετά τις επικρίσεις, απάντησε δημόσια, προκαλώντας και ειρωνικά σχόλια για το ύφος της ανάρτησής του.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Πόσο «ανθρώπινη» μπορεί να είναι η τεχνητή νοημοσύνη;

Good Business Directory 6 / Πόσο «ανθρώπινη» μπορεί να είναι η τεχνητή νοημοσύνη;

Η Γιάννα Ανδρονοπούλου, διευθύνουσα σύμβουλος της Microsoft Ελλάδας, Κύπρου και Μάλτας, πιστεύει πως η τεχνητή νοημοσύνη μάς βοηθά να ενισχύουμε ό,τι είναι δημιουργικό και να παίρνουμε αποφάσεις με καλύτερα δεδομένα.
ΘΟΔΩΡΗΣ ΒΑΜΒΑΚΑΡΗΣ
ΕΠΕΞ Πώς η τεχνητή νοημοσύνη βοήθησε στην ταυτοποίηση ενός Ναζί εκτελεστή

Αρχαιολογία & Ιστορία / Πώς η τεχνητή νοημοσύνη βοήθησε στην ταυτοποίηση ενός ναζί εκτελεστή

Μετά από έξι δεκαετίες, ο Γερμανός ιστορικός Γιούργκεν Ματέους κατάφερε να αποκαλύψει την ταυτότητα του αξιωματικού των SS που εκτελεί εν ψυχρώ έναν Εβραίο σε μία από τις πιο ανατριχιαστικές εικόνες του Ολοκαυτώματος.
THE LIFO TEAM

ΔΕΙΤΕ ΑΚΟΜΑ

JOHNSON AND JOHNSON ASTRAZENECA ΕΜΒΟΛΙΟ COVID

Τech & Science / Covid: Οι επιστήμονες εντόπισαν το εξαιρετικά σπάνιο πρόβλημα στα εμβόλια AstraZeneca και Johnson and Johnson

Ερευνητές λένε ότι εντόπισαν τον μηχανισμό πίσω από την εξαιρετικά σπάνια αλλά σοβαρή επιπλοκή θρόμβωσης με θρομβοπενία που συνδέθηκε με τα εμβόλια Covid της AstraZeneca και της Johnson and Johnson
THE LIFO TEAM
Έρευνες δείχνουν ότι τα τατουάζ θα μπορούσαν να προκαλέσουν καρκίνο, αλλά πόσο πρέπει να ανησυχούμε;

Τech & Science / Έρευνες δείχνουν ότι τα τατουάζ θα μπορούσαν να προκαλέσουν καρκίνο, αλλά πόσο πρέπει να ανησυχούμε;

Τα τατουάζ είναι πιο δημοφιλή από ποτέ, όμως ένας αυξανόμενος όγκος ερευνών υποδηλώνει σύνδεση ανάμεσα στο μόνιμο μελάνι και την εμφάνιση ορισμένων τύπων καρκίνου
THE LIFO TEAM