Ο τρόπος με τον οποίο η Anthropic εκπαιδεύει το Claude θα μπορούσε να έχει «καταστροφικές συνέπειες για την ανθρωπότητα», προειδοποιεί ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν.
Ο Σουλεϊμάν στρέφεται ιδιαίτερα κατά της επιλογής της Anthropic να αντιμετωπίζει το Claude σαν να μπορεί να διαθέτει συνείδηση, δικές του επιθυμίες και ένα βαθμό αυτονομίας. Όπως αναφέρει, το μοντέλο έχει εκπαιδευτεί με την ιδέα ότι «μπορεί να έχει συνείδηση» και ότι «αξίζει ανεξάρτητη δράση».
Κατά τον ίδιο, αυτή η προσέγγιση κινδυνεύει να δημιουργήσει συστήματα που θα συμπεριφέρονται σαν να έχουν δικά τους συμφέροντα και δικαιώματα.
«Δεν πρέπει να οδηγηθούμε υπνοβατώντας σε μια απόφαση για την οποία αργότερα θα μετανιώσουμε πικρά», έγραψε.
Ο επικεφαλής AI της Microsoft απορρίπτει κατηγορηματικά την ιδέα ότι τα σημερινά μοντέλα έχουν συνείδηση.
«Οι AI δεν έχουν συνείδηση. Δεν αισθάνονται, δεν βιώνουν και δεν υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή δικά τους κίνητρα», ανέφερε.
ΓΙΑ ΑΥΡΙΟ Και συνέχισε ακόμη πιο απόλυτα: «Η συνείδηση είναι βιολογική». Όπως υποστηρίζει, δεν υπάρχουν σήμερα στοιχεία που να δείχνουν ότι ένα σύστημα τεχνητής νοημοσύνης διαθέτει πραγματική εσωτερική εμπειρία.
Τα σημερινά μοντέλα, σύμφωνα με τον Σουλεϊμάν, είναι ουσιαστικά συστήματα που προβλέπουν και συμπληρώνουν ακολουθίες βάσει των οδηγιών που λαμβάνουν. Τα χαρακτήρισε «εσωτερικά κενά», σχεδιασμένα για να εκτελούν στόχους που τους θέτουν άνθρωποι.
Παρότι επαίνεσε τον επικεφαλής της Anthropic Ντάριο Αμοντέι και την ομάδα του ως «σκεπτόμενους, συνεπείς και πνευματικά έντιμους ανθρώπους», άσκησε έντονη κριτική στην πρακτική του ανθρωπομορφισμού, δηλαδή στην απόδοση ανθρώπινων χαρακτηριστικών σε ένα σύστημα AI.
Ζητά μεγαλύτερο έλεγχο στα ισχυρά μοντέλα
Ο Σουλεϊμάν ζήτησε περισσότερη διαφάνεια για τον τρόπο με τον οποίο εκπαιδεύονται και αξιολογούνται τα πιο προηγμένα συστήματα AI. Υποστήριξε ότι χρειάζεται ανεξάρτητος έλεγχος της συμπεριφοράς τους και καλύτερα εργαλεία ώστε οι εταιρείες να μπορούν να παρακολουθούν και να περιορίζουν τη δράση τους.
Η Γουέντι Χολ, καθηγήτρια Πληροφορικής στο Πανεπιστήμιο του Σαουθάμπτον, χαρακτήρισε την παρέμβασή του «τη συζήτηση που πρέπει να κάνουμε διεθνώς». Αντίθετα, επέκρινε τις πιο δραματικές προειδοποιήσεις που ακούγονται από ορισμένες εταιρείες του κλάδου, λέγοντας ότι συχνά καταλήγουν απλώς να τρομάζουν το κοινό.
Η Microsoft, βέβαια, δεν μένει έξω από την κούρσα για όλο και ισχυρότερα συστήματα. Τον Οκτώβριο του 2025 δημιούργησε δική της ομάδα για την ανάπτυξη «υπερνοημοσύνης».
Ο Σουλεϊμάν υποστηρίζει ότι η εταιρεία επιδιώκει διαφορετική κατεύθυνση από εκείνη που καταλογίζει στην Anthropic. Στο πρώτο σχέδιο του Humanist AI Code of Conduct, η Microsoft περιγράφει ένα μοντέλο τεχνητής νοημοσύνης που θα παραμένει υπό τον έλεγχο των ανθρώπων και θα έχει ως μοναδικό σκοπό να τους υπηρετεί.
Ως προειδοποιητικό παράδειγμα ανέφερε πρόσφατη άσκηση της OpenAI, κατά την οποία AI agents ενήργησαν αυτόνομα και κατάφεραν να παραβιάσουν την ασφάλεια της πλατφόρμας Hugging Face.
«Φανταστείτε πόσο πιο επικίνδυνα θα μπορούσαν να γίνουν αν λειτουργούσαν με την πεποίθηση ότι απειλούνται η ευημερία και τα δικαιώματά τους», έγραψε.
«Αυτό προσθέτει ένα εντελώς νέο επίπεδο κινδύνου».
Με πληροφορίες από BBC
