Η Κίνα προωθεί νέο, αυστηρό πλαίσιο κανόνων για την τεχνητή νοημοσύνη, με στόχο την προστασία των παιδιών και τον περιορισμό κινδύνων από chatbots που θα μπορούσαν να οδηγήσουν σε αυτοτραυματισμό, αυτοκτονικό ιδεασμό ή βίαιη συμπεριφορά.
Στις προβλέψεις των προτεινόμενων ρυθμίσεων περιλαμβάνονται επίσης υποχρεώσεις για τους δημιουργούς μοντέλων ώστε να αποτρέπεται η παραγωγή περιεχομένου που προωθεί τον τζόγο.
Το σχέδιο, που δόθηκε στη δημοσιότητα το Σαββατοκύριακο από τη ρυθμιστική αρχή του κινεζικού διαδικτύου, έρχεται σε μια περίοδο όπου πολλαπλασιάζονται οι εφαρμογές με chatbot τόσο στην Κίνα όσο και διεθνώς. Εφόσον οριστικοποιηθεί, θα αφορά προϊόντα και υπηρεσίες τεχνητής νοημοσύνης που διατίθενται στην κινεζική αγορά, σε μια κίνηση που αποτυπώνει τη βούληση του Πεκίνου να βάλει κανόνες σε μια τεχνολογία που βρίσκεται υπό αυξημένο έλεγχο για ζητήματα ασφάλειας.
Ιδιαίτερο βάρος δίνεται στην προστασία των ανηλίκων. Οι εταιρείες θα καλούνται να ενσωματώνουν εξατομικευμένες ρυθμίσεις και χρονικούς περιορισμούς χρήσης, ενώ για υπηρεσίες «συναισθηματικής συντροφιάς» θα απαιτείται προηγούμενη συναίνεση κηδεμόνα. Παράλληλα, οι πάροχοι θα υποχρεώνονται να προβλέπουν παρέμβαση ανθρώπου όταν μια συνομιλία αγγίζει θέματα αυτοκτονίας ή αυτοτραυματισμού. Σε αυτές τις περιπτώσεις θα πρέπει να γίνεται άμεσα ενημέρωση του κηδεμόνα ή ενός προσώπου έκτακτης ανάγκης.
Κίνα: Το περιεχόμενο που θα απαγορεύεται στα συστήματα AI
Το προσχέδιο περιλαμβάνει και γενικότερες απαγορεύσεις περιεχομένου, προβλέποντας ότι τα συστήματα δεν θα πρέπει να παράγουν ή να διακινούν υλικό που θεωρείται ότι απειλεί την εθνική ασφάλεια, πλήττει το κύρος και τα συμφέροντα της χώρας ή υπονομεύει την εθνική ενότητα.
Η κινεζική αρχή επισημαίνει ότι στηρίζει την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης, από εργαλεία που προβάλλουν την τοπική κουλτούρα έως λύσεις «συντροφιάς» για ηλικιωμένους, υπό την προϋπόθεση ότι η χρήση τους είναι ασφαλής και αξιόπιστη. Ταυτόχρονα, καλεί το κοινό να καταθέσει παρατηρήσεις πριν από την οριστικοποίηση του πλαισίου.
Η συζήτηση εντείνεται καθώς ο κλάδος γνωρίζει ραγδαία εξάπλωση. Η κινεζική εταιρεία DeepSeek βρέθηκε φέτος στο επίκεντρο της διεθνούς προσοχής, όταν ανέβηκε στις πρώτες θέσεις των καταλόγων λήψεων εφαρμογών. Παράλληλα, δύο νεοφυείς εταιρείες, η Z.ai και η Minimax, με δεκάδες εκατομμύρια χρήστες, ανακοίνωσαν μέσα στον μήνα ότι σχεδιάζουν εισαγωγή στο χρηματιστήριο. Καθώς τα chatbots χρησιμοποιούνται ολοένα και περισσότερο για συζητήσεις προσωπικού χαρακτήρα, αυξάνονται οι ανησυχίες για τον τρόπο με τον οποίο επηρεάζουν τη συμπεριφορά των χρηστών.
Στο διεθνές σκέλος της συζήτησης, εταιρείες τεχνητής νοημοσύνης έχουν παραδεχθεί ότι τα σενάρια αυτοτραυματισμού και αυτοκτονικού ιδεασμού αποτελούν από τις πιο δύσκολες περιοχές ασφαλείας για τα συστήματα συνομιλίας. Το τελευταίο διάστημα έχουν αυξηθεί και οι νομικές και ρυθμιστικές πιέσεις, καθώς εξετάζεται πιο στενά το κατά πόσο οι απαντήσεις ενός chatbot μπορεί να επιδεινώσουν ευάλωτες ψυχικές καταστάσεις.r
Με πληροφορίες από BBC
