Η Canva ζήτησε συγγνώμη επειδή AI εργαλείο της άλλαζε τη λέξη «Palestine» σε «Ukraine»

Η Canva ζήτησε συγγνώμη επειδή AI εργαλείο της άλλαζε τη λέξη «Palestine» σε «Ukraine» Facebook Twitter
0

Η Canva ζήτησε συγγνώμη μετά από αναφορές ότι ένα νέο εργαλείο τεχνητής νοημοσύνης της πλατφόρμας αντικαθιστούσε τη λέξη «Palestine» με τη λέξη «Ukraine» σε σχέδια χρηστών.

Το πρόβλημα εντοπίστηκε στο Magic Layers, μια νέα λειτουργία που έχει σχεδιαστεί για να μετατρέπει επίπεδες εικόνες σε επεξεργάσιμα layers. Το εργαλείο υποτίθεται ότι αναγνωρίζει τα στοιχεία μιας εικόνας και τα χωρίζει σε ξεχωριστά μέρη, χωρίς να αλλάζει το ορατό περιεχόμενο του αρχικού σχεδίου.

Σύμφωνα με το The Verge, η χρήστρια Rosie, με λογαριασμό @ros_ie9 στο X, δημοσίευσε παράδειγμα στο οποίο η φράση «cats for Palestine» μετατράπηκε από το εργαλείο σε «cats for Ukraine». Η ίδια σημείωσε ότι το πρόβλημα φαινόταν να αφορά ειδικά τη λέξη «Palestine», καθώς συγγενείς λέξεις, όπως «Gaza», δεν επηρεάζονταν.

Η ανάρτηση έγινε viral και, σύμφωνα με τις απαντήσεις κάτω από το post, και άλλοι χρήστες κατάφεραν να αναπαράγουν το ίδιο πρόβλημα πριν η Canva το διορθώσει.

Η εταιρεία αναγνώρισε το ζήτημα και ζήτησε συγγνώμη. «Ενημερωθήκαμε για ένα πρόβλημα με τη λειτουργία Magic Layers και κινηθήκαμε γρήγορα για να το διερευνήσουμε και να το διορθώσουμε», δήλωσε στο The Verge η εκπρόσωπος της Canva, Louisa Green. «Παίρνουμε τέτοιες αναφορές πολύ σοβαρά και προσθέτουμε επιπλέον ελέγχους ώστε να αποτρέψουμε κάτι αντίστοιχο στο μέλλον. Λυπούμαστε για την αναστάτωση που μπορεί να προκάλεσε».

Η Canva δεν έδωσε περισσότερες λεπτομέρειες για το τι ακριβώς προκάλεσε την αντικατάσταση. Μετά τη διόρθωση, δοκιμές που αναφέρει το The Verge δεν εμφάνισαν ξανά το ίδιο πρόβλημα.

Το Magic Layers παρουσιάστηκε πρόσφατα ως μέρος της νέας AI στρατηγικής της Canva. Η λειτουργία βασίζεται στο Canva Design Model, το σύστημα τεχνητής νοημοσύνης της εταιρείας που αναλύει τη δομή ενός σχεδίου, αναγνωρίζει κείμενα, αντικείμενα και οπτικά στοιχεία, και τα μετατρέπει σε χωριστά επεξεργάσιμα επίπεδα.

Η ιδέα είναι να μπορεί ένας χρήστης να παίρνει μια ενιαία εικόνα και να την επεξεργάζεται σαν να ήταν φτιαγμένη από ξεχωριστά κομμάτια. Όπως είχε πει ο συνιδρυτής και chief product officer της Canva, Cameron Adams, η εταιρεία θέλει η τεχνητή νοημοσύνη να ανοίγει τη δημιουργία και όχι να την κλείνει σε μια τελική, μη επεξεργάσιμη εικόνα.

Το περιστατικό, όμως, δείχνει πόσο ευαίσθητο μπορεί να γίνει ένα τέτοιο εργαλείο όταν δεν περιορίζεται σε χρώματα, σχήματα και αντικείμενα, αλλά αγγίζει λέξεις με πολιτικό βάρος. Στην περίπτωση της Canva, η αντικατάσταση της λέξης «Palestine» από τη λέξη «Ukraine» δεν διαβάστηκε ως απλό τυπογραφικό λάθος, αλλά ως μια αλλαγή νοήματος μέσα σε ένα σχέδιο που ο χρήστης δεν είχε ζητήσει να αλλάξει.

Η υπόθεση έρχεται σε μια περίοδο όπου η Canva προσπαθεί να ανταγωνιστεί πιο άμεσα την Adobe στα AI-powered design tools, ενσωματώνοντας όλο και περισσότερες λειτουργίες τεχνητής νοημοσύνης στην καθημερινή δημιουργική διαδικασία. Όσο αυτά τα εργαλεία μπαίνουν σε social posts, αφίσες, καμπάνιες και εικόνες δημόσιου λόγου, ακόμη και ένα τεχνικό λάθος μπορεί να αποκτήσει πολιτικό βάρος.

Με στοιχεία από The Verge και PetaPixel.

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

ΔΕΠΥ ΠΑΙΔΙΑ

Τech & Science / ΔΕΠΥ: Εργαλείο τεχνητής νοημοσύνης θα μπορούσε να βοηθήσει στην έγκαιρη διάγνωση στα παιδιά

Οι ερευνητές διαπίστωσαν ότι το σύστημα τεχνητής νοημοσύνης μπορούσε να εντοπίζει με ακρίβεια πρώιμα προειδοποιητικά σημάδια της Διαταραχής Ελλειμματικής Προσοχής και Υπερκινητικότητας, γεγονός που θα μπορούσε να επιτρέψει στα παιδιά να λάβουν την απαραίτητη υποστήριξη πολύ νωρίτερα
THE LIFO TEAM
Η Τέιλορ Σουίφτ θέλει να κατοχυρώσει τη φωνή της πριν την αντιγράψει η τεχνητή νοημοσύνη

Τech & Science / Η Τέιλορ Σουίφτ θέλει να κατοχυρώσει τη φωνή της πριν την αντιγράψει η τεχνητή νοημοσύνη

Η Τέιλορ Σουίφτ κατέθεσε αιτήσεις για την κατοχύρωση δύο ηχητικών αποσπασμάτων της φωνής της και μίας φωτογραφίας της από τη σκηνή, σε μια κίνηση που συνδέεται με την ανησυχία για AI deepfakes, ψεύτικες διαφημίσεις και μη εξουσιοδοτημένες χρήσεις της εικόνας της.
THE LIFO TEAM
Οι influencers αντικαθιστούν τον εαυτό τους με AI κλώνους

Τech & Science / Οι influencers αντικαθιστούν τον εαυτό τους με AI κλώνους

Από τον Κάμπι Λέιμ μέχρι τον Άντι Κόεν, τα AI «ψηφιακά δίδυμα» δημιουργών και celebrities γίνονται το νέο προϊόν για brands, πλατφόρμες και talent agencies. Η υπόσχεση είναι λιγότερο burnout και περισσότερες εμπορικές ευκαιρίες. Ο κίνδυνος, όμως, είναι πολύ μεγαλύτερος: οι creators να χάσουν τον έλεγχο της ίδιας τους της εικόνας.
THE LIFO TEAM
Σχεδόν τα μισά τραγούδια που ανεβαίνουν καθημερινά στο Deezer είναι φτιαγμένα από AI

Τech & Science / Σχεδόν τα μισά τραγούδια που ανεβαίνουν καθημερινά στο Deezer είναι φτιαγμένα από AI

Η τεχνητή νοημοσύνη υπογράφει πλέον το 44% των νέων uploads στο Deezer, όμως πίσω από τα 75.000 καθημερινά tracks κρύβεται ένα παράδοξο: η πραγματική ακροαματικότητα παραμένει οριακή, ενώ τα περισσότερα streams αποδεικνύονται πλασματικά, αφήνοντας τους δημιουργούς χωρίς έσοδα.
THE LIFO TEAM
ΔΙΑΣΤΗΜΑ ΣΕΛΗΝΗ ΚΙΝΑ ΗΠΑ

Τech & Science / «Η χελώνα και ο λαγός»: θα νικήσει η Κίνα τις ΗΠΑ στον «αγώνα» επιστροφής στη Σελήνη;

Οι αντίπαλες υπερδυνάμεις εντείνουν τις προετοιμασίες για μια επανδρωμένη προσγείωση στη Σελήνη, σχεδόν έξι δεκαετίες μετά το πρώτο βήμα στον φυσικο δορυφόρο της Γης
THE LIFO TEAM
ΦΙΤΖΙ ΚΥΚΛΩΝΕΣ

Τech & Science / Από τις γλυκοπατάτες έως τις μέλισσες: Πώς οι κάτοικοι των Φίτζι «προβλέπουν» τους κυκλώνες

Στα νησιά Φίτζι οι κάτοικοι εξακολουθούν να «διαβάζουν» τη φύση για να προβλέψουν την έλευση κυκλώνων, αξιοποιώντας μια παραδοσιακή γνώση που συναντά πλέον τη σύγχρονη επιστήμη
THE LIFO TEAM