Πόσο κοστίζει κάθε ερώτηση που κάνουμε στην Τεχνητή Νοημοσύνη

Πόσο κοστίζει κάθε ερώτηση που κάνουμε στην Τεχνητή Νοημοσύνη Facebook Twitter
Φωτ.: Freepik
0

Όταν λίγο πριν τα Χριστούγεννα, η OpenAI ανακοίνωσε το νέο παραγωγικό μοντέλο Τεχνητής Νοημοσύνης με την ονομασία o3, δεν διαδέχτηκε μόνο επευφημίες.

Ο ενθουσιασμός ήρθε σε εκείνους που περίμεναν ότι οι ικανότητες του AI εργαλείου θα αποτελούσαν ένα μεγάλο βήμα προς την «υπεράνθρωπη νοημοσύνη», δεδομένου ότι πολλοί υπολόγιζαν πως θα ήταν μεγαλύτερη υπόθεση από το λανσάρισμα του Chat GPT από την Openai το 2022.

Στην αντίπερα όχθη, επικρατεί προβληματισμός, όσον αφορά τις οικονομικές και τεχνολογικές συνέπειες που προκύπτουν από τη χρήση όλο και πιο προηγμένων μοντέλων.

Το μοντέλο παράγει καλύτερα αποτελέσματα όσο περισσότερο «σκέφτεται». Η περισσότερη σκέψη συνεπάγεται και περισσότερη υπολογιστική ισχύ, η οποία με τη σειρά της, είναι λογικό να απαιτεί και υψηλότερο κόστος ανά ερώτημα.

OpenAI, ο «τεχνολογικός χρυσός» των επενδυτών

Οι επενδυτές αντιμετωπίζουν την OpenAI ως έναν «τεχνολογικό χρυσό» που αξίζει 157 δισ. δολάρια, σύμφωνα με μια πρόσφατη συγκέντρωση κεφαλαίων. Ελπίζουν ότι χάρη στην επιτυχία προϊόντων όπως το Chatgpt, θα γίνει ο επόμενος τεχνολογικός γίγαντας του 1 τρισεκατομμυρίου δολαρίων.

Εντούτοις, το υψηλότερο κόστος των μοντέλων τελευταίας τεχνολογίας και οι πιέσεις από προμηθευτές, διανομείς και ανταγωνιστές, υποδηλώνουν ότι η κατασκευή μοντέλων μπορεί να μην προσδώσει το είδος των μονοπωλιακών εξουσιών που απολαμβάνουν οι τεχνολογικοί γίγαντες.

«Ένα πολύ σημαντικό πράγμα που πρέπει να καταλάβουμε για το μέλλον: τα οικονομικά της AI πρόκειται να αλλάξουν εντελώς» δήλωσε ο François Chollet, βετεράνος ερευνητής στον τομέα της Τεχνητής Νοημοσύνης.

Τον Ιούνιο, ο Chollet προκήρυξε ένα βραβείο ύψους 1 εκατ. δολαρίων για μοντέλα που θα μπορούσαν να εκτελέσουν μια δοκιμασία, την οποία είχε δημιουργήσει πέντε χρόνια νωρίτερα, την «Abstraction and Reasoning Corpus», ή ARC. Πρόκειται για μια πληθώρα απλών παζλ οπτικής συλλογιστικής που έχουν σκοπό να είναι «εύκολα για τον άνθρωπο και αδύνατα για τη σύγχρονη Τεχνητή Νοημοσύνη». (Οι άνθρωποι που προσλήφθηκαν μέσω διαδικτύου σημείωσαν 60-70% στο τεστ). Το βραβείο δεν ήταν απλά μια πρόκληση. Ο Chollet εξήγησε, ότι το να νικήσεις μια τέτοια εργασία θα ήταν ένα «κρίσιμο βήμα προς τη δημιουργία Τεχνητής Γενικής Νοημοσύνης», δηλαδή μηχανών που «θα νικούσαν τον άνθρωπο σε πολλές εργασίες».

Η επιτυχία του ο3 στο ARC και η «εκτόξευση» του κόστους

Έξι μήνες αργότερα η OpenAI αρίστευσε στο τεστ. Το μοντέλο o3 πέτυχε βαθμολογία 91,5%, προαναγγέλλοντας τη νέα σελίδα στον τομέα των AI εργαλείων.

Όπως και το o1, χρησιμοποιεί μια προσέγγιση «test-time compute», η οποία παράγει καλύτερα αποτελέσματα όσο περισσότερος χρόνος δαπανάται για την εξαγωγή συμπερασμάτων (όταν ένα εκπαιδευμένο μοντέλο ai απαντά σε ερωτήματα). Αντί να παράγει απλώς μια απάντηση όσο πιο γρήγορα μπορεί να την εκπέμψει, το o3 «είναι κατασκευασμένο για να σκέφτεται πιο σκληρά για την ερώτηση».

Σε αυτό το σημείο, έρχεται και το αναπόφευκτα υψηλότερο κόστος. Ο Chollet είχε θέσει όριο $10,000 στο κόστος επεξεργασίας για την επίλυση των 400 ερωτήσεων του ARC. Η OpenAI κατάφερε να πετύχει σκορ 82.8% ξοδεύοντας $6,677 (περίπου $17 ανά ερώτηση).

Το εντυπωσιακό σκορ 91.5% επιτεύχθηκε υπερβαίνοντας κατά πολύ το προϋπολογισμένο κόστος. Η εταιρεία δεν αποκάλυψε το ποσό που δαπανήθηκε, αλλά δήλωσε ότι η ακριβή εκδοχή της διαδικασίας χρησιμοποίησε 172 φορές περισσότερη υπολογιστική ισχύ από την οικονομική προσέγγιση. Αυτό υποδηλώνει κόστος περίπου $3,000 για την επίλυση ενός και μόνο ερωτήματος που διαρκεί για τον άνθρωπο δευτερόλεπτα.

Η πρόσβαση στο «pro»

Τα παλαιότερα μοντέλα AI (π.χ. GPT-3) ήδη αμφισβήτησαν τον κανόνα του χαμηλού περιθωρίου κόστους που κυριαρχούσε στη βιομηχανία λογισμικού. Σε σύγκριση με άλλες εφαρμογές, όπως οι μηχανές αναζήτησης, η απάντηση σε ερωτήσεις απαιτούσε πολύ περισσότερη υπολογιστική ισχύ. Όμως το συνολικό κόστος δημιουργίας και λειτουργίας αυτών των μοντέλων ήταν αρκετά χαμηλό, ώστε εταιρείες όπως το OpenAI να μπορούν να παρέχουν δωρεάν πρόσβαση σε πολλούς χρήστες.

Με την κυκλοφορία μοντέλων όπως το o3, το κόστος έχει αυξηθεί σημαντικά: Η πρόσβαση στο «pro» επίπεδο του παλαιότερου μοντέλου o1 περιορίζεται σε χρήστες που πληρώνουν $200 τον μήνα.

Παρά αυτή τη συνδρομή, η OpenAI εξακολουθεί να καταγράφει ζημιές, επειδή οι πελάτες χρησιμοποιούν τα μοντέλα περισσότερο απ’ ό,τι είχε προϋπολογιστεί. Αναλυτές, όπως ο Pierre Ferragu, εκτιμούν ότι η πλήρης πρόσβαση στο o3 μπορεί να φτάσει τα $2,000 τον μήνα, λόγω των αυξημένων απαιτήσεων υπολογιστικής ισχύος.

Με πληροφορίες από The Economist

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Καρκίνος: Ξένοι ερευνητές με επικεφαλής Έλληνα καθηγητή ανέπτυξαν καινοτόμο μέθοδο για διάγνωση και θεραπεία

Τech & Science / Καρκίνος: Ξένοι ερευνητές με επικεφαλής Έλληνα καθηγητή ανέπτυξαν καινοτόμο μέθοδο για διάγνωση και θεραπεία

«Τα ευρήματα αυτής της έρευνας θα μπορούσαν να αποτελέσουν σημαντική εξέλιξη στη διάγνωση, την πρόγνωση και τη θεραπεία του καρκίνου», δήλωσε ο Κώστας Αρβανίτης
LIFO NEWSROOM
Πώς η κλιματική κρίση απειλεί τον εγκέφαλο: Οι επιπτώσεις της ζέστης σε νευρολογικές παθήσεις

Τech & Science / Πώς η κλιματική κρίση απειλεί τον εγκέφαλο: Οι επιπτώσεις της ζέστης σε νευρολογικές παθήσεις

Η ακραία ζέστη λόγω της κλιματικής αλλαγής επιδεινώνει νευρολογικές παθήσεις όπως η επιληψία, η άνοια και τα εγκεφαλικά - Τι αποκαλύπτουν επιστήμονες για τον «καυτό εγκέφαλο» και τις νέες προκλήσεις που έρχονται
LIFO NEWSROOM
Καινοτόμος ανοσοθεραπεία κατά του καρκίνου του πνεύμονα, με ελληνική σφραγίδα

Τech & Science / Καινοτόμος ανοσοθεραπεία κατά του καρκίνου του πνεύμονα, με ελληνική σφραγίδα

Τα ευρήματα ανοίγουν νέους θεραπευτικούς δρόμους απέναντι στον μικροκυτταρικό καρκίνο που αποτελεί μια επιθετική μορφή καρκίνου του πνεύμονα, η οποία ευθύνεται για το 15-20% των νέων διαγνώσεων στη χώρα μας και παγκόσμια
LIFO NEWSROOM
Το νέο βραχιόλι της Meta «διαβάζει» τις κινήσεις των μυών και σου επιτρέπει να πληκτρολογείς χωρίς οθόνη

Τech & Science / Το νέο βραχιόλι της Meta «διαβάζει» τις κινήσεις των μυών και σου επιτρέπει να πληκτρολογείς χωρίς οθόνη

Χωρίς να αγγίζεις πληκτρολόγιο ή οθόνη, μόνο με μικροσκοπικές κινήσεις των μυών στον καρπό, η Meta υπόσχεται έναν νέο τρόπο επικοινωνίας με την τεχνολογία — βασισμένο στην τεχνητή νοημοσύνη και τη δύναμη της πρόθεσης
LIFO NEWSROOM
Η θέα ενός προσώπου με σημάδια ίωσης ενεργοποιεί το ανοσοποιητικό μας, σύμφωνα με νέα έρευνα

Τech & Science / Η θέα ενός προσώπου με σημάδια ίωσης ενεργοποιεί το ανοσοποιητικό μας, σύμφωνα με νέα έρευνα

Η πρώτη αίσθηση του κινδύνου μπορεί να είναι αρκετή: επιστήμονες δείχνουν ότι ακόμη και μια ψηφιακή προσομοίωση ενός «μολυσματικού» προσώπου αρκεί για να κινητοποιήσει την άμυνα του οργανισμού μας
LIFO NEWSROOM