Όταν λίγο πριν τα Χριστούγεννα, η OpenAI ανακοίνωσε το νέο παραγωγικό μοντέλο Τεχνητής Νοημοσύνης με την ονομασία o3, δεν διαδέχτηκε μόνο επευφημίες.
Ο ενθουσιασμός ήρθε σε εκείνους που περίμεναν ότι οι ικανότητες του AI εργαλείου θα αποτελούσαν ένα μεγάλο βήμα προς την «υπεράνθρωπη νοημοσύνη», δεδομένου ότι πολλοί υπολόγιζαν πως θα ήταν μεγαλύτερη υπόθεση από το λανσάρισμα του Chat GPT από την Openai το 2022.
Στην αντίπερα όχθη, επικρατεί προβληματισμός, όσον αφορά τις οικονομικές και τεχνολογικές συνέπειες που προκύπτουν από τη χρήση όλο και πιο προηγμένων μοντέλων.
Το μοντέλο παράγει καλύτερα αποτελέσματα όσο περισσότερο «σκέφτεται». Η περισσότερη σκέψη συνεπάγεται και περισσότερη υπολογιστική ισχύ, η οποία με τη σειρά της, είναι λογικό να απαιτεί και υψηλότερο κόστος ανά ερώτημα.
OpenAI, ο «τεχνολογικός χρυσός» των επενδυτών
Οι επενδυτές αντιμετωπίζουν την OpenAI ως έναν «τεχνολογικό χρυσό» που αξίζει 157 δισ. δολάρια, σύμφωνα με μια πρόσφατη συγκέντρωση κεφαλαίων. Ελπίζουν ότι χάρη στην επιτυχία προϊόντων όπως το Chatgpt, θα γίνει ο επόμενος τεχνολογικός γίγαντας του 1 τρισεκατομμυρίου δολαρίων.
Εντούτοις, το υψηλότερο κόστος των μοντέλων τελευταίας τεχνολογίας και οι πιέσεις από προμηθευτές, διανομείς και ανταγωνιστές, υποδηλώνουν ότι η κατασκευή μοντέλων μπορεί να μην προσδώσει το είδος των μονοπωλιακών εξουσιών που απολαμβάνουν οι τεχνολογικοί γίγαντες.
«Ένα πολύ σημαντικό πράγμα που πρέπει να καταλάβουμε για το μέλλον: τα οικονομικά της AI πρόκειται να αλλάξουν εντελώς» δήλωσε ο François Chollet, βετεράνος ερευνητής στον τομέα της Τεχνητής Νοημοσύνης.
Τον Ιούνιο, ο Chollet προκήρυξε ένα βραβείο ύψους 1 εκατ. δολαρίων για μοντέλα που θα μπορούσαν να εκτελέσουν μια δοκιμασία, την οποία είχε δημιουργήσει πέντε χρόνια νωρίτερα, την «Abstraction and Reasoning Corpus», ή ARC. Πρόκειται για μια πληθώρα απλών παζλ οπτικής συλλογιστικής που έχουν σκοπό να είναι «εύκολα για τον άνθρωπο και αδύνατα για τη σύγχρονη Τεχνητή Νοημοσύνη». (Οι άνθρωποι που προσλήφθηκαν μέσω διαδικτύου σημείωσαν 60-70% στο τεστ). Το βραβείο δεν ήταν απλά μια πρόκληση. Ο Chollet εξήγησε, ότι το να νικήσεις μια τέτοια εργασία θα ήταν ένα «κρίσιμο βήμα προς τη δημιουργία Τεχνητής Γενικής Νοημοσύνης», δηλαδή μηχανών που «θα νικούσαν τον άνθρωπο σε πολλές εργασίες».
Η επιτυχία του ο3 στο ARC και η «εκτόξευση» του κόστους
Έξι μήνες αργότερα η OpenAI αρίστευσε στο τεστ. Το μοντέλο o3 πέτυχε βαθμολογία 91,5%, προαναγγέλλοντας τη νέα σελίδα στον τομέα των AI εργαλείων.
Όπως και το o1, χρησιμοποιεί μια προσέγγιση «test-time compute», η οποία παράγει καλύτερα αποτελέσματα όσο περισσότερος χρόνος δαπανάται για την εξαγωγή συμπερασμάτων (όταν ένα εκπαιδευμένο μοντέλο ai απαντά σε ερωτήματα). Αντί να παράγει απλώς μια απάντηση όσο πιο γρήγορα μπορεί να την εκπέμψει, το o3 «είναι κατασκευασμένο για να σκέφτεται πιο σκληρά για την ερώτηση».
Σε αυτό το σημείο, έρχεται και το αναπόφευκτα υψηλότερο κόστος. Ο Chollet είχε θέσει όριο $10,000 στο κόστος επεξεργασίας για την επίλυση των 400 ερωτήσεων του ARC. Η OpenAI κατάφερε να πετύχει σκορ 82.8% ξοδεύοντας $6,677 (περίπου $17 ανά ερώτηση).
Το εντυπωσιακό σκορ 91.5% επιτεύχθηκε υπερβαίνοντας κατά πολύ το προϋπολογισμένο κόστος. Η εταιρεία δεν αποκάλυψε το ποσό που δαπανήθηκε, αλλά δήλωσε ότι η ακριβή εκδοχή της διαδικασίας χρησιμοποίησε 172 φορές περισσότερη υπολογιστική ισχύ από την οικονομική προσέγγιση. Αυτό υποδηλώνει κόστος περίπου $3,000 για την επίλυση ενός και μόνο ερωτήματος που διαρκεί για τον άνθρωπο δευτερόλεπτα.
Η πρόσβαση στο «pro»
Τα παλαιότερα μοντέλα AI (π.χ. GPT-3) ήδη αμφισβήτησαν τον κανόνα του χαμηλού περιθωρίου κόστους που κυριαρχούσε στη βιομηχανία λογισμικού. Σε σύγκριση με άλλες εφαρμογές, όπως οι μηχανές αναζήτησης, η απάντηση σε ερωτήσεις απαιτούσε πολύ περισσότερη υπολογιστική ισχύ. Όμως το συνολικό κόστος δημιουργίας και λειτουργίας αυτών των μοντέλων ήταν αρκετά χαμηλό, ώστε εταιρείες όπως το OpenAI να μπορούν να παρέχουν δωρεάν πρόσβαση σε πολλούς χρήστες.
Με την κυκλοφορία μοντέλων όπως το o3, το κόστος έχει αυξηθεί σημαντικά: Η πρόσβαση στο «pro» επίπεδο του παλαιότερου μοντέλου o1 περιορίζεται σε χρήστες που πληρώνουν $200 τον μήνα.
Παρά αυτή τη συνδρομή, η OpenAI εξακολουθεί να καταγράφει ζημιές, επειδή οι πελάτες χρησιμοποιούν τα μοντέλα περισσότερο απ’ ό,τι είχε προϋπολογιστεί. Αναλυτές, όπως ο Pierre Ferragu, εκτιμούν ότι η πλήρης πρόσβαση στο o3 μπορεί να φτάσει τα $2,000 τον μήνα, λόγω των αυξημένων απαιτήσεων υπολογιστικής ισχύος.
Με πληροφορίες από The Economist
