Γράφει ο Απόστολος Πάνος, Head of Growth and Innovation
Όπως λέει και ο τίτλος, ζούμε στην εποχή όπου η ταινία “Her” αρχίζει να παίρνει σάρκα και οστά με την εμφάνιση του ChatGPT-3.5 και του πρόσφατου ChatGPT-4.
Η επιχείρηση OpenAI έκανε εφικτές τις συνομιλίες διαλόγου με το ChatGPT, ένα chatbot με τεχνητή νοημοσύνη.
Όλοι μπορούν να το χρησιμοποιήσουν και να συζητήσουν για οποιοδήποτε αντικείμενο επιθυμούν, με τις απαντήσεις του να μοιάζουν ανθρώπινες κάτι το οποίο το έκανε ακόμα πιο δημοφιλές.
Το τελευταίο version είναι διαθέσιμο στους χρήστες μόνο μέσω του plus με αντίτιμο τα 20 ευρώ, αλλά πριν από την συνδρομή plus, η OpenAI προσέφερε την υπηρεσία της δωρεάν προς όλους.
Όμως, ποιο ήταν το κόστος λειτουργίας της υπηρεσίας;
Λειτουργικό Κόστος
Η λειτουργία του ChatGPT κοστίζει 100.000 δολάρια την ημέρα. Σύμφωνα με πολυάριθμες πηγές, το ChatGPT φιλοξενείται στο cloud Azure της Microsoft, ώστε η OpenAI να μην χρειαστεί να δαπανήσει χρήματα για ένα πραγματικό δωμάτιο διακομιστών.
Η τρέχουσα τιμολόγηση της Microsoftλέει ότι, μια GPU A100 κοστίζει 3 δολάρια ανά ώρα και κάθε λέξη που παράγεται από το ChatGPT κοστίζει 0,0003 δολάρια.
Για την εκτέλεση μιας απάντησης ChatGPT, απαιτούνται τουλάχιστον οκτώ GPU. Επομένως, το ChatGPT θα δαπανήσει σχεδόν ένα σεντ για να παράγει μια μέση απάντηση 30 λέξεων.
Σύμφωνα με αυτή την εκτίμηση, το OpenAI μπορεί να ξοδεύει τουλάχιστον 100 χιλιάδες δολάρια ημερησίως ή 3 εκατομμύρια δολάρια μηνιαίως για λειτουργικά έξοδα.
Μια διαφορετική πηγή λέει ότι, μια μόνο GPU NVIDIA A100 μπορεί να εκτελέσει ένα μοντέλο 3 δισεκατομμυρίων παραμέτρων σε μόλις 6 χιλιοστά του δευτερολέπτου.
Αν χρησιμοποιήσουμε αυτή την απόδοση ως μέτρο σύγκρισης, θα χρειαζόταν 350 ms για μια μεμονωμένη GPU NVIDIA A100 για να εκτυπώσει μια μόνο λέξη στο ChatGPT.
Η πιο πρόσφατη έκδοση, ChatGPT-3.5, έχει περισσότερες από 175 δισεκατομμύρια παραμέτρους, οπότε θα χρειαστούν περίπου πέντε GPU A100 για να εκτελέσουν την απαιτούμενη λειτουργία για να πάρουν μια έξοδο για μια μόνο ερώτηση.
Αφού συνυπολογιστεί η ικανότητα του ChatGPT να εξάγει περίπου 15-20 λέξεις ανά δευτερόλεπτο, υπολογίζεται ένας μέσος όρος τουλάχιστον 8 GPU A100.
Η Φαντασία ως υπερδύναμη
Το ChatGPT είναι σε θέση να συνθέσει οτιδήποτε, από εξελιγμένο κώδικα Python μέχρι προσαρμοσμένες δοκίμιες σε πανεπιστήμια.
Το μεγαλύτερο πλεονέκτημα που έχουν οι χρήστες του ChatGPT, είναι ότι η φαντασία του ανθρώπου πλέον αποτελεί την μεγαλύτερη υπερδύναμη του και οι δυνατότητες του είναι απεριόριστες.
Πρώτη φορά υπηρεσία τεχνολογίας, αποκτά 100 εκατομμύρια χρήστες μέσα στο διάστημα των 3 μηνών.
Είναι αναμφισβήτητο ότι το ChatGPT της OpenAI έχει προκαλέσει αρκετό ενδιαφέρον στους ανθρώπους μέσα σε πολύ σύντομο χρονικό διάστημα, ακόμα και αν η πλειοψηφία αυτού του σημαντικού αριθμού χρηστών δεν είναι ενεργοί χρήστες.
Παρόλο που το ευρύ κοινό ενδιαφέρεται για το νεότερο προϊόν της OpenAI, η επιχείρηση έχει ακόμα πολύ δρόμο να διανύσει μέχρι το ChatGPT να γίνει mainstream ως το πιο αποτελεσματικό εργαλείο διαλόγου τεχνητής νοημοσύνης.
Το μέλλον μας επιφυλάσσει εκπλήξεις και βρισκόμαστε στην εποχή του HTML 0 αφού ανακαλύπτουμε το web3 και τον κόσμο του AI σε μια εποχή όπου η ταχύτητα επεξεργασίας των δεδομένων θα αποτελεί τον καθοριστικό λόγο επιβίωσης για τις μονάδες και τις ομάδες.
Μείνετε συντονισμένοι στον νέο κόσμο και ανακαλύψτε τις δυνατότητες του.
