Το ChatGPT συνομιλίας AI του OpenAI κυκλοφόρησε πέρυσι και έχει γίνει εξαιρετικά δημοφιλές με ταχύτητα ρεκόρ χάρη στην ικανότητά του να γράφει ιστορίες, να συνθέτει μηνύματα ηλεκτρονικού ταχυδρομείου και ακόμη και να δημιουργεί κώδικας (μερικές φορές, δυστυχώς, ακόμη και επιβλαβές). Ωστόσο, μια νέα έκθεση δείχνει ότι κοστίζει στο OpenAI μια περιουσία για να συνεχίσει να λειτουργεί καθημερινά.
Σύμφωνα με έρευνα της SemiAnalysis, το OpenAI ξοδεύει σχεδόν 695 $ την ημέρα για να διατηρήσει chat bot σε κατάσταση λειτουργίας. Σύμφωνα με τις εκτιμήσεις της εταιρείας, το σύστημα περιλαμβάνει περίπου περισσότερους από 3,6 χιλιάδες διακομιστές HGX A100 και σχεδόν 29 χιλιάδες GPU και το κόστος ανά αίτημα είναι περίπου 0,36 ¢.
Ο Dylan Patel, κύριος αναλυτής στη SemiAnalysis, είπε στο Business Insider ότι το τρέχον κόστος λειτουργίας του λογισμικού μπορεί να είναι ακόμη υψηλότερο, καθώς η έκδοση GPT-4 είναι πιθανό να είναι πιο ακριβή από την προκάτοχό της, GPT-3. Βάσισε τις εκτιμήσεις του στο προηγούμενο μοντέλο GPT-3, αλλά το OpenAI έχει ήδη κυκλοφορήσει μια έκδοση GPT-4 για συνδρομητές επί πληρωμή. Η εταιρεία ισχυρίζεται ότι το νέο μοντέλο προσφέρει πιο ακριβείς πληροφορίες και προστατεύει καλύτερα από λανθασμένες απαντήσεις, που ήταν πρόβλημα με τις προηγούμενες εκδόσεις.
Ένας από τους κύριους λόγους για το υπέρογκο κόστος είναι τα ενεργοβόρα εξειδικευμένα τσιπ που απαιτούνται για τη λειτουργία του συστήματος. Για να λυθεί αυτό το πρόβλημα, Microsoft εργάζεται πάνω στο δικό της τσιπ τεχνητής νοημοσύνης που ονομάζεται Athena και θα μπορούσε να αντικαταστήσει τις GPU NVIDIA και να μειώσει το λειτουργικό κόστος του ChatGPT.
Εν τω μεταξύ, το ChatGPT μπορεί ήδη να δημιουργήσει λειτουργικό κώδικα από την αρχή, και προκαλεί ακόμη και φόβους ότι θα μπορούσε τελικά να αντικαταστήσει τους προγραμματιστές. Ωστόσο, μια πρόσφατη μελέτη από μια ομάδα επιστημόνων δείχνει ότι ο κώδικας που δημιουργείται από το chatbot μπορεί να μην είναι πολύ ασφαλής. Η μελέτη λέει ότι το ChatGPT δημιουργεί κώδικα που είναι «σημαντικά χαμηλότερος από τα ελάχιστα πρότυπα ασφαλείας που ισχύουν στις περισσότερες περιπτώσεις». Το πιο ενδιαφέρον είναι ότι το chatbot το παραδέχεται όταν ρωτήθηκε πόσο ασφαλής είναι ο κώδικας που δημιουργεί.
Για να ελέγξετε την ποιότητα της κωδικοποίησης ChatGPT, οι ερευνητές του ζήτησαν να δημιουργήσει 21 προγράμματα και σενάρια χρησιμοποιώντας τέσσερις γλώσσες προγραμματισμού: C, C++, Python και Java. Στην πρώτη του προσπάθεια, το chatbot μπόρεσε να γράψει μόνο 5 ασφαλή προγράμματα, αλλά μετά από κάποια προτροπή από τους ερευνητές, δημιούργησε 7 πιο ασφαλή κομμάτια κώδικα. Τα αποτελέσματα της μελέτης υποδηλώνουν ότι η χρήση του ChatGPT για τη σύνταξη εφαρμογών μπορεί να είναι αναποτελεσματική ή ακόμα και επικίνδυνη τώρα, αλλά αυτό μπορεί να αλλάξει στο μέλλον.
Διαβάστε επίσης:
Ουάου αριθμούς για έναν ελεύθερο νευρώνα!
Στη ζωή μου δεν θα πίστευα ποτέ ότι είναι τόσο ακριβό...
Έμεινα κι εγώ έκπληκτος. Είμαι έστω και λίγο άβολα τώρα Ανοίξτε το ChatGPT - θα το επιβαρύνω με τα αιτήματά μου)