Μυστηριώδης Έργο Q* από το OpenAI προκαλεί ανησυχία στους ειδικούς. Μπορεί πραγματικά να είναι επικίνδυνος για την ανθρωπότητα; Τι είναι γνωστό για αυτόν; Αφού ο Sam Altman απολύθηκε αρχικά την περασμένη εβδομάδα και αυτός και η ομάδα σχεδόν μετακόμισαν στο Microsoft, μετά επέστρεψε στον χώρο εργασίας του (σχετικά γράψαμε εδώ), Το OpenAI είναι ξανά στις ειδήσεις. Αυτή τη φορά εξαιτίας αυτού που ορισμένοι ερευνητές αποκαλούν πιθανή απειλή για την ανθρωπότητα. Ναι, καλά διαβάσατε, μια απειλή για την ανθρωπότητα.
Η πραγματική ανατροπή στον κόσμο της τεχνολογίας προκλήθηκε από το Project Q* - ένα άγνωστο έργο γενικής τεχνητής νοημοσύνης (AGI) - προφέρεται Q-Star. Αν και αυτό το έργο βρίσκεται στα αρχικά του στάδια, θεωρείται πραγματικά πρωτοποριακό στις εξελίξεις του AGI. Ωστόσο, κάποιοι το βλέπουν ως κίνδυνο για την ανθρωπότητα.
Ένα μυστικό έργο τεχνητής νοημοσύνης που αναπτύχθηκε από το διάσημο εργαστήριο τεχνητής νοημοσύνης OpenAI έχει τη δυνατότητα να φέρει επανάσταση στην τεχνολογία και την κοινωνία γενικότερα. Αλλά εγείρει επίσης ορισμένα ηθικά ερωτήματα σχετικά με τους κινδύνους. Καθώς αναδύονται λεπτομέρειες σχετικά με τις εκπληκτικές δυνατότητες του Project Q*, όλο και περισσότερες εικασίες εμφανίζονται για το τι θα μπορούσε να σημαίνει για το μέλλον της ανθρωπότητας.
Επίσης ενδιαφέρον: Ιστορία του OpenAI: Τι ήταν και τι περιμένει η εταιρεία
Τι είναι η Τεχνητή Γενική Νοημοσύνη (AGI);
Για να κατανοήσουμε τη διαφημιστική εκστρατεία γύρω από το Project Q* (Q-Star), ας προσπαθήσουμε πρώτα να καταλάβουμε τι είναι η έννοια της Τεχνητής Γενικής Νοημοσύνης (AGI). Ενώ τα τρέχοντα συστήματα τεχνητής νοημοσύνης υπερέχουν σε στενές, συγκεκριμένες εργασίες, όπως το παιχνίδι σκάκι ή η δημιουργία εικόνων, η γενική τεχνητή νοημοσύνη αναφέρεται σε μηχανές που μπορούν να μάθουν και να σκέφτονται σε ανθρώπινο επίπεδο σε πολλούς τομείς. Μπορούν δηλαδή να μελετήσουν σαν μικρά παιδιά στο σχολείο, για παράδειγμα, τα βασικά των μαθηματικών, της χημείας, της βιολογίας κ.λπ.
Η Γενική Τεχνητή Νοημοσύνη (AGI) είναι ένας τύπος νοημοσύνης μηχανής που μπορεί υποθετικά να μιμηθεί την ανθρώπινη νοημοσύνη ή συμπεριφορά, με την ικανότητα να μαθαίνει και να εφαρμόζει αυτή τη δυνατότητα για την επίλυση ποικίλων προβλημάτων. Το AGI ονομάζεται επίσης ισχυρή τεχνητή νοημοσύνη, πλήρης τεχνητή νοημοσύνη ή τεχνητή νοημοσύνη σε ανθρώπινο επίπεδο. Η γενική τεχνητή νοημοσύνη διαφέρει από την αδύναμη ή στενή τεχνητή νοημοσύνη, η οποία μπορεί να εκτελεί μόνο συγκεκριμένες ή εξειδικευμένες εργασίες εντός δεδομένων παραμέτρων. Το ZHI θα είναι σε θέση να επιλύει ανεξάρτητα διάφορα σύνθετα προβλήματα από διαφορετικά πεδία γνώσης.
Η δημιουργία τεχνητής νοημοσύνης είναι ο κύριος στόχος της έρευνας τεχνητής νοημοσύνης από εταιρείες όπως η DeepMind και η Anthropic. Το CSI είναι ένα πολύ δημοφιλές θέμα στη λογοτεχνία επιστημονικής φαντασίας και μπορεί να διαμορφώσει μελλοντική έρευνα. Κάποιοι υποστηρίζουν ότι είναι δυνατό να δημιουργηθεί ένα UCI μέσα σε χρόνια ή δεκαετίες, ενώ άλλοι υποστηρίζουν ότι θα μπορούσε να διαρκέσει έναν αιώνα ή περισσότερο. Υπάρχουν όμως και εκείνοι που πιστεύουν ότι αυτό δεν θα επιτευχθεί ποτέ. Μερικοί έχουν δει τις απαρχές ενός URI στο GPT-3, αλλά φαίνεται να απέχει πολύ από το να πληροί τα βασικά κριτήρια.
Η δημιουργία της τεχνητής γενικής νοημοσύνης (AGI) θεωρείται από τους ερευνητές ως το ιερό δισκοπότηρο της τεχνητής νοημοσύνης, μια θεωρητική πιθανότητα που έχει αιχμαλωτίσει εδώ και καιρό τη φαντασία τους. Ως εκ τούτου, η εμφάνιση ενός τέτοιου έργου όπως το OpenAI Project Q* προκάλεσε μεγάλη απήχηση στον κόσμο της έρευνας αλγορίθμων τεχνητής νοημοσύνης. Αν και όλοι καταλαβαίνουν ότι αυτά είναι μόνο τα πρώτα βήματα, σχεδόν στα τυφλά, σε έναν κόσμο όπου η τεχνητή νοημοσύνη θα έχει τις ίδιες δυνατότητες με τους ανθρώπους, ή και υψηλότερες.
Επίσης ενδιαφέρον: Ολα για Microsoft Copilot: το μέλλον ή ο λάθος τρόπος;
Τι είναι το Project Q*;
Το Project Q* δεν είναι ένας τυπικός αλγόριθμος γιατί είναι ένα μοντέλο τεχνητής νοημοσύνης που πλησιάζει όλο και περισσότερο το μοντέλο τεχνητής γενικής νοημοσύνης (AGI). Αυτό σημαίνει ότι, σε αντίθεση με το ChatGPT, το Project Q* δείχνει καλύτερες δεξιότητες σκέψης και γνωστικές δεξιότητες σε σύγκριση με άλλους αλγόριθμους. Το ChatGPT απαντά επί του παρόντος σε ερωτήματα που βασίζονται σε τεράστιο όγκο πραγματικού υλικού, αλλά με το AGI, το μοντέλο AI θα μάθει συλλογισμό και την ικανότητα να σκέφτεται και να κατανοεί μόνο του. Είναι ήδη γνωστό ότι το Project Q* είναι ικανό να λύνει απλά μαθηματικά προβλήματα που δεν ήταν μέρος του εκπαιδευτικού του υλικού. Σε αυτό, ορισμένοι ερευνητές βλέπουν ένα σημαντικό βήμα προς τη δημιουργία γενικής τεχνητής νοημοσύνης (AGI). Το OpenAI ορίζει το AGI ως συστήματα τεχνητής νοημοσύνης που είναι πιο έξυπνα από τους ανθρώπους.
Η ανάπτυξη του Project Q* διαχειρίζεται ο επικεφαλής επιστήμονας του OpenAI, Ilya Sutzkever, και η βάση του τεκμηριώθηκε από τους ερευνητές Jakub Pakhotsky και Shimon Sidor.
Η ικανότητα ενός αλγορίθμου να επιλύει μόνος του μαθηματικά προβλήματα, ακόμη και αν αυτά τα προβλήματα δεν ήταν μέρος του συνόλου δεδομένων εκπαίδευσης, θεωρείται μια σημαντική ανακάλυψη στον τομέα της τεχνητής νοημοσύνης. Οι διαφωνίες στην ομάδα σχετικά με αυτό το έργο σχετίζονται με την προσωρινή απομάκρυνση του Διευθύνοντος Συμβούλου του OpenAI, Sam Altman. Είναι γνωστό ότι πριν απολυθεί ο Άλτμαν, μια ομάδα ερευνητών της εταιρείας έστειλε επιστολή στο διοικητικό συμβούλιο προειδοποιώντας για την ανακάλυψη τεχνητής νοημοσύνης που θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα. Αυτή η επιστολή, η οποία φέρεται να συζητούσε τον αλγόριθμο Project Q*, αναφέρθηκε ως ένας από τους παράγοντες που οδήγησαν στην απόλυση του Άλτμαν. Ωστόσο, οι δυνατότητες του Project Q* και οι πιθανοί κίνδυνοι που μπορεί να εγκυμονεί δεν είναι πλήρως κατανοητές επειδή οι λεπτομέρειες είναι άγνωστες. Τίποτα δεν έχει κυκλοφορήσει στο ευρύ κοινό.
Ουσιαστικά, το Project Q* είναι μια μέθοδος ενισχυτικής εκμάθησης χωρίς μοντέλα που ξεφεύγει από τα παραδοσιακά μοντέλα χωρίς να απαιτεί προηγούμενη γνώση του περιβάλλοντος. Αντίθετα, μαθαίνει μέσω της εμπειρίας, προσαρμόζοντας ενέργειες που βασίζονται σε ανταμοιβές και τιμωρίες. Οι τεχνικοί ειδικοί πιστεύουν ότι το Project Q* θα μπορέσει να αποκτήσει εξαιρετικές ικανότητες αποκτώντας ικανότητες παρόμοιες με τις ανθρώπινες γνωστικές ικανότητες.
Ωστόσο, αυτό το χαρακτηριστικό είναι το πιο εντυπωσιακό στο νέο μοντέλο τεχνητής νοημοσύνης που ανησυχεί ερευνητές και κριτικούς και προκαλεί φόβους σχετικά με τις πραγματικές εφαρμογές της τεχνολογίας και τους υποκείμενους κινδύνους. Τι φοβούνται τόσο οι επιστήμονες και οι ερευνητές; Ας το καταλάβουμε.
Επίσης ενδιαφέρον: Πώς να ενημερώσετε τις οικιακές σας συσκευές ώστε να υποστηρίζουν Wi-Fi 6
Φοβούνται το άγνωστο
Οι άνθρωποι πάντα φοβόντουσαν το άγνωστο, το άγνωστο. Αυτή είναι η ανθρώπινη ουσία, χαρακτηριστικό του χαρακτήρα και του τρόπου ζωής μας.
Ο κόσμος της τεχνολογίας έμαθε για το Project Q* τον Νοέμβριο του 2023 μετά το Reuters έχουν αναφερθεί σχετικά με μια εσωτερική επιστολή που συντάχθηκε από ενδιαφερόμενους ερευνητές του OpenAI. Το περιεχόμενο της επιστολής ήταν ασαφές, αλλά φέρεται να ανέλυε σοβαρά τις δυνατότητες του Project Q*. Όπως ανέφερα παραπάνω, υπάρχουν ακόμη και εικασίες ότι ήταν αυτή η επιστολή που προκάλεσε την παραίτηση του Sam Altman.
Αυτή η εκρηκτική ανακάλυψη οδήγησε σε διάφορες υποθέσεις σχετικά με τη φύση του Project Q*. Οι επιστήμονες έχουν προτείνει ότι αυτό θα μπορούσε να είναι ένα επαναστατικό μοντέλο φυσικής γλώσσας για την τεχνητή νοημοσύνη. Ένα είδος εφευρέτη νέων αλγορίθμων που θα τους δημιουργήσει για άλλες μορφές τεχνητής νοημοσύνης ή κάτι εντελώς διαφορετικό σε αυτόν τον τομέα.
Τα προκλητικά σχόλια του Άλτμαν για τη γενική τεχνητή νοημοσύνη ως «μέσο υπάλληλο» έχουν ήδη εγείρει ανησυχίες για την ασφάλεια της εργασίας και την ασταμάτητη επέκταση της επιρροής της τεχνητής νοημοσύνης. Αυτός ο μυστηριώδης αλγόριθμος ορίζεται ως ορόσημο στην ανάπτυξη της Τεχνητής Γενικής Νοημοσύνης (AGI). Ωστόσο, όλοι καταλαβαίνουν ότι αυτό το ορόσημο είναι ακριβό. Και δεν είναι θέμα χρημάτων τώρα. Το επίπεδο των γνωστικών δεξιοτήτων που υπόσχεται το νέο μοντέλο AI συνοδεύεται από αβεβαιότητα. Οι επιστήμονες του OpenAI υπόσχονται ότι η τεχνητή νοημοσύνη θα έχει ανθρώπινη σκέψη. Και αυτό σημαίνει ότι δεν μπορούμε να γνωρίζουμε πολλά πράγματα και να προβλέψουμε τις συνέπειες. Και όσο πιο άγνωστο, τόσο πιο δύσκολο είναι να προετοιμαστείς να το ελέγξεις ή να το διορθώσεις. Δηλαδή, ο νέος αλγόριθμος είναι ικανός για αυτοβελτίωση και ανάπτυξη. Το έχουμε δει ήδη κάπου...
Επίσης ενδιαφέρον: Windows 12: Ποιο θα είναι το νέο λειτουργικό σύστημα
Εκπληκτικές λεπτομέρειες σχετικά με τις δυνατότητες του Project Q*
Όταν άρχισαν να εμφανίζονται περισσότερες πληροφορίες, σόκαρε πολλούς ερευνητές. Οι πρώτες ενδείξεις ήταν ότι το Project Q* είχε καταπληκτική ικανότητα στα μαθηματικά. Σε αντίθεση με μια αριθμομηχανή που εκτελεί μηχανικούς υπολογισμούς, το Project Q* υποτίθεται ότι μπορεί να χρησιμοποιήσει λογική και συλλογισμό για να λύσει πολύπλοκα μαθηματικά προβλήματα. Αυτή η μαθηματική ικανότητα γενίκευσης υποδηλώνει την ανάπτυξη μιας ευρείας νοημοσύνης.
Η αυτόνομη εκπαίδευση του Project Q*, χωρίς τα συγκεκριμένα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση τυπικών AI, θα είναι επίσης ένα τεράστιο βήμα προς τα εμπρός. Παραμένει άγνωστο εάν το Project Q* έχει κατακτήσει άλλες δεξιότητες. Όμως οι μαθηματικές του ικανότητες είναι τόσο εκπληκτικές από μόνες τους που μπερδεύουν ακόμη και έμπειρους ερευνητές.
Διαβάστε επίσης: Human Brain Project: Μια προσπάθεια μίμησης του ανθρώπινου εγκεφάλου
Ο δρόμος του Project Q* προς την κυριαρχία;
Υπάρχουν τόσο αισιόδοξα όσο και απαισιόδοξα σενάρια σε αυτό το θέμα. Οι αισιόδοξοι θα πουν ότι το Project Q* θα μπορούσε να είναι η σπίθα που οδηγεί σε μια τεχνολογική ανακάλυψη. Καθώς το σύστημα αυτοβελτιώνεται αναδρομικά, η υπερφυσική του νοημοσύνη θα μπορούσε να βοηθήσει στην επίλυση ορισμένων από τα πιο σημαντικά προβλήματα της ανθρωπότητας, από την κλιματική αλλαγή έως τον έλεγχο των ασθενειών. Το Project Q* μπορεί να αυτοματοποιήσει τη βαρετή εργασία και να ελευθερώσει τον ελεύθερο χρόνο μας για άλλες δραστηριότητες.
Αν και υπάρχουν πολλές πιο απαισιόδοξες επιλογές. Μερικές φορές, είναι αρκετά λογικές και έχουν ένα συγκεκριμένο νόημα.
Απώλεια θέσεων εργασίας
Οι γρήγορες αλλαγές στην ανάπτυξη της τεχνολογίας μπορούν να ξεπεράσουν την ατομική προσαρμογή των ανθρώπων. Αυτό θα οδηγήσει στην απώλεια μιας ή περισσότερων γενεών που δεν θα μπορέσουν να αποκτήσουν τις απαραίτητες δεξιότητες ή γνώσεις για να προσαρμοστούν στις νέες πραγματικότητες. Δηλαδή, αυτό με τη σειρά του σημαίνει ότι λιγότεροι άνθρωποι θα μπορούν να διατηρήσουν τις δουλειές τους. Αντίθετα, θα εκτελείται από μηχανές, αυτοματοποιημένα συστήματα και ρομπότ. Ωστόσο, η απάντηση δεν είναι τόσο σαφής όταν πρόκειται για ειδικευμένους ειδικούς. Επιπλέον, ενδέχεται να εμφανιστούν νέα επαγγέλματα που σχετίζονται ειδικά με την ανάπτυξη αλγορίθμων τεχνητής νοημοσύνης. Ωστόσο, εξακολουθούν να υπάρχουν κίνδυνοι και η ανθρωπότητα δεν έχει το δικαίωμα να τους αγνοήσει.
Ο κίνδυνος της ανεξέλεγκτης εξουσίας
Εάν μια τεχνητή νοημοσύνη τόσο ισχυρή όσο το Project Q* πέσει στα χέρια όσων έχουν κακόβουλες προθέσεις, κινδυνεύει με καταστροφικές συνέπειες για την ανθρωπότητα. Ακόμη και χωρίς δυνητικά κακόβουλη πρόθεση, το επίπεδο λήψης αποφάσεων του Project Q* μπορεί να οδηγήσει σε επιζήμια αποτελέσματα, υπογραμμίζοντας την κρίσιμη σημασία της προσεκτικής αξιολόγησης της εφαρμογής του.
Εάν το Project Q* δεν έχει βελτιστοποιηθεί ελάχιστα για τις ανθρώπινες ανάγκες, μπορεί να προκαλέσει βλάβη με την ικανότητά του να μεγιστοποιεί ορισμένες αυθαίρετες μετρήσεις. Ή μπορεί να έχει πολιτική διάσταση, όπως να χρησιμοποιείται για κρατική επιτήρηση ή καταστολή. Μια ανοιχτή συζήτηση γύρω από την ανάλυση επιπτώσεων του Έργου Q* θα βοηθήσει στον καθορισμό πιθανών σεναρίων για την ανάπτυξη του ZHI.
Είμαστε μπροστά σε μια αναμέτρηση «Άνθρωπος εναντίον μηχανής»;
Το Χόλιγουντ έχει ήδη δημιουργήσει πολλά σενάρια τέτοιας αντιπαράθεσης στις ταινίες του. Όλοι θυμόμαστε το περίφημο SkyNet και τις συνέπειες μιας τέτοιας ανακάλυψης. Ίσως οι ερευνητές του OpenAI να παρακολουθήσουν ξανά αυτήν την ταινία;
Η ανθρωπότητα χρειάζεται να δεχτεί σήματα και προκλήσεις και να είναι προετοιμασμένη για ό,τι μπορεί να συμβεί. Ένα μοντέλο τεχνητής νοημοσύνης ικανό να σκέφτεται σαν άνθρωπος μπορεί κάποια μέρα να γίνει εχθρός μας. Πολλοί θα υποστήριζαν ότι στο μέλλον οι επιστήμονες θα ξέρουν ακριβώς πώς να κρατούν την κατάσταση υπό έλεγχο. Αλλά όταν πρόκειται για μηχανές, δεν μπορείτε να αποκλείσετε εντελώς το ενδεχόμενο να προσπαθήσουν να κατακτήσουν τους ανθρώπους.
Επίσης ενδιαφέρον: Δεν είναι όλα όσα ονομάζουμε τεχνητή νοημοσύνη στην πραγματικότητα. Εδώ είναι τι πρέπει να ξέρετε
Γιατί το OpenAI είναι σιωπηλό;
Παρά τη φρενίτιδα του δημόσιου ενδιαφέροντος για το Project Q*, η διοίκηση του OpenAI σιωπά για τις ιδιαιτερότητες του αλγορίθμου. Αλλά η εσωτερική διαρροή δείχνει αυξανόμενες εντάσεις στο εργαστήριο σχετικά με τις προτεραιότητες και το άνοιγμα των εξελίξεων. Ενώ πολλοί γνώστες του OpenAI υποστηρίζουν τη δημιουργία του Project Q*, οι επικριτές υποστηρίζουν ότι η διαφάνεια έχει πάρει πίσω μέρος στην επιτάχυνση της επιστημονικής προόδου με οποιοδήποτε κόστος. Και ορισμένοι ερευνητές ανησυχούν ότι δίνεται απίστευτη δύναμη σε συστήματα των οποίων οι στόχοι δεν συμπίπτουν απαραίτητα με τις ανθρώπινες αξίες και την ηθική. Αυτοί οι ερευνητές πιστεύουν ότι οι συζητήσεις γύρω από την επίβλεψη και τη λογοδοσία έχουν μειωθεί επικίνδυνα. Απαιτούν περισσότερη δημοσιότητα και λεπτομέρειες.
Ως δημιουργοί του Project Q*, το OpenAI πρέπει να κατανοήσει ότι διαθέτει μια τεχνολογία που μπορεί είτε να διευρύνει πολύ τις δυνατότητες ανάπτυξης της κοινωνίας είτε να την καταστρέψει ανελέητα. Τέτοιες σημαντικές καινοτομίες αξίζουν πολύ μεγαλύτερη διαφάνεια για την οικοδόμηση εμπιστοσύνης του κοινού. Οποιοσδήποτε προγνωστικός παράγοντας της εποχής του μηχανήματος πρέπει να σταθμίσει προσεκτικά τους κινδύνους παράλληλα με τα οφέλη. Και οι προγραμματιστές του Project Q* πρέπει να δείξουν αρκετή σοφία και φροντίδα για να εισαγάγουν με ασφάλεια την κοινωνία σε μια νέα εποχή γενικής τεχνητής νοημοσύνης που μπορεί να έρθει νωρίτερα από ό,τι είχαμε ποτέ φανταστεί.
Για να είναι η γενική τεχνητή νοημοσύνη χρήσιμη και ασφαλής για την ανθρωπότητα, πρέπει να διασφαλιστεί ότι λειτουργεί με ασφάλεια, ηθική και σύμφωνα με τις αξίες και τους στόχους της ανθρωπότητας. Αυτό απαιτεί την ανάπτυξη και εφαρμογή κατάλληλων κανονιστικών πράξεων, προτύπων, κανόνων και πρωτοκόλλων που θα ελέγχουν και θα περιορίζουν τις ενέργειες και τη συμπεριφορά του CSI. Επιπλέον, πρέπει να εξαλειφθούν οι πιθανές απειλές και κίνδυνοι που συνδέονται με καταχρήσεις, ατυχήματα, ασυμβατότητες, χειρισμούς και συγκρούσεις που θα μπορούσαν να οδηγήσουν στην καταστροφή της ανθρωπότητας. Εν τω μεταξύ, οι επενδυτές και Microsoft περιμένοντας με ανυπομονησία ένα εμπορεύσιμο προϊόν που θα μπορούσε να αποφέρει κέρδος, το οποίο αναμφίβολα έρχεται σε σύγκρουση με την ανάγκη υπεύθυνης δράσης. Ας ελπίσουμε να επικρατήσει η κοινή λογική.
Διαβάστε επίσης: