Την Παρασκευή, ο συνιδρυτής της Koko, Rob Morris, ανακοίνωσε στο Twitter, ότι η εταιρεία του διεξήγαγε ένα πείραμα για να παρέχει συμβουλές ψυχικής υγείας γραπτές με AI σε 4 άτομα χωρίς προηγούμενη ειδοποίηση, αναφέρει το The Verge. Οι κριτικοί χαρακτήρισαν το πείραμα βαθύτατα ανήθικο, επειδή η Koko δεν έλαβε ενημερωμένη συγκατάθεση από τους ανθρώπους που ζήτησαν τη συμβουλή. Το Koko είναι μια μη κερδοσκοπική πλατφόρμα ψυχικής υγείας που συνδέει εφήβους και ενήλικες που χρειάζονται φροντίδα ψυχικής υγείας με εθελοντές μέσω εφαρμογών ανταλλαγής μηνυμάτων όπως Telegram και Διχόνοια.
Στο Discord, οι χρήστες συνδέονται στον διακομιστή Koko Cares και στέλνουν απευθείας μηνύματα στο bot Koko, το οποίο θέτει μια σειρά από ερωτήσεις πολλαπλής επιλογής (π.χ. "Ποια είναι η πιο σκοτεινή σκέψη που έχετε για αυτό;"). Στη συνέχεια μοιράζεται ανώνυμα την ανησυχία του ατόμου, που καταγράφεται ως λίγες προτάσεις κειμένου, με κάποιον άλλο στον διακομιστή, ο οποίος μπορεί να απαντήσει ανώνυμα με ένα σύντομο δικό του μήνυμα.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Σε ένα πείραμα τεχνητής νοημοσύνης (AI) που περιελάμβανε περίπου 30 μηνύματα, είπε ο Morris, οι εθελοντές που βοηθούσαν άλλους είχαν την επιλογή να χρησιμοποιήσουν μια απάντηση που δημιουργείται αυτόματα από το μεγάλο γλωσσικό μοντέλο GPT-3 του OpenAI αντί να τη γράφουν ανεξάρτητα (το GPT-3 είναι η τεχνολογία πίσω από το πρόσφατα δημοφιλές chatbot ChatGPT). Στο tweet του, ο Morris σημειώνει ότι οι άνθρωποι επαίνεσαν τις απαντήσεις που δημιουργήθηκαν από την τεχνητή νοημοσύνη έως ότου έμαθαν ότι γράφτηκαν από AI, υποδηλώνοντας μια βασική έλλειψη ενημερωμένης συναίνεσης σε τουλάχιστον μία φάση του πειράματος:
«Τα μηνύματα που συντάχθηκαν από AI (και ελέγχονται από ανθρώπους) βαθμολογήθηκαν σημαντικά υψηλότερα από αυτά που γράφτηκαν από τους ίδιους τους ανθρώπους. Ο χρόνος απόκρισης μειώθηκε κατά 50% σε λιγότερο από ένα λεπτό. Και όμως… αφαιρέσαμε αυτή τη δυνατότητα από την πλατφόρμα μας αρκετά γρήγορα. Γιατί; Μόλις οι άνθρωποι ανακάλυψαν ότι τα μηνύματα δημιουργήθηκαν από μηχανή, σταμάτησε να λειτουργεί. Η προσομοιωμένη συμπάθεια φαίνεται περίεργη, κενή».
Στην εισαγωγή του διακομιστή, οι διαχειριστές γράφουν: «Η Koko σας συνδέει με πραγματικούς ανθρώπους που σας καταλαβαίνουν πραγματικά. Όχι θεραπευτές, όχι σύμβουλοι, απλά άνθρωποι σαν εσάς». Αμέσως μετά τη δημοσίευση του μηνύματος, ο Μόρις έλαβε πολλές απαντήσεις που επέκριναν το πείραμα ως ανήθικο, αναφέροντας ανησυχίες για την έλλειψη ενημερωμένης συναίνεσης και αμφισβητώντας εάν το πείραμα είχε εγκριθεί από την Επιτροπή Θεσμικής Αναθεώρησης (IRB). Στις Ηνωμένες Πολιτείες, είναι παράνομη η διεξαγωγή έρευνας σε ανθρώπινα θέματα χωρίς νομικά αποτελεσματική ενημερωμένη συναίνεση, εκτός εάν το IRB αποφασίσει ότι η συγκατάθεση μπορεί να παραιτηθεί.
Σε ένα tweet ως απάντηση, ο Morris είπε ότι το πείραμα «εξαιρείται» από τις απαιτήσεις συγκατάθεσης μετά από ενημέρωση επειδή δεν σχεδιάζει να δημοσιεύσει τα αποτελέσματα, προκαλώντας μια παρέλαση οργής.
Η ιδέα της χρήσης της τεχνητής νοημοσύνης ως θεραπευτής δεν είναι καθόλου νέα, αλλά αυτό που κάνει το πείραμα του Koko διαφορετικό από τις τυπικές προσεγγίσεις θεραπείας με τεχνητή νοημοσύνη είναι ότι οι ασθενείς τείνουν να γνωρίζουν ότι δεν μιλούν σε ζωντανό άτομο. Στην περίπτωση του Koko, η πλατφόρμα περιλάμβανε μια υβριδική προσέγγιση όπου ένας ανθρώπινος μεσάζων μπορούσε να ελέγξει ένα μήνυμα πριν το στείλει, αντί για μια απευθείας μορφή συνομιλίας. Ωστόσο, χωρίς ενημερωμένη συγκατάθεση, οι επικριτές λένε ότι η Koko παραβίασε ηθικούς κανόνες που είχαν σχεδιαστεί για να προστατεύουν τα ευάλωτα άτομα από επιβλαβείς ή σκληρές ερευνητικές πρακτικές.
Μιλώντας ως πρώην μέλος και πρόεδρος του IRB, έχετε διεξαγάγει έρευνα με ανθρώπινο θέμα σε έναν ευάλωτο πληθυσμό χωρίς έγκριση ή εξαίρεση από το IRB (ΔΕΝ παίρνετε να αποφασίσετε). Ίσως το MGH IRB procesΤο s είναι τόσο αργό γιατί ασχολείται με τέτοια πράγματα. Ανεπιθύμητη συμβουλή: δικηγόρος επάνω
— Daniel Shoskes (@dshoskes) Ιανουάριος 7, 2023
Τη Δευτέρα, ο Morris δημοσίευσε μια ανάρτηση απαντώντας στη διαμάχη και εξηγώντας το ταξίδι του Koko στο GPT-3 και την τεχνητή νοημοσύνη γενικά: «Δέχομαι κριτική, ανησυχίες και ερωτήσεις σχετικά με αυτό το έργο με ενσυναίσθηση και ειλικρίνεια. Δεσμευόμαστε να διασφαλίσουμε ότι οποιαδήποτε χρήση της τεχνητής νοημοσύνης είναι ευαίσθητη, με βαθιά ανησυχία για το απόρρητο, τη διαφάνεια και τον μετριασμό του κινδύνου. Η κλινική μας συμβουλευτική επιτροπή συνεδριάζει για να συζητήσει τις κατευθυντήριες γραμμές για μελλοντική εργασία, συμπεριλαμβανομένης της έγκρισης IRB.»
Μπορείτε να βοηθήσετε την Ουκρανία να πολεμήσει ενάντια στους Ρώσους εισβολείς. Ο καλύτερος τρόπος για να γίνει αυτό είναι να δωρίσετε χρήματα στις Ένοπλες Δυνάμεις της Ουκρανίας μέσω Savelife ή μέσω της επίσημης σελίδας NBU.
Διαβάστε επίσης: