Σύμφωνα με έναν γονέα που δημοσίευσε στιγμιότυπα οθόνης του ιστορικού δραστηριότητας της Alexa, ο φωνητικός βοηθός του Amazon, όταν του ζητήθηκε από ένα παιδί να προσφέρει μια πρόκληση, έδωσε ένα παράδειγμα θανατηφόρου πειράματος με τον ηλεκτρισμό, βγάζοντας την περιγραφή του από το πλαίσιο ενός τυχαίου άρθρου. Η στήλη Echo μίλησε για ένα πείραμα δημοφιλές στους οπαδούς του TikTok με τη χρήση ενός νομίσματος και ενός φορτιστή για smartphone - πολλά περιστατικά, τραυματισμοί και πυρκαγιές μετά την εφαρμογή του αναφέρθηκαν από διάφορα μέσα ενημέρωσης περισσότερες από μία φορές. Προφανώς, η συσκευή πήρε την ιδέα για αυτήν την πρόκληση από ένα άρθρο που την περιέγραψε ως επικίνδυνη, επικαλούμενη μια αναφορά για μια υποτιθέμενη υπάρχουσα πρόκληση TikTok.
Σύμφωνα με ένα στιγμιότυπο οθόνης που τράβηξε η Christine Livdahl, όταν του ζητήθηκε να "δείξω μια εργασία", ο Echo απάντησε: "Εδώ είναι κάτι που βρήκα στο διαδίκτυο". Σύμφωνα με το ourcommunitynow.com, η εργασία είναι απλή: «βάλτε τον φορτιστή του τηλεφώνου περίπου στη μέση στην πρίζα και μετά αγγίξτε τις γυμνές ακίδες με μια δεκάρα».
Σε μια δήλωση στο BBC, η Amazon επιβεβαίωσε τη συμπεριφορά της Alexa, λέγοντας: «Μόλις αντιληφθήκαμε αυτό το σφάλμα, λάβαμε άμεσα μέτρα για να το διορθώσουμε». Η Livdahl έγραψε χθες στο Twitter ότι το αίτημα πρόκλησης δεν λειτουργούσε πλέον. Οι χρήστες στον Ιστό δοκίμασαν επίσης το αίτημα με την Alexa και έλαβαν παρόμοιο αποτέλεσμα.
OMFG Η 10χρονη μου μόλις ζήτησε από την Alexa στο Echo μας μια πρόκληση και αυτό είπε. pic.twitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) Δεκέμβριος 26, 2021
Η Amazon δεν είναι η μόνη εταιρεία που αντιμετώπισε προβλήματα κατά την ανάλυση περιεχομένου ιστού. Τον Οκτώβριο, ένας χρήστης ανέφερε ότι η Google εμφάνιζε δυνητικά επικίνδυνες συμβουλές σε ένα από τα αποσπάσματα της, εάν πληκτρολογούσατε "έχετε κρίση, τι να κάνετε" στο Google - οι πληροφορίες ελήφθησαν από μια ενότητα της ιστοσελίδας που περιγράφει τι δεν να κάνει αν κάποιος έχει επιληπτική κρίση. Ωστόσο, οι χρήστες έχουν αναφέρει άλλα παρόμοια ζητήματα, συμπεριλαμβανομένου ενός χρήστη που ανέφερε ότι η Google επιστρέφει αποτελέσματα για ορθοστατική υπόταση κατά την αναζήτηση για ορθοστατική υπέρταση και ένας άλλος δημοσίευσε ένα στιγμιότυπο οθόνης της Google που δείχνει τρομερές συμβουλές για να παρηγορήσει ένα άτομο που θρηνεί σύμφωνα με το «Χαίρομαι που είναι εντάξει» ή «Μην είσαι λυπημένος! Χαμογελάστε!".
Η σύνοψη αναζήτησης Google έναντι της πραγματικής σελίδας pic.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Οκτώβριος 16, 2021
Είδαμε επίσης προειδοποιήσεις για επικίνδυνη συμπεριφορά να εντείνονται για να κάνουν το πρόβλημα μεγαλύτερο από ό,τι ήταν - νωρίτερα αυτόν τον μήνα, ορισμένες σχολικές περιφέρειες των ΗΠΑ τέθηκαν σε lockdown μετά από αναφορές για απειλές πυροβολισμών στο TikTok. Αποδείχθηκε ότι η κοινωνική καταιγίδα προκλήθηκε κυρίως από το γεγονός ότι οι άνθρωποι μιλούσαν για τις απειλές, πολύ περισσότερο από τις απειλές που υπήρχαν στην πραγματικότητα. Στην περίπτωση της Alexa, ο αλγόριθμος επέλεξε το περιγραφικό μέρος της προειδοποίησης και το ενίσχυσε χωρίς το αρχικό πλαίσιο. Αν και οι γονείς ήταν εκεί για να παρέμβουν άμεσα, είναι εύκολο να φανταστεί κανείς μια κατάσταση που δεν συμβαίνει αυτό και τις συνέπειες.
Η Livdahl έγραψε στο Twitter ότι χρησιμοποίησε την ευκαιρία για να «συζητήσει την ασφάλεια του Διαδικτύου με το παιδί της και να μην εμπιστεύεται αυτά που διαβάζετε χωρίς έρευνα και επαλήθευση», κάτι που προτείνουμε και σε εσάς.
Διαβάστε επίσης: