Μια σειρά από εταιρείες συμπεριλαμβανομένων Microsoft і Facebook, ακόμη και ερευνητές από το Πανεπιστήμιο της Νότιας Καλιφόρνια, αναπτύσσουν τεχνολογίες για την καταπολέμηση των deepfakes και την πρόληψη της διάδοσής τους από τα κίτρινα μέσα ενημέρωσης και την παραπληροφόρηση γενικότερα. Ωστόσο, μια ομάδα επιστημόνων κατάφερε ακόμα να τους ξεγελάσει.
Μια ομάδα επιστημόνων υπολογιστών στο Πανεπιστήμιο της Καλιφόρνια στο Σαν Ντιέγκο προειδοποίησε ότι είναι ακόμα δυνατό να εξαπατηθούν τα υπάρχοντα συστήματα ανίχνευσης ψεύτικων στοιχείων εισάγοντας δεδομένα εισόδου που ονομάζονται «ανταγωνιστικά παραδείγματα» σε κάθε καρέ βίντεο. Οι επιστήμονες παρουσίασαν τα ευρήματά τους στο WACV 2021 Computer Vision Conference, που πραγματοποιήθηκε διαδικτυακά τον περασμένο μήνα.
Τα ανταγωνιστικά παραδείγματα είναι ελαφρώς τροποποιημένες εισροές που κάνουν τα συστήματα τεχνητής νοημοσύνης, όπως τα μοντέλα μηχανικής μάθησης, να κάνουν λάθη. Επιπλέον, η ομάδα έδειξε ότι η επίθεση εξακολουθεί να λειτουργεί μετά τη συμπίεση του βίντεο. Στο παραπάνω βίντεο, οι επιστήμονες δείχνουν ότι το XceptionNet, ένας ανιχνευτής deepfake, χαρακτηρίζει το ανταγωνιστικό τους βίντεο ως "πραγματικό".
Οι περισσότεροι από αυτούς τους ανιχνευτές λειτουργούν παρακολουθώντας πρόσωπα σε ένα βίντεο και στέλνοντας τα δεδομένα περικομμένων προσώπων σε ένα νευρωνικό δίκτυο για ανάλυση. Στη συνέχεια, το νευρωνικό δίκτυο θα αναλύσει αυτά τα δεδομένα και θα βρει στοιχεία που συνήθως αναπαράγονται ελάχιστα σε deepfakes, όπως το τρεμόπαιγμα.
Εισάγοντας ανταγωνιστικά παραδείγματα, οι ερευνητές ανακάλυψαν ότι θα μπορούσαν να ξεγελάσουν αυτούς τους ανιχνευτές deepfake ώστε να πιστέψουν ότι τα βίντεο ήταν αληθινά.
Δηλώνουν στο έγγραφο ότι «για να χρησιμοποιηθούν αυτοί οι ανιχνευτές deepfake στην πράξη, είναι σημαντικό να τους αξιολογήσουμε έναντι ενός προσαρμοστικού αντιπάλου που έχει επίγνωση αυτής της προστασίας και προσπαθεί σκόπιμα να τη σπάσει. Δείχνουμε ότι οι σύγχρονες μέθοδοι ανίχνευσης deepfake μπορούν εύκολα να παρακαμφθούν εάν ο εισβολέας έχει πλήρη ή μερική επίγνωση του ανιχνευτή».
Όπως έδειξαν αυτοί οι επιστήμονες, οι τεχνολογίες αυτοματισμού που αναπτύσσονται για την καταπολέμηση της παραπληροφόρησης μπορεί να μην είναι ακόμη στο ύψος τους.
Διαβάστε επίσης: