Την Τρίτη, η Meta ανακοίνωσε το σχέδιό της να αρχίσει να προσθέτει ετικέτες σε εικόνες που δημιουργούνται από AI από άλλες εταιρείες όπως η OpenAI και η Google. Η κίνηση αποσκοπεί στην αύξηση της διαφάνειας σε πλατφόρμες όπως π.χ Facebook, Instagram και Threads, ενημερώνοντας τους χρήστες ότι το περιεχόμενο που βλέπουν είναι συνθετικά ψηφιακά μέσα και όχι αυθεντική φωτογραφία ή βίντεο.
Η λύση της Meta αποτελεί μέρος μιας ευρύτερης προσπάθειας της τεχνολογικής βιομηχανίας για τη θέσπιση προτύπων για την επισήμανση περιεχομένου που δημιουργείται με παραγωγικά μοντέλα τεχνητής νοημοσύνης ικανά να δημιουργούν ψεύτικο αλλά ρεαλιστικό ήχο, εικόνες και βίντεο βάσει γραπτών προτροπών.
Ο πρόεδρος των παγκόσμιων υποθέσεων της Μέτα, Νικ Κλεγκ, έκανε την ανακοίνωση σε μια ανάρτηση στο blog στην ιστοσελίδα της Μέτα. «Θα συνεχίσουμε να ακολουθούμε αυτήν την προσέγγιση τον επόμενο χρόνο, όταν θα διεξαχθούν ορισμένες σημαντικές εκλογές σε όλο τον κόσμο», έγραψε ο Κλεγκ. «Κατά τη διάρκεια αυτής της περιόδου, ελπίζουμε να μάθουμε πολλά περισσότερα για το πώς οι άνθρωποι δημιουργούν και μοιράζονται περιεχόμενο με την τεχνητή νοημοσύνη, ποια διαφάνεια εκτιμούν περισσότερο οι άνθρωποι και πώς εξελίσσονται αυτές οι τεχνολογίες».
Ο Clegg σημείωσε ότι η πρωτοβουλία της Meta για την προσθήκη ετικετών σε περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη θα επεκτείνει την υπάρχουσα πρακτική προσθήκης ετικετών σε περιεχόμενο που δημιουργείται με τα δικά της εργαλεία τεχνητής νοημοσύνης, ώστε να περιλαμβάνει εικόνες που δημιουργούνται χρησιμοποιώντας υπηρεσίες άλλων εταιρειών.
«Δημιουργούμε κορυφαία στον κλάδο εργαλεία που μπορούν να αναγνωρίζουν αόρατους δείκτες σε κλίμακα – συγκεκριμένα τις πληροφορίες «δημιουργούμενες από AI» στα τεχνικά πρότυπα C2PA και IPTC – ώστε να μπορούμε να προσθέτουμε ετικέτες σε εικόνες από το Google, το OpenAI, Microsoft, Adobe, Midjourney και Shutterstock καθώς υλοποιούν τα σχέδιά τους να προσθέσουν μεταδεδομένα σε εικόνες που δημιουργούνται από τα εργαλεία τους».
Η Meta λέει ότι η τεχνολογία σήμανσης περιεχομένου που δημιουργείται από AI θα βασίζεται σε αόρατα υδατογραφήματα και μεταδεδομένα ενσωματωμένα σε αρχεία. Η Meta προσθέτει ένα μικρό υδατογράφημα "Imagined with AI" σε εικόνες που δημιουργούνται με τη δημόσια δημιουργία εικόνων AI.
Στην ανάρτηση, ο Clegg εξέφρασε την πεποίθησή του για την ικανότητα των εταιρειών να επισημαίνουν αξιόπιστα τις εικόνες που δημιουργούνται από AI, αν και σημείωσε ότι τα εργαλεία για την επισήμανση περιεχομένου ήχου και βίντεο βρίσκονται ακόμη σε εξέλιξη. Εν τω μεταξύ, η Meta θα απαιτήσει από τους χρήστες να προσθέσουν ετικέτες σε τροποποιημένο περιεχόμενο ήχου και βίντεο, με απροσδιόριστα πρόστιμα σε περίπτωση που δεν το κάνουν.
"Θα απαιτήσουμε από τους ανθρώπους να χρησιμοποιούν αυτό το εργαλείο αποκάλυψης και επισήμανσης όταν δημοσιεύουν οργανικό περιεχόμενο με φωτορεαλιστικό βίντεο ή ρεαλιστικό ήχο που έχει δημιουργηθεί ή τροποποιηθεί ψηφιακά και ενδέχεται να επιβάλουμε κυρώσεις εάν δεν το κάνουν", έγραψε .
Ωστόσο, ο Clegg σημείωσε ότι επί του παρόντος δεν υπάρχει αποτελεσματικός τρόπος για την επισήμανση κειμένου που δημιουργείται από AI, υποδηλώνοντας ότι είναι πολύ αργά για την εφαρμογή τέτοιων μέτρων για γραπτό περιεχόμενο. Αυτό είναι σύμφωνο με τις αναφορές μας ότι οι ανιχνευτές κειμένου AI δεν λειτουργούν.
Η ανακοίνωση ήρθε μια ημέρα αφότου το ανεξάρτητο εποπτικό συμβούλιο της Meta επέκρινε την πολιτική της εταιρείας σχετικά με τα παραπλανητικά τροποποιημένα βίντεο ως πολύ στενή και συνέστησε την επισήμανση αυτού του περιεχομένου αντί να το αφαιρέσετε. Ο Clegg συμφώνησε με την κριτική, παραδεχόμενος ότι οι υπάρχουσες πολιτικές Meta είναι ανεπαρκείς για τη διαχείριση του αυξανόμενου όγκου συνθετικού και υβριδικού περιεχομένου στο Διαδίκτυο. Θεωρεί τη νέα πρωτοβουλία επισήμανσης ως ένα βήμα προς την εφαρμογή των συστάσεων του εποπτικού οργανισμού και την τόνωση της δυναμικής σε ολόκληρη τη βιομηχανία για παρόμοια μέτρα.
Η Meta αναγνωρίζει ότι δεν θα μπορεί να ανιχνεύσει περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη που δημιουργείται χωρίς υδατογραφήματα ή μεταδεδομένα, όπως εικόνες που δημιουργούνται με ορισμένα εργαλεία σύνθεσης εικόνων AI ανοιχτού κώδικα. Η Meta ερευνά μια τεχνολογία υδατογράφησης εικόνων που ονομάζεται Stable Signature και ελπίζει ότι μπορεί να ενσωματωθεί σε γεννήτριες εικόνων ανοιχτού κώδικα. Όμως, εφόσον τα εικονοστοιχεία είναι εικονοστοιχεία, μπορούν να δημιουργηθούν με τρόπους που είναι πέρα από τον έλεγχο της βιομηχανίας τεχνολογίας και αυτό παραμένει μια πρόκληση για την ανίχνευση περιεχομένου AI, καθώς τα εργαλεία τεχνητής νοημοσύνης ανοιχτού κώδικα γίνονται όλο και πιο εξελιγμένα και ρεαλιστικά.
Διαβάστε επίσης: