Περίληψη άρθρου:

Οι τρέχουσες μέθοδοι υδατογράφησης εικόνων τεχνητής νοημοσύνης μπορούν εύκολα να παρακαμφθούν, σύμφωνα με μελέτη ερευνητών του Πανεπιστημίου του Maryland. Η μελέτη διαπίστωσε ότι τόσο τα αόρατα όσο και τα ορατά υδατογραφήματα μπορούν να χειραγωγηθούν ή να αφαιρεθούν, καθιστώντας τα αναξιόπιστα για τον εντοπισμό της προέλευσης του περιεχομένου που παράγεται από τεχνητή νοημοσύνη. Παρόλα αυτά, τεχνολογικοί γίγαντες όπως η Google εξακολουθούν να προωθούν τα υδατογραφήματα ως λύση για την καταπολέμηση της παραπληροφόρησης. Ορισμένοι εμπειρογνώμονες πιστεύουν ότι τα υδατογραφήματα θα μπορούσαν ακόμη να έχουν ρόλο στην ανίχνευση της ΤΝ, αν συνδυαστούν με άλλες τεχνολογίες, ενώ άλλοι υποστηρίζουν ότι μπορεί να μην είναι αποτελεσματική λύση και ότι οι πόροι θα πρέπει να επικεντρωθούν αλλού.

Κύρια σημεία του άρθρου:

• Οι ερευνητές διαπίστωσαν ότι οι τρέχουσες μέθοδοι υδατογράφησης εικόνων τεχνητής νοημοσύνης είναι εύκολο να παρακαμφθούν και ότι μπορούν ακόμη και να προστεθούν ψεύτικα υδατογραφήματα σε αυτές.
• Η υδατοσήμανση έχει θεωρηθεί μια πολλά υποσχόμενη στρατηγική για την αναγνώριση εικόνων και κειμένων που δημιουργούνται από τεχνητή νοημοσύνη, αλλά η μελέτη αυτή αναδεικνύει τις σημαντικές αδυναμίες της.
• Άλλοι ερευνητές έχουν επίσης επισημάνει τα τρωτά σημεία της υδατογράφησης σε προηγούμενες μελέτες.
• Παρά τις αδυναμίες αυτές, τεχνολογικοί γίγαντες όπως η OpenAI, η Alphabet, η Meta και η Amazon έχουν δεσμευτεί να αναπτύξουν τεχνολογία υδατογράφησης για την καταπολέμηση της παραπληροφόρησης.
• Ορισμένοι εμπειρογνώμονες στον τομέα της ανίχνευσης τεχνητής νοημοσύνης πιστεύουν ότι η υδατογράφηση έχει περιορισμούς, αλλά μπορεί να αποτελέσει μέρος της λύσης όταν χρησιμοποιείται σε συνδυασμό με άλλες τεχνολογίες.
• Η μελέτη υποδηλώνει ότι ο σχεδιασμός ενός ισχυρού υδατογραφήματος αποτελεί πρόκληση, αλλά όχι απαραίτητα αδύνατη.

Αναλυτικά το άρθρο:

Μια ερευνητική ομάδα διαπίστωσε ότι είναι εύκολο να παρακάμψει κανείς τις τρέχουσες μεθόδους υδατογράφησης - και μάλιστα να προσθέσει ψεύτικα υδατογραφήματα σε πραγματικές εικόνες.

Ο SOHEIL FEIZI θεωρεί τον εαυτό του αισιόδοξο άνθρωπο. Αλλά ο καθηγητής πληροφορικής του Πανεπιστημίου του Maryland είναι ωμός όταν συνοψίζει την τρέχουσα κατάσταση της υδατογράφησης εικόνων τεχνητής νοημοσύνης. "Δεν έχουμε αξιόπιστα υδατογραφήματα σε αυτό το σημείο", λέει. "Τα έχουμε σπάσει όλα".

Για έναν από τους δύο τύπους υδατογράφησης ΤΝ που δοκίμασε για μια νέα μελέτη - υδατογραφήματα "χαμηλής διαταραχής", τα οποία είναι αόρατα με γυμνό μάτι - είναι ακόμη πιο άμεσος: "Δεν υπάρχει ελπίδα".

Ο Feizi και οι συν-συγγραφείς του εξέτασαν πόσο εύκολο είναι για τους κακούς φορείς να αποφύγουν τις προσπάθειες υδατογράφησης. (Ο ίδιος το αποκαλεί "ξέπλυμα" του υδατογραφήματος.) Εκτός από την επίδειξη του τρόπου με τον οποίο οι επιτιθέμενοι θα μπορούσαν να αφαιρέσουν τα υδατογραφήματα, η μελέτη δείχνει πώς είναι δυνατόν να προστεθούν υδατογραφήματα σε εικόνες που δημιουργούνται από ανθρώπους, προκαλώντας ψευδώς θετικά αποτελέσματα. Η δημοσίευση στο διαδίκτυο αυτή την εβδομάδα, το preprint paper δεν έχει ακόμη αξιολογηθεί από ομότιμους, αλλά ο Feizi υπήρξε ηγετική φυσιογνωμία στην ανίχνευση AI, οπότε αξίζει να δώσετε προσοχή, ακόμη και σε αυτό το πρώιμο στάδιο.

Πρόκειται για έγκαιρη έρευνα. Η υδατοσήμανση έχει αναδειχθεί ως μία από τις πιο ελπιδοφόρες στρατηγικές για την αναγνώριση εικόνων και κειμένων που δημιουργούνται από Τεχνητή Νοημοσύνη. Ακριβώς όπως τα φυσικά υδατογραφήματα ενσωματώνονται σε χαρτονομίσματα και γραμματόσημα για να αποδείξουν τη γνησιότητά τους, τα ψηφιακά υδατογραφήματα προορίζονται για τον εντοπισμό της προέλευσης εικόνων και κειμένων στο διαδίκτυο, βοηθώντας τους ανθρώπους να εντοπίζουν τα βίντεο που έχουν παραποιηθεί από βαθείς χρήστες και τα βιβλία που έχουν συνταχθεί από bot. Με τις προεδρικές εκλογές στις ΗΠΑ το 2024 στον ορίζοντα, οι ανησυχίες σχετικά με τα παραποιημένα μέσα ενημέρωσης είναι έντονες και κάποιοι άνθρωποι έχουν ήδη ξεγελαστεί. Ο πρώην πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, για παράδειγμα, μοιράστηκε ένα ψεύτικο βίντεο του Άντερσον Κούπερ στην πλατφόρμα Truth Social- η φωνή του Κούπερ είχε κλωνοποιηθεί με τεχνητή νοημοσύνη.

Αυτό το καλοκαίρι, το OpenAI, η Alphabet, η Meta, η Amazon και αρκετοί άλλοι σημαντικοί παίκτες τεχνητής νοημοσύνης δεσμεύτηκαν να αναπτύξουν τεχνολογία υδατογράφησης για την καταπολέμηση της παραπληροφόρησης. Στα τέλη Αυγούστου, η DeepMind της Google κυκλοφόρησε μια beta έκδοση του νέου της εργαλείου υδατογράφησης, SynthID. Η ελπίδα είναι ότι αυτά τα εργαλεία θα επισημάνουν το περιεχόμενο της ΤΝ κατά την παραγωγή του, με τον ίδιο τρόπο που η φυσική υδατογράφηση πιστοποιεί τα δολάρια κατά την εκτύπωσή τους.

Πρόκειται για μια σταθερή, απλή στρατηγική, αλλά μπορεί να μην είναι μια νικηφόρα στρατηγική. Αυτή η μελέτη δεν είναι η μόνη εργασία που επισημαίνει τις μεγάλες ελλείψεις της υδατογράφησης. "Είναι καλά τεκμηριωμένο ότι η υδατογράφηση μπορεί να είναι ευάλωτη σε επιθέσεις", λέει ο Hany Farid, καθηγητής στη Σχολή Πληροφορικής του UC Berkeley.

Αυτόν τον Αύγουστο, ερευνητές του Πανεπιστημίου της Καλιφόρνια, Σάντα Μπάρμπαρα και του Carnegie Mellon συνέγραψαν ένα άλλο έγγραφο που περιγράφει παρόμοια ευρήματα, αφού πραγματοποίησαν τις δικές τους πειραματικές επιθέσεις. "Όλα τα αόρατα υδατογραφήματα είναι ευάλωτα", αναφέρεται χαρακτηριστικά. Αυτή η νεότερη μελέτη πηγαίνει ακόμη πιο μακριά. Ενώ ορισμένοι ερευνητές διατηρούσαν την ελπίδα ότι τα ορατά ("υψηλής διαταραχής") υδατογραφήματα θα μπορούσαν να αναπτυχθούν ώστε να αντέχουν σε επιθέσεις, ο Feizi και οι συνάδελφοί του λένε ότι ακόμη και αυτός ο πιο ελπιδοφόρος τύπος μπορεί να χειραγωγηθεί.

Οι αδυναμίες των υδατοσημάτων δεν έχουν αποτρέψει τους τεχνολογικούς γίγαντες από το να το προσφέρουν ως λύση, αλλά οι άνθρωποι που εργάζονται στον χώρο της ανίχνευσης τεχνητής νοημοσύνης είναι επιφυλακτικοί. "Το υδατογράφημα ακούγεται αρχικά σαν μια ευγενική και πολλά υποσχόμενη λύση, αλλά οι εφαρμογές του στον πραγματικό κόσμο αποτυγχάνουν εξαρχής, όταν μπορούν εύκολα να πλαστογραφηθούν, να αφαιρεθούν ή να αγνοηθούν", λέει ο Ben Colman, διευθύνων σύμβουλος της νεοφυούς επιχείρησης ανίχνευσης AI Reality Defender.

"Τα υδατογραφήματα δεν είναι αποτελεσματικά", προσθέτει ο Bars Juhasz, συνιδρυτής της Undetectable, μιας νεοφυούς εταιρείας που έχει ως στόχο να βοηθήσει τους ανθρώπους να αποφύγουν τους ανιχνευτές τεχνητής νοημοσύνης. "Ολόκληρες βιομηχανίες, όπως η δική μας, έχουν ξεπηδήσει για να διασφαλίσουν ότι δεν είναι αποτελεσματική". Σύμφωνα με τον Juhasz, εταιρείες όπως η δική του είναι ήδη σε θέση να προσφέρουν γρήγορες υπηρεσίες αφαίρεσης υδατογραφήματος.

Άλλοι πιστεύουν ότι τα υδατογραφήματα έχουν θέση στην ανίχνευση με τεχνητή νοημοσύνη - αρκεί να κατανοήσουμε τους περιορισμούς τους. "Είναι σημαντικό να καταλάβουμε ότι κανείς δεν πιστεύει ότι η υδατογράφηση από μόνη της θα είναι επαρκής", λέει ο Farid. "Πιστεύω όμως ότι η ισχυρή υδατογράφηση αποτελεί μέρος της λύσης". Πιστεύει ότι η βελτίωση της υδατογράφησης και στη συνέχεια η χρήση της σε συνδυασμό με άλλες τεχνολογίες θα δυσκολέψει τους κακοποιούς να δημιουργήσουν πειστικές απομιμήσεις.

Ορισμένοι από τους συναδέλφους του Feizi πιστεύουν ότι η υδατογράφηση έχει επίσης τη θέση της. "Το αν αυτό αποτελεί πλήγμα για την υδατοσήμανση εξαρτάται σε μεγάλο βαθμό από τις υποθέσεις και τις ελπίδες που εναποτίθενται στην υδατοσήμανση ως λύση", λέει ο Yuxin Wen, διδακτορικός φοιτητής στο Πανεπιστήμιο του Maryland, ο οποίος συνυπογράφει μια πρόσφατη εργασία που προτείνει μια νέα τεχνική υδατοσήμανσης. Για τον Wen και τους συν-συγγραφείς του, συμπεριλαμβανομένου του καθηγητή πληροφορικής Tom Goldstein, η μελέτη αυτή είναι μια ευκαιρία να επανεξεταστούν οι προσδοκίες που εναποτίθενται στην υδατοσήμανση και όχι ένας λόγος να απορριφθεί η χρήση της ως ένα από τα πολλά εργαλεία ελέγχου ταυτότητας.

"Πάντα θα υπάρχουν εξελιγμένοι φορείς που θα μπορούν να αποφεύγουν την ανίχνευση", λέει ο Goldstein. "Δεν πειράζει να έχουμε ένα σύστημα που μπορεί να ανιχνεύσει μόνο ορισμένα πράγματα". Θεωρεί την υδατογράφηση ως μια μορφή μείωσης της βλάβης και χρήσιμη για τη σύλληψη προσπαθειών παραποίησης της ΤΝ χαμηλότερου επιπέδου, ακόμη και αν δεν μπορεί να αποτρέψει επιθέσεις υψηλού επιπέδου.

Αυτή η μετρίαση των προσδοκιών μπορεί ήδη να συμβαίνει. Στην ανάρτησή της στο blog που ανακοινώνει το SynthID, η DeepMind φροντίζει να αντισταθμίσει τα στοιχήματά της, σημειώνοντας ότι το εργαλείο "δεν είναι αλάνθαστο" και "δεν είναι τέλειο".

Ο Feizi είναι σε μεγάλο βαθμό επιφυλακτικός απέναντι στην ιδέα ότι η υδατογράφηση είναι μια καλή χρήση πόρων για εταιρείες όπως η Google. "Ίσως θα πρέπει να συνηθίσουμε το γεγονός ότι δεν πρόκειται να είμαστε σε θέση να επισημάνουμε αξιόπιστα τις εικόνες που δημιουργούνται με τεχνητή νοημοσύνη", λέει.

Παρόλα αυτά, το έγγραφό του είναι ελαφρώς πιο ηλιόλουστο στα συμπεράσματά του. "Με βάση τα αποτελέσματά μας, ο σχεδιασμός ενός ισχυρού υδατογραφήματος είναι ένα δύσκολο αλλά όχι απαραίτητα αδύνατο έργο", αναφέρει.

Πηγή: Researchers Tested AI Watermarks—and Broke All of Them