Περίληψη Άρθρου:

Το Openai κατέστρεψε πέντε μυστικές επιχειρήσεις που εκμεταλλεύτηκαν τα μοντέλα της για παραπλανητικές δραστηριότητες στο Διαδίκτυο τους τελευταίους τρεις μήνες. Αυτές οι επιχειρήσεις, που εκτείνονται από την Κίνα έως το Ιράν, χρησιμοποίησαν AI για τη μετάφραση γλωσσών, τη δημιουργία περιεχομένου και τη χειραγώγηση των κοινωνικών μέσων ενημέρωσης, αλλά απέτυχαν να επηρεάσουν σημαντικά τη δημόσια γνώμη. Τα μέτρα ασφαλείας του OpenAI και τα εργαλεία AI έχουν βελτιωμένες δυνατότητες ανίχνευσης και συνεργασία της βιομηχανίας.

Κύρια σημεία του άρθρου:

• Το OpenAI έχει καταστρέψει πέντε μυστικές επιχειρήσεις που εκμεταλλεύονταν τα μοντέλα της για παραπλανητικές διαδικτυακές δραστηριότητες τους τελευταίους τρεις μήνες.
• Οι επιχειρήσεις επεκτάθηκαν από την Κίνα εως το Ιράν και χρησιμοποίησαν το AI για τη μετάφραση των γλωσσών, τη δημιουργία περιεχομένου και τον χειρισμό των κοινωνικών μέσων ενημέρωσης.
• Ωστόσο, απέτυχαν να επηρεάσουν σημαντικά την κοινή γνώμη.
• Τα μέτρα ασφαλείας του OpenAI και τα εργαλεία AI έχουν βελτιωμένες δυνατότητες ανίχνευσης.
• Υπήρξε αύξηση της συνεργασίας της βιομηχανίας για την αντιμετώπιση τέτοιων ζητημάτων.
• Το OpenAI στοχεύει στην ανάπτυξη ασφαλούς και υπεύθυνης τεχνητής νοημοσύνης, αναγνωρίζοντας παράλληλα την πρόκληση της ανίχνευσης και διακοπής πολλαπλών καταχρήσεων.

Αναλυτικά το άρθρο:

Τους τελευταίους τρεις μήνες, η OpenAI διέκοψε πέντε μυστικές επιχειρήσεις επιρροής (IO) που επιχείρησαν να εκμεταλλευτούν τα μοντέλα της εταιρείας για παραπλανητικές δραστηριότητες στο διαδίκτυο. Μέχρι τον Μάιο του 2024, οι εκστρατείες αυτές δεν έχουν εμφανίσει ουσιαστική αύξηση της εμπλοκής ή της εμβέλειας του κοινού χάρη στις υπηρεσίες της OpenAI.

Η OpenAI ισχυρίζεται ότι η δέσμευσή της να σχεδιάζει μοντέλα τεχνητής νοημοσύνης με γνώμονα την ασφάλεια έχει συχνά ματαιώσει τις προσπάθειες των απειλητικών φορέων να δημιουργήσουν το επιθυμητό περιεχόμενο. Επιπλέον, η εταιρεία αναφέρει ότι τα εργαλεία AI έχουν βελτιώσει την αποτελεσματικότητα των ερευνών της OpenAI.

Η λεπτομερής αναφορά απειλών από τις πλατφόρμες διάθεσης και την κοινότητα ανοικτού κώδικα έχει συμβάλει σημαντικά στην καταπολέμηση της ΔΠ. Η OpenAI μοιράζεται αυτά τα ευρήματα για να προωθήσει την ανταλλαγή πληροφοριών και βέλτιστων πρακτικών μεταξύ της ευρύτερης κοινότητας των ενδιαφερομένων.

Διακοπή της κρυφής ΙΟ

Τους τελευταίους τρεις μήνες, το OpenAI διέκοψε αρκετές επιχειρήσεις IO χρησιμοποιώντας τα μοντέλα του για διάφορες εργασίες, όπως η δημιουργία σύντομων σχολίων, η δημιουργία ψεύτικων προφίλ στα μέσα κοινωνικής δικτύωσης, η διεξαγωγή έρευνας ανοιχτού κώδικα, η αποσφαλμάτωση απλού κώδικα και η μετάφραση κειμένων.

Οι συγκεκριμένες επιχειρήσεις που διακόπηκαν περιλαμβάνουν:

Bad Grammar: Μια επιχείρηση που δεν είχε αναφερθεί προηγουμένως από τη Ρωσία με στόχο την Ουκρανία, τη Μολδαβία, τις χώρες της Βαλτικής και τις ΗΠΑ. Η ομάδα αυτή χρησιμοποίησε τα μοντέλα του OpenAI για την αποσφαλμάτωση κώδικα για τη λειτουργία ενός bot του Telegram και για τη δημιουργία πολιτικών σχολίων στα ρωσικά και στα αγγλικά, που δημοσιεύτηκαν στο Telegram.

Doppelganger: Μια άλλη ρωσική επιχείρηση που παράγει σχόλια σε πολλές γλώσσες σε πλατφόρμες όπως το X και το 9GAG, μεταφράζει και επεξεργάζεται άρθρα, δημιουργεί τίτλους και μετατρέπει άρθρα ειδήσεων σε αναρτήσεις στο Facebook.

Spamouflage: Ένα κινεζικό δίκτυο που χρησιμοποιεί τα μοντέλα του OpenAI για την έρευνα της δραστηριότητας των δημόσιων μέσων κοινωνικής δικτύωσης, παράγοντας κείμενα σε διάφορες γλώσσες και αποσφαλματώνοντας κώδικα για τη διαχείριση βάσεων δεδομένων και ιστότοπων.

Διεθνής Ένωση Εικονικών Μέσων Ενημέρωσης (IUVM): Μια ιρανική επιχείρηση που παράγει και μεταφράζει άρθρα μεγάλου μήκους, τίτλους και ετικέτες ιστοτόπων, τα οποία δημοσιεύονται σε έναν συνδεδεμένο ιστότοπο.

Zero Zeno: Μια εμπορική εταιρεία στο Ισραήλ, με επιχειρήσεις που παράγουν άρθρα και σχόλια που δημοσιεύονται σε πολλαπλές πλατφόρμες, συμπεριλαμβανομένων των Instagram, Facebook, X και συνδεδεμένων ιστότοπων.

Το περιεχόμενο που αναρτήθηκε από αυτές τις επιχειρήσεις επικεντρώθηκε σε διάφορα θέματα, συμπεριλαμβανομένης της εισβολής της Ρωσίας στην Ουκρανία, της σύγκρουσης στη Γάζα, των εκλογών στην Ινδία, της ευρωπαϊκής και αμερικανικής πολιτικής και της κριτικής στην κινεζική κυβέρνηση.

Παρά τις προσπάθειες αυτές, καμία από αυτές τις επιχειρήσεις δεν παρουσίασε σημαντική αύξηση της εμπλοκής του κοινού λόγω των μοντέλων του OpenAI. Χρησιμοποιώντας την κλίμακα Breakout Scale του Brookings - η οποία αξιολογεί τον αντίκτυπο της μυστικής ΔΟ - καμία από τις πέντε επιχειρήσεις δεν σημείωσε βαθμολογία μεγαλύτερη από 2, υποδεικνύοντας δραστηριότητα σε πολλαπλές πλατφόρμες, αλλά όχι διάσπαση σε αυθεντικές κοινότητες.

Τάσεις των επιτιθέμενων

Οι έρευνες σε αυτές τις επιχειρήσεις επιρροής αποκάλυψαν διάφορες τάσεις:

Παραγωγή περιεχομένου: Οι δράστες χρησιμοποίησαν τις υπηρεσίες του OpenAI για τη δημιουργία μεγάλων όγκων κειμένου με λιγότερα γλωσσικά λάθη από ό,τι θα μπορούσαν να επιτύχουν μόνοι τους οι ανθρώπινοι χειριστές.

Ανάμειξη παλαιού και νέου: Η τεχνητή νοημοσύνη χρησιμοποιήθηκε παράλληλα με παραδοσιακές μορφές, όπως χειρόγραφα κείμενα ή αντιγραμμένα μιμίδια.

Ψεύτικη δέσμευση: Ορισμένα δίκτυα δημιούργησαν απαντήσεις στις δικές τους αναρτήσεις για να δημιουργήσουν την εντύπωση εμπλοκής, αν και κανένα δεν κατάφερε να προσελκύσει αυθεντική εμπλοκή.

Κέρδη παραγωγικότητας: Οι φορείς απειλών χρησιμοποίησαν τεχνητή νοημοσύνη για να αυξήσουν την παραγωγικότητα, συνοψίζοντας αναρτήσεις στα μέσα κοινωνικής δικτύωσης και αποσφαλματώνοντας κώδικα.

Αμυντικές τάσεις

Οι έρευνες του OpenAI ωφελήθηκαν από την ανταλλαγή βιομηχανικών πληροφοριών και την έρευνα ανοικτού κώδικα. Τα αμυντικά μέτρα περιλαμβάνουν:

Αμυντικός σχεδιασμός: Τα συστήματα ασφαλείας του OpenAI επέβαλαν εμπόδια στους δράστες , εμποδίζοντάς τους συχνά να δημιουργήσουν το επιθυμητό περιεχόμενο.

Έρευνα με ενίσχυση της τεχνητής νοημοσύνης: Τα εργαλεία με τεχνητή νοημοσύνη βελτίωσαν την αποτελεσματικότητα της ανίχνευσης και της ανάλυσης, μειώνοντας τους χρόνους διερεύνησης από εβδομάδες ή μήνες σε ημέρες.

Σημασία έχει η διανομή: Το περιεχόμενο ΙΟ, όπως και το παραδοσιακό περιεχόμενο, πρέπει να διανέμεται αποτελεσματικά για να φτάσει στο κοινό. Παρά τις προσπάθειές τους, καμία από τις διαταραγμένες επιχειρήσεις δεν πέτυχε ουσιαστική δέσμευση.

Σημασία της ανταλλαγής πληροφοριών στον κλάδο: Η κοινή χρήση δεικτών απειλής με ομότιμους του κλάδου αύξησε τον αντίκτυπο των διαταραχών της OpenAI. Η εταιρεία επωφελήθηκε από την πολυετή ανάλυση ανοικτού κώδικα από την ευρύτερη ερευνητική κοινότητα.

Το ανθρώπινο στοιχείο: Παρά τη χρήση τεχνητής νοημοσύνης, οι δράστες ήταν επιρρεπείς σε ανθρώπινα λάθη, όπως η δημοσίευση μηνυμάτων που αρνούνταν τα μοντέλα της OpenAI στα μέσα κοινωνικής δικτύωσης και στους ιστότοπούς τους.

Η OpenAI δηλώνει ότι παραμένει αφοσιωμένη στην ανάπτυξη ασφαλούς και υπεύθυνης τεχνητής νοημοσύνης. Αυτό περιλαμβάνει το σχεδιασμό μοντέλων με γνώμονα την ασφάλεια και την προληπτική παρέμβαση κατά της κακόβουλης χρήσης.

Ενώ παραδέχεται ότι η ανίχνευση και η διακοπή καταχρήσεων πολλαπλών πλατφορμών, όπως οι μυστικές επιχειρήσεις επιρροής, είναι πρόκληση, η OpenAI ισχυρίζεται ότι έχει δεσμευτεί να μετριάσει τους κινδύνους.

Πηγή: OpenAI disrupts five covert influence operations