Περίληψη άρθρου:
Ερευνητές του Πανεπιστημίου Indiana Bloomington ανακάλυψαν ένα botnet με την ονομασία Fox8, το οποίο τροφοδοτείται από το ChatGPT και λειτουργεί στο X (πρώην Twitter). Το botnet αποτελούνταν από 1.140 λογαριασμούς που χρησιμοποιούσαν το ChatGPT για να δημιουργούν αναρτήσεις στα μέσα κοινωνικής δικτύωσης παρασύροντας τους χρήστες να κάνουν κλικ σε συνδέσμους προς ιστότοπους κρυπτονομισμάτων. Η ευκολία με την οποία αξιοποιήθηκε η τεχνητή νοημοσύνη για αυτή την απάτη υποδηλώνει ότι πιο εξελιγμένα botnets μπορεί να λειτουργούν απαρατήρητα. Η πολιτική χρήσης του OpenAI απαγορεύει τη χρήση μοντέλων ΤΝ για απάτες ή παραπληροφόρηση. Η πρόκληση έγκειται στον εντοπισμό και την καταπολέμηση αυτών των botnets, καθώς μπορούν να εξαπατήσουν τόσο τις πλατφόρμες όσο και τους χρήστες, ενισχύοντας δυνητικά την εμβέλειά τους στα μέσα κοινωνικής δικτύωσης.

Κύρια σημεία του άρθρου:

• Ερευνητές του Πανεπιστημίου Indiana Bloomington ανακάλυψαν ένα botnet που λειτουργούσε στο X με τη βοήθεια του ChatGPT τον Μάιο του τρέχοντος έτους.
• Το botnet είχε σχεδιαστεί για να παρασύρει ανυποψίαστους ανθρώπους να κάνουν κλικ σε συνδέσμους που οδηγούν σε ιστότοπους κρυπτο-υποκλοπής.
• Η παραπληροφόρηση με βάση την τεχνητή νοημοσύνη γίνεται όλο και πιο δύσκολο να εντοπιστεί και θα μπορούσε να χρησιμοποιηθεί για κακόβουλους σκοπούς.
• Οι ερευνητές έχουν αναπτύξει μια τεχνική για την αυτόματη διάκριση του κειμένου που δημιουργείται από το ChatGPT από την πραγματική ανθρώπινη γραφή, αλλά είναι δαπανηρή για την ανάπτυξή της.

Αναλυτικά το άρθρο:

Ένα botnet που προφανώς συνδέεται με το ChatGPT δείχνει πόσο εύκολα και αποτελεσματικά μπορεί να αξιοποιηθεί η τεχνητή νοημοσύνη για παραπληροφόρηση.

ΤΟ CHATGPT ΜΠΟΡΕΙ να φέρει επανάσταση στην αναζήτηση στο διαδίκτυο, να εξορθολογήσει τις δουλειές του γραφείου και να αναδιαμορφώσει την εκπαίδευση, αλλά το ρομπότ συνομιλίας με την απαλή ομιλία έχει βρει δουλειά και ως πλασιέ κρυπτογράφησης στα μέσα κοινωνικής δικτύωσης.

Ερευνητές του Πανεπιστημίου Indiana Bloomington ανακάλυψαν τον Μάιο του τρέχοντος έτους ένα botnet που τροφοδοτείται από το ChatGPT και λειτουργεί στο X - το κοινωνικό δίκτυο που ήταν γνωστό ως Twitter.

Το botnet, το οποίο οι ερευνητές ονομάζουν Fox8 λόγω της σύνδεσής του με ιστότοπους κρυπτονομισμάτων που φέρουν κάποια παραλλαγή του ίδιου ονόματος, αποτελούνταν από 1.140 λογαριασμούς. Πολλοί από αυτούς φάνηκε να χρησιμοποιούν το ChatGPT για να δημιουργούν αναρτήσεις στα μέσα κοινωνικής δικτύωσης και να απαντούν ο ένας στις αναρτήσεις του άλλου. Το περιεχόμενο που δημιουργούνταν αυτόματα ήταν προφανώς σχεδιασμένο για να παρασύρει ανυποψίαστους ανθρώπους να κάνουν κλικ σε συνδέσμους που οδηγούσαν στους ιστότοπους κρυπτο-υποστήριξης.

Ο Micah Musser, ένας ερευνητής που έχει μελετήσει τις δυνατότητες παραπληροφόρησης με βάση την τεχνητή νοημοσύνη, λέει ότι το botnet Fox8 μπορεί να είναι μόνο η κορυφή του παγόβουνου, δεδομένου του πόσο δημοφιλή έχουν γίνει τα μεγάλα γλωσσικά μοντέλα και τα chatbots. "Αυτό είναι το φρούτο που κρέμεται χαμηλά", λέει ο Musser. "Είναι πολύ, πολύ πιθανό ότι για κάθε μία καμπάνια που βρίσκετε, υπάρχουν πολλές άλλες που κάνουν πιο εξελιγμένα πράγματα".

Το botnet Fox8 μπορεί να ήταν εκτεταμένο, αλλά η χρήση του ChatGPT δεν ήταν σίγουρα εξελιγμένη. Οι ερευνητές ανακάλυψαν το botnet αναζητώντας στην πλατφόρμα την προδοτική φράση "As an AI language model ...", μια απάντηση που χρησιμοποιεί μερικές φορές το ChatGPT για προτροπές σχετικά με ευαίσθητα θέματα. Στη συνέχεια ανέλυσαν χειροκίνητα τους λογαριασμούς για να εντοπίσουν αυτούς που φαινόταν να λειτουργούν από bots.

"Ο μόνος λόγος για τον οποίο παρατηρήσαμε το συγκεκριμένο botnet είναι ότι ήταν απρόσεκτοι", λέει ο Filippo Menczer, καθηγητής στο Πανεπιστήμιο Indiana Bloomington, ο οποίος πραγματοποίησε την έρευνα μαζί με τον Kai-Cheng Yang, έναν φοιτητή που θα ενταχθεί στο Πανεπιστήμιο Northeastern ως μεταδιδακτορικός ερευνητής για το επόμενο ακαδημαϊκό έτος.
Παρά το τικ, το botnet δημοσίευσε πολλά πειστικά μηνύματα που προωθούσαν ιστότοπους κρυπτονομισμάτων. Η προφανής ευκολία με την οποία αξιοποιήθηκε προφανώς η τεχνητή νοημοσύνη του OpenAI για την απάτη σημαίνει ότι προηγμένα chatbots μπορεί να διαχειρίζονται και άλλα botnets που δεν έχουν ακόμη εντοπιστεί. "Οποιοσδήποτε αρκετά καλός κακός δεν θα έκανε αυτό το λάθος", λέει ο Menczer.

Η OpenAI δεν είχε απαντήσει σε αίτημα σχολιασμού σχετικά με το botnet μέχρι τη στιγμή της δημοσίευσης. Η πολιτική χρήσης των μοντέλων τεχνητής νοημοσύνης της απαγορεύει τη χρήση τους για απάτες ή παραπληροφόρηση.

Το ChatGPT και άλλα chatbots αιχμής χρησιμοποιούν τα λεγόμενα μεγάλα γλωσσικά μοντέλα για να παράγουν κείμενο ως απάντηση σε μια προτροπή. Με αρκετά δεδομένα εκπαίδευσης (πολλά από τα οποία προέρχονται από διάφορες πηγές στο διαδίκτυο), αρκετή ισχύ υπολογιστή και ανατροφοδότηση από ανθρώπους δοκιμαστές, ρομπότ όπως το ChatGPT μπορούν να ανταποκριθούν με εκπληκτικά εξελιγμένους τρόπους σε ένα ευρύ φάσμα εισόδων. Ταυτόχρονα, μπορούν επίσης να εκτοξεύουν μισητά μηνύματα, να παρουσιάζουν κοινωνικές προκαταλήψεις και να επινοούν πράγματα.

Ένα σωστά διαμορφωμένο botnet με βάση το ChatGPT θα ήταν δύσκολο να εντοπιστεί, πιο ικανό να εξαπατήσει τους χρήστες και πιο αποτελεσματικό στο να παίζει με τους αλγόριθμους που χρησιμοποιούνται για την ιεράρχηση του περιεχομένου στα μέσα κοινωνικής δικτύωσης.

"Εξαπατά τόσο την πλατφόρμα όσο και τους χρήστες", λέει ο Menczer για το botnet που λειτουργεί με ChatGPT. Και, αν ένας αλγόριθμος των μέσων κοινωνικής δικτύωσης εντοπίσει ότι μια ανάρτηση έχει μεγάλη εμπλοκή -ακόμη και αν αυτή η εμπλοκή προέρχεται από άλλους λογαριασμούς bot- θα δείξει την ανάρτηση σε περισσότερους ανθρώπους. "Αυτός ακριβώς είναι ο λόγος για τον οποίο αυτά τα bots συμπεριφέρονται με τον τρόπο που συμπεριφέρονται", λέει ο Menczer. Και οι κυβερνήσεις που επιθυμούν να διεξάγουν εκστρατείες παραπληροφόρησης είναι πολύ πιθανό να αναπτύσσουν ή να αναπτύσσουν ήδη τέτοια εργαλεία, προσθέτει.

Οι ερευνητές ανησυχούν εδώ και καιρό ότι η τεχνολογία πίσω από το ChatGPT θα μπορούσε να αποτελέσει κίνδυνο παραπληροφόρησης και η OpenAI καθυστέρησε ακόμη και την κυκλοφορία ενός προκατόχου του συστήματος λόγω τέτοιων φόβων. Όμως, μέχρι σήμερα, υπάρχουν λίγα συγκεκριμένα παραδείγματα κατάχρησης μεγάλων γλωσσικών μοντέλων σε κλίμακα. Ωστόσο, ορισμένες πολιτικές εκστρατείες χρησιμοποιούν ήδη την ΤΝ, με εξέχοντες πολιτικούς να μοιράζονται deepfake βίντεο σχεδιασμένα για να δυσφημίσουν τους αντιπάλους τους.

Ο William Wang, καθηγητής στο Πανεπιστήμιο της Καλιφόρνιας στη Σάντα Μπάρμπαρα, λέει ότι είναι συναρπαστικό να μπορούμε να μελετήσουμε την πραγματική εγκληματική χρήση του ChatGPT. "Τα ευρήματά τους είναι πολύ ωραία", λέει για το έργο του Fox8.

Ο Wang πιστεύει ότι πολλές ιστοσελίδες spam δημιουργούνται πλέον αυτόματα και λέει ότι γίνεται όλο και πιο δύσκολο για τους ανθρώπους να εντοπίσουν αυτό το υλικό. Και, με την Τεχνητή Νοημοσύνη να βελτιώνεται συνεχώς, αυτό θα γίνεται όλο και πιο δύσκολο. "Η κατάσταση είναι αρκετά άσχημη", λέει.

Αυτόν τον Μάιο, το εργαστήριο του Wang ανέπτυξε μια τεχνική για την αυτόματη διάκριση του κειμένου που παράγεται από το ChatGPT από την πραγματική ανθρώπινη γραφή, αλλά λέει ότι είναι δαπανηρή η ανάπτυξή της, επειδή χρησιμοποιεί το API του OpenAI, και σημειώνει ότι η υποκείμενη τεχνητή νοημοσύνη βελτιώνεται συνεχώς. "Είναι ένα είδος προβλήματος γάτας και ποντικού", λέει ο Wang.

Το X θα μπορούσε να αποτελέσει ένα γόνιμο πεδίο δοκιμών για τέτοια εργαλεία. Ο Menczer λέει ότι τα κακόβουλα bots φαίνεται να έχουν γίνει πολύ πιο συνηθισμένα από τότε που ο Elon Musk ανέλαβε το τότε γνωστό Twitter, παρά την υπόσχεση του μεγιστάνα της τεχνολογίας να τα εξαλείψει. Και έχει γίνει πιο δύσκολο για τους ερευνητές να μελετήσουν το πρόβλημα λόγω της απότομης αύξησης της τιμής που επιβλήθηκε στη χρήση του API.

Κάποιος στο X προφανώς κατέβασε το botnet Fox8 μετά τη δημοσίευση της εργασίας των Menczer και Yang τον Ιούλιο. Η ομάδα του Menczer συνήθιζε να ειδοποιεί το Twitter για νέα ευρήματα στην πλατφόρμα, αλλά δεν το κάνει πλέον αυτό με το X. "Δεν ανταποκρίνονται πραγματικά", λέει ο Menczer. "Δεν έχουν πραγματικά το κατάλληλο προσωπικό".

Πηγή: Scammers Used ChatGPT to Unleash a Crypto Botnet on X