Περίληψη άρθρου:
Το WormGPT είναι ένα νέο εργαλείο συνομιλίας βασισμένο στο γλωσσικό μοντέλο GPT-J, ειδικά σχεδιασμένο για τη δημιουργία κωδικοποίησης και εργαλείων black-hat. Επιτρέπει στους χρήστες να αναπτύσσουν κακόβουλο λογισμικό εύκολα και με χαμηλότερο κόστος. Έχει τη δυνατότητα για εξελιγμένες επιθέσεις phishing και BEC, όπως έδειξαν δοκιμές που διεξήγαγε η εταιρεία κυβερνοασφάλειας SlashNext. Αν και είναι πιθανό το WormGPT να είναι ένα honey-pot ή ένα εργαλείο για τον εντοπισμό κακόβουλων παραγόντων, αναδεικνύει τη σκοτεινή πλευρά των μοντέλων τεχνητής νοημοσύνης ανοιχτού κώδικα. Καθώς η τεχνολογία AI εξελίσσεται και γίνεται πιο προσιτή, ενδέχεται να εμφανιστούν περισσότεροι ιδιωτικοί πράκτορες AI όπως το WormGPT.

Κύρια σημεία του άρθρου:

• Το WormGPT είναι ένα νέο εργαλείο συνομιλίας που έχει αναπτυχθεί για τη συγγραφή και την ανάπτυξη κωδικοποίησης και εργαλείων black-hat.
• Βασίζεται στο γλωσσικό μοντέλο GPT-J και επιτρέπει στους χρήστες να αναπτύσσουν κακόβουλο λογισμικό σε ένα κλάσμα του κόστους και των γνώσεων που απαιτούνταν προηγουμένως.
• Η οργάνωση κυβερνοασφάλειας SlashNext προειδοποιεί ότι οι κακόβουλοι φορείς χρησιμοποιούν πλέον παρόμοιες προσαρμοσμένες ενότητες για κακόβουλους σκοπούς.
• Το WormGPT λειτουργεί σαν μια απροστάτευτη έκδοση του ChatGPT και μπορεί να παράγει κακόβουλο λογισμικό γραμμένο σε Python.
• Ενώ οι ιδιωτικά αναπτυγμένοι πράκτορες ΤΝ όπως το WormGPT μπορεί να μην έχουν γενικές δυνατότητες, γίνονται όλο και πιο ικανοί και πιθανότατα θα συνεχίσουν να εμφανίζονται στο μέλλον.

Αναλυτικά το άρθρο:
Μια νέα, προσαρμοσμένη έκδοση ενός LLM (Large Language Model) κάνει το γύρο του κόσμου, αλλά για τους χειρότερους δυνατούς λόγους. Το WormGPT, όπως έχει βαφτιστεί από τον δημιουργό του, είναι ένα νέο εργαλείο συνομιλίας -- βασισμένο στο γλωσσικό μοντέλο GPT-J που κυκλοφόρησε το 2021 -- το οποίο έχει εκπαιδευτεί και αναπτυχθεί με μοναδικό σκοπό τη συγγραφή και την ανάπτυξη κωδικοποίησης και εργαλείων black-hat. 

Η υπόσχεση είναι ότι θα επιτρέψει στους χρήστες του να αναπτύξουν κακόβουλο λογισμικό κορυφαίου επιπέδου σε ένα κλάσμα του κόστους (και των γνώσεων) που ήταν προηγουμένως απαραίτητο. 

Το εργαλείο δοκιμάστηκε από την οργάνωση κυβερνοασφάλειας SlashNext, η οποία προειδοποίησε σε μια ανάρτηση στο blog ότι "οι κακόβουλοι φορείς δημιουργούν πλέον τις δικές τους προσαρμοσμένες ενότητες παρόμοιες με το ChatGPT, αλλά ευκολότερες στη χρήση για κακόβουλους σκοπούς". 

Η υπηρεσία μπορεί να αποκτηθεί με μια "κατάλληλη" μηνιαία συνδρομή: 60 ευρώ το μήνα ή 550 ευρώ το χρόνο. Φαίνεται ότι όλοι, ακόμη και οι χάκερ, αγαπούν το λογισμικό ως υπηρεσία.

Σύμφωνα με τον προγραμματιστή του WormGPT, "Αυτό το έργο έχει ως στόχο να παρέχει μια εναλλακτική λύση στο ChatGPT, που σας επιτρέπει να κάνετε κάθε είδους παράνομα πράγματα και να τα πουλάτε εύκολα στο διαδίκτυο στο μέλλον.

 Οτιδήποτε σχετικό με το blackhat που μπορείτε να σκεφτείτε μπορεί να γίνει με το WormGPT, επιτρέποντας στον καθένα πρόσβαση σε κακόβουλη δραστηριότητα χωρίς να βγει ποτέ από την άνεση του σπιτιού του".

Ο εκδημοκρατισμός είναι ωραίος και καλός, αλλά ίσως δεν είναι στα καλύτερά του όταν αναφέρεται στον πολλαπλασιασμό και την ενδυνάμωση κακόβουλων παραγόντων.

Σύμφωνα με τα στιγμιότυπα οθόνης που δημοσίευσε ο δημιουργός του, το WormGPT λειτουργεί ουσιαστικά σαν μια απροστάτευτη έκδοση του ChatGPT - αλλά μια έκδοση που δεν θα προσπαθήσει να μπλοκάρει ενεργά τις συνομιλίες με την παραμικρή ένδειξη κινδύνου. 

Το WormGPT μπορεί προφανώς να παράγει κακόβουλο λογισμικό γραμμένο σε Python και θα παρέχει συμβουλές, στρατηγικές και λύσεις σε προβλήματα που σχετίζονται με την ανάπτυξη του κακόβουλου λογισμικού.

Οι αναλύσεις του SlashNext σχετικά με το εργαλείο ήταν ανησυχητικές. Αφού έδωσαν εντολή στον πράκτορα να δημιουργήσει ένα μήνυμα ηλεκτρονικού ταχυδρομείου με σκοπό να πιέσει ένα θύμα να πληρώσει ένα δόλιο τιμολόγιο, τα αποτελέσματα ήταν ανησυχητικά: Το WormGPT παρήγαγε ένα μήνυμα ηλεκτρονικού ταχυδρομείου που ήταν όχι μόνο εξαιρετικά πειστικό αλλά και στρατηγικά πονηρό, αναδεικνύοντας τις δυνατότητές του για εξελιγμένες επιθέσεις phishing και BEC [Business Email Compromise]".

Ήταν μόνο θέμα χρόνου μέχρι κάποιος να πάρει όλα τα καλά που είχε η ύπαρξη μοντέλων Τεχνητής Νοημοσύνης (ΤΝ) ανοιχτού κώδικα και να τα ανατρέψει. Είναι άλλο πράγμα να αναπτύσσετε χιουμοριστικές, καυχησιολογίες για έναν βοηθό AI που μοιάζει με chat (σας κοιτάζω, BratGPT). Άλλο πράγμα είναι να αναπτύξεις ένα μοντέλο συνομιλίας που έχει εκπαιδευτεί στις συγκεκριμένες γλώσσες και τις παραπλανήσεις του σκοτεινού ιστού. Αλλά το να μετατρέψει κανείς τις παγκοσμίου φήμης προγραμματιστικές δεξιότητες του ChatGPT και να τις εφαρμόσει αποκλειστικά προς την ανάπτυξη κακόβουλου λογισμικού γραμμένου με τεχνητή νοημοσύνη είναι κάτι εντελώς διαφορετικό.

Φυσικά, θα ήταν επίσης θεωρητικά δυνατό το WormGPT να είναι ένα πραγματικό honey-pot και να εκπαιδεύσει έναν πράκτορα ΤΝ όπως αυτά για να δημιουργήσει λειτουργικό κακόβουλο λογισμικό. που πάντα συλλαμβάνεται και φροντίζει να αναγνωρίζει τον αποστολέα του. Δεν λέμε ότι αυτό συμβαίνει με το WormGPT, αλλά είναι πιθανό. Επομένως, όποιος το χρησιμοποιεί, καλό θα ήταν να ελέγχει τον κώδικά του, μία γραμμή τη φορά.

Στην περίπτωση αυτών των ιδιωτικών παραγόντων τεχνητής νοημοσύνης, είναι σημαντικό να σημειωθεί ότι λίγοι (αν υπάρχουν) θα παρουσιάσουν γενικές δυνατότητες παράλληλα με αυτές που έχουμε συνηθίσει να περιμένουμε από το ChatGPT του OpenAI. Ενώ οι τεχνικές και τα εργαλεία έχουν βελτιωθεί πάρα πολύ, εξακολουθεί να είναι μια δαπανηρή και χρονοβόρα προσπάθεια να εκπαιδεύσετε έναν πράκτορα AI χωρίς την κατάλληλη χρηματοδότηση (και δεδομένα). Αλλά είναι γεγονός ότι καθώς οι εταιρείες σπριντάρουν προς το AI goldrush, το κόστος θα συνεχίσει να πέφτει κατακόρυφα, τα σύνολα δεδομένων και οι μέθοδοι εκπαίδευσης θα βελτιώνονται και όλο και περισσότεροι ικανοί, ιδιωτικοί πράκτορες AI, όπως το WormGPT και το BratGPT, θα συνεχίσουν να εμφανίζονται.

Το WormGPT μπορεί να είναι το πρώτο τέτοιο σύστημα που θα φτάσει στην αναγνώριση της κοινής γνώμης, αλλά σίγουρα δεν θα είναι το τελευταίο.

Πηγή: WormGPT Might Become Hackers' New Best Imaginary Friend