Περίληψη άρθρου:
Στο συνέδριο ασφάλειας RSA στο Σαν Φρανσίσκο αυτή την εβδομάδα, ο πιθανός αντίκτυπος της δημιουργικής τεχνητής νοημοσύνης στην ψηφιακή ασφάλεια και την κακόβουλη πειρατεία ήταν ένα καυτό θέμα. Ο διευθυντής κυβερνοασφάλειας της NSA, Rob Joyce, συζήτησε τη δυνατότητα χειραγώγησης και κατάχρησης των chatbots AI από κακόβουλους φορείς για την ανάπτυξη και διάδοση κακόβουλου λογισμικού, την τροφοδότηση της δημιουργίας παραπληροφόρησης και μη αυθεντικού περιεχομένου και την επέκταση των δυνατοτήτων των επιτιθέμενων να αυτοματοποιούν τις παραβιάσεις τους. Σημείωσε επίσης τη δυνατότητα της ΤΝ να βοηθήσει στην ανάλυση μεγάλων δεδομένων και την αυτοματοποίηση για την άμυνα. Ωστόσο, προειδοποίησε ότι η κοινότητα της ασφάλειας πρέπει πρώτα να μελετήσει πώς μπορούν να χειραγωγηθούν και να αξιοποιηθούν τα γεννητικά συστήματα τεχνητής νοημοσύνης προτού εξαρτηθούν από αυτά τα εργαλεία στην καθημερινή ζωή. Καταλήγοντας, ο Joyce τόνισε τον απρόβλεπτο χαρακτήρα της σημερινής στιγμής για την ΤΝ και την ασφάλεια.

Αναλυτικά το άρθρο:
Στο συνέδριο ασφάλειας RSA στο Σαν Φρανσίσκο αυτή την εβδομάδα, υπήρχε μια αίσθηση αναπόφευκτου στον αέρα. Στις ομιλίες και τα πάνελ σε όλο το εκτεταμένο συνεδριακό κέντρο Moscone, σε κάθε περίπτερο πωλητή στο χώρο της έκθεσης και σε περιστασιακές συζητήσεις στους διαδρόμους, απλά ξέρεις ότι κάποιος θα αναφερθεί στη γεννητική τεχνητή νοημοσύνη και στον πιθανό αντίκτυπό της στην ψηφιακή ασφάλεια και την κακόβουλη πειρατεία. Ο διευθυντής κυβερνοασφάλειας της NSA Rob Joyce το αισθάνεται επίσης.

"Δεν μπορείς να περπατήσεις στην RSA χωρίς να μιλήσεις για την τεχνητή νοημοσύνη και το κακόβουλο λογισμικό", δήλωσε την Τετάρτη το απόγευμα κατά τη διάρκεια της ετήσιας πλέον παρουσίασής του "State of the Hack". "Νομίζω ότι όλοι έχουμε δει την έκρηξη. Δεν θα πω ότι έχει παραδοθεί ακόμα, αλλά πρόκειται πραγματικά για κάποια τεχνολογία που αλλάζει το παιχνίδι".

Τους τελευταίους μήνες, τα chatbots που υποστηρίζονται από μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT της OpenAI, έκαναν τα χρόνια ανάπτυξης και έρευνας της μηχανικής μάθησης να μοιάζουν πιο συγκεκριμένα και προσιτά σε ανθρώπους σε όλο τον κόσμο.

Ωστόσο, υπάρχουν πρακτικά ερωτήματα σχετικά με το πώς αυτά τα νέα εργαλεία θα χειραγωγηθούν και θα καταχραστούν από κακόβουλους φορείς για την ανάπτυξη και τη διάδοση κακόβουλου λογισμικού, την τροφοδότηση της δημιουργίας παραπληροφόρησης και μη αυθεντικού περιεχομένου και την επέκταση των δυνατοτήτων των επιτιθέμενων να αυτοματοποιούν τις παραβιάσεις τους. Ταυτόχρονα, η κοινότητα της ασφάλειας είναι πρόθυμη να αξιοποιήσει τη γενεσιουργό τεχνητή νοημοσύνη για την υπεράσπιση των συστημάτων και την απόκτηση πλεονεκτήματος προστασίας. Σε αυτές τις πρώτες ημέρες, ωστόσο, είναι δύσκολο να αναλύσουμε τι ακριβώς θα συμβεί στη συνέχεια.

Η Joyce δήλωσε ότι η Εθνική Υπηρεσία Ασφαλείας αναμένει ότι η γενεσιουργός ΤΝ θα τροφοδοτήσει τις ήδη αποτελεσματικές απάτες όπως το phishing. Τέτοιες επιθέσεις βασίζονται σε πειστικό και συναρπαστικό περιεχόμενο για να ξεγελάσουν τα θύματα ώστε να βοηθήσουν άθελά τους τους επιτιθέμενους, οπότε η γενετική ΤΝ έχει προφανείς χρήσεις για τη γρήγορη δημιουργία προσαρμοσμένων επικοινωνιών και υλικών.

"Αυτός ο ρωσικής καταγωγής χάκερ που δεν μιλάει καλά αγγλικά δεν πρόκειται πλέον να φτιάξει ένα άθλιο email για τους υπαλλήλους σας", δήλωσε ο Joyce. "Θα είναι αγγλικά στη μητρική του γλώσσα, θα έχει νόημα, θα περάσει το τεστ μυρωδιάς ... Έτσι, αυτό ακριβώς εκεί είναι εδώ σήμερα, και βλέπουμε αντιπάλους, τόσο εθνικούς όσο και εγκληματίες, να αρχίζουν να πειραματίζονται με τη γενιά τύπου ChatGPT για να τους δώσουν ευκαιρίες αγγλικής γλώσσας".

Εν τω μεταξύ, αν και τα AI chatbots μπορεί να μην είναι σε θέση να αναπτύξουν τέλεια οπλισμένο νέο κακόβουλο λογισμικό από το μηδέν, ο Joyce σημείωσε ότι οι επιτιθέμενοι μπορούν να χρησιμοποιήσουν τις δεξιότητες κωδικοποίησης που διαθέτουν οι πλατφόρμες για να κάνουν μικρότερες αλλαγές που θα μπορούσαν να έχουν μεγάλο αποτέλεσμα. Η ιδέα θα ήταν να τροποποιήσουν το υπάρχον κακόβουλο λογισμικό με γεννητική ΤΝ ώστε να αλλάξουν τα χαρακτηριστικά και τη συμπεριφορά του αρκετά ώστε εργαλεία σάρωσης, όπως το λογισμικό προστασίας από ιούς, να μην μπορούν να αναγνωρίσουν και να επισημάνουν τη νέα επανάληψη.

"Θα βοηθήσει να ξαναγράψει τον κώδικα και να τον κάνει με τρόπους που θα αλλάξουν την υπογραφή και τα χαρακτηριστικά του", δήλωσε ο Joyce. "Αυτό [πρόκειται] να αποτελέσει πρόκληση για εμάς βραχυπρόθεσμα".

Όσον αφορά την άμυνα, ο Τζόις εμφανίστηκε αισιόδοξος για τις δυνατότητες της δημιουργικής τεχνητής νοημοσύνης να βοηθήσει στην ανάλυση και την αυτοματοποίηση μεγάλων δεδομένων. Ανέφερε τρεις τομείς στους οποίους η τεχνολογία "υπόσχεται πραγματικά πολλά" ως "επιταχυντής για την άμυνα": σάρωση ψηφιακών αρχείων καταγραφής, εύρεση μοτίβων στην εκμετάλλευση ευπαθειών και παροχή βοήθειας στους οργανισμούς για την ιεράρχηση των ζητημάτων ασφαλείας.

Προειδοποίησε, ωστόσο, ότι προτού οι αμυντικοί και οι κοινότητες ευρύτερα αρχίσουν να εξαρτώνται από αυτά τα εργαλεία στην καθημερινή ζωή, πρέπει πρώτα να μελετήσουν πώς μπορούν να χειραγωγηθούν και να αξιοποιηθούν τα συστήματα γεννητικής τεχνητής νοημοσύνης.

Κυρίως, ο Joyce υπογράμμισε τη σκοτεινή και απρόβλεπτη φύση της τρέχουσας στιγμής για την ΤΝ και την ασφάλεια, προειδοποιώντας την κοινότητα ασφαλείας να "κουμπώσει" για ό,τι είναι πιθανό να έρθει ακόμη.

"Δεν περιμένω κάποια μαγική τεχνική ικανότητα που δημιουργείται από την τεχνητή νοημοσύνη και η οποία θα εκμεταλλεύεται όλα τα πράγματα", είπε. Αλλά "του χρόνου, αν είμαστε εδώ και μιλάμε για μια παρόμοια ανασκόπηση της χρονιάς, νομίζω ότι θα έχουμε ένα σωρό παραδείγματα για το πού έχει χρησιμοποιηθεί ως όπλο, πού έχει χρησιμοποιηθεί και πού έχει πετύχει".

Πηγή: NSA Cybersecurity Director Says ‘Buckle Up’ for Generative AI