Περίληψη άρθρου:

Το OpenAI τερμάτισε λογαριασμούς που συνδέουν με κρατικούς απειλητικούς κινδύνους που προσπαθούσαν να κάνουν κατάχρηση των υπηρεσιών ΤΝ για κακόβουλες δραστηριότητες. Σε συνεργασία με τη Microsoft, το OpenAI διέκοψε πέντε άτομα από την Κίνα, το Ιράν, τη Βόρεια Κορέα και τη Ρωσία. Ενώ τα μοντέλα AI έχουν κακές δυνατότητες, το OpenAI εφαρμόζει μια πολυδιάστατη στρατηγική που επικεντρώνεται στην παρακολούθηση, τη συνεργασία, τη βελτίωση της ασφάλειας και τη δημόσια διαφάνεια για την αποτελεσματική καταπολέμηση των τέτοιων απειλών.

 

Κύρια σημεία του άρθρου:

• Το OpenAI έβλεπε τους λογαριασμούς κρατικών απειλητικών φορέων για να αντιμετωπίσει πιθανή κατάχρηση των εργαλείων τεχνητής νοημοσύνης της.
• Πέντε κακόβουλοι φορείς που συνδέονται με το κράτος, συμπεριλαμβανομένων των ομάδων από την Κίνα, το Ιράν, τη Βόρεια Κορέα και τη Ρωσία, διακόπηκαν σε συνεργασία με τη Microsoft Threat Intelligence.
• Οι κακόβουλοι φορείς χρησιμοποιούσαν τις υπηρεσίες OpenAI για διάφορες δραστηριότητες, όπως η έρευνα εταιρειών, η μετάφραση τεχνικών εγγράφων και η παραγωγή περιεχομένου για εκστρατείες phishing.
• Τα μοντέλα του OpenAI προσφέρουν περιορισμένες δυνατότητες για κακόβουλες εργασίες κυβερνοασφάλειες πέρα ​​από αυτά που μπορούν να επιτύχουν τα εργαλεία που δεν λειτουργούν με AI.
• Μια πολύπλευρη προσέγγιση για την καταπολέμηση των κακόβουλων παραγόντων που συνδέονται με το κράτος περιλαμβάνει την παρακολούθηση και την αποδιοργάνωσή τους, τη συνεργασία με το οικοσύστημα της ΤΝ, την επανάληψη του μετριασμού της ασφάλειας και την προώθηση της δημόσιας διαφάνειας.

 

Αναλυτικά το άρθρο:

Καταργήσαμε λογαριασμούς που σχετίζονταν με απειλητικούς παράγοντες που συνδέονται με το κράτος. Τα ευρήματά μας δείχνουν ότι τα μοντέλα μας προσφέρουν μόνο περιορισμένες, αυξητικές δυνατότητες για κακόβουλες εργασίες κυβερνοασφάλειας.

Κατασκευάζουμε εργαλεία τεχνητής νοημοσύνης που βελτιώνουν τις ζωές και βοηθούν στην επίλυση σύνθετων προκλήσεων, αλλά γνωρίζουμε ότι κακόβουλοι φορείς θα προσπαθήσουν μερικές φορές να κάνουν κατάχρηση των εργαλείων μας για να βλάψουν άλλους, μεταξύ άλλων για την προώθηση επιχειρήσεων στον κυβερνοχώρο. Μεταξύ αυτών των κακόβουλων φορέων, οι ομάδες που συνδέονται με κράτη - οι οποίες μπορεί να έχουν πρόσβαση σε προηγμένη τεχνολογία, μεγάλους οικονομικούς πόρους και εξειδικευμένο προσωπικό - μπορούν να αποτελέσουν μοναδικό κίνδυνο για το ψηφιακό οικοσύστημα και την ανθρώπινη ευημερία.

Σε συνεργασία με τη Microsoft Threat Intelligence, έχουμε αποδιοργανώσει πέντε φορείς που συνδέονται με το κράτος και οι οποίοι επεδίωκαν να χρησιμοποιήσουν υπηρεσίες τεχνητής νοημοσύνης για την υποστήριξη κακόβουλων δραστηριοτήτων στον κυβερνοχώρο. Περιγράφουμε επίσης την προσέγγισή μας για τον εντοπισμό και την αποδιοργάνωση τέτοιων φορέων, προκειμένου να προωθήσουμε την ανταλλαγή πληροφοριών και τη διαφάνεια όσον αφορά τις δραστηριότητές τους.

 

Αποδιοργάνωση των φορέων απειλών

Με βάση τη συνεργασία και την ανταλλαγή πληροφοριών με τη Microsoft, αποδιοργανώσαμε πέντε κακόβουλους φορείς που συνδέονται με το κράτος: δύο φορείς απειλής που συνδέονται με την Κίνα και είναι γνωστοί ως Charcoal Typhoon και Salmon Typhoon, ο φορέας απειλής που συνδέεται με το Ιράν και είναι γνωστός ως Crimson Sandstorm, ο φορέας που συνδέεται με τη Βόρεια Κορέα και είναι γνωστός ως Emerald Sleet και ο φορέας που συνδέεται με τη Ρωσία και είναι γνωστός ως Forest Blizzard. Οι αναγνωρισμένοι λογαριασμοί OpenAI που σχετίζονται με αυτούς τους δράστες τερματίστηκαν.

Οι εν λόγω φορείς προσπάθησαν γενικά να χρησιμοποιήσουν τις υπηρεσίες OpenAI για την αναζήτηση πληροφοριών ανοικτού κώδικα, τη μετάφραση, την εύρεση σφαλμάτων κωδικοποίησης και την εκτέλεση βασικών εργασιών κωδικοποίησης.

Συγκεκριμένα:

• Η Charcoal Typhoon χρησιμοποίησε τις υπηρεσίες μας για να ερευνήσει διάφορες εταιρείες και εργαλεία κυβερνοασφάλειας, να αποσφαλματώσει κώδικα και να δημιουργήσει σενάρια και να δημιουργήσει περιεχόμενο που είναι πιθανό να χρησιμοποιηθεί σε εκστρατείες phishing.
• Το Salmon Typhoon χρησιμοποίησε τις υπηρεσίες μας για τη μετάφραση τεχνικών εγγράφων, την ανάκτηση δημοσίως διαθέσιμων πληροφοριών σχετικά με διάφορες υπηρεσίες πληροφοριών και περιφερειακούς φορείς απειλών, τη βοήθεια στην κωδικοποίηση και την έρευνα κοινών τρόπων με τους οποίους θα μπορούσαν να κρυφτούν διαδικασίες σε ένα σύστημα.
• Το Crimson Sandstorm χρησιμοποίησε τις υπηρεσίες μας για την υποστήριξη σεναρίων που σχετίζονται με την ανάπτυξη εφαρμογών και ιστοσελίδων, τη δημιουργία περιεχομένου που είναι πιθανό να χρησιμοποιηθεί για εκστρατείες spear-phishing και την έρευνα κοινών τρόπων με τους οποίους το κακόβουλο λογισμικό θα μπορούσε να αποφύγει την ανίχνευση.
• Η Emerald Sleet χρησιμοποίησε τις υπηρεσίες μας για τον εντοπισμό εμπειρογνωμόνων και οργανισμών που επικεντρώνονται σε θέματα άμυνας στην περιοχή Ασίας-Ειρηνικού, την κατανόηση των δημόσια διαθέσιμων ευπαθειών, τη βοήθεια σε βασικές εργασίες scripting και τη σύνταξη περιεχομένου που θα μπορούσε να χρησιμοποιηθεί σε εκστρατείες phishing.
• Η Forest Blizzard χρησιμοποίησε τις υπηρεσίες μας κυρίως για έρευνα ανοικτού κώδικα σχετικά με τα πρωτόκολλα δορυφορικής επικοινωνίας και την τεχνολογία απεικόνισης ραντάρ, καθώς και για υποστήριξη σε εργασίες σεναρίων.

 

Πρόσθετες τεχνικές λεπτομέρειες σχετικά με τη φύση των φορέων απειλής και τις δραστηριότητές τους μπορείτε να βρείτε στην ανάρτηση στο ιστολόγιο της Microsoft που δημοσιεύθηκε σήμερα.

Οι δραστηριότητες αυτών των παραγόντων συνάδουν με προηγούμενες αξιολογήσεις της κόκκινης ομάδας που πραγματοποιήσαμε σε συνεργασία με εξωτερικούς εμπειρογνώμονες κυβερνοασφάλειας, οι οποίες διαπίστωσαν ότι το GPT-4 προσφέρει μόνο περιορισμένες, αυξητικές δυνατότητες για κακόβουλες εργασίες κυβερνοασφάλειας πέραν αυτών που είναι ήδη εφικτές με δημόσια διαθέσιμα, μη-AI powered tools.

 

Μια πολυδιάστατη προσέγγιση για την ασφάλεια της ΤΝ

Παρόλο που οι δυνατότητες των σημερινών μοντέλων μας για κακόβουλα καθήκοντα κυβερνοασφάλειας είναι περιορισμένες, πιστεύουμε ότι είναι σημαντικό να είμαστε μπροστά από σημαντικές και εξελισσόμενες απειλές. Για να ανταποκριθούμε στην απειλή, ακολουθούμε μια πολύπλευρη προσέγγιση για την καταπολέμηση της χρήσης της πλατφόρμας μας από κακόβουλους φορείς που συνδέονται με το κράτος:

 

• Παρακολούθηση και αποδιοργάνωση κακόβουλων φορέων που συνδέονται με το κράτος. Επενδύουμε σε τεχνολογία και ομάδες για τον εντοπισμό και τη διακοπή των δραστηριοτήτων εξελιγμένων απειλητικών φορέων. Οι ομάδες μας Intelligence and Investigations, Safety, Security, and Integrity διερευνούν κακόβουλους φορείς με διάφορους τρόπους, μεταξύ άλλων χρησιμοποιώντας τα μοντέλα μας για την αναζήτηση στοιχείων, αναλύοντας τον τρόπο με τον οποίο οι αντίπαλοι αλληλεπιδρούν με την πλατφόρμα μας και αξιολογώντας τις ευρύτερες προθέσεις τους. Μετά την ανίχνευση, το OpenAI λαμβάνει τα κατάλληλα μέτρα για να διακόψει τις δραστηριότητές τους, όπως η απενεργοποίηση των λογαριασμών τους, ο τερματισμός των υπηρεσιών ή ο περιορισμός της πρόσβασης σε πόρους.
• Συνεργασία με το οικοσύστημα AI. Το OpenAI συνεργάζεται με βιομηχανικούς εταίρους και άλλους ενδιαφερόμενους φορείς για την τακτική ανταλλαγή πληροφοριών σχετικά με την εντοπισμένη χρήση της ΤΝ από κακόβουλους φορείς που συνδέονται με το κράτος. Αυτή η συνεργασία αντικατοπτρίζει την εθελοντική μας δέσμευση να προωθήσουμε την ασφαλή, ασφαλή και διαφανή ανάπτυξη και χρήση της τεχνολογίας ΤΝ, και στοχεύει στην προώθηση συλλογικών αντιδράσεων σε κινδύνους που αφορούν όλο το οικοσύστημα μέσω της ανταλλαγής πληροφοριών.
• Επανάληψη των μέτρων μετριασμού της ασφάλειας. Η εκμάθηση από τη χρήση (και την κακή χρήση) στον πραγματικό κόσμο αποτελεί βασικό στοιχείο για τη δημιουργία και την κυκλοφορία όλο και πιο ασφαλών συστημάτων τεχνητής νοημοσύνης με την πάροδο του χρόνου. Λαμβάνουμε διδάγματα από την κατάχρηση αυτών των φορέων και τα χρησιμοποιούμε για να ενημερώσουμε την επαναληπτική μας προσέγγιση για την ασφάλεια. Η κατανόηση του τρόπου με τον οποίο οι πιο εξελιγμένοι κακόβουλοι επιδιώκουν να χρησιμοποιήσουν τα συστήματά μας για να βλάψουν, μας δίνει ένα μήνυμα για τις πρακτικές που μπορεί να γίνουν πιο διαδεδομένες στο μέλλον και μας επιτρέπει να εξελίσσουμε συνεχώς τις δικλείδες ασφαλείας μας.
• Δημόσια διαφάνεια. Επιδιώκουμε εδώ και καιρό να τονίσουμε τις πιθανές καταχρηστικές χρήσεις της ΤΝ [σύνδεσμος 1, σύνδεσμος 2] και να μοιραζόμαστε όσα έχουμε μάθει σχετικά με την ασφάλεια [σύνδεσμος 1, σύνδεσμος 2] με τον κλάδο και το κοινό. Στο πλαίσιο των συνεχιζόμενων προσπαθειών μας για την προώθηση της υπεύθυνης χρήσης της ΤΝ, το OpenAI θα συνεχίσει να ενημερώνει το κοινό και τα ενδιαφερόμενα μέρη σχετικά με τη φύση και την έκταση της χρήσης της ΤΝ από κακόβουλους φορείς που συνδέονται με το κράτος και εντοπίζονται στα συστήματα. μας, καθώς και για τα μέτρα που λαμβάνονται εναντίον τους, όταν αυτό δικαιολογείται. Πιστεύουμε ότι η κοινή χρήση και η διαφάνεια προάγουν τη μεγαλύτερη ευαισθητοποίηση και ετοιμότητα όλων των ενδιαφερομένων μερών, οδηγώντας σε ισχυρότερη συλλογική άμυνα απέναντι στους συνεχώς εξελισσόμενους αντιπάλους.

 

Η συντριπτική πλειονότητα των ανθρώπων τα συστήματά μας για να βελτιώσουμε την καθημερινή τους ζωή, από εικονικούς καθηγητές για μαθητές μέχρι τις εφαρμογές που μπορούν να μεταγραφούν στον κόσμο για άτομα με προβλήματα οράσης. Όπως συμβαίνει με πολλά άλλα οικοσυστήματα, υπάρχουν μια χούφτα κακόβουλων παραγόντων που απαιτούν συνεχή προσοχή ώστε όλοι οι υπόλοιποι να συνεχίσουν να απολαμβάνουν τα πράγματα. Παρόλο που εργαζόμαστε για να ελαχιστοποιήσουμε την πιθανή κακή χρήση από τέτοιους φορείς, δεν θα μπορέσουμε να σταματήσουμε κάθε περίπτωση. Αλλά συνεχίζοντας να καινοτομούμε, να ερευνούμε, να συνεργαζόμαστε και να μοιραζόμαστε, να δυσκολεύουμε τους κακόβουλους φορείς να παραμένουν απαρατήρητοι σε όλο το ψηφιακό οικοσύστημα και βελτιώνουμε την εμπειρία για όλους τους υπόλοιπους.

 

Πηγή : Διαταραχή κακόβουλης χρήσης της τεχνητής νοημοσύνης από φορείς απειλών που συνδέονται με το κράτος