Περίληψη άρθρου:
Νέες μελέτες δείχνουν ότι οι αλγόριθμοι που δημιουργούν κείμενα και εικόνες θα μπορούσαν να ενισχύσουν τις εκστρατείες παραπληροφόρησης στο διαδίκτυο. Οι ερευνητές προειδοποιούν για μια κούρσα εξοπλισμών τεχνητής νοημοσύνης μεταξύ των εθνών, καθώς η τεχνολογία γίνεται όπλο παραπληροφόρησης. Οι κυβερνήσεις καλούνται να προωθήσουν τη διαφάνεια και τη συνεργασία για να αποφύγουν την υπερκάλυψη του διαδικτύου από AI bots.

Κύρια σημεία του άρθρου:

• Δύο νέες εκθέσεις υποδεικνύουν ότι τα εθνικά κράτη είναι πιθανό να σπεύδουν να προσαρμόσουν τους αλγορίθμους τεχνητής νοημοσύνης σε όπλα παραπληροφόρησης.
• Η γεννητική ΤΝ θα μπορούσε δυνητικά να παράγει μαζικά κείμενο, εικόνες και βίντεο σχεδιασμένα να εξαπατούν ή να πείθουν, ή ακόμη και να πραγματοποιούν πειστικές αλληλεπιδράσεις με ανθρώπους σε πλατφόρμες κοινωνικής δικτύωσης.
• Οι εκθέσεις προειδοποιούν ότι οι δυνατότητες της γενεσιουργού τεχνητής νοημοσύνης είναι πιθανό να πυροδοτήσουν έναν αγώνα εξοπλισμών για την προσαρμογή της τεχνολογίας για χρήση από τους στρατούς ή σε κυβερνοεπιθέσεις.
• Για να αποφευχθεί το εφιαλτικό σενάριο να κατακλυστεί το διαδίκτυο από ρομπότ τεχνητής νοημοσύνης που έχουν προγραμματιστεί για πληροφοριακό πόλεμο, οι εκθέσεις συνιστούν ότι οι ΗΠΑ "θα πρέπει να ηγηθούν της παγκόσμιας δέσμευσης για την προώθηση της διαφάνειας, την ενίσχυση της εμπιστοσύνης και την ενθάρρυνση της συνεργασίας".

Αναλυτικά το άρθρο:
Δύο νέες μελέτες σχετικά με τις δυνατότητες των αλγορίθμων δημιουργίας κειμένων και εικόνων υποδηλώνουν ότι θα μπορούσαν να προσθέσουν τρομακτική νέα κλίμακα και δύναμη στις διαδικτυακές εκστρατείες παραπληροφόρησης.

ΚΥΒΕΡΝΗΣΕΙΣ ΣΕ ΟΛΟ ΤΟΝ ΚΟΣΜΟ σπεύδουν να αγκαλιάσουν τους αλγορίθμους που έδωσαν κάποια υποψία νοημοσύνης στο ChatGPT, προφανώς ενθουσιασμένοι από την τεράστια οικονομική απόδοση που αναμένεται από την τεχνολογία.

Δύο νέες εκθέσεις που κυκλοφόρησαν αυτή την εβδομάδα δείχνουν ότι τα εθνικά κράτη είναι επίσης πιθανό να σπεύσουν να προσαρμόσουν την ίδια τεχνολογία σε όπλα παραπληροφόρησης, σε αυτό που θα μπορούσε να εξελιχθεί σε μια ανησυχητική κούρσα εξοπλισμών τεχνητής νοημοσύνης μεταξύ μεγάλων δυνάμεων.

Οι ερευνητές της RAND, μιας μη κερδοσκοπικής δεξαμενής σκέψης που συμβουλεύει την κυβέρνηση των Ηνωμένων Πολιτειών, επισημαίνουν στοιχεία ενός Κινέζου στρατιωτικού ερευνητή που έχει εμπειρία με εκστρατείες πληροφόρησης και συζητά δημοσίως για το πώς η γεννητική τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει ένα τέτοιο έργο. Ένα ερευνητικό άρθρο, από τον Ιανουάριο του 2023, προτείνει τη χρήση μεγάλων γλωσσικών μοντέλων, όπως μια λεπτομερώς ρυθμισμένη έκδοση του BERT της Google, πρόδρομος των πιο ισχυρών και ικανών γλωσσικών μοντέλων που τροφοδοτούν chatbots όπως το ChatGPT.

"Δεν υπάρχουν ενδείξεις ότι αυτό γίνεται αυτή τη στιγμή", λέει ο William Marcellino, ειδικός σε θέματα τεχνητής νοημοσύνης και ανώτερος επιστήμονας συμπεριφοράς και κοινωνικών επιστημών στο RAND, ο οποίος συνέβαλε στην έκθεση. "Μάλλον κάποιος λέει, "Εδώ είναι μια πορεία προς τα εμπρός"". Ο ίδιος και άλλοι στο RAND ανησυχούν για την προοπτική οι εκστρατείες επιρροής να αποκτήσουν νέα κλίμακα και δύναμη χάρη στη γεννητική τεχνητή νοημοσύνη. "Η δημιουργία ενός συστήματος για τη δημιουργία εκατομμυρίων ψεύτικων λογαριασμών που υποτίθεται ότι είναι Ταϊβανέζοι, ή Αμερικανοί, ή Γερμανοί, οι οποίοι προωθούν μια κρατική αφήγηση - νομίζω ότι είναι ποιοτικά και ποσοτικά διαφορετικό", λέει ο Marcellino.

Οι διαδικτυακές εκστρατείες πληροφόρησης, όπως αυτή που διεξήγαγε η Υπηρεσία Έρευνας Διαδικτύου της Ρωσίας για να υπονομεύσει τις αμερικανικές εκλογές του 2016, υπάρχουν εδώ και χρόνια. Εξαρτώνται κυρίως από τη χειρωνακτική εργασία-ανθρώπινοι εργαζόμενοι που κοπιάζουν στα πληκτρολόγια. Αλλά οι αλγόριθμοι τεχνητής νοημοσύνης που αναπτύχθηκαν τα τελευταία χρόνια θα μπορούσαν δυνητικά να παράγουν μαζικά κείμενο, εικόνες και βίντεο σχεδιασμένα να εξαπατούν ή να πείθουν, ή ακόμη και να πραγματοποιούν πειστικές αλληλεπιδράσεις με ανθρώπους σε πλατφόρμες κοινωνικής δικτύωσης. Ένα πρόσφατο έργο δείχνει ότι η έναρξη μιας τέτοιας καμπάνιας θα μπορούσε να κοστίσει μόλις μερικές εκατοντάδες δολάρια.

Ο Marcellino και οι συν-συγγραφείς του σημειώνουν ότι πολλές χώρες -συμπεριλαμβανομένων των ΗΠΑ- είναι σχεδόν βέβαιο ότι διερευνούν τη χρήση της δημιουργικής τεχνητής νοημοσύνης για τις δικές τους εκστρατείες ενημέρωσης. Και η ευρεία προσβασιμότητα των εργαλείων δημιουργικής ΤΝ, συμπεριλαμβανομένων πολυάριθμων γλωσσικών μοντέλων ανοικτού κώδικα που μπορεί να αποκτήσει και να τροποποιήσει ο καθένας, μειώνει τον πήχη για όποιον θέλει να ξεκινήσει μια εκστρατεία ενημέρωσης. "Μια ποικιλία παραγόντων θα μπορούσε να χρησιμοποιήσει την παραγωγική τεχνητή νοημοσύνη για τη χειραγώγηση των μέσων κοινωνικής δικτύωσης, συμπεριλαμβανομένων των τεχνικά εξελιγμένων μη κρατικών φορέων", γράφουν.

Μια δεύτερη έκθεση που εκδόθηκε αυτή την εβδομάδα, από μια άλλη δεξαμενή σκέψης με επίκεντρο την τεχνολογία, το Special Competitive Studies Project, προειδοποιεί επίσης ότι η γενεσιουργός τεχνητή νοημοσύνη θα μπορούσε σύντομα να γίνει ένας τρόπος για τα έθνη να επιβάλλονται το ένα στο άλλο. Προτρέπει την κυβέρνηση των ΗΠΑ να επενδύσει σε μεγάλο βαθμό στη γεννητική τεχνητή νοημοσύνη, επειδή η τεχνολογία υπόσχεται να δώσει ώθηση σε πολλές διαφορετικές βιομηχανίες και να προσφέρει "νέες στρατιωτικές δυνατότητες, οικονομική ευημερία και πολιτιστική επιρροή" σε όποιο έθνος την κατακτήσει πρώτο.

Όπως και η έκθεση της RAND, η ανάλυση της SCSP καταλήγει επίσης σε ορισμένα δυσοίωνα συμπεράσματα. Προειδοποιεί ότι οι δυνατότητες της δημιουργικής τεχνητής νοημοσύνης είναι πιθανό να πυροδοτήσουν έναν αγώνα εξοπλισμών για την προσαρμογή της τεχνολογίας για χρήση από τους στρατούς ή σε κυβερνοεπιθέσεις. Αν και οι δύο έχουν δίκιο, οδεύουμε προς μια κούρσα εξοπλισμών στο χώρο της πληροφορίας που μπορεί να αποδειχθεί ιδιαίτερα δύσκολο να περιοριστεί.

Πώς να αποφύγετε το εφιαλτικό σενάριο του διαδικτύου να κατακλυστεί από τεχνητά ρομπότ προγραμματισμένα για πληροφοριακό πόλεμο; Απαιτείται οι άνθρωποι να συνομιλούν μεταξύ τους.
Η έκθεση SCSP συνιστά ότι οι ΗΠΑ "θα πρέπει να ηγηθούν της παγκόσμιας δέσμευσης για την προώθηση της διαφάνειας, την ενίσχυση της εμπιστοσύνης και την ενθάρρυνση της συνεργασίας". Οι ερευνητές της RAND συνιστούν στους διπλωμάτες των ΗΠΑ και της Κίνας να συζητήσουν για τη γενεσιουργό τεχνητή νοημοσύνη και τους κινδύνους γύρω από την τεχνολογία. "Μπορεί να είναι προς το συμφέρον όλων μας να μην έχουμε ένα διαδίκτυο που θα είναι εντελώς μολυσμένο και απίστευτο", λέει ο Marcellino. Νομίζω ότι αυτό είναι κάτι στο οποίο μπορούμε όλοι να συμφωνήσουμε.

Πηγή: The Generative AI Boom Could Fuel a New International Arms Race