Περίληψη άρθρου:  
Η αύξηση της χρήσης της τεχνητής νοημοσύνης (ΤΝ) στο πεδίο της στρατιωτικής τεχνολογίας εγείρει ερωτήματα για τον έλεγχο των ανθρώπων σε αυτήν την τεχνολογία. Η Αμερική διαθέτει τον μεγαλύτερο στόλο στρατιωτικού υλικού στον κόσμο και μπορεί να δημιουργήσει ένα ανυπέρβλητο πλεονέκτημα με τη χρήση της ΤΝ. Εταιρείες όπως η Scale AI εμπλέκονται στην επεξεργασία δεδομένων εκπαίδευσης για την τεχνητή νοημοσύνη του Πενταγώνου. Οι αμερικανικές εταιρείες ηγούνται στην τεχνολογία ΤΝ, αλλά υπάρχουν επιθυμίες για επισταμένη συζήτηση για τη χρήση και τους περιορισμούς της ΤΝ. Η αυξημένη χρήση της ΤΝ δημιουργεί πιθανότητα αυξημένων στρατιωτικών συναντήσεων όπου οι άνθρωποι απομακρύνονται από την εξίσωση. Ενώ η χρήση της τεχνολογίας δεν είναι ακόμη επαρκώς αξιόπιστη για αυτόνομα όπλα, η πιο πιθανή απειλή είναι η εμβάθυνση του ομίλου του πολέμου και η αύξηση του κινδύνου ανθρωπίνων λαθών. Οι στρατιωτικοί ηγέτες πρέπει να αρχίσουν να συζητούν για τους περιορισμούς και τους κινδύνους της ΤΝ.

Κύρια σημεία του άρθρου: 

• Η αυξημένη χρήση της τεχνητής νοημοσύνης (AI) στη στρατιωτική τεχνολογία εγείρει ανησυχίες σχετικά με τον έλεγχο και τους περιορισμούς.
• Οι ΗΠΑ έχουν το μεγαλύτερο στόλο στρατιωτικού εξοπλισμού στον κόσμο, δίνοντάς τους ένα σημαντικό πλεονέκτημα στη χρήση του AI.
• Οι εταιρείες όπως η Scale AI συμμετέχουν στην επεξεργασία δεδομένων κατάρτισης για έργα AI στο Πεντάγωνο.
• Η πιθανή χρήση του ΑΙ σε αυτόνομα όπλα δεν είναι ακόμη αξιόπιστη, αλλά η μεγαλύτερη απειλή είναι η εμβάθυνση της ομίχλης του πολέμου και ο αυξημένος κίνδυνος ανθρώπινων σφαλμάτων.

Αναλυτικά το άρθρο: 
"Έχουμε τον μεγαλύτερο στόλο στρατιωτικού υλικού στον κόσμο", δήλωσε ο Wang στην υποεπιτροπή της Βουλής των Ενόπλων Δυνάμεων για τον κυβερνοχώρο, την τεχνολογία πληροφοριών και την καινοτομία. "Αν μπορέσουμε να ρυθμίσουμε και να ενορχηστρώσουμε σωστά αυτά τα δεδομένα που παράγονται ... τότε μπορούμε να δημιουργήσουμε ένα αρκετά ανυπέρβλητο πλεονέκτημα δεδομένων όταν πρόκειται για τη στρατιωτική χρήση της τεχνητής νοημοσύνης".

Η εταιρεία του Wang έχει έννομο συμφέρον σε αυτό το όραμα, καθώς συνεργάζεται τακτικά με το Πεντάγωνο επεξεργαζόμενη μεγάλες ποσότητες δεδομένων εκπαίδευσης για έργα τεχνητής νοημοσύνης. Αλλά υπάρχει η πεποίθηση στους στρατιωτικούς κύκλους των ΗΠΑ ότι η αυξημένη χρήση της τεχνητής νοημοσύνης και της μηχανικής μάθησης είναι σχεδόν αναπόφευκτη - και απαραίτητη. Πρόσφατα έγραψα για αυτό το αυξανόμενο κίνημα και για το πώς μια μονάδα του Πενταγώνου χρησιμοποιεί έτοιμη ρομποτική και λογισμικό AI για την αποτελεσματικότερη επιτήρηση μεγάλων περιοχών του ωκεανού στη Μέση Ανατολή.

Εκτός από τα απαράμιλλα στρατιωτικά δεδομένα της χώρας, ο Wang δήλωσε στην ακρόαση στο Κογκρέσο ότι οι ΗΠΑ έχουν το πλεονέκτημα ότι φιλοξενούν τους πιο προηγμένους κατασκευαστές τσιπ τεχνητής νοημοσύνης στον κόσμο, όπως η Nvidia, και την καλύτερη τεχνογνωσία τεχνητής νοημοσύνης στον κόσμο. "Η Αμερική είναι ο τόπος επιλογής για τους πιο ταλαντούχους επιστήμονες ΤΝ του κόσμου", είπε.

Το ενδιαφέρον του Wang για τη στρατιωτική AI αξίζει επίσης να δοθεί προσοχή, επειδή η Scale AI βρίσκεται στην πρώτη γραμμή μιας άλλης επανάστασης της AI: την ανάπτυξη ισχυρών μεγάλων γλωσσικών μοντέλων και προηγμένων chatbots όπως το ChatGPT.

Κανείς δεν σκέφτεται να επιστρατεύσει το ChatGPT σε στρατιωτική υπηρεσία ακόμα, αν και έχουν γίνει μερικά πειράματα που αφορούν τη χρήση μεγάλων γλωσσικών μοντέλων σε στρατιωτικά πολεμικά παιχνίδια. Αλλά οι παρατηρητές βλέπουν τα πρόσφατα άλματα των αμερικανικών εταιρειών στις επιδόσεις της τεχνητής νοημοσύνης ως ένα άλλο βασικό πλεονέκτημα που θα μπορούσε να εκμεταλλευτεί το Πεντάγωνο. Δεδομένου του πόσο γρήγορα αναπτύσσεται η τεχνολογία -και πόσο προβληματική εξακολουθεί να είναι-, αυτό εγείρει νέα ερωτήματα σχετικά με το ποιες διασφαλίσεις μπορεί να απαιτούνται γύρω από τη στρατιωτική τεχνητή νοημοσύνη.

Αυτό το άλμα στις δυνατότητες της ΤΝ έρχεται καθώς αλλάζει η στάση ορισμένων ανθρώπων απέναντι στη στρατιωτική χρήση της ΤΝ. Το 2017, η Google αντιμετώπισε αντιδράσεις επειδή βοήθησε την Πολεμική Αεροπορία των ΗΠΑ να χρησιμοποιήσει τεχνητή νοημοσύνη για την ερμηνεία αεροφωτογραφιών μέσω του προγράμματος Maven του Πενταγώνου. Αλλά η εισβολή της Ρωσίας στην Ουκρανία έχει μαλακώσει τις δημόσιες και πολιτικές στάσεις απέναντι στη συνεργασία του ιδιωτικού τομέα με εταιρείες τεχνολογίας και έχει καταδείξει τις δυνατότητες των φθηνών αυτόνομων μη επανδρωμένων αεροσκαφών και της εμπορικής ΤΝ για την ανάλυση δεδομένων. Οι ουκρανικές δυνάμεις χρησιμοποιούν αλγορίθμους νευρωνικής βαθιάς μάθησης για την ανάλυση εναέριων εικόνων και υλικού. Η αμερικανική εταιρεία Palantir δήλωσε ότι παρέχει λογισμικό στόχευσης στην Ουκρανία. Και η Ρωσία εστιάζει όλο και περισσότερο στην τεχνητή νοημοσύνη για αυτόνομα συστήματα.

Παρά τους ευρέως διαδεδομένους φόβους για τα "ρομπότ δολοφόνους", η τεχνολογία δεν είναι ακόμη αρκετά αξιόπιστη για να χρησιμοποιηθεί με αυτόν τον τρόπο. Και ενώ έκανα ρεπορτάζ για τις φιλοδοξίες του Πενταγώνου σχετικά με την τεχνητή νοημοσύνη, δεν συνάντησα κανέναν εντός του Υπουργείου Άμυνας, των αμερικανικών δυνάμεων ή νεοφυών επιχειρήσεων με επίκεντρο την τεχνητή νοημοσύνη που να επιθυμούν να εξαπολύσουν πλήρως αυτόνομα όπλα.

Αλλά η μεγαλύτερη χρήση της ΤΝ θα δημιουργήσει έναν αυξανόμενο αριθμό στρατιωτικών συναντήσεων στις οποίες οι άνθρωποι θα απομακρύνονται ή θα αφαιρούνται από την εξίσωση. Και ενώ κάποιοι έχουν συγκρίνει την ΤΝ με τα πυρηνικά όπλα, ο πιο άμεσος κίνδυνος δεν είναι τόσο η καταστροφική δύναμη των στρατιωτικών συστημάτων ΤΝ όσο η δυνατότητά τους να εμβαθύνουν την ομίχλη του πολέμου και να κάνουν τα ανθρώπινα λάθη πιο πιθανά.

Όταν μίλησα με τον Τζον Ρίτσαρντσον, έναν απόστρατο ναύαρχο τεσσάρων αστέρων που υπηρέτησε ως αρχηγός ναυτικών επιχειρήσεων του Πολεμικού Ναυτικού των ΗΠΑ μεταξύ 2015 και 2018, ήταν πεπεισμένος ότι η Τεχνητή Νοημοσύνη θα έχει επίδραση στη στρατιωτική ισχύ παρόμοια με τη βιομηχανική επανάσταση και την ατομική εποχή. Και επεσήμανε ότι η πλευρά που αξιοποίησε καλύτερα αυτές τις προηγούμενες επαναστάσεις κέρδισε τους δύο τελευταίους παγκόσμιους πολέμους.

Αλλά ο Richardson μίλησε επίσης για τον ρόλο των ανθρώπινων δεσμών στη διαχείριση των στρατιωτικών αλληλεπιδράσεων που καθοδηγούνται από την ισχυρή τεχνολογία. Όσο υπηρετούσε ως αρχηγός του Πολεμικού Ναυτικού, έκανε τα πάντα για να γνωρίσει τους ομολόγους του στους στόλους άλλων εθνών. "Κάθε φορά που συναντιόμασταν ή μιλούσαμε, αποκτούσαμε καλύτερη αίσθηση ο ένας για τον άλλον", λέει. "Αυτό που πραγματικά ήθελα να κάνω ήταν να διασφαλίσω ότι αν συνέβαινε κάτι -κάποιο είδος λανθασμένου υπολογισμού ή κάτι τέτοιο- θα μπορούσα να τους καλέσω σε σχετικά σύντομο χρονικό διάστημα. Απλά δεν θέλεις να είναι αυτό το πρώτο σου τηλεφώνημα".

Τώρα θα ήταν μια καλή στιγμή για τους παγκόσμιους στρατιωτικούς ηγέτες να αρχίσουν να συζητούν μεταξύ τους για τους κινδύνους και τους περιορισμούς της τεχνητής νοημοσύνης.

Πηγή: More Battlefield AI Will Make the Fog of War More Deadly