Περίληψη άρθρου: 
Η Palantir, μια εταιρεία ανάλυσης δεδομένων που εξυπηρετεί τον στρατό και την επιβολή του νόμου, έχει επιδείξει την πλατφόρμα τεχνητής νοημοσύνης (AIP) που κινείται μέσω συνομιλίας και εκτελεί καθήκοντα όπως ο εντοπισμός εχθρών σε δορυφορικές εικόνες, η ανάπτυξη μη επανδρωμένων αεροσκαφών επιτήρησης και η πρόταση σχεδίων μάχης. Το σύστημα ενσωματώνει μεγάλα γλωσσικά μοντέλα, όπως το Dolly-v2-12b (12 δισεκατομμύρια παράμετροι), το Flan-T5XL (3 δισεκατομμύρια) και το GPT-NeoX-20B (20 δισεκατομμύρια), τα οποία έχουν ρυθμιστεί λεπτομερώς σε ένα απροσδιόριστο σύνολο δεδομένων. Εάν είναι επιτυχής, η εφαρμογή της τεχνητής νοημοσύνης θα μπορούσε να βοηθήσει τις στρατιωτικές αρχές να εντοπίσουν τις απειλές νωρίτερα και να βελτιώσουν την αντίδρασή τους για να ξεπεράσουν τους εχθρούς τους. Ωστόσο, αντιπροσωπεύει ένα σημαντικό βήμα προς τον αυτοματοποιημένο πόλεμο. Αυτό εγείρει το κρίσιμο ζήτημα της ασφάλειας των συστημάτων τεχνητής νοημοσύνης. Η τρέχουσα κατάσταση των μεγάλων γλωσσικών μοντέλων σημαίνει ότι η ανάθεση κρίσιμων εργασιών, όπως η σύνθετη ανάλυση πεδίου μάχης, σε ένα chatbot είναι μια ανησυχητική προοπτική, δεδομένου ότι μπορεί να παραισθήσεις ψεύδη, να παρέχει με αυτοπεποίθηση ανεφάρμοστες οδηγίες και να αποτυγχάνει στα βασικά μαθηματικά.

 
Κύρια σημεία του άρθρου: 

  • Η Palantir παρουσίασε την Πλατφόρμα Τεχνητής Νοημοσύνης (AIP) που εκτελεί εργασίες όπως ο εντοπισμός εχθρών σε δορυφορικές εικόνες, η ανάπτυξη μη επανδρωμένων αεροσκαφών επιτήρησης και η πρόταση σχεδίων μάχης.
  • Το Υπουργείο Άμυνας των ΗΠΑ και η Ισραηλινή Δύναμη Άμυνας δοκιμάζουν συστήματα τεχνητής νοημοσύνης για την εκτέλεση τακτικών μάχης.
  • Τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να βοηθήσουν τις στρατιωτικές αρχές να εντοπίζουν τις απειλές νωρίτερα και να εξορθολογίζουν τις αντιδράσεις τους, αλλά θα μπορούσαν επίσης να αποτελέσουν ένα σημαντικό βήμα προς τον αυτοματοποιημένο πόλεμο.

 
Αναλυτικά το άρθρο: 
Τι νέο συμβαίνει: Η Palantir, μια εταιρεία ανάλυσης δεδομένων που εξυπηρετεί πελάτες στους τομείς του στρατού, των πληροφοριών και της επιβολής του νόμου, παρουσίασε την πλατφόρμα τεχνητής νοημοσύνης (AIP) που κινείται μέσω συνομιλίας και εκτελεί διάφορες εργασίες. Η AIP ήταν σε θέση να εντοπίζει εχθρούς σε δορυφορικές εικόνες, να αναπτύσσει μη επανδρωμένα αεροσκάφη επιτήρησης και να προτείνει σχέδια μάχης. Η AIP της Palantir χρησιμοποιεί επεξεργασία φυσικής γλώσσας (NLP) για να κατανοεί και να ανταποκρίνεται στις ανθρώπινες εισροές, διευκολύνοντας την επικοινωνία του στρατιωτικού προσωπικού με το σύστημα. Η πλατφόρμα προσφέρει επίσης ανάλυση δεδομένων σε πραγματικό χρόνο που μπορεί να βοηθήσει τους στρατιωτικούς διοικητές να λαμβάνουν καλύτερες αποφάσεις στο πεδίο της μάχης. Η Palantir έχει ιστορικό συνεργασίας με κυβερνητικές υπηρεσίες και έχει επικριθεί για τη συμμετοχή της σε αμφιλεγόμενα προγράμματα, όπως το πρόγραμμα παρακολούθησης Prism της NSA. Ενώ η πρόσφατη επίδειξη της εταιρείας παρουσίασε τις δυνατότητες της τεχνητής νοημοσύνης σε στρατιωτικές εφαρμογές, εγείρει επίσης ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής και τα ηθικά ζητήματα που αφορούν τη χρήση της τεχνητής νοημοσύνης στον πόλεμο.

Πώς λειτουργεί: Το AIP ενσωματώνει μεγάλα γλωσσικά μοντέλα, όπως το Dolly-v2-12b (12 δισεκατομμύρια παράμετροι), το Flan-T5XL (3 δισεκατομμύρια) και το GPT-NeoX-20B (20 δισεκατομμύρια), τα οποία έχουν ρυθμιστεί σε ένα απροσδιόριστο σύνολο δεδομένων. Το AIP λέγεται ότι χρησιμοποιεί τεχνικές deep learning για την ανάλυση μεγάλου όγκου δεδομένων σε πραγματικό χρόνο, επιτρέποντας στους αναλυτές να λαμβάνουν γρήγορα αποφάσεις με βάση τις πληροφορίες που παρουσιάζονται.

  • Το AIP μπορεί να εμφανίζει δορυφορικές εικόνες και να εντοπίζει αντικείμενα χρησιμοποιώντας αλγόριθμους ανίχνευσης αντικειμένων. Ο χρήστης εισάγει μια προτροπή για να δει περισσότερες λεπτομέρειες και το σύστημα εμφανίζει τις ζητούμενες πληροφορίες, συμπεριλαμβανομένης της θέσης των εχθρικών αρμάτων μάχης σε φιλικό έδαφος.
  • Ο χρήστης δίνει εντολή στο AIP να αναπτύξει ένα μη επανδρωμένο αεροσκάφος επιτήρησης, το οποίο μεταδίδει βίντεο στην οθόνη.
  • Σε ένα σενάριο όπου έχει εντοπιστεί η παρουσία ενός τανκ, ο χρήστης μπορεί να ζητήσει από το AIP να δημιουργήσει τρεις τρόπους δράσης. Το chatbot προτείνει την αποστολή ενός μαχητικού αεροσκάφους, την προσβολή του τανκ με πυροβολικό μεγάλου βεληνεκούς ή την ανάπτυξη μιας μονάδας πεζικού εξοπλισμένης με πυραύλους που εκτοξεύονται από τον ώμο.
  • Στο συγκεκριμένο σενάριο, ο χρήστης προτείνει την αποστολή στρατευμάτων για να επιτεθούν σε ένα άρμα μάχης. Ο διοικητής εγκρίνει την πρόταση και δημιουργείται ένα σχέδιο μάχης, που περιλαμβάνει τη διαδρομή για την προσέγγιση του άρματος. Ο διοικητής δίνει εντολή σε έναν ειδικό ηλεκτρονικού πολέμου να μπλοκάρει τον εξοπλισμό επικοινωνίας του άρματος για να απενεργοποιήσει την επικοινωνία του με άλλες μονάδες.

Πίσω από την είδηση: Οι στρατιωτικές δυνάμεις διερευνούν όλο και περισσότερο τη χρήση της τεχνητής νοημοσύνης (AI) στην εκτέλεση τακτικών μάχης. Ένα παράδειγμα είναι η δοκιμή από το Υπουργείο Άμυνας των Ηνωμένων Πολιτειών ενός συστήματος που ονομάζεται JADC2, το οποίο επεξεργάζεται πληροφορίες ραντάρ έγκαιρης προειδοποίησης για τον εντοπισμό πιθανών απειλών σε όλο τον κόσμο. Η Ισραηλινή Δύναμη Άμυνας αποκάλυψε επίσης τη χρήση άγνωστων εργαλείων τεχνητής νοημοσύνης κατά τη διάρκεια μιας εμπλοκής τον Μάιο του 2021 εναντίον της Χαμάς, με στόχο διοικητές και μονάδες πυραύλων στη Λωρίδα της Γάζας.

Γιατί έχει σημασία: Ενώ το σύστημα έχει τη δυνατότητα να βοηθήσει τις στρατιωτικές αρχές να εντοπίζουν τις απειλές ταχύτερα και να εξορθολογίζουν τις αντιδράσεις τους, οι επικριτές υποστηρίζουν ότι αποτελεί ένα σημαντικό βήμα προς τον αυτοματοποιημένο πόλεμο. Υποστηρίζεται ότι οι ανθρώπινοι χειριστές θα εμπλέκονται πάντα στις διαδικασίες λήψης αποφάσεων. Ωστόσο, ορισμένοι εμπειρογνώμονες προειδοποιούν ότι τα συστήματα αυτά θα μπορούσαν να χρησιμοποιηθούν για να δικαιολογήσουν τη χρήση θανατηφόρων αυτόνομων όπλων σε μελλοντικές συγκρούσεις. Επιπλέον, υπάρχουν ανησυχίες σχετικά με το ενδεχόμενο σφαλμάτων ή πειρατείας που θα μπορούσαν να οδηγήσουν σε ακούσιες συνέπειες ή κακόβουλες επιθέσεις.

Αναλογιζόμαστε: Το σύστημα εγείρει ανησυχίες σχετικά με την ασφάλεια στα συστήματα τεχνητής νοημοσύνης σε ένα νέο, τρομακτικό επίπεδο. Οι ανθρώπινοι αναλυτές πεδίου μάχης διαχειρίζονται πολύπλοκες μεταβλητές: έδαφος, καιρός, τοπικές συνήθειες, δυνατότητες και περιορισμοί των φίλιων και εχθρικών δυνάμεων. Πρόκειται για κρίσιμη εργασία. Η ανάθεση αυτής της εργασίας σε ένα chatbot είναι μια ανησυχητική προοπτική, λαμβάνοντας υπόψη την τρέχουσα κατάσταση των μεγάλων γλωσσικών μοντέλων, τα οποία παραισθάνονται ψευδαισθήσεις, παρέχουν με αυτοπεποίθηση ανεφάρμοστες οδηγίες και αποτυγχάνουν στα βασικά μαθηματικά - ειδικά τα μικρότερα chatbots, όπως αυτά που χρησιμοποιούνται σε αυτό το σύστημα.

Πηγή: Battlefield Chat: A military chatbot can create battle plans.