Περίληψη Άρθρου:

Ένα μήνυμα ηλεκτρονικού ταχυδρομείου αποκάλυψε ότι η αντιπρόεδρος ασφαλείας της Walt Disney World, Linda Reid, επαίνεσε την Evolv Express για την επιτυχία της στον έλεγχο των όπλων. Παρά τις προηγούμενες αποτυχίες -όπως σε ένα νοσοκομείο του Μπρονξ- ο δήμαρχος Άνταμς σχεδιάζει να δοκιμάσει την τεχνολογία Evolv στους σταθμούς του μετρό της Νέας Υόρκης. Η κριτική αμφισβητεί την αποτελεσματικότητα των σαρωτών της Evolv, ιδίως μετά την απώλεια όπλων σε σχολεία και τις συνεχιζόμενες νομικές προκλήσεις. Η εταιρεία έχει δεσμούς με μέλη της αστυνομίας της Νέας Υόρκης, επηρεάζοντας την απόφαση της διοίκησης Άνταμς. Το σχέδιο αντιμετωπίζει σκεπτικισμό από υποστηρικτές των πολιτικών δικαιωμάτων και εμπειρογνώμονες της τεχνολογίας, οι οποίοι αμφισβητούν την δυνατότητα διασφάλιση της ασφάλειας στο μετρό της Νέας Υόρκης. Το γραφείο του δημάρχου θα εξετάσει άλλες τεχνολογίες κατά τη διάρκεια μιας πιλοτικής περιόδου 90 ημερών που θα ξεκινήσει στα τέλη Ιουνίου.

Κύρια σημεία του άρθρου:

• Η Linda Reid, αντιπρόεδρος της Walt Disney World Security, επαίνεσε την Evolv Express για επιτυχία στον έλεγχο των όπλων
• Ο δήμαρχος Adams σχεδιάζει να δοκιμάσει την τεχνολογία EVOLV στους σταθμούς του μετρό της Νέας Υόρκης παρά τις προηγούμενες αποτυχίες
• Η κριτική προκαλεί την αποτελεσματικότητα των σαρωτών Evolv, ειδικά μετά από περιστατικά χαμένων όπλων στα σχολεία
• Η εταιρεία έχει δεσμούς με μέλη της αστυνομίας της Νέας Υόρκης, επηρεάζοντας την απόφαση της διοίκησης Adams
• Σκεπτικισμός από υποστηρικτές των πολιτικών δικαιωμάτων και εμπειρογνωμόνων τεχνολογίας σχετικά με τη διασφάλιση της ασφάλειας στο μετρό της Νέας Υόρκης
• Μια πιλοτική περίοδος 90 ημερών θα ξεκινήσει στα τέλη Ιουνίου, κατά τη διάρκεια της οποίας θα ληφθούν υπόψη άλλες τεχνολογίες

Αναλυτικά το άρθρο:

Ο δήμαρχος της Νέας Υόρκης Έρικ Άνταμς θέλει να δοκιμάσει την τεχνολογία ανίχνευσης όπλων της Evolv σε σταθμούς του μετρό, παρά το γεγονός ότι η εταιρεία λέει ότι δεν έχει σχεδιαστεί για αυτό το περιβάλλον. Τα μηνύματα ηλεκτρονικού ταχυδρομείου που ήρθαν στην κατοχή του WIRED δείχνουν πώς η εταιρεία βρήκε ακόμα ένα τρόπο.

Τον Φεβρουάριο του 2022, ορίστηκε μια συνάντηση μεταξύ της ομάδας του δημάρχου της Νέας Υόρκης Eric Adams και μιας εταιρείας τεχνητής νοημοσύνης για την ανίχνευση όπλων που ονομάζεται Evolv. Ένα νήμα ηλεκτρονικού ταχυδρομείου από τους εκπροσώπους της Evolv περιλάμβανε ένα συνοδευτικό φυλλάδιο, το οποίο απαριθμούσε ευκαιρίες συνεργασίας: στον τερματικό σταθμό λεωφορείων Port Authority, σε σχολεία της Νέας Υόρκης, νοσοκομεία και χώρους συγκέντρωσης όπως η Times Square. Μια περιοχή που έλειπε εμφανώς από τη λίστα, ωστόσο, ήταν το μετρό.

Μετά από μια προσωπική συνάντηση λίγες ημέρες αργότερα, ο συνιδρυτής της Evolv, Anil Chitkara, έκανε άλλη μια προσπάθεια να πουλήσει την τεχνολογία της εταιρείας - μέσω της αναφοράς ονομάτων.

"Όπως ανέφερα, η Linda Reid, αντιπρόεδρος ασφαλείας της Walt Disney World (Φλόριντα) μας γνωρίζει από το 2014 και έχει αναπτύξει πολλά από τα συστήματά μας στα πάρκα και στο Disney Springs", έγραψε ο Chitkara σε ένα email στις 7 Φεβρουαρίου προς το γραφείο του δημάρχου, το οποίο περιήλθε στην κατοχή του WIRED. "Είχαν επιτυχία στον έλεγχο για όπλα με το Evolv Express ... Μπορεί να υπάρχουν κάποιοι ενδιαφέροντες παραλληλισμοί με τον τρόπο που σκέφτεστε για τον ρόλο του καθενός στην ασφάλεια".

Η σύγκριση της ασφάλειας στη Νέα Υόρκη με εκείνη στο Disney World βοήθησε προφανώς να πειστεί η ομάδα του Adams. Λίγες εβδομάδες αργότερα, η τεχνολογία της Evolv χρησιμοποιήθηκε για τον έλεγχο των επισκεπτών σε ένα νοσοκομείο του Μπρονξ που διαχειρίζεται η πόλη, όπου ένας άνδρας είχε πυροβοληθεί μέσα στα επείγοντα περιστατικά τον Ιανουάριο του 2022. Αυτό δεν ήταν πολύ επιτυχημένο αφού οι σαρωτές παρήγαγαν λανθασμένα θετικά αποτελέσματα στο 85% της διάρκεια του επτάμηνου πιλοτικού προγράμματος.

Αν η ακρίβεια του Evolv σε ένα νοσοκομείο ήταν χαμηλή, η ακρίβειά του στους σταθμούς του μετρό της Νέας Υόρκης μπορεί να είναι χειρότερη. Σε ένα τηλεφώνημα προς τους επενδυτές στις 15 Μαρτίου 2024, ο Peter George, διευθύνων σύμβουλος της εταιρείας, παραδέχθηκε ότι η τεχνολογία δεν ήταν ιδανική για σταθμούς του μετρό. "Οι υπόγειοι σιδηρόδρομοι, ειδικότερα, δεν είναι ένα μέρος που πιστεύουμε ότι είναι μια καλή περίπτωση χρήσης για εμάς", δήλωσε ο George, λόγω της "παρεμβολής με τους σιδηροδρόμους".

Παρόλα αυτά, μετά το θάνατο ενός άνδρα που σπρώχτηκε στις ράγες του μετρό στα τέλη Μαρτίου, ο Άνταμς ανακοίνωσε ότι οι σαρωτές ανίχνευσης όπλων της Evolv θα δοκιμαστούν στους σιδηροδρομικούς σταθμούς της πόλης. "Πρόκειται για μια σημαντική στιγμή ", δήλωσε ο Άνταμς στις 28 Μαρτίου. Τόσο σημαντική όπως πως όταν ο πρόεδρος Κένεντι είπε ότι θα βάλουμε έναν άνθρωπο στο φεγγάρι.

Η Alexandra Smith Ozerkis, εκπρόσωπος της Evolv, δηλώνει στο WIRED ότι όταν η εταιρεία ανέπτυξε το Evolv Express, το βασικό της προϊόν που κυκλοφόρησε το 2019, "δεν το έκανε με το σύστημα του μετρό της Νέας Υόρκης στο μυαλό της. Τούτου λεχθέντος, είμαστε μια εταιρεία που όταν μας ζητείται να δοκιμάσουμε την τεχνολογία μας σε ένα νέο περιβάλλον, το κάνουμε με χαρά για να επιτύχουμε οποιαδήποτε στόχο".

Ωστόσο, η εταιρεία στην οποία ο Άνταμς θέλει να εμπιστευτεί την ασφάλεια των Νεοϋορκέζων έχει αφήσει ένα ίχνος αντιπαραθέσεων σε όλη τη χώρα - και οι επικριτές αναρωτιούνται αν η τεχνολογία της λειτουργεί αποτελεσματικά. Το λογισμικό της, το οποίο χρησιμοποιεί "ηλεκτρομαγνητικά πεδία και προηγμένους αισθητήρες" για τον εντοπισμό όπλων όπως όπλα και μαχαίρια, δεν τα έχει εντοπίσει πολλές φορές, ιδίως σε σχολεία. Ωστόσο, ούτε αυτό ούτε η πρόσφατη αποκάλυψη ότι η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ έχει ξεκινήσει διερευνητική έρευνα για την Evolv (η οποία ακολουθεί την έρευνα της Ομοσπονδιακής Επιτροπής Εμπορίου του 2023 σχετικά με τις πρακτικές μάρκετινγκ της εταιρείας) δεν αποθάρρυνε τη διοίκηση Άνταμς, η οποία έχει διασυνδέσεις με υπαλλήλους της εταιρείας που στο παρελθόν εργάζονταν για το αστυνομικό τμήμα της Νέας Υόρκης -κάτι που η εταιρεία ήθελε να τονίσει στην παρουσίασή της.

Μικτή εταιρεία

Το 2022, ο Άνταμς ανέθεσε στον αντιδήμαρχο της Νέας Υόρκης, Φίλιπ Μπανκς ΙΙΙ, να βρει μια λύση για την ανίχνευση όπλων. Πριν από την ένταξή του στη διοίκηση, υπηρέτησε ως επικεφαλής του τμήματος της αστυνομίας της Νέας Υόρκης, αλλά παραιτήθηκε το 2014 εν μέσω ομοσπονδιακής έρευνας για δωροδοκία και διαφθορά, στην οποία κατονομάστηκε αργότερα ως μη κατηγορούμενος συνωμότης. (Στον Μπανκς δεν απαγγέλθηκαν ποτέ κατηγορίες).

Ενώ ο Adams δήλωσε τον Μάιο του 2022 ότι βρήκε την Evolv στο διαδίκτυο, ο Ozerkis από την Evolv δηλώνει στο WIRED ότι το NYPD είχε έρθει σε επαφή με την Evolv "για να διερευνήσει και να δοκιμάσει τη δυνατότητα χρήσης της τεχνολογίας μας σε όλη την πόλη ως μέρος του πολυεπίπεδου σχεδίου τους για τον περιορισμό του βίαιου εγκλήματος".

Υπήρχαν πολλές επικαλύψεις με πρώην μέλη της Αστυνομίας της Νέας Υόρκης. Οι Adams και Banks υπηρέτησαν μαζί ως αστυνομικοί - όπως και ένα τότε στέλεχος της Evolv, που επίσης αναφέρθηκε από τον Chitkara στο email προς το προσωπικό του δημάρχου. Ο Dominick D'Orazio, ο οποίος ήταν διευθυντής πωλήσεων της Evolv στις βορειοανατολικές ΗΠΑ προτού προαχθεί σε περιφερειακό διευθυντή τον Απρίλιο, ήταν διοικητής στο Νότιο Μπρούκλιν, στη γραμμή αναφοράς του οποίου ανήκε ο Banks -ο οποίος ήταν, εκείνη την εποχή, αναπληρωτής επικεφαλής περιπολίας για το Νότιο Μπόροου Μπρούκλιν. (Ο Banks αρνήθηκε ότι συνάντησε τον D'Orazio υπό την ιδιότητά του ως υπαλλήλου της Evolv).

Η σύνδεση της Evolv με την αστυνομία της Νέας Υόρκης είναι κάτι που ο George, διευθύνων σύμβουλος της Evolv, χρησιμοποίησε για να προωθήσει την τεχνολογία της εταιρείας. "Περίπου το ένα τρίτο των πωλητών μας ήταν πρώην αστυνομικοί", δήλωσε ο George σε ένα συνέδριο τον Ιούνιο του 2022. " Ένας εκπρόσωπός μας εδώ στη Νέα Υόρκη ήταν αστυνομικός του NYPD και είναι πολύ καλός πωλητής επειδή καταλαβαίνει σε ποιον πουλάμε. Έχει τη μυστική χειραψία".

Ο Ντέιβιντ Κοέν, πρώην αναπληρωτής επίτροπος πληροφοριών της αστυνομίας της Νέας Υόρκης, συμμετέχει επίσης στο συμβουλευτικό συμβούλιο ασφαλείας της Evolv.

Το Γραφείο του Δημάρχου έχει τονίσει ότι δεν έχει θέσει ως στόχο η Evolv να είναι μόνιμο στοιχείο. "Για να είμαστε σαφείς, ΔΕΝ έχουμε πει ότι θα τοποθετήσουμε την τεχνολογία Evolv στους σταθμούς του μετρό", αναφέρει στο WIRED η Kayla Mamelak, αναπληρώτρια εκπρόσωπος Τύπου του Γραφείου του Δημάρχου, σε email. "Είπαμε ότι ανοίγουμε μια περίοδο 90 ημερών για να διερευνήσουμε τη χρήση τεχνολογίας, όπως η Evolv, στους σταθμούς του μετρό μας".

Οι ειδικοί σε θέματα πολιτικών δικαιωμάτων και τεχνολογίας έχουν υποστηρίξει ότι η χρήση των σαρωτών της Evolv στους σταθμούς του μετρό είναι πιθανό να είναι μάταιη. "Πρόκειται να μετατρέψει τη δημόσια ασφάλεια σε κάτι τραγελαφικό ", λέει ο Άλμπερτ Φοξ Καν, ιδρυτής του Surveillance Technology Oversight Project, μιας οργάνωσης υπεράσπισης της ιδιωτικής ζωής. "Δεν πρόκειται για μια σοβαρή λύση για το μεγαλύτερο σύστημα μεταφορών της χώρας".

Επιπλέον, η ανάπτυξη της τεχνολογίας της εταιρείας μπορεί όχι μόνο να είναι αναποτελεσματική - είναι επίσης πιθανό να προσθέσει περισσότερους αστυνομικούς στους καθημερινούς ρυθμούς της ζωής των Νεοϋορκέζων, αυξάνοντας την ατζέντα του Άνταμς υπέρ της αστυνομίας. Το μετρό της Νέας Υόρκης έχει 472 σταθμούς. "Αυτό σημαίνει περίπου 1.000 εισόδους σταθμών του μετρό", εξηγεί η Sarah Kaufman, διευθύντρια του Κέντρου Μεταφορών Rudin του Πανεπιστημίου της Νέας Υόρκης. "Αυτό σημαίνει ότι το Evolv θα πρέπει να βρίσκεται σε κάθε είσοδο για να είναι αποτελεσματικό, και αυτό φυσικά απαιτεί παρακολούθηση".

Σύμφωνα με το σχέδιο πολιτικής που αναρτήθηκε από την αστυνομία της Νέας Υόρκης, η διαδικασία που περιβάλλει την τεχνολογία ανίχνευσης όπλων στο μετρό είναι εξαιρετικά ασαφής και εξακολουθεί να βασίζεται σε μεγάλο βαθμό στους αστυνομικούς. "Ο επόπτης του σημείου ελέγχου θα καθορίζει τη συχνότητα των επιβατών που υπόκεινται σε έλεγχο (για παράδειγμα, κάθε πέμπτος επιβάτης ή κάθε δέκατος επιβάτης)", αναφέρεται στο έγγραφο. Θα βασίζεται επίσης στο "διαθέσιμο προσωπικό της αστυνομίας που είναι διαθέσιμο για τη διενέργεια ελέγχων".

Ο υπόγειος σιδηρόδρομος της Νέας Υόρκης έχει περίπου 3,6 εκατομμύρια καθημερινούς επιβάτες. Η διακοπή κάθε 10ου επιβάτη θα σήμαινε 360.000 έρευνες την ημέρα.

"Αυτό θα σημαίνει ότι οι άνθρωποι θα πρέπει να περνούν συστηματικά από επεμβατικές και άβολες έρευνες", λέει ο Cahn. "Αυτό που είναι πραγματικά εμβληματικό εδώ είναι ότι η πόλη συνεχίζει να προσπαθεί να εφαρμόζει μέτρα ασφαλείας που είναι ιδιαίτερα ορατά, ακόμη και όταν είναι ιδιαίτερα αναποτελεσματικά".

Σχολικά είδη
Στο νήμα του ηλεκτρονικού ταχυδρομείου προς τους αξιωματούχους της Νέας Υόρκης που συμμετείχαν στη συνάντηση, ο Chitkara αναφέρθηκε στην επιτυχή ανάπτυξη της Evolv στα σχολεία. Αλλά και εκεί, οι σαρωτές απέτυχαν να ανιχνεύσουν όπλα και πιστόλια σε πολλές περιπτώσεις.

Ενώ γίνοταν προσπάθεια να πειστεί η διοίκηση του Άνταμς για να δοκιμάστει αυτή η τεχνολογία, τα εσωτερικά μηνύματα ηλεκτρονικού ταχυδρομείου που ελήφθησαν από μια μεγάλη σχολική περιφέρεια που χρησιμοποιεί την τεχνολογία της Evolv απεικονίζουν πώς τα καθημερινά αντικείμενα μπερδεύονταν από τους σαρωτές.

"Ξέρω ότι η απλή λύση είναι να πούμε στα παιδιά να μη χρησιμοποιούν ντοσιέ αλλά κανονικά τετράδια", έγραψε στα τέλη του 2022 η Jacqueline Barone, διευθύντρια του Piedmont Middle School, που ανήκει στα σχολεία Charlotte-Mecklenburg στη Βόρεια Καρολίνα. "Αλλά πονάει η ψυχή μου όταν πρέπει να λέω στα παιδιά ή στους καθηγητές ότι ορισμένα υλικά δεν μπορούν να χρησιμοποιηθούν επειδή οι σαρωτές τα μπερδεύουν με όπλα".

Στα μέσα Απριλίου, ο διευθυντής λειτουργίας της σχολικής περιφέρειας ανακοίνωσε σε ένα πάνελ συνεδρίου με ένα στέλεχος της Evolv στο Λας Βέγκας ότι "εξαλείφουν" τα μεταλλικά ντοσιέ τριών δακτυλίων.

"Καθώς μεταβαίνουμε στην επόμενη σχολική χρονιά, οι εκπαιδευτικοί θα χρησιμοποιήσουν άλλες εναλλακτικές λύσεις για τις προμήθειες της τάξης", αναφέρει στο WIRED η Jessica Saunders, εκπρόσωπος των σχολείων Charlotte-Mecklenburg, σε email. Λέει επίσης ότι οι φορητοί υπολογιστές των μαθητών προειδοποιούν συχνότερα το σύστημα ανίχνευσης όπλων.

Εν τω μεταξύ, η εταιρεία βρίσκεται υπό μήνυση από έναν μαθητή λυκείου στα βόρεια της Νέας Υόρκης, ο οποίος ισχυρίζεται ότι η Evolv παρουσίασε ψευδώς την τεχνολογία της και είναι υπεύθυνη για την αποτυχία της να ανιχνεύσει το μεγάλο μαχαίρι που χρησιμοποιήθηκε για να τον μαχαιρώσει.

Πρόσφατα κατατέθηκε επίσης ομαδική αγωγή από τους μετόχους της Evolv, οι οποίοι ισχυρίζονται ότι η εταιρεία προέβη σε παραπλανητικές δηλώσεις κατά παράβαση του νόμου περί κινητών αξιών, οι οποίες οδήγησαν σε τεράστιες οικονομικές απώλειες, ενώ ισχυρίζονται επίσης ότι η τεχνολογία "δεν ανιχνεύει αξιόπιστα μαχαίρια ή όπλα".

"Τα συστήματα Evolv Express έχουν σχεδιαστεί για να διαμορφώνουν διάφορα επίπεδα ενός προφίλ ασφαλείας με διαφορετικές ρυθμίσεις ευαισθησίας, οι οποίες επιλέγονται από τον πελάτη, με βάση τις συγκεκριμένες ανάγκες και τα γεγονότα", λέει ο Ozerkis στο WIRED. "Αυτό δεν σημαίνει ότι η τεχνολογία μας δεν λειτουργεί- σημαίνει ότι οι επαγγελματίες ασφαλείας που είναι υπεύθυνοι για την ασφάλεια αυτού του περιβάλλοντος έλαβαν την απόφαση ότι πρέπει να ελέγχουν για διαφορετικές -ή μεγαλύτερη ποικιλία- απειλές".

"Διαδίδοντας τη λέξη"

Προς το παρόν, στο πλαίσιο του πιλοτικού προγράμματος της Νέας Υόρκης, υπάρχει αυτή η υποχρεωτική περίοδος αναμονής. Αυτή είναι πιθανό να ξεκινήσει στα τέλη Ιουνίου και θα διαρκέσει 90 ημέρες. Σύμφωνα με το γραφείο του δημάρχου, η πόλη θα διερευνήσει επίσης τη χρήση άλλων τεχνολογιών και εταιρειών.

"Διεξάγουμε επαφές με διάφορες εταιρείες τεχνολογίας και ο δήμαρχος είπε μάλιστα ότι η συνέντευξη τύπου έγινε για να διαδοθεί η πληροφορία", λέει ο Mamelak από το γραφείο του δημάρχου.

Η ZeroEyes, ένας ανταγωνιστής της Evolv, είναι μια εταιρεία που ενδεχομένως εξετάζεται. Όπως και η Evolv, η εταιρεία εκπροσωπήθηκε από τον λομπίστα Mike Klein, ο οποίος άσκησε πιέσεις στο γραφείο του δημάρχου για λογαριασμό της ZeroEyes το 2022 και το 2023, σύμφωνα με τα έγγραφα δημοσιοποίησης. (Ο Klein λέει στο WIRED ότι δεν εκπροσωπεί πλέον την εταιρεία).

Μέχρι στιγμής, η ZeroEyes δεν ήταν απολύτως επιτυχής στον χώρο των μεταφορών: Η Αρχή Μεταφορών της Νοτιοανατολικής Πενσυλβάνια τερμάτισε αθόρυβα το πιλοτικό της πρόγραμμα με την εταιρεία τον Δεκέμβριο. Ένας εκπρόσωπος της ZeroEyes λέει στο WIRED ότι δεν μπορούσε να επιβεβαιώσει αν η τεχνολογία τους θα εφαρμοστεί πιλοτικά στη Νέα Υόρκη.

Μόλις ξεκινήσει η περίοδος αναμονής, το κοινό θα έχει 45 ημέρες για να υποβάλει σχόλια σχετικά με τη χρήση της τεχνολογίας πριν αυτά εξεταστούν από το γραφείο του δημάρχου - αν και η διοίκηση Άνταμς δεν έχει καμία υποχρέωση να αλλάξει την πολιτική.

Οι υποστηρικτές της δημόσιας ασφάλειας δεν είναι ιδιαίτερα αισιόδοξοι ότι οι ανησυχίες τους θα εισακουστούν. "Είναι προφανώς ένα μοτίβο που βλέπουμε να επαναλαμβάνεται", λέει ο Daniel Schwarz, στρατηγικός σύμβουλος για την προστασία της ιδιωτικής ζωής και την τεχνολογία στην Ένωση Πολιτικών Ελευθεριών της Νέας Υόρκης. "Αναπτύσσουν περισσότερες τεχνολογίες επιτήρησης και επενδύουν περισσότερα χρήματα στην αστυνόμευση και την υποδομή επιτήρησης αντί για τις πραγματικές υπηρεσίες που χρειάζονται οι κάτοικοι της Νέας Υόρκης".

Στη συνέντευξη Τύπου στον σταθμό Fulton, στεκόμενος δίπλα στον αντιδήμαρχο Banks και σε έναν σαρωτή Evolv, ο Adams έδειχνε αποφασισμένος ότι η τεχνολογία θα είναι επιτυχής.

"Ας φέρουμε τους σαρωτές", είπε ο Άνταμς, προσθέτοντας: "Κάνουμε ένα τεράστιο βήμα προς τη δημόσια ασφάλεια".

Πηγή: Internal Emails Reveal How a Controversial Gun-Detection AI System Found Its Way to NYC