Περίληψη άρθρου:
Η Missy Cummings, καθηγήτρια μηχανικής και ρομποτικής στο Πανεπιστήμιο George Mason, πρότεινε ότι οι πολιτικοί και οι υπεύθυνοι χάραξης πολιτικής πρέπει να ενημερωθούν καλύτερα για την τεχνητή νοημοσύνη (AI), ώστε να εξισορροπήσουν τα πιθανά οφέλη της έναντι των πιθανών κινδύνων. Η Cummings επέστρεψε στην ακαδημαϊκή κοινότητα νωρίτερα φέτος μετά από μια περίοδο ως υπάλληλος στην Εθνική Υπηρεσία Ασφάλειας Οδικής Κυκλοφορίας που την άφησε να ανησυχεί για τις δυνατότητες των αυτόνομων συστημάτων οδήγησης. Συνέκρινε τον θόρυβο που περιβάλλει τα συστήματα αυτά με αυτόν γύρω από τα chatbots, όπως το ChatGPT της OpenAI, αλλά προειδοποίησε ότι οι αλγόριθμοι μηχανικής μάθησης που διέπουν και τους δύο τύπους τεχνολογίας είναι εγγενώς απρόβλεπτοι και δύσκολα επιθεωρήσιμοι. Η Cummings υποστήριξε ότι οι πολιτικοί κινδυνεύουν να αιχμαλωτιστούν από τις μεγάλες εταιρείες τεχνολογίας, εάν δεν είναι επαρκώς ενημερωμένοι για τις εξελίξεις της τεχνητής νοημοσύνης. Για την αντιμετώπιση αυτού του προβλήματος, σχεδιάζει ένα μάθημα με στόχο την κατάρτιση των ρυθμιστικών αρχών στην τεχνολογία ΤΝ.

Κύρια σημεία του άρθρου:

• Οι Αμερικανοί γερουσιαστές ανησυχούν για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης και εξετάζουν το ενδεχόμενο δημιουργίας μιας νέας ομοσπονδιακής υπηρεσίας που θα επιβλέπει την ανάπτυξή της.
• Η ειδικός σε θέματα αυτοματισμού, Missy Cummings, έχει προειδοποιήσει για τους κινδύνους των αυτόνομων συστημάτων και το hype που τα περιβάλλει.
• Η Cummings ανησυχεί για τη ρυθμιστική αιχμαλωσία, εάν οι μεγάλες εταιρείες ΤΝ έχουν υπερβολική επιρροή στην κατεύθυνση των ρυθμιστικών αρχών.
• Η Cummings δημιουργεί ένα μάθημα στο George Mason για να βοηθήσει τους υπεύθυνους χάραξης πολιτικής και τις ρυθμιστικές αρχές να ενημερωθούν καλύτερα για την τεχνητή νοημοσύνη.

Αναλυτικά το άρθρο:
Την περασμένη εβδομάδα, Αμερικανοί γερουσιαστές άκουσαν ανησυχητικές μαρτυρίες που υποδηλώνουν ότι η ανεξέλεγκτη τεχνητή νοημοσύνη θα μπορούσε να κλέψει θέσεις εργασίας, να διαδώσει παραπληροφόρηση και γενικά να "πάει πολύ στραβά", σύμφωνα με τα λόγια του διευθύνοντος συμβούλου της OpenAI, Sam Altman. Ο ίδιος και αρκετοί νομοθέτες συμφώνησαν ότι οι ΗΠΑ μπορεί πλέον να χρειάζονται μια νέα ομοσπονδιακή υπηρεσία που θα επιβλέπει την ανάπτυξη της τεχνολογίας. Αλλά στην ακρόαση υπήρξε επίσης συμφωνία ότι κανείς δεν θέλει να γονατίσει μια τεχνολογία που θα μπορούσε δυνητικά να αυξήσει την παραγωγικότητα και να δώσει στις ΗΠΑ ένα προβάδισμα σε μια νέα τεχνολογική επανάσταση.

Οι προβληματισμένοι γερουσιαστές θα πρέπει να εξετάσουν το ενδεχόμενο να μιλήσουν με τη Missy Cummings, πρώην πιλότο μαχητικών αεροσκαφών και καθηγήτρια μηχανικής και ρομποτικής στο Πανεπιστήμιο George Mason. Μελετά τη χρήση της τεχνητής νοημοσύνης και της αυτοματοποίησης σε συστήματα κρίσιμης σημασίας για την ασφάλεια, συμπεριλαμβανομένων των αυτοκινήτων και των αεροσκαφών, και νωρίτερα φέτος επέστρεψε στον ακαδημαϊκό χώρο μετά από ένα πέρασμα από την Εθνική Υπηρεσία Ασφάλειας Οδικής Κυκλοφορίας, η οποία επιβλέπει την τεχνολογία της αυτοκινητοβιομηχανίας, συμπεριλαμβανομένου του Autopilot της Tesla. Η προοπτική της Cummings μπορεί να βοηθήσει τους πολιτικούς και τους υπεύθυνους χάραξης πολιτικής που προσπαθούν να σταθμίσουν τους κινδύνους που ελλοχεύει η ΤΝ.

Η Cummings έφυγε από την NHTSA με μια αίσθηση βαθιάς ανησυχίας για τα αυτόνομα συστήματα που αναπτύσσονται από πολλούς κατασκευαστές αυτοκινήτων. "Έχουμε σοβαρό πρόβλημα όσον αφορά τις δυνατότητες αυτών των αυτοκινήτων", λέει η Cummings. "Δεν είναι καν κοντά στο να είναι τόσο ικανά όσο νομίζει ο κόσμος".

Εντύπωση προκάλεσαν οι παραλληλισμοί με το ChatGPT και παρόμοια chatbots που πυροδοτούν τον ενθουσιασμό και την ανησυχία για τη δύναμη της τεχνητής νοημοσύνης. Οι λειτουργίες αυτοματοποιημένης οδήγησης υπάρχουν εδώ και περισσότερο καιρό, αλλά όπως και τα μεγάλα γλωσσικά μοντέλα βασίζονται σε αλγορίθμους μηχανικής μάθησης που είναι εγγενώς απρόβλεπτοι, δύσκολα επιθεωρούνται και απαιτούν ένα διαφορετικό είδος μηχανικής σκέψης από αυτό του παρελθόντος.

Επίσης, όπως και το ChatGPT, το Autopilot της Tesla και άλλα έργα αυτόνομης οδήγησης έχουν εξυψωθεί από παράλογες ποσότητες διαφημιστικής εκστρατείας. Τα μεθυστικά όνειρα για μια επανάσταση στις μεταφορές οδήγησαν τις αυτοκινητοβιομηχανίες, τις νεοφυείς επιχειρήσεις και τους επενδυτές να ρίξουν τεράστια ποσά στην ανάπτυξη και την εφαρμογή μιας τεχνολογίας που εξακολουθεί να έχει πολλά άλυτα προβλήματα. Στα μέσα της δεκαετίας του 2010 υπήρχε ένα ανεκτικό ρυθμιστικό περιβάλλον γύρω από τα αυτόνομα αυτοκίνητα, με τους κυβερνητικούς αξιωματούχους να μην επιθυμούν να φρενάρουν μια τεχνολογία που υποσχόταν να αποφέρει δισεκατομμύρια για τις αμερικανικές επιχειρήσεις.

Μετά από δισεκατομμύρια που δαπανήθηκαν για την τεχνολογία, τα self-driving αυτοκίνητα εξακολουθούν να αντιμετωπίζουν προβλήματα και ορισμένες αυτοκινητοβιομηχανίες έχουν σταματήσει τα μεγάλα έργα αυτονομίας. Εν τω μεταξύ, όπως λέει η Cummings, το κοινό συχνά δεν έχει σαφή εικόνα για το πόσο ικανή είναι πραγματικά η ημιαυτόνομη τεχνολογία.

Από μια άποψη, είναι καλό να βλέπουμε τις κυβερνήσεις και τους νομοθέτες να σπεύδουν να προτείνουν τη ρύθμιση των εργαλείων δημιουργικής τεχνητής νοημοσύνης και των μεγάλων γλωσσικών μοντέλων. Ο σημερινός πανικός επικεντρώνεται στα μεγάλα γλωσσικά μοντέλα και σε εργαλεία όπως το ChatGPT, τα οποία είναι εντυπωσιακά καλά στο να απαντούν σε ερωτήσεις και να επιλύουν προβλήματα, ακόμη και αν εξακολουθούν να έχουν σημαντικές ελλείψεις, συμπεριλαμβανομένης της σίγουρης κατασκευής γεγονότων.

Στην ακρόαση της Γερουσίας αυτή την εβδομάδα, ο Altman της OpenAI, η οποία μας έδωσε το ChatGPT, έφτασε στο σημείο να ζητήσει ένα σύστημα αδειοδότησης που θα ελέγχει αν εταιρείες όπως η δική του επιτρέπεται να εργάζονται πάνω στην προηγμένη τεχνητή νοημοσύνη. "Ο χειρότερος φόβος μου είναι ότι εμείς -ο τομέας, η τεχνολογία, η βιομηχανία- θα προκαλέσουμε σημαντική ζημιά στον κόσμο", δήλωσε ο Altman κατά τη διάρκεια της ακρόασης.

Αντλώντας από την εμπειρία της στην NHTSA, η Cummings προειδοποιεί ότι υπάρχει σημαντικός κίνδυνος ρυθμιστικής αιχμαλωσίας εάν οι μεγάλες εταιρείες τεχνητής νοημοσύνης και τεχνολογίας έχουν υπερβολική επιρροή στην κατεύθυνση που παίρνουν οι ρυθμιστικές αρχές. "Άκουσα να λέγεται περισσότερες από μία φορές μέσα στην NHTSA ότι έπρεπε να προχωρήσουν εξαιρετικά προσεκτικά, επειδή δεν ήθελαν να μετακινήσουν τις αγορές", λέει. "Αυτό είναι ίσως το καλύτερο σημάδι ότι έχει συμβεί η αιχμαλωσία των ρυθμιστικών αρχών. Αν μια αγορά κινηθεί, ας είναι έτσι".

Η Cummings λέει επίσης ότι οι πολιτικοί και οι ρυθμιστικές αρχές πρέπει επειγόντως να ενημερωθούν για τις εξελίξεις στην τεχνητή νοημοσύνη και να εξοικειωθούν περισσότερο με την τεχνολογία και τον τρόπο λειτουργίας της. Για τον σκοπό αυτό, λέει, ότι εξετάζει τρόπους εκπαίδευσης των ανθρώπων για τη διερεύνηση ατυχημάτων που αφορούν την ΤΝ, και δημιουργεί ένα μάθημα στο George Mason που απευθύνεται σε υπεύθυνους χάραξης πολιτικής και ρυθμιστικούς φορείς που θέλουν να είναι καλύτερα ενημερωμένοι για την τεχνολογία.

Πηγή: Politicians Need to Learn How AI Works—Fast