Περίληψη Άρθρου:
Το ChatGPT, ένα chatbot που δημιουργήθηκε από την OpenAI, απειλεί να ανατρέψει τον τρόπο με τον οποίο συντάσσουμε καθημερινές επικοινωνίες, όπως μηνύματα ηλεκτρονικού ταχυδρομείου, δοκίμια και αμέτρητες άλλες μορφές γραφής. Είναι ικανό να ανταποκρίνεται σε γραπτές προτροπές με τρόπο που μερικές φορές είναι τρομακτικά κοντά στον ανθρώπινο. Αυτό αποτελεί μεγαλύτερη απειλή από το να αντικαταστήσουν οι μηχανές τους ανθρώπους σε μορφές όπως η ποίηση και τα σενάρια κωμικών σειρών, καθώς θα μπορούσε να χρησιμοποιηθεί για την αυτόματη σύνταξη σχολίων που υποβάλλονται σε κανονιστικές διαδικασίες, επιστολών προς τον συντάκτη και σχολίων σε άρθρα ειδήσεων, καταχωρίσεις σε ιστολόγια και αναρτήσεις στα μέσα κοινωνικής δικτύωσης.

Οι πλατφόρμες έχουν βελτιωθεί στο να αφαιρούν τους ψεύτικους λογαριασμούς, αλλά τα συστήματα τεχνητής νοημοσύνης με την πολυπλοκότητα του ChatGPT θα μπορούσαν να στοχεύσουν σε βασικούς νομοθέτες και φορείς επιρροής για να εντοπίσουν τα πιο αδύναμα σημεία του συστήματος χάραξης πολιτικής και να τα εκμεταλλευτούν. Αυτή η ικανότητα κατανόησης και στόχευσης των παραγόντων εντός ενός δικτύου θα μπορούσε να δημιουργήσει ένα εργαλείο για το hacking της Α.Ι., εκμεταλλευόμενο τα τρωτά σημεία των κοινωνικών, οικονομικών και πολιτικών συστημάτων. Ενώ θα μπορούσε να παρέχει πρόσβαση σε όσους δεν μπορούν να αντέξουν οικονομικά έναν έμπειρο λομπίστα, οι μεγαλύτεροι και ισχυρότεροι θεσμοί πιθανότατα θα χρησιμοποιήσουν με μεγαλύτερη επιτυχία οποιεσδήποτε τεχνικές άσκησης πίεσης με Α.Ι.

Αναλυτικά το Άρθρο:
Το ChatGPT, που ξεκίνησε μόλις πριν από μερικές εβδομάδες, απειλεί ήδη να ανατρέψει τον τρόπο με τον οποίο συντάσσουμε καθημερινές επικοινωνίες, όπως μηνύματα ηλεκτρονικού ταχυδρομείου, δοκίμια στο κολέγιο και αμέτρητες άλλες μορφές γραφής.

Δημιουργημένο από την εταιρεία OpenAI, το ChatGPT είναι ένα chatbot που μπορεί να απαντά αυτόματα σε γραπτές προτροπές με τρόπο που μερικές φορές είναι τρομακτικά κοντά στον ανθρώπινο.

Αλλά για όλη την ανησυχία σχετικά με το ενδεχόμενο να αντικατασταθούν οι άνθρωποι από μηχανές σε μορφές όπως η ποίηση και τα σενάρια κωμικών σειρών, μια πολύ μεγαλύτερη απειλή ελλοχεύει: η τεχνητή νοημοσύνη να αντικαταστήσει τους ανθρώπους στις δημοκρατικές διαδικασίες - όχι μέσω της ψηφοφορίας, αλλά μέσω της άσκησης πίεσης.

Το ChatGPT θα μπορούσε να συντάσσει αυτόματα σχόλια που υποβάλλονται σε κανονιστικές διαδικασίες. Θα μπορούσε να συντάσσει επιστολές προς τον συντάκτη για δημοσίευση σε τοπικές εφημερίδες. Θα μπορούσε να σχολιάζει άρθρα ειδήσεων, καταχωρίσεις σε ιστολόγια και αναρτήσεις στα μέσα κοινωνικής δικτύωσης εκατομμύρια φορές κάθε μέρα.

Θα μπορούσε να μιμηθεί το έργο που έκανε η Ρωσική Υπηρεσία Έρευνας Διαδικτύου στην προσπάθειά της να επηρεάσει τις εκλογές μας το 2016, αλλά χωρίς τον αναφερόμενο προϋπολογισμό πολλών εκατομμυρίων δολαρίων και τους εκατοντάδες υπαλλήλους της υπηρεσίας.

Τα αυτόματα παραγόμενα σχόλια δεν αποτελούν νέο πρόβλημα. Εδώ και αρκετό καιρό, παλεύουμε με τα bots, τις μηχανές που δημοσιεύουν αυτόματα περιεχόμενο. Πριν από πέντε χρόνια, πιστεύεται ότι τουλάχιστον ένα εκατομμύριο αυτόματα συντασσόμενα σχόλια υποβλήθηκαν στην Ομοσπονδιακή Επιτροπή Επικοινωνιών σχετικά με προτεινόμενους κανονισμούς για την ουδετερότητα του δικτύου.

Το 2019, ένας προπτυχιακός φοιτητής του Χάρβαρντ, ως δοκιμή, χρησιμοποίησε ένα πρόγραμμα δημιουργίας κειμένου για να υποβάλει 1.001 σχόλια σε απάντηση σε κυβερνητικό αίτημα για δημόσια συνεισφορά σε ένα θέμα Medicaid. Τότε, η υποβολή σχολίων ήταν απλώς ένα παιχνίδι συντριπτικών αριθμών.

Οι πλατφόρμες έχουν βελτιωθεί στην απομάκρυνση της "συντονισμένης μη αυθεντικής συμπεριφοράς". Το Facebook, για παράδειγμα, αφαιρεί πάνω από ένα δισεκατομμύριο ψεύτικους λογαριασμούς ετησίως. Αλλά τέτοια μηνύματα είναι μόνο η αρχή.

Αντί να κατακλύζουν τα εισερχόμενα των νομοθετών με υποστηρικτικά μηνύματα ηλεκτρονικού ταχυδρομείου ή να κυριαρχούν στο τηλεφωνικό κέντρο του Καπιτωλίου με συνθετικές φωνητικές κλήσεις, ένα σύστημα τεχνητής νοημοσύνης με την πολυπλοκότητα του ChatGPT αλλά εκπαιδευμένο σε σχετικά δεδομένα θα μπορούσε να στοχεύει επιλεκτικά τους βασικούς νομοθέτες και τους φορείς επιρροής για να εντοπίσει τα πιο αδύναμα σημεία του συστήματος χάραξης πολιτικής και να τα εκμεταλλευτεί αδίστακτα μέσω άμεσης επικοινωνίας, εκστρατειών δημοσίων σχέσεων, εμπορικών συναλλαγών ή άλλων σημείων μόχλευσης.

Όταν εμείς οι άνθρωποι κάνουμε αυτά τα πράγματα, το ονομάζουμε lobbying. Οι επιτυχημένοι παράγοντες σε αυτόν τον τομέα συνδυάζουν τη σύνταξη μηνυμάτων ακριβείας με έξυπνες στρατηγικές στόχευσης.

Αυτή τη στιγμή, το μόνο πράγμα που εμποδίζει έναν lobbist εξοπλισμένο με ChatGPT να εκτελέσει κάτι που μοιάζει με ρητορική εκστρατεία πολέμου με μη επανδρωμένα αεροσκάφη είναι η έλλειψη στόχευσης ακριβείας. Η τεχνητή νοημοσύνη θα μπορούσε να παρέχει τεχνικές και γι' αυτό.

Ένα σύστημα που μπορεί να κατανοήσει τα πολιτικά δίκτυα, αν συνδυαστεί με τις δυνατότητες παραγωγής κειμένου του ChatGPT, θα μπορούσε να εντοπίσει το μέλος του Κογκρέσου με τη μεγαλύτερη επιρροή σε έναν συγκεκριμένο τομέα πολιτικής - ας πούμε, τη φορολογία των επιχειρήσεων ή τις στρατιωτικές δαπάνες.

Όπως και οι ανθρώπινοι lobbyists, ένα τέτοιο σύστημα θα μπορούσε να στοχεύει σε αναποφάσιστους αντιπροσώπους που συμμετέχουν σε επιτροπές που ελέγχουν την πολιτική ενδιαφέροντος και στη συνέχεια να εστιάζει τους πόρους στα μέλη του κόμματος της πλειοψηφίας όταν ένα νομοσχέδιο προχωρά προς ψήφιση.

Μόλις εντοπιστούν τα άτομα και οι στρατηγικές, ένα chatbot τεχνητής νοημοσύνης όπως το ChatGPT θα μπορούσε να δημιουργήσει γραπτά μηνύματα που θα μπορούσαν να χρησιμοποιηθούν σε επιστολές, σχόλια - οπουδήποτε το κείμενο είναι χρήσιμο.

Οι ανθρώπινοι lobbyists θα μπορούσαν επίσης να στοχεύσουν απευθείας σε αυτά τα άτομα. Ο συνδυασμός είναι σημαντικός: τα σχόλια των συντακτών και των μέσων κοινωνικής δικτύωσης δεν σας φτάνουν μακριά, και το να γνωρίζετε ποιους νομοθέτες να στοχεύσετε δεν είναι από μόνο του αρκετό.

Αυτή η ικανότητα κατανόησης και στόχευσης των παραγόντων μέσα σε ένα δίκτυο θα δημιουργούσε ένα εργαλείο για το χάκινγκ της τεχνητής νοημοσύνης, που θα εκμεταλλευόταν τα τρωτά σημεία των κοινωνικών, οικονομικών και πολιτικών συστημάτων με απίστευτη ταχύτητα και εμβέλεια.

Τα νομοθετικά συστήματα θα αποτελούσαν έναν ιδιαίτερο στόχο, επειδή το κίνητρο για την επίθεση σε συστήματα χάραξης πολιτικής είναι τόσο ισχυρό, επειδή τα δεδομένα για την εκπαίδευση τέτοιων συστημάτων είναι τόσο ευρέως διαθέσιμα και επειδή η χρήση της Α.Ι. μπορεί να είναι τόσο δύσκολο να εντοπιστεί - ιδίως αν χρησιμοποιείται στρατηγικά για την καθοδήγηση ανθρώπινων παραγόντων.

Τα δεδομένα που είναι απαραίτητα για την εκπαίδευση τέτοιων στρατηγικών συστημάτων στόχευσης θα αυξάνονται μόνο με τον καιρό. Οι ανοικτές κοινωνίες καθιστούν γενικά τις δημοκρατικές τους διαδικασίες θέμα δημοσίου αρχείου, και οι περισσότεροι νομοθέτες είναι πρόθυμοι -τουλάχιστον επιτελεστικά- να δεχτούν και να ανταποκριθούν σε μηνύματα που φαίνονται να προέρχονται από τους ψηφοφόρους τους.

Ίσως ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε να αποκαλύψει ποια μέλη του Κογκρέσου ασκούν σημαντική επιρροή στην ηγεσία, αλλά εξακολουθούν να έχουν αρκετά χαμηλό δημόσιο προφίλ ώστε να υπάρχει μόνο μέτριος ανταγωνισμός για την προσοχή τους. Στη συνέχεια, θα μπορούσε να εντοπίσει το SuperPAC ή την ομάδα δημοσίου συμφέροντος με τον μεγαλύτερο αντίκτυπο στις δημόσιες θέσεις του εν λόγω νομοθέτη.

Ίσως θα μπορούσε ακόμη και να βαθμολογήσει το μέγεθος της δωρεάς που απαιτείται για να επηρεάσει την εν λόγω οργάνωση ή να κατευθύνει στοχευμένες διαδικτυακές διαφημίσεις που μεταφέρουν ένα στρατηγικό μήνυμα στα μέλη της. Για κάθε πολιτικό σκοπό, το σωστό ακροατήριο- και για κάθε ακροατήριο, το σωστό μήνυμα τη σωστή στιγμή.

Αυτό που καθιστά την απειλή των lobbystis με τη δύναμη της τεχνητής νοημοσύνης μεγαλύτερη από την απειλή που ήδη συνιστούν οι ακριβοπληρωμένες εταιρείες πίεσης στην K Street είναι η δυνατότητα επιτάχυνσής τους.

Οι ανθρώπινοι lobbyists βασίζονται σε δεκαετίες εμπειρίας για να βρουν στρατηγικές λύσεις για την επίτευξη ενός πολιτικού αποτελέσματος. Αυτή η εμπειρία είναι περιορισμένη και, ως εκ τούτου, δαπανηρή.

Η τεχνητή νοημοσύνη θα μπορούσε, θεωρητικά, να κάνει το ίδιο πράγμα πολύ πιο γρήγορα και φτηνά. Η ταχύτητα είναι ένα τεράστιο πλεονέκτημα σε ένα οικοσύστημα στο οποίο η κοινή γνώμη και οι αφηγήσεις των μέσων μαζικής ενημέρωσης μπορούν να παγιωθούν γρήγορα, όπως και η ευελιξία να μετατοπίζονται γρήγορα σε απάντηση σε χαοτικά παγκόσμια γεγονότα.

Επιπλέον, η ευελιξία της Τ.Ν. θα μπορούσε να βοηθήσει στην επίτευξη επιρροής σε πολλές πολιτικές και δικαιοδοσίες ταυτόχρονα. Φανταστείτε μια εταιρεία lobbying με τη βοήθεια της Α.Ι. που μπορεί να προσπαθήσει να τοποθετήσει νομοθεσία σε κάθε νομοσχέδιο που κινείται στο Κογκρέσο των ΗΠΑ, ή ακόμη και σε όλα τα πολιτειακά νομοθετικά σώματα.

Οι εταιρείες άσκησης πίεσης τείνουν να εργάζονται μόνο εντός μιας πολιτείας, επειδή υπάρχουν τόσο πολύπλοκες διαφορές στη νομοθεσία, τις διαδικασίες και την πολιτική δομή. Με τη βοήθεια της τεχνητής νοημοσύνης στην πλοήγηση σε αυτές τις παραλλαγές, μπορεί να γίνει ευκολότερη η άσκηση εξουσίας πέρα από τα πολιτικά σύνορα.

Ακριβώς όπως οι καθηγητές θα πρέπει να αλλάξουν τον τρόπο με τον οποίο δίνουν στους μαθητές τους εξετάσεις και εργασίες έκθεσης υπό το πρίσμα του ChatGPT, οι κυβερνήσεις θα πρέπει να αλλάξουν τον τρόπο με τον οποίο σχετίζονται με τους lobbyists.

Σίγουρα, η τεχνολογία αυτή μπορεί επίσης να έχει οφέλη στον χώρο της δημοκρατίας- το μεγαλύτερο από αυτά είναι η προσβασιμότητα. Δεν μπορεί ο καθένας να αντέξει οικονομικά έναν έμπειρο lobbyist, αλλά μια διεπαφή λογισμικού σε ένα σύστημα Α.Ι. θα μπορούσε να είναι διαθέσιμη στον καθένα.

Αν είμαστε τυχεροί, ίσως αυτό το είδος της Α.Ι. που παράγει στρατηγικές θα μπορούσε να αναζωογονήσει τον εκδημοκρατισμό της δημοκρατίας, δίνοντας αυτού του είδους τη δύναμη άσκησης πίεσης στους ανίσχυρους.

Ωστόσο, οι μεγαλύτεροι και ισχυρότεροι θεσμοί θα χρησιμοποιήσουν πιθανότατα τις όποιες τεχνικές άσκησης πίεσης της Α.Ι. με μεγαλύτερη επιτυχία. Εξάλλου, η εκτέλεση της καλύτερης στρατηγικής άσκησης πίεσης εξακολουθεί να απαιτεί εσωτερικούς γνώστες - ανθρώπους που μπορούν να περπατήσουν στους διαδρόμους του νομοθετικού σώματος - και χρήματα.

Το lobbying δεν έχει να κάνει μόνο με το να δίνεις το σωστό μήνυμα στο σωστό άτομο τη σωστή στιγμή- έχει επίσης να κάνει με το να δίνεις χρήματα στο σωστό άτομο τη σωστή στιγμή. Και ενώ ένα A.I. chatbot μπορεί να εντοπίσει ποιος θα πρέπει να είναι ο αποδέκτης αυτών των προεκλογικών συνεισφορών, οι άνθρωποι θα πρέπει, για το προσεχές μέλλον, να παρέχουν τα χρήματα.

Έτσι, αν και είναι αδύνατο να προβλέψουμε πώς θα είναι ένα μέλλον γεμάτο με lobbyists Α.Ι., πιθανότατα θα κάνει τους ήδη ισχυρούς και ισχυρούς με επιρροή ακόμα πιο ισχυρούς.

Πηγή: Opinion | How ChatGPT Hijacks Democracy - The New York Times (nytimes.com)