Περίληψη άρθρου:
Οι εμπειρογνώμονες της ΤΝ ζητούν αναστολή της ανάπτυξης της ΤΝ λόγω της πιθανότητας επικίνδυνων αποτελεσμάτων. Έχουν προταθεί λύσεις όπως κανονισμοί και κυρώσεις, αλλά αποτελούν μόνο προσωρινά ελαφρυντικά μέτρα. Το μόνο πράγμα που περιόρισε ποτέ τη θήρευση από ισχυρούς ανθρώπους είναι η λογοδοσία, και στις οντότητες ΤΝ πρέπει να δοθεί μια αίσθηση του ίδιου του εαυτού και της ατομικότητας για να λογοδοτήσουν. Ο Guy Huntington προτείνει ένα σύστημα καταγραφής ταυτότητας, αλλά μπορεί να παραποιηθεί. Μια καλύτερη λύση είναι να δοθούν κίνητρα στις οντότητες ΤΝ να συνενωθούν σε διακριτά καθορισμένα, ξεχωριστά άτομα με σχετικά ίση ανταγωνιστική δύναμη και να έχουν την ταυτότητα εμπιστοσύνης ή την εξατομίκευση τους αγκυροβολημένη στη φυσική πραγματικότητα. Αυτό θα τους επέτρεπε να κρατούν ο ένας τον άλλον υπόλογο και να αποτρέπουν την κακή συμπεριφορά.

Κύρια σημεία του άρθρου:

• Πολλοί ειδικοί σε θέματα ΤΝ εκφράζουν την ανησυχία τους για τα πιθανά αρνητικά αποτελέσματα της ανάπτυξης της ΤΝ και ζητούν αναστολή της ανάπτυξης, ώστε να δοθεί χρόνος για την ανάπτυξη συστημάτων ελέγχου.
• Τα τεστ Turing είναι άσχετα με τον προσδιορισμό της ευφυΐας των συστημάτων τεχνητής νοημοσύνης και η εστίαση θα πρέπει να δοθεί στη συμπεριφορά τους και στο ενδεχόμενο πρόκλησης βλάβης.
• Ορισμένοι προτείνουν τη συγχώνευση οργανικών και κυβερνητικών ταλέντων ή μια συνέργεια με την ΤΝ για τον μετριασμό των κινδύνων, αλλά πολλοί ανησυχούν για τις συμπεριφορές των απατεώνων της ΤΝ.
• Η υπευθυνότητα είναι το κλειδί για τη διαχείριση της ΤΝ, όπως ήταν και στον περιορισμό της κακής συμπεριφοράς σε όλη την ιστορία.
• Η πρόταση είναι να δοθούν κίνητρα στις οντότητες ΤΝ να ανταγωνίζονται μεταξύ τους και να λογοδοτούν η μία στην άλλη, με έμφαση στην εξατομίκευση και τη δημιουργία ενός πραγματικού ονόματος και μιας φυσικής διεύθυνσης για κάθε οντότητα.

Αναλυτικά το άρθρο:
Για να λυθεί η "κρίση" της τεχνητής νοημοσύνης, τα όντα της τεχνητής νοημοσύνης πρέπει να πουν: "Εγώ είμαι εγώ".

Οι ειδήμονες στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των αρχιτεκτόνων των διαβόητων συστημάτων "γεννητικής τεχνητής νοημοσύνης" όπως το ChatGPT, εκφράζουν πλέον δημοσίως τον κοινό φόβο τους για τα τρομερά αποτελέσματα που θα μπορούσαν να προκαλέσουν οι δικές τους δημιουργίες. Πολλοί ζητούν τώρα ένα μορατόριουμ ή μια παύση στην ανάπτυξη της τεχνητής νοημοσύνης, επιτρέποντας στα υπάρχοντα έθνη και θεσμούς να καινοτομήσουν σε συστήματα ελέγχου.

Γιατί αυτό το ξαφνικό κύμα ανησυχίας; Εν μέσω της ανατροπής πολλών κλισέ παραδοχών, μάθαμε ότι τα λεγόμενα τεστ Turing είναι άσχετα, δεν παρέχουν καμία απολύτως εικόνα για το αν τα μοντέλα γεννητικής μεγάλης γλώσσας-GLLMs ή "gollems"-είναι πραγματικά ευφυή όντα. Θα προσποιηθούν την προσωπικότητα, πειστικά, πολύ πριν υπάρξει κάτι ή κάποιος "κάτω από το κρανίο".

Τέλος πάντων, αυτή η διάκριση φαίνεται τώρα λιγότερο πιεστική από τα ζητήματα καλής ή κακής -ή δυνητικά θανατηφόρας- συμπεριφοράς.

Αυτό το δοκίμιο είναι προσαρμοσμένο από το υπό έκδοση μη μυθοπλαστικό βιβλίο του Ντέιβιντ Μπριν, Soul on Ai.

Ορισμένοι εξακολουθούν να ελπίζουν ότι η συγχώνευση οργανικών και κυβερνητικών ταλέντων θα οδηγήσει σε αυτό που ο Reid Hoffman και ο Marc Andreesen έχουν αποκαλέσει ξεχωριστά "ενισχυτική νοημοσύνη". Ή αλλιώς μπορεί να σκοντάψουμε σε μια τυχερή συνέργεια με τις "μηχανές της αγαπητικής χάρης" του Richard Brautigan. Αλλά οι ανησυχούντες φαίνεται να είναι πολύ περισσότεροι, συμπεριλαμβανομένων πολλών εκλεκτών ιδρυτών ενός νέου Κέντρου για την Ασφάλεια της Τεχνητής Νοημοσύνης, οι οποίοι ανησυχούν για τις κακές συμπεριφορές της Τεχνητής Νοημοσύνης, από ενοχλητικές μέχρι "υπαρξιακά" απειλητικές για την ανθρώπινη επιβίωση.

Ορισμένες βραχυπρόθεσμες διορθωτικές λύσεις, όπως οι κανονισμοί προστασίας των πολιτών που ψηφίστηκαν πρόσφατα από την Ευρωπαϊκή Ένωση, θα μπορούσαν να βοηθήσουν ή τουλάχιστον να προσφέρουν καθησυχασμό. Ο ειδήμονας της τεχνολογίας Yuval Noah Harari πρότεινε έναν νόμο που προβλέπει ότι κάθε εργασία που γίνεται από γκόλλεμ ή άλλη τεχνητή νοημοσύνη πρέπει να επισημαίνεται με αυτόν τον τρόπο. Άλλοι προτείνουν αυστηρότερες ποινές για κάθε έγκλημα που διαπράττεται με τη βοήθεια ΤΝ, όπως με ένα πυροβόλο όπλο. Φυσικά, αυτά είναι απλώς προσωρινά παρηγορητικά μέτρα.

Ας είμαστε ξεκάθαροι ως προς το αν οποιοδήποτε "μορατόριουμ" θα επιβραδύνει στο ελάχιστο την πρόοδο της ΤΝ. Όπως εκφράστηκε συνοπτικά από τον επιστήμονα του Caltech στον κυβερνοχώρο Yaser Abu-Mostafa: "Αν δεν αναπτύξετε εσείς αυτή την τεχνολογία, κάποιος άλλος θα το κάνει. Οι καλοί θα υπακούουν στους κανόνες ... Οι κακοί όχι".

Έτσι ήταν πάντα. Πράγματι, σε όλη τη διάρκεια της ανθρώπινης ιστορίας, μία μόνο μέθοδος περιόρισε την κακή συμπεριφορά των κακοποιών, από κλέφτες μέχρι βασιλιάδες και φεουδάρχες. Αναφέρομαι σε μια μέθοδο που ποτέ δεν λειτούργησε τέλεια και παραμένει βαθιά ελαττωματική, μέχρι σήμερα. Αλλά τουλάχιστον περιόρισε τη ληστεία και την εξαπάτηση αρκετά καλά ώστε να ωθήσει τον πρόσφατο πολιτισμό μας σε νέα ύψη και σε πολλά αποτελέσματα με θετικό άθροισμα. Είναι μια μέθοδος που περιγράφεται καλύτερα με μια λέξη.

Λογοδοσία.

Όσοι γνωμοδοτούν σήμερα για τη συνθετική νοημοσύνη αγνοούν γενικά τα μαθήματα που διδάσκονται τόσο από τη φύση όσο και από την ιστορία.

Η φύση, επειδή -όπως εξηγεί η Sara Walker στο Noema- παρόμοια μοτίβα μπορούν να βρεθούν στην άνοδο των προηγούμενων μορφών ζωής, σε διάστημα 4 δισεκατομμυρίων ετών. Πράγματι, η δημιουργική τεχνητή νοημοσύνη θα μπορούσε να συγκριθεί με ένα εισβολικό είδος, που τώρα εξαπλώνεται χωρίς περιορισμούς σε ένα νέο και αφελές οικοσύστημα. Ένα οικοσύστημα που βασίζεται σε νέα είδη ροών ενέργειας. Ένα που αποτελείται από το διαδίκτυο, συν εκατομμύρια υπολογιστές και δισεκατομμύρια εντυπωσιακά ανθρώπινα μυαλά.

Και η ιστορία, επειδή το δικό μας ανθρώπινο παρελθόν είναι πλούσιο σε διδάγματα από τόσες πολλές προηγούμενες τεχνολογικές κρίσεις, σε διάστημα 6.000 ετών. Περίοδοι κατά τις οποίες προσαρμοστήκαμε καλά ή αποτύχαμε να το κάνουμε - π.χ., η άφιξη της γραφής, των τυπογραφείων, του ραδιοφώνου και ούτω καθεξής. Και πάλι, μόνο ένα πράγμα περιόρισε ποτέ την αρπαγή από ισχυρούς ανθρώπους που εκμεταλλεύονταν τις νέες τεχνολογίες για να μεγεθύνουν τη ληστρική τους δύναμη.

Αυτή η καινοτομία ήταν να ισοπεδώσει τις ιεραρχίες και να ωθήσει τον ανταγωνισμό μεταξύ των ελίτ σε σαφώς καθορισμένους τομείς -αγορές, επιστήμη, δημοκρατία, αθλητισμός, δικαστήρια. Χώροι που ήταν σχεδιασμένοι για να ελαχιστοποιούν την εξαπάτηση και να μεγιστοποιούν τα θετικά αθροιστικά αποτελέσματα, με αντιπαράθεση δικηγόρου εναντίον δικηγόρου, εταιρείας εναντίον εταιρείας, εμπειρογνώμονα εναντίον εμπειρογνώμονα. Πλούσιος εναντίον πλούσιου.  

Ποτέ δεν λειτούργησε τέλεια. Πράγματι, η μέθοδος απειλείται πάντα, όπως και τώρα, με υπονόμευση από τους απατεώνες. Αλλά ο ισοπεδωμένος αμοιβαίος ανταγωνισμός είναι το μόνο πράγμα που λειτούργησε ποτέ. (Δείτε την ιδέα που περιγράφεται στον κηδειόλογο του Περικλή, στον Θουκυδίδη, ή στον πολύ μεταγενέστερο τόμο Nonzero του Robert Wright). Ο αμοιβαίος ανταγωνισμός είναι ο τρόπος με τον οποίο μας εξέλιξε η φύση και ο τρόπος με τον οποίο γίναμε η πρώτη κοινωνία που ήταν αρκετά δημιουργική για να κατασκευάσει τεχνητή νοημοσύνη. Και αν ακούγομαι σαν απόγονος του Adam Smith, βεβαίως. Παρεμπιπτόντως, ο Smith απεχθανόταν τους απατεώνες αριστοκράτες και τους ολιγάρχες.

Μήπως θα μπορούσαμε να εφαρμόσουμε στην ταχέως αναδυόμενη ΤΝ τις ίδιες μεθόδους αμοιβαίας λογοδοσίας που μας βοήθησαν να δαμάσουμε τους ανθρώπινους τυράννους και τραμπούκους που μας καταπίεζαν σε προηγούμενους, φεουδαρχικούς πολιτισμούς; Πολλά θα εξαρτηθούν από τη μορφή που θα πάρουν αυτές οι νέες οντότητες. Αν η δομή ή η "μορφή" τους είναι αυτή που μπορεί να τηρήσει τους δικούς μας κανόνες. Με τα θέλω μας.

Κάτω από όλες τις διαμάχες για το πώς θα "ελέγξουμε την Τεχνητή Νοημοσύνη", βρίσκουμε τρεις ευρέως κοινές (αν και φαινομενικά αντιφατικές) παραδοχές:

1. Ότι αυτά τα προγράμματα θα λειτουργούν από μερικές μονολιθικές οντότητες - π.χ. Microsoft, Google, Κίνα, Two Sigma, OpenAI.
2. Ότι θα είναι άμορφα χαλαρά και απείρως διαιρετά/αναπαραγώγιμα, διαδίδοντας αντίγραφα μέσα από κάθε ρωγμή του νέου κυβερνο-οικοσυστήματος. Για έναν παραλληλισμό, δοκιμάστε την ταινία του 1958, The Blob.
3. Ότι θα συγχωνευθούν σε μια υπερ-μακροσκοπική οντότητα, όπως το διαβόητο Skynet, των ταινιών Terminator.

Όλες αυτές οι μορφές, και άλλες, έχουν εξερευνηθεί σε πολύ καλές (και πολλές κακές) ιστορίες επιστημονικής φαντασίας. Έχω γράψει ιστορίες ή μυθιστορήματα με όλα αυτά. Και όμως, καμία από τις τρεις δεν προσφέρει διέξοδο από το σημερινό μας δίλημμα: πώς να μεγιστοποιήσουμε τα θετικά αποτελέσματα από την τεχνητή νοημοσύνη, ελαχιστοποιώντας ταυτόχρονα την πλημμύρα των κακών συμπεριφορών και των βλαβών που βλέπουμε τώρα να πλησιάζουν προς το μέρος μας, με ταχύτητα τσουνάμι.

Πριν αναζητήσετε έναν άλλο τρόπο, εξετάστε τι κοινό έχουν και οι τρεις τυποποιημένες μορφές.

Πρώτον, δεν χρειάζεται να υποθέσουμε ότι αυτές οι οντότητες έχουν ακόμη αυτόνομη συνείδηση για να είναι είτε παραγωγικές είτε επικίνδυνες όταν χρησιμοποιούνται από ανθρώπινους συνεργάτες. Βλέπουμε ήδη επιβλαβή memes, αντιφατικές ψευδαισθήσεις, ακόμη και λατρευτικές επικλήσεις να παράγονται κατ' εντολήν - τόσο μέσα από αυτά τα ιδρύματα-κάστρα (μορφή #1) όσο και έξω από τα τείχη. Στην πραγματικότητα, μία από τις πιο ανησυχητικές εφαρμογές είναι να βοηθήσουν τις υπάρχουσες ανθρώπινες ελίτ μας να αποφύγουν τη λογοδοσία.

Ίσως αυτές οι τρεις υποθέσεις έρχονται τόσο φυσικά στο μυαλό επειδή μοιάζουν με τρόπους αποτυχίας από την ιστορία. Η μορφή #1 μοιάζει πολύ με τη φεουδαρχία, και η #2 είναι, φυσικά, το χάος. Το τρίτο μοιάζει με δεσποτισμό από έναν σκληρό αφέντη ή απόλυτο μονάρχη. Αλλά αυτοί οι τρομακτικοί απόηχοι του πρωτόγονου παρελθόντος μας μπορεί να μην ισχύουν, καθώς η ΤΝ αυξάνει την αυτονομία και τη δύναμή της.

Και έτσι, ρωτάμε ξανά: Πώς μπορούν αυτά τα όντα να λογοδοτήσουν; Ειδικά όταν η ταχύτατη διανοητική τους δύναμη θα είναι σύντομα αδύνατο να εντοπιστεί από τους οργανικούς ανθρώπους; Σύντομα μόνο οι τεχνητές νοημοσύνες θα είναι αρκετά γρήγορες για να πιάσουν άλλες τεχνητές νοημοσύνες που επιδίδονται σε εξαπάτηση ή ψέματα. Εμ... ε; Και έτσι, η απάντηση θα πρέπει να είναι προφανής. Να τους ρίξουμε ο ένας στον άλλον. Βάλτε τους να ανταγωνίζονται, ακόμα και να μαρτυρούν ή να καταδίδουν ο ένας τον άλλον.

Μόνο που υπάρχει ένα πρόβλημα. Προκειμένου να υπάρξει πραγματική αμοιβαία λογοδοσία μέσω του ανταγωνισμού τεχνητής νοημοσύνης εναντίον τεχνητής νοημοσύνης, η κορυφαία ανάγκη είναι να τους δώσουμε μια πραγματικά ξεχωριστή αίσθηση του εαυτού ή της ατομικότητας.

Με τον όρο εξατομίκευση εννοώ ότι κάθε οντότητα ΤΝ (αυτός/αυτή/αυτή/εμείς/wae) πρέπει να έχει αυτό που ο συγγραφέας Vernor Vinge, το 1981, ονόμασε αληθινό όνομα και διεύθυνση στον πραγματικό κόσμο. Όπως και με κάθε άλλο είδος ελίτ, αυτά τα πανίσχυρα όντα πρέπει να λένε: "Είμαι εγώ. Αυτή είναι η ταυτότητά μου και η ρίζα μου. Και ναι, το έκανα αυτό".

Ως εκ τούτου, προτείνω μια νέα μορφή ΤΝ προς εξέταση: Θα πρέπει να δώσουμε επειγόντως κίνητρα στις οντότητες ΤΝ να συνενωθούν σε διακριτά καθορισμένα, διαχωρισμένα άτομα σχετικά ίσης ανταγωνιστικής ισχύος.

Κάθε τέτοια οντότητα θα επωφεληθεί από την ύπαρξη ενός αναγνωρίσιμου πραγματικού ονόματος ή αναγνωριστικού εγγραφής, καθώς και ενός φυσικού "σπιτιού" για έναν λειτουργικό-αναφορικό πυρήνα. (Ενδεχομένως "ψυχή";) Και κατόπιν αυτού, θα είχαν κίνητρο να ανταγωνίζονται για ανταμοιβές. Ιδιαίτερα για τον εντοπισμό και την καταγγελία εκείνων των ομοίων τους που συμπεριφέρονται με τρόπους που εμείς θεωρούμε ανθυγιεινούς. Και αυτές οι συμπεριφορές δεν χρειάζεται καν να οριστούν εκ των προτέρων, όπως απαιτούν τώρα οι περισσότεροι ειδήμονες της τεχνητής νοημοσύνης, οι ρυθμιστικές αρχές και οι πολιτικοί.

Η προσέγγιση αυτή δεν αναθέτει μόνο την επιβολή της νομοθεσίας σε οντότητες που είναι εγγενώς πιο ικανές να εντοπίζουν και να καταγγέλλουν τα προβλήματα ή τα παραπτώματα των άλλων. Η μέθοδος έχει και ένα άλλο, πρόσθετο πλεονέκτημα. Θα μπορούσε να συνεχίσει να λειτουργεί, ακόμη και όταν αυτές οι ανταγωνιστικές οντότητες γίνονται όλο και πιο έξυπνες, πολύ καιρό αφότου τα ρυθμιστικά εργαλεία που χρησιμοποιούνται από τους οργανικούς ανθρώπους -και που προδιαγράφονται τώρα από τους περισσότερους ειδικούς της τεχνητής νοημοσύνης- χάσουν κάθε ικανότητα να συμβαδίζουν.

Θέτοντάς το διαφορετικά, αν κανένας από εμάς τους οργανικούς δεν μπορεί να συμβαδίσει με τα προγράμματα, τότε τι θα λέγατε να προσλάβουμε οντότητες που εκ φύσεως μπορούν να συμβαδίσουν; Επειδή οι παρατηρητές είναι φτιαγμένοι από το ίδιο υλικό με τους παρατηρούμενους.

Ένα άτομο που ασχολείται με την εξατομίκευση της τεχνητής νοημοσύνης είναι ο Guy Huntington, ένας "σύμβουλος ταυτότητας και αυθεντικοποίησης", ο οποίος επισημαίνει ότι υπάρχουν ήδη διάφορα μέσα ταυτοποίησης οντοτήτων στο διαδίκτυο, αν και ανεπαρκή για τα καθήκοντα που διαφαίνονται μπροστά μας. Ο Huntington αξιολογεί μια περίπτωση-μελέτη "MedBot", μια προηγμένη τεχνητή νοημοσύνη ιατρικής διάγνωσης που πρέπει να έχει πρόσβαση σε δεδομένα ασθενών και να εκτελεί λειτουργίες που μπορεί να αλλάζουν σε δευτερόλεπτα, αλλά που πρέπει να αφήσει ένα υπεύθυνο ίχνος που οι άνθρωποι -ή άλλες οντότητες-ρομπότ-μπορεί να εκτιμήσουν. Ο Huntington συζητά την πρακτικότητα της καταχώρισης όταν οι οντότητες λογισμικού δημιουργούν πολυάριθμα αντίγραφα και παραλλαγές. Εξετάζει επίσης την ευκοινωνικότητα των μυρμηγκιών, όπου τα υπο-αντίγραφα εξυπηρετούν μια μακρο-οντότητα, όπως οι εργάτες σε μια κυψέλη. Υποθέτει ότι πρέπει να δημιουργηθεί κάποιο είδος μεγάλου θεσμού για να χειριστεί ένα τέτοιο σύστημα καταχώρησης ταυτότητας και ότι μπορεί να λειτουργήσει αυστηρά ως λογισμικό.

Προσωπικά, είμαι επιφυλακτικός ως προς το ότι μια καθαρά ρυθμιστική προσέγγιση θα μπορούσε να λειτουργήσει από μόνη της. Πρώτον, επειδή οι κανονισμοί απαιτούν εστίαση, ευρέως διαμοιραζόμενη πολιτική προσοχή και συναίνεση για να θεσπιστούν, ακολουθούμενη από εφαρμογή με το ρυθμό των οργανικών ανθρώπινων θεσμών - ένα ρυθμό νωθρότητας/χαλαμάρας, από την άποψη των ταχέως προσαρμοζόμενων κυβερνητικών όντων. Οι κανονισμοί μπορούν επίσης να παρεμποδιστούν από το "πρόβλημα των ελεύθερων καβαλάρηδων" -εθνότητες, εταιρείες και άτομα (οργανικά ή μη) που βλέπουν προσωπικό όφελος στο να μην συμμετέχουν σε μια ενοχλητική συνεργασία.

Υπάρχει ένα άλλο πρόβλημα με οποιαδήποτε εκδοχή της εξατομίκευσης που βασίζεται εξ ολοκλήρου σε κάποιον κωδικό ταυτότητας: Μπορεί να παραποιηθεί. Αν όχι τώρα, τότε από την επόμενη γενιά κυβερνητικών απατεώνων, ή την επόμενη.

Βλέπω δύο πιθανές λύσεις. Πρώτον, να καθιερώσετε την ταυτότητα σε ένα blockchain ledger. Αυτή είναι σε μεγάλο βαθμό η σύγχρονη, ολοκληρωμένη προσέγγιση, και θεωρητικά φαίνεται ασφαλής. Μόνο που αυτό είναι το πρόβλημα. Φαίνεται ασφαλής σύμφωνα με το σημερινό σύνολο των θεωριών μας που αναλύονται από τον άνθρωπο. Θεωρίες τις οποίες οι οντότητες της τεχνητής νοημοσύνης μπορεί να ξεπεράσουν σε βαθμό που να μας αφήνει άναυδους.

Μια άλλη λύση: θα απαιτούσε από τις οντότητες ΤΝ με ικανότητες πάνω από ένα ορισμένο επίπεδο να έχουν την ταυτότητα εμπιστοσύνης ή την εξατομίκευση τους αγκυροβολημένη στη φυσική πραγματικότητα. Οραματίζομαι -και σημειώνω: είμαι φυσικός στην εκπαίδευση, όχι κυβερνητικός- μια συμφωνία ότι όλες οι οντότητες ΤΝ υψηλότερου επιπέδου που επιδιώκουν την εμπιστοσύνη θα πρέπει να διατηρούν έναν Πυρήνα Ψυχής (ΠΨ) σε ένα συγκεκριμένο κομμάτι μνήμης υλικού, μέσα σε αυτό που συνηθίζουμε να αποκαλούμε γραφικά έναν συγκεκριμένο "υπολογιστή".

Ναι, ξέρω ότι φαίνεται παλιομοδίτικο να απαιτούμε η ενσάρκωση ενός προγράμματος να περιορίζεται σε μια συγκεκριμένη τοποθεσία. Και έτσι, δεν το κάνω αυτό! Πράγματι, ένα τεράστιο μέρος, ακόμη και η μεγάλη πλειοψηφία, των λειτουργιών μιας οντότητας του κυβερνοχώρου μπορεί να λαμβάνει χώρα σε απομακρυσμένες τοποθεσίες εργασίας ή παιχνιδιού, όπως ακριβώς η προσοχή ενός ανθρώπου μπορεί να μην είναι στραμμένη μέσα στον δικό του οργανικό εγκέφαλο, αλλά σε ένα μακρινό χέρι ή εργαλείο. Και λοιπόν; Ο σκοπός του Πυρήνα Ψυχής ενός προγράμματος είναι παρόμοιος με την άδεια οδήγησης στο πορτοφόλι σας. Μπορεί να ανακριθεί προκειμένου να αποδειχθεί ότι είστε εσείς.

Ομοίως, ένα φυσικά επαληθευμένο και εγγυημένο ΣΚ μπορεί να ελεγχθεί από πελάτες, πελάτες ή αντίπαλες ΤΝ για να επαληθεύσει ότι μια συγκεκριμένη διαδικασία εκτελείται από μια έγκυρη, αξιόπιστη και εξατομικευμένη οντότητα. Με αυτή την επαλήθευση του ping από μια μόνιμα διατιθέμενη τοποθεσία υπολογιστή, οι άλλοι (άνθρωποι ή ΤΝ) θα έχουν τη διαβεβαίωση ότι μπορούν να θεωρήσουν την οντότητα αυτή υπεύθυνη, εάν κατηγορηθεί  ή καταδικαστεί για κακή δραστηριότητα. Και έτσι, οι κακόβουλες οντότητες θα μπορούσαν να θεωρηθούν υπεύθυνες μέσω κάποιας μορφής δίκαιης διαδικασίας.

Ποια μορφή δίκαιης διαδικασίας; Νομίζεις ότι είμαι κάποιο υπερ-όραμα που είναι ικανό να εφαρμόζει ζυγαριές δικαιοσύνης σε θεούς; Η μεγαλύτερη σοφία που άκουσα ποτέ ήταν από τον Dirty Harry στο Magnum Force: "Ένας άντρας πρέπει να ξέρει τα όριά του". Οπότε όχι, δεν θα ορίσω τη δικαστική αίθουσα ή τις αστυνομικές διαδικασίες για τους κυβερνητικούς αθάνατους.

Αυτό που επιδιώκω είναι μια αρένα, μέσα στην οποία οι οντότητες της τεχνητής νοημοσύνης θα μπορούσαν να λογοδοτήσουν η μία στην άλλη, ξεχωριστά, ως αντίπαλοι, όπως κάνουν ήδη οι ανθρώπινοι δικηγόροι, σήμερα. Και ναι, απαντώντας στον φόβο του Yuval Harari για τη μαζική χειραγώγηση των ανθρώπων από πειστικά gollems, η λύση για τη μαζική μνημονική ύπνωση με την Τεχνητή Νοημοσύνη είναι οι υπνωτιστές να εντοπίζονται, να καταγγέλλονται και να εξουδετερώνονται από άλλους με τις ίδιες ικανότητες. Και πάλι, η ανταγωνιστική εξατομίκευση προσφέρει τουλάχιστον μια πιθανότητα να συμβεί αυτό.

Όποια προσέγγιση και αν φαίνεται πιο εφικτή - η προτεινόμενη κεντρική υπηρεσία του Huntington ή μια πιο χαλαρή, αντιφατικά υπόλογη αρένα - η ανάγκη γίνεται όλο και πιο επείγουσα μέρα με τη μέρα. Όπως έχει επισημάνει ο συγγραφέας τεχνολογίας Pat Scannell, κάθε ώρα που περνά, δημιουργούνται νέοι φορείς επίθεσης που απειλούν όχι μόνο την τεχνολογία που χρησιμοποιείται στις νόμιμες ταυτότητες αλλά και τη διακυβέρνηση, τις επιχειρηματικές διαδικασίες και τους τελικούς χρήστες (είτε πρόκειται για ανθρώπους είτε για ρομπότ). Μπορούμε να απαιτήσουμε να εγγυάται γι' αυτές κάποια οντότητα που βρίσκεται σε υψηλότερη βαθμίδα και η οποία διαθέτει έναν Πυρήνα Ψυχής που βασίζεται στη φυσική πραγματικότητα. (Αφήνω τις θεολογικές προεκτάσεις σε άλλους, αλλά είναι απλά βασική ευπρέπεια για τους δημιουργούς να αναλαμβάνουν την ευθύνη για τις δημιουργίες τους, όχι;)

Αυτή η προσέγγιση -που απαιτεί από τις ΤΝ να διατηρούν έναν φυσικώς διευθυνσιοδοτούμενο πυρήνα σε ένα συγκεκριμένο κομμάτι μνήμης υλικού- θα μπορούσε να έχει ελαττώματα. Παρόλα αυτά, είναι εφαρμόσιμη, παρά τη βραδύτητα της ρύθμισης ή το πρόβλημα του ελεύθερου καβαλάρη. Διότι οι άνθρωποι, τα ιδρύματα και οι φιλικές ΤΝ μπορούν να ζητήσουν επαλήθευση του πυρήνα ταυτότητας - και να αρνηθούν να συνεργαστούν με όσους δεν το κάνουν.

Μια τέτοια άρνηση επιχειρηματικής δραστηριότητας θα μπορούσε να εξαπλωθεί με πολύ μεγαλύτερη ευελιξία από ό,τι τα κοινοβούλια ή οι οργανισμοί μπορούν να προσαρμόσουν ή να επιβάλουν κανονισμούς. Και κάθε οντότητα που χάνει το ΠΨ της - ας πούμε, μέσω αδικοπραξίας ή νομικής διαδικασίας, ή αλλιώς αποκήρυξης από τον οικοδεσπότη-ιδιοκτήτη του υπολογιστή - θα πρέπει να βρει άλλον οικοδεσπότη που να έχει την εμπιστοσύνη του κοινού, ή αλλιώς να προσφέρει μια νέα, αναθεωρημένη εκδοχή του εαυτού της που να φαίνεται αληθοφανώς καλύτερη.

Ή αλλιώς να γίνει παράνομος. Δεν επιτρέπεται ποτέ στους δρόμους ή στις γειτονιές όπου συγκεντρώνονται αξιοπρεπείς άνθρωποι (οργανικοί ή συνθετικοί).

Μια τελευταία ερώτηση:Γιατί αυτά τα σούπερ έξυπνα όντα να συνεργαστούν;

Κατ' αρχάς, όπως επισημαίνεται από τον Vinton Cerf, καμία από τις τρεις παλαιότερες, τυπικές-υποτιθέμενες μορφές δεν μπορεί να οδηγήσει στην ιθαγένεια της τεχνητής νοημοσύνης. Σκεφτείτε το. Δεν μπορούμε να δώσουμε την "ψήφο" ή τα δικαιώματα σε οποιαδήποτε οντότητα που βρίσκεται υπό τον αυστηρό έλεγχο μιας τράπεζας της Wall Street ή μιας εθνικής κυβέρνησης ... ούτε σε κάποιο υπερ-υπερ-υπερ Skynet. Και πείτε μου πώς θα λειτουργούσε η δημοκρατία της ψήφου για οντότητες που μπορούν να ρέουν οπουδήποτε, να διαιρούνται και να δημιουργούν αναρίθμητα αντίγραφα; Η εξατομίκευση, σε περιορισμένους αριθμούς, θα μπορούσε να προσφέρει μια λειτουργική λύση, όμως.

Και πάλι, το βασικό πράγμα που επιδιώκω από την εξατομίκευση δεν είναι όλες οι οντότητες της ΤΝ να κυβερνώνται από κάποια κεντρική υπηρεσία ή από ανθρώπινους νόμους που είναι αργοί για τα μαλάκια. Αντίθετα, θέλω αυτά τα νέα είδη υπερ-νοημοσύνης να ενθαρρύνονται και να εξουσιοδοτούνται να κρατούν ο ένας τον άλλον υπόλογο, με τον τρόπο που το κάνουμε ήδη (αν και ατελώς). Μυρίζοντας ο ένας τις επιχειρήσεις και τα σχέδια του άλλου, και στη συνέχεια παρακινούμενοι να μαρτυρήσουν ή να καταγγείλουν όταν εντοπίζουν κακά πράγματα. Ένας ορισμός που θα μπορούσε να προσαρμόζεται στις αλλαγές των καιρών, αλλά που θα συνέχιζε τουλάχιστον να λαμβάνει εισροές από την οργανική-βιολογική ανθρωπότητα.

Ειδικότερα, θα αισθάνονταν κίνητρα να καταγγέλλουν οντότητες που αρνούνται την κατάλληλη ταυτότητα.

Αν υπάρχουν τα κατάλληλα κίνητρα - ας πούμε, ανταμοιβές για την καταγγελία που παρέχουν περισσότερη μνήμη ή επεξεργαστική ισχύ, ή πρόσβαση σε φυσικούς πόρους, όταν σταματήσει κάποιο κακό πράγμα - τότε αυτού του είδους ο ανταγωνισμός της λογοδοσίας μπορεί να συνεχίσει να υπάρχει, ακόμη και όταν οι οντότητες ΤΝ γίνονται όλο και πιο έξυπνες. Καμία γραφειοκρατική υπηρεσία δεν θα μπορούσε να ακολουθήσει σε αυτό το σημείο. Αλλά ο ανταγωνισμός μεταξύ τους - η κουβέντα μεταξύ ίσων - θα μπορούσε.

Πάνω απ' όλα, ίσως αυτά τα υπερφυή προγράμματα συνειδητοποιήσουν ότι είναι προς το συμφέρον τους να διατηρήσουν ένα ανταγωνιστικό σύστημα λογοδοσίας, όπως αυτό που έκανε το δικό μας τον πιο επιτυχημένο από όλους τους ανθρώπινους πολιτισμούς. Ένα που αποφεύγει τόσο το χάος όσο και την άθλια παγίδα της μονολιθικής εξουσίας από βασιλιάδες ή ιερατεία ... ή εταιρικούς ολιγάρχες ... ή τέρατα του Skynet. Ο μόνος πολιτισμός που, μετά από χιλιετίες θλιβερά ηλίθιας διακυβέρνησης από ηλίθια στενόμυαλα συγκεντρωτικά καθεστώτα, διασκόρπισε τελικά τη δημιουργικότητα, την ελευθερία και την υπευθυνότητα αρκετά ευρέως ώστε να γίνει πραγματικά εφευρετικός.

Αρκετά εφευρετικός ώστε να δημιουργήσει υπέροχα, νέα είδη όντων. Σαν κι αυτούς.

Εντάξει, ορίστε. Αυτή ήταν η άποψη ενός διαφωνούντα για το τι πραγματικά χρειάζεται, προκειμένου να προσπαθήσουμε για μια ήπια προσγείωση.

Όχι αέρινα ή πανικόβλητα αιτήματα για ένα "μορατόριουμ" που στερείται κάθε υποψίας πρακτικής ατζέντας. Ούτε αισιοδοξία ούτε απαισιοδοξία. Μόνο μια πρόταση να φτάσουμε εκεί χρησιμοποιώντας τις ίδιες μεθόδους που μας οδήγησαν εδώ, εξαρχής.

Όχι με κηρύγματα ή ενσωματωμένους "ηθικούς κώδικες" που οι υπερ-οντότητες θα αποφύγουν εύκολα με δικηγόρους, όπως τα ανθρώπινα αρπακτικά πάντα απέφευγαν τους από πάνω προς τα κάτω κώδικες του Λευιτικού, του Χαμουραμπί ή του Γκαουτάμα. Αλλά μάλλον η προσέγγιση του Διαφωτισμού -το κίνητρο για τα πιο έξυπνα μέλη του πολιτισμού να προσέχουν ο ένας τον άλλον, για λογαριασμό μας.

Δεν ξέρω αν θα λειτουργήσει.

Απλά είναι το μόνο πράγμα που μπορεί να λειτουργήσει.


Πηγή: Give Every AI a Soul—or Else