Περίληψη άρθρου:
Περισσότεροι από 1.400 ηγέτες της τεχνολογίας και ακαδημαϊκοί υπέγραψαν ανοιχτή επιστολή, με την οποία ζητούν να σταματήσει η ανάπτυξη ορισμένων από τα πιο εξελιγμένα πειράματα τεχνητής νοημοσύνης λόγω των πιθανών κινδύνων. Προτείνουν ότι οι προγραμματιστές θα πρέπει να διακόψουν τις δοκιμές οποιασδήποτε τεχνολογίας ισχυρότερης από την πρόσφατα κυκλοφόρησε ChatGPT-4 για τουλάχιστον έξι μήνες και να δημιουργήσουν πιο ισχυρά πρωτόκολλα ασφαλείας. Η επιστολή καλεί επίσης τους προγραμματιστές τεχνητής νοημοσύνης να συνεργαστούν με τις κυβερνήσεις για να αναπτύξουν πιο ισχυρά συστήματα διακυβέρνησης για την εποπτεία και την επιβολή γύρω από την τεχνητή νοημοσύνη. Ο Mark Nitzberg, εκτελεστικός διευθυντής του Κέντρου για την Ανθρώπινη Συμβατή Τεχνητή Νοημοσύνη του UC Berkeley, υπογραμμίζει τη σημασία του να παραμείνει ο έλεγχος των ισχυρών συστημάτων τεχνητής νοημοσύνης και να κατανοηθούν οι πιθανές συνέπειες της ανάπτυξής τους. Προτείνει ότι η κοινωνία θα πρέπει να αποφασίζει τι θα κάνει με την τεχνητή νοημοσύνη αντί να την αφήνει να κάνει τις αλλαγές καθώς αυτές συμβαίνουν.

Αναλυτικά το άρθρο:
"Το θέμα είναι να παραμείνουμε υπό τον έλεγχο συστημάτων που είναι πολύ ισχυρά, ίσως πιο ισχυρά από εμάς", λέει ένας από τους υπογράφοντες. "Δεν ξέρουμε πώς να ελέγξουμε αυτά τα μοντέλα ή πώς να τα εκμεταλλευτούμε πλήρως".

Περισσότεροι από 1.400 ηγέτες της τεχνολογίας και ακαδημαϊκοί, μεταξύ των οποίων ο Έλον Μασκ, ο συνιδρυτής της Apple Στιβ Βόζνιακ και ο συνιδρυτής του Pinterest Έβαν Σαρπ, υπέγραψαν ανοιχτή επιστολή με την οποία καλούν τους προγραμματιστές Τεχνητής Νοημοσύνης να διακόψουν την εκπαίδευση ορισμένων από τα πιο εξελιγμένα πειράματα Τεχνητής Νοημοσύνης, επικαλούμενοι κινδύνους που, όπως υποστηρίζουν, θα μπορούσαν να οδηγήσουν σε "απώλεια του ελέγχου του πολιτισμού μας".

Η επιστολή, η οποία δημοσιεύθηκε από το Future of Life Coalition την Τετάρτη, έρχεται σε μια άνευ προηγουμένου περίοδο ανάπτυξης της Τεχνητής Νοημοσύνης, η οποία έχει συγκεντρώσει σημαντική προσοχή τους τελευταίους μήνες χάρη σε chatbots όπως το ChatGPT, γεννήτριες εικόνων όπως το Dalle-2 και το Midjourney και λογισμικό κλωνοποίησης φωνής.

Η επιστολή υποδηλώνει ότι η τρέχουσα κούρσα ανάπτυξης της τεχνητής νοημοσύνης μπορεί να είναι απερίσκεπτη και να μην λαμβάνονται υπόψη οι απροσδόκητες συνέπειες για την κοινωνία, όπως η διάδοση της παραπληροφόρησης ή η αντικατάσταση και η απαξίωση ανθρώπινων θέσεων εργασίας.

Οι προγραμματιστές, ζητά η επιστολή, θα πρέπει να διακόψουν τις δοκιμές οποιασδήποτε τεχνολογίας ισχυρότερης από την πρόσφατα κυκλοφορήσασα ChatGPT-4 για τουλάχιστον έξι μήνες, και θα πρέπει επίσης να δημιουργήσουν πιο ισχυρά πρωτόκολλα ασφαλείας που θα διασφαλίζουν ότι οι εξελίξεις της τεχνητής νοημοσύνης τους "ελέγχονται αυστηρά και εποπτεύονται από ανεξάρτητους εξωτερικούς εμπειρογνώμονες".

"Καταλήγει στο να παραμείνουμε υπό τον έλεγχο συστημάτων που είναι πολύ ισχυρά, ίσως πιο ισχυρά από εμάς. Δεν ξέρουμε πώς να ελέγξουμε αυτά τα μοντέλα ή πώς να τα εκμεταλλευτούμε πλήρως", λέει ο Mark Nitzberg, εκτελεστικός διευθυντής στο Κέντρο για την Ανθρώπινη-Συμβατή Τεχνητή Νοημοσύνη του UC Berkeley, και υπογράφοντας την ανοιχτή επιστολή.

"Υπάρχουν όλων των ειδών οι πολύ επιχειρηματικές καινοτομίες που βγαίνουν καθημερινά και κινούνται πολύ γρήγορα. Αξίζει να κάνουμε μια παύση πέρα από αυτό το σημείο, η γάτα έχει ήδη βγει από το σακί με το GPT-4, αλλά θα μπορούσαμε εύλογα να πούμε ότι είναι μια καλή στιγμή να κάνουμε έναν απολογισμό και να βεβαιωθούμε ότι είμαστε ασφαλείς".

Η τεχνητή νοημοσύνη έχει τη δυνατότητα να επηρεάσει σχεδόν κάθε πτυχή της ανθρώπινης κοινωνίας. Το ChatGPT έχει αποδειχθεί αρκετά ισχυρό ώστε να γράφει δοκίμια και γραμμές κώδικα, ενώ το Midjourney κατάφερε να ξεγελάσει εκατομμύρια ανθρώπους με μια ιογενή βαθιά απομίμηση του Πάπα Φραγκίσκου που φορούσε ένα puffer jacket της Balenciaga νωρίτερα αυτή την εβδομάδα.

Η τεχνητή νοημοσύνη περνάει και στη μουσική βιομηχανία- τα εργαλεία σύνθεσης τραγουδιών με τεχνητή νοημοσύνη γίνονται όλο και πιο εξελιγμένα, ικανά να παράγουν μελωδίες ή ρυθμούς σε δευτερόλεπτα. Νωρίτερα τον Μάρτιο, μερικές από τις πιο ισχυρές οργανώσεις του μουσικού εμπορίου ξεκίνησαν έναν συνασπισμό που υποστηρίζει την υπεύθυνη χρήση της τεχνητής νοημοσύνης για την προστασία και τη βοήθεια των καλλιτεχνών.

Η επιστολή καλεί επίσης τους προγραμματιστές τεχνητής νοημοσύνης να συνεργαστούν με τις κυβερνήσεις για την ανάπτυξη πιο ισχυρών συστημάτων διακυβέρνησης για την εποπτεία και την επιβολή της νομοθεσίας γύρω από την τεχνητή νοημοσύνη.

Είναι εύκολο να ερμηνεύσει κανείς την επιστολή απλώς ως κρούση συναγερμού- παρουσιάζει δυσοίωνα και δυστοπικά υποθετικά σενάρια, όπου σε ένα χειρότερο σενάριο, "οι μηχανές πλημμυρίζουν τα κανάλια πληροφόρησής μας με προπαγάνδα και αναλήθειες" ή όπου "αναπτύσσουμε μη ανθρώπινα μυαλά που μπορεί τελικά να μας ξεπεράσουν αριθμητικά, να μας ξεπεράσουν, να μας ξεπεράσουν και να μας αντικαταστήσουν". Ωστόσο, όπως αναγνωρίζεται επίσης στην επιστολή, αν ακονιστεί σωστά, η τεχνητή νοημοσύνη θα μπορούσε επίσης να οδηγήσει σε ραγδαίες κοινωνικές εξελίξεις.

"Έχοντας πετύχει τη δημιουργία ισχυρών συστημάτων τεχνητής νοημοσύνης, μπορούμε τώρα να απολαύσουμε ένα "καλοκαίρι τεχνητής νοημοσύνης" κατά το οποίο θα αποκομίσουμε τους καρπούς, θα σχεδιάσουμε αυτά τα συστήματα για το ξεκάθαρο όφελος όλων και θα δώσουμε στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έχει πατήσει παύση σε άλλες τεχνολογίες με δυνητικά καταστροφικές συνέπειες για την κοινωνία", αναφέρεται στην επιστολή. "Μπορούμε να το κάνουμε και εδώ. Ας απολαύσουμε ένα μακρύ καλοκαίρι τεχνητής νοημοσύνης, όχι να βιαστούμε απροετοίμαστοι σε ένα φθινόπωρο".

Ο Nitzberg αναγνωρίζει ομοίως τα δυνητικά οφέλη που συνεπάγεται επίσης η τεχνητή νοημοσύνη, αλλά λέει ότι η ανάπτυξη ενός τέτοιου συστήματος απαιτεί περισσότερη προσοχή σε παράγοντες όπως οι ακούσιες συνέπειες και διαβεβαιώσεις ότι οι άνθρωποι θα παραμείνουν υπό τον έλεγχο της όποιας λειτουργίας έχει η τεχνητή νοημοσύνη. "Η ανοικοδόμηση ολόκληρης της ΤΝ με βάση αυτές τις αρχές θα πάρει περισσότερο χρόνο", λέει. "Και εν τω μεταξύ τα συστήματα blackbox γίνονται όλο και πιο ισχυρά. Και είναι πολύ δύσκολο αυτή τη στιγμή να τα κατανοήσουμε".

Το συναίσθημα που θέλει ο Νίτζμπεργκ να αποκομίσουν οι αναγνώστες από την επιστολή είναι να διασφαλιστεί ότι οι άνθρωποι θα διατηρήσουν την αυτονομία τους και δεν θα την παραδώσουν στον αγώνα για την εξέλιξη της τεχνολογίας.

Έχουμε ξαναδεί κοινωνικά μεταβαλλόμενη τεχνολογία. Εισάγαμε το αυτοκίνητο και αυτό αναδιαμόρφωσε πλήρως την ύπαιθρο και τις πόλεις, δεν υπήρχε πραγματικά μια σκέψη για το "το θέλουμε αυτό" εκείνη την εποχή και "πώς το θέλουμε", λέει. "Αλλά θα πρέπει να αποφασίσουμε τι θέλουμε να κάνουμε με την τεχνητή νοημοσύνη, αντί να την αφήνουμε να κάνει κατά κάποιον τρόπο τις αλλαγές καθώς συμβαίνουν".

Πηγή: Tech Leaders Sign Open Letter Calling for Pause on AI Development