Περίληψη άρθρου:
Οι τεχνολογίες τεχνητής νοημοσύνης έχουν τη δυνατότητα να χρησιμοποιηθούν για τα καλά, αλλά επί του παρόντος χρησιμοποιούνται από εταιρείες για να μας εκμεταλλεύονται, να κάνουν κατάχρηση, να παραπλανούν και να μας υποκαθιστούν. Οι αυτόχθονες κοινότητες παίρνουν θέση ενάντια σε αυτό δημιουργώντας τα δικά τους μοντέλα τεχνητής νοημοσύνης που ανήκουν και ελέγχονται από αυτές. Αυτό είναι ένα παράδειγμα του τρόπου με τον οποίο η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για να ωφελήσει συγκεκριμένες κοινότητες και να αντισταθεί στην εδραιωμένη δύναμη των εταιρειών. Πρέπει να γνωρίζουμε τους κινδύνους της τεχνητής νοημοσύνης και να λάβουμε μέτρα για να διασφαλίσουμε ότι χρησιμοποιείται με υπευθυνότητα.

Αναλυτικά το άρθρο:
Το παράξενο της δημιουργίας εικόνων με τεχνητή νοημοσύνη υπάρχει τόσο στην έξοδο όσο και στην είσοδο. Ένας χρήστης προσπάθησε να πληκτρολογήσει ανούσιες φράσεις και μπερδεύτηκε και δυσφορούσε κάπως όταν ανακάλυψε ότι το Dall-E mini φαινόταν να έχει πολύ καλή ιδέα για το τι είναι το "Crungus": μια κατά τα άλλα άγνωστη φράση που παρήγαγε σταθερά εικόνες μιας μυξιάρικης, γυμνής, σαν τέρας φιγούρας.

Ο Crungus ήταν αρκετά ξεκάθαρος μέσα στη φαντασία του προγράμματος ώστε να μπορεί να χειραγωγηθεί εύκολα: άλλοι χρήστες πρόσφεραν γρήγορα εικόνες από αρχαίες ταπισερί Crungus, μωσαϊκά Crungus ρωμαϊκού τύπου, ελαιογραφίες του Crungus, φωτογραφίες του Crungus να αγκαλιάζει διάφορες διασημότητες, και, καθώς μιλάμε για το διαδίκτυο, "σέξι" Crungus.

Ποιος ή τι είναι λοιπόν ο Crungus; Οι χρήστες του Twitter έσπευσαν να τον περιγράψουν ως "το πρώτο κρυπτόβιο της τεχνητής νοημοσύνης", ένα πλάσμα σαν τον Bigfoot που υπάρχει, σε αυτή την περίπτωση, στο ανεξερεύνητο έδαφος της φαντασίας της τεχνητής νοημοσύνης. Και αυτή είναι περίπου η πιο ξεκάθαρη απάντηση που μπορούμε να πάρουμε σε αυτό το σημείο, λόγω της περιορισμένης κατανόησης του τρόπου λειτουργίας του συστήματος.

Δεν μπορούμε να κρυφοκοιτάξουμε μέσα στις διαδικασίες λήψης αποφάσεών του, επειδή ο τρόπος με τον οποίο "σκέφτονται" αυτά τα νευρωνικά δίκτυα είναι εγγενώς απάνθρωπος. Είναι το προϊόν μιας απίστευτα πολύπλοκης, μαθηματικής διάταξης του κόσμου, σε αντίθεση με τον ιστορικό, συναισθηματικό τρόπο με τον οποίο οι άνθρωποι διατάσσουν τη σκέψη τους.

Ο Crungus είναι ένα όνειρο που αναδύεται από το μοντέλο του κόσμου της τεχνητής νοημοσύνης, το οποίο συντίθεται από δισεκατομμύρια αναφορές που έχουν ξεφύγει από την προέλευσή τους και έχουν συγχωνευθεί σε μια μυθολογική φιγούρα που δεν συνδέεται με την ανθρώπινη εμπειρία. Πράγμα που είναι ωραίο, ακόμη και καταπληκτικό - αλλά κάνει κάποιον να αναρωτιέται, από ποιανού τα όνειρα αντλούνται εδώ; Ποια σύνθεση του ανθρώπινου πολιτισμού, ποια προοπτική του, παρήγαγε αυτόν τον εφιάλτη;

Μια παρόμοια εμπειρία συνέβη σε έναν άλλο ψηφιακό καλλιτέχνη που πειραματιζόταν με αρνητικές προτροπές, μια τεχνική για τη δημιουργία αυτού που το σύστημα θεωρεί ότι είναι το πολικό αντίθετο από αυτό που περιγράφεται. Όταν ο καλλιτέχνης εισήγαγε "Brando::-1", το σύστημα επέστρεψε κάτι που έμοιαζε λίγο με λογότυπο για μια εταιρεία βιντεοπαιχνιδιών που ονομάζεται DIGITA PNTICS.

Το ότι αυτό μπορεί, στις πολλαπλές διαστάσεις του οράματος του συστήματος για τον κόσμο, να είναι το αντίθετο του Μάρλον Μπράντο φαίνεται αρκετά λογικό. Αλλά όταν έλεγξαν για να δουν αν πήγε αντίθετα, πληκτρολογώντας "DIGITA PNTICS skyline logo::-1", συνέβη κάτι πολύ περίεργο: όλες οι εικόνες απεικόνιζαν μια ανατριχιαστική γυναίκα με βυθισμένα μάτια και κοκκινισμένα μάγουλα, την οποία ο καλλιτέχνης βάφτισε Loab.

Μόλις ανακαλύφθηκε, η Loab φαινόταν ασυνήθιστα και ανησυχητικά επίμονη. Η επανατροφοδότηση της εικόνας στο πρόγραμμα, σε συνδυασμό με ολοένα και πιο αποκλίνουσες προτροπές κειμένου, συνέχισε να επαναφέρει την Loab, σε όλο και πιο εφιαλτικές μορφές, στις οποίες κυριαρχούσε το αίμα, η ταραχή και η βία.

Εδώ είναι μια εξήγηση για την Loab, και πιθανώς τον Crungus: αν και είναι πολύ, πολύ δύσκολο να φανταστεί κανείς τον τρόπο με τον οποίο λειτουργεί η φαντασία του μηχανήματος, είναι δυνατόν να το φανταστούμε να έχει σχήμα. Αυτό το σχήμα δεν πρόκειται ποτέ να είναι ομαλό ή τακτοποιημένα στρογγυλεμένο: μάλλον, θα έχει γούρνες και κορυφές, βουνά και κοιλάδες, περιοχές γεμάτες πληροφορίες και περιοχές που δεν έχουν καθόλου πολλά χαρακτηριστικά.

Αυτοί οι τομείς υψηλής πληροφόρησης αντιστοιχούν σε δίκτυα ενώσεων για τα οποία το σύστημα «γνωρίζει» πολλά. Μπορεί κανείς να φανταστεί τις περιοχές που σχετίζονται με ανθρώπινα πρόσωπα, αυτοκίνητα και γάτες, για παράδειγμα, να είναι αρκετά πυκνές, δεδομένης της διανομής των εικόνων που βρίσκει κανείς σε μια έρευνα σε ολόκληρο το Διαδίκτυο.

Είναι αυτές οι περιοχές στις οποίες μια γεννήτρια εικόνας AI θα αξιοποιήσει περισσότερο κατά τη δημιουργία των εικόνων της. Υπάρχουν όμως και άλλα μέρη, λιγότερο επισκέψιμα, που παίζουν ρόλο όταν αναπτύσσονται αρνητικές προτροπές –ή μάλιστα ανοησίες– φράσεις. Για να ικανοποιήσει τέτοια ερωτήματα, το μηχάνημα πρέπει να βασιστεί σε πιο εσωτερικές, λιγότερο σίγουρες συνδέσεις, και ίσως ακόμη και να συμπεράνει από το σύνολο του τι γνωρίζει ποιο μπορεί να είναι το αντίθετό του. Εδώ, στην ενδοχώρα, βρίσκονται οι Loab και Crungus.

Αυτή είναι μια ικανοποιητική θεωρία, αλλά εγείρει ορισμένα άβολα ερωτήματα σχετικά με το γιατί οι Crungus και Loab μοιάζουν, γιατί γέρνουν προς τη φρίκη και τη βία, γιατί υπαινίσσονται εφιάλτες. Οι γεννήτριες εικόνων AI, στην προσπάθειά τους να κατανοήσουν και να αναπαράγουν το σύνολο της ανθρώπινης οπτικής κουλτούρας, φαίνεται να έχουν αναδημιουργήσει και τους πιο σκοτεινούς φόβους μας.

Ίσως αυτό είναι απλώς ένα σημάδι ότι αυτά τα συστήματα είναι πράγματι πολύ καλά στο να πιθηκίζουν την ανθρώπινη συνείδηση, μέχρι τη φρίκη που κρύβεται στα βάθη της ύπαρξης: τους φόβους μας για βρωμιά, θάνατο και διαφθορά. Και αν ναι, πρέπει να αναγνωρίσουμε ότι αυτά θα είναι μόνιμα εξαρτήματα των μηχανών που κατασκευάζουμε σύμφωνα με τη δική μας εικόνα.

Αυτό έχει σημασία, γιατί οι γεννήτριες εικόνων AI θα κάνουν ό,τι έκαναν όλες οι προηγούμενες τεχνολογίες, αλλά θα προχωρήσουν και παραπέρα. Θα αναπαράγουν τις προκαταλήψεις και τις προκαταλήψεις εκείνων που τις δημιουργούν, όπως οι κάμερες που αναγνωρίζουν μόνο λευκά πρόσωπα ή τα προγνωστικά συστήματα αστυνόμευσης που πολιορκούν τις γειτονιές με χαμηλό εισόδημα.

Ενώ οι ισχυρισμοί σχετικά με τη «δημιουργικότητα» της τεχνητής νοημοσύνης μπορεί να είναι υπερβολικοί – δεν υπάρχει πραγματική πρωτοτυπία στη δημιουργία εικόνων, μόνο πολύ επιδέξιη μίμηση και παστίχια – αυτό δεν σημαίνει ότι δεν είναι σε θέση να αναλάβει πολλά κοινά «καλλιτεχνικά» καθήκοντα που θεωρούνται από καιρό διατηρητέα ειδικευμένων εργαζομένων, από εικονογράφους και γραφίστες μέχρι μουσικούς, βιντεογράφους και, μάλιστα, συγγραφείς.

Αυτή είναι μια τεράστια μετατόπιση. Η τεχνητή νοημοσύνη ασχολείται τώρα με την υποκείμενη εμπειρία του συναισθήματος, των συναισθημάτων και της διάθεσης, και αυτό θα της επιτρέψει να διαμορφώσει και να επηρεάσει τον κόσμο σε όλο και πιο βαθιά και πειστικά επίπεδα.

Το ChatGPT εισήχθη τον Νοέμβριο του 2022 από το OpenAI και άλλαξε περαιτέρω την κατανόησή μας για το πώς μπορεί να αλληλεπιδράσουν το AI και η ανθρώπινη δημιουργικότητα. Δομημένο ως chatbot – ένα πρόγραμμα που μιμείται την ανθρώπινη συνομιλία – το ChatGPT μπορεί να κάνει πολλά περισσότερα από τη συνομιλία. Όταν χρησιμοποιείται σωστά, είναι σε θέση να γράφει λειτουργικό κώδικα υπολογιστή, να λύνει μαθηματικά προβλήματα και να μιμείται κοινές εργασίες γραφής, από κριτικές βιβλίων έως ακαδημαϊκές εργασίες, ομιλίες γάμου και νομικά συμβόλαια.

Ήταν αμέσως προφανές πώς το πρόγραμμα θα μπορούσε να είναι ένα όφελος για όσους δυσκολεύονται, ας πούμε, να γράφουν μηνύματα ηλεκτρονικού ταχυδρομείου ή δοκίμια, αλλά και πώς, όπως και με τις γεννήτριες εικόνων, θα μπορούσε να χρησιμοποιηθεί για να αντικαταστήσει όσους ζουν από αυτές τις εργασίες.

Πολλά σχολεία και πανεπιστήμια έχουν ήδη εφαρμόσει πολιτικές που απαγορεύουν τη χρήση του ChatGPT εν μέσω φόβου ότι οι μαθητές θα το χρησιμοποιήσουν για να γράψουν τα δοκίμιά τους, ενώ το ακαδημαϊκό περιοδικό Nature αναγκάστηκε να δημοσιεύσει πολιτικές που εξηγούν γιατί το πρόγραμμα δεν μπορεί να καταχωρηθεί ως συγγραφέας ερευνητικών εργασιών ( δεν μπορεί να δώσει τη συγκατάθεσή του και δεν μπορεί να λογοδοτήσει).

Αλλά τα ίδια τα ιδρύματα δεν είναι απρόσβλητα από ακατάλληλες χρήσεις του εργαλείου: τον Φεβρουάριο, το Peabody College, ένα ιδιωτικό πανεπιστήμιο στο Τενεσί, σόκαρε τους φοιτητές όταν έστειλε μια συλλυπητήρια επιστολή και συμβουλές μετά από πυροβολισμό σε σχολείο στο Μίσιγκαν. Ενώ η επιστολή μιλούσε για την αξία της κοινότητας, του αμοιβαίου σεβασμού και της συνοχής, ένα σημείωμα στο κάτω μέρος ανέφερε ότι γράφτηκε από το ChatGPT – το οποίο αισθάνθηκε τόσο ηθικά λάθος όσο και κατά κάποιο τρόπο ψεύτικο ή παράξενο για πολλούς.

Φαίνεται ότι υπάρχουν πολλοί τομείς της ζωής όπου η μεσολάβηση των μηχανών απαιτεί κάποια βαθύτερη σκέψη. Αν δεν θα ήταν σκόπιμο να αντικαταστήσουμε τις επικοινωνίες μας χονδρικά με το ChatGPT, τότε μια σαφής τάση είναι να γίνει ένα είδος σοφού βοηθού, που θα μας καθοδηγεί μέσα από το βούρκο της διαθέσιμης γνώσης προς τις πληροφορίες που αναζητούμε.

Η Microsoft ήταν ένας από τους πρώτους κινητήριους παράγοντες προς αυτή την κατεύθυνση, επαναδιαμόρφωσε τη συχνά απαξιωμένη μηχανή αναζήτησής της Bing ως ένα chatbot που υποστηρίζεται από ChatGPT και ενίσχυσε μαζικά τη δημοτικότητά της με αυτόν τον τρόπο. Όμως, παρά τη διαδικτυακή (και δημοσιογραφική) βιασύνη να συμβουλευτείτε το ChatGPT για σχεδόν κάθε πιθανό πρόβλημα, η σχέση του με τη γνώση είναι κάπως σαθρή.

Μια πρόσφατη προσωπική αλληλεπίδραση με το ChatGPT πήγε κάπως έτσι. Του ζήτησα να προτείνει μερικά βιβλία προς ανάγνωση με βάση μια νέα περιοχή ενδιαφέροντος: τη δημοκρατία πολλών ειδών, την ιδέα της συμπερίληψης μη ανθρώπινων πλασμάτων στις διαδικασίες λήψης πολιτικών αποφάσεων. Είναι λίγο πολύ η πιο χρήσιμη εφαρμογή του εργαλείου: "Γεια, εδώ είναι ένα πράγμα που σκέφτομαι, μπορείτε να μου πείτε περισσότερα;" Και το ChatGPT υποχρεούται.

Μου έδωσε μια λίστα με πολλά βιβλία που εξερεύνησαν σε βάθος αυτή τη μυθιστορηματική περιοχή ενδιαφέροντος και περιέγραψαν με πειστική ανθρώπινη γλώσσα γιατί πρέπει να τα διαβάσω. Αυτό ήταν λαμπρό! Εκτός από αυτό, αποδείχθηκε ότι μόνο ένα από τα τέσσερα βιβλία που παρατίθενται υπήρχαν στην πραγματικότητα και αρκετές από τις έννοιες που η ChatGPT πίστευε ότι έπρεπε να εξερευνήσω περαιτέρω αφαιρέθηκαν από τη δεξιά προπαγάνδα: εξήγησε, για παράδειγμα, ότι το κίνημα της «σοφής χρήσης» προώθησε τα δικαιώματα των ζώων , ενώ στην πραγματικότητα πρόκειται για μια ελευθεριακή, αντιπεριβαλλοντική έννοια που προωθεί τη διεύρυνση των δικαιωμάτων ιδιοκτησίας.

Τώρα, αυτό δεν συνέβη επειδή το ChatGPT είναι εγγενώς δεξιό. Είναι επειδή είναι εγγενώς ανόητο. Έχει διαβάσει το μεγαλύτερο μέρος του Διαδικτύου και ξέρει πώς υποτίθεται ότι ακούγεται η ανθρώπινη γλώσσα, αλλά δεν έχει καμία απολύτως σχέση με την πραγματικότητα. Είναι ονειρεμένες προτάσεις που ακούγονται σωστά, και το να ακούς να μιλάει είναι ειλικρινά εξίσου ενδιαφέρον με το να ακούς τα όνειρα κάποιου.

Η πίστη σε αυτό το είδος τεχνητής νοημοσύνης ως πραγματικά γνώστης ή νόημα είναι ενεργά επικίνδυνη. Κινδυνεύει να δηλητηριάσει το πηγάδι της συλλογικής σκέψης και της ικανότητάς μας να σκεφτόμαστε καθόλου. Εάν, όπως προτείνεται από εταιρείες τεχνολογίας, τα αποτελέσματα των ερωτημάτων ChatGPT θα παρέχονται ως απαντήσεις σε όσους αναζητούν γνώση στο διαδίκτυο και εάν, όπως έχει προταθεί από ορισμένους σχολιαστές, το ChatGPT χρησιμοποιείται στην τάξη ως βοηθός διδασκαλίας, τότε Οι ψευδαισθήσεις θα εισέλθουν στο μόνιμο αρχείο, ουσιαστικά θα έρθουν ανάμεσα σε εμάς και σε πιο νόμιμες, ελεγχόμενες πηγές πληροφοριών, έως ότου η γραμμή μεταξύ των δύο είναι τόσο θολή ώστε να είναι αόρατη.

Επιπλέον, δεν υπήρξε ποτέ φορά που η ικανότητά μας ως άτομα να ερευνούμε και να αξιολογούμε κριτικά τη γνώση για λογαριασμό μας να ήταν πιο απαραίτητη, κυρίως λόγω της ζημιάς που έχουν ήδη κάνει οι εταιρείες τεχνολογίας στους τρόπους με τους οποίους διαχέονται οι πληροφορίες. Το να εναποθέσουμε όλη μας την εμπιστοσύνη στα όνειρα των κακοπρογραμματισμένων μηχανών θα σήμαινε ότι εγκαταλείπαμε εντελώς αυτή την κριτική σκέψη.

Οι τεχνολογίες AI είναι κακές και για τον πλανήτη. Η εκπαίδευση ενός μόνο μοντέλου τεχνητής νοημοσύνης –σύμφωνα με έρευνα που δημοσιεύτηκε το 2019– μπορεί να εκπέμπει το ισοδύναμο με περισσότερους από 284 τόνους διοξειδίου του άνθρακα, που είναι σχεδόν πέντε φορές περισσότερο από τη συνολική διάρκεια ζωής ενός μέσου αμερικανικού αυτοκινήτου, συμπεριλαμβανομένης της κατασκευής του.

Αυτές οι εκπομπές αναμένεται να αυξηθούν κατά σχεδόν 50% τα επόμενα πέντε χρόνια, ενώ ο πλανήτης συνεχίζει να θερμαίνεται, οξινίζοντας τους ωκεανούς, αναφλέγοντας δασικές πυρκαγιές, προκαλώντας υπερκαταιγίδες και οδηγώντας τα είδη στην εξαφάνιση. Είναι δύσκολο να σκεφτείς κάτι πιο ανόητο από την τεχνητή νοημοσύνη, όπως εφαρμόζεται στην τρέχουσα εποχή.

Πηγή: The stupidity of AI