Περίληψη άρθρου:
Οι ερευνητές AI κατηγόρησαν το CBS και την Google για υπερβολική ανάδειξη της AI μετά από συνέντευξη του CEO της Google, Sundar Pichai, στο 60 Minutes. Στο τμήμα, ο Pichai αναφέρθηκε στην τεχνολογία AI ως "μαύρο κουτί" και ο ανταποκριτής Scott Pelley ισχυρίστηκε ότι ένα πρόγραμμα AI έμαθε μια γλώσσα που δεν είχε ξαναδεί ποτέ πριν από μόνο του. Ωστόσο, η Μάργκαρετ Μίτσελ, πρώην μέλος της ομάδας ηθικής της Google AI, επεσήμανε ότι το πρόγραμμα είχε πράγματι εκπαιδευτεί στο Μπενγκάλι. Ο Τζέισον Ποστ, εκπρόσωπος της Google, δήλωσε ότι η εταιρεία δεν είχε ποτέ ισχυριστεί ότι δεν εκπαίδευσε το PaLM στο Μπενγκάλι. Η Emily M. Bender, καθηγήτρια και ερευνήτρια του Πανεπιστημίου της Ουάσινγκτον, κάλεσε εταιρείες όπως η Google να λαμβάνουν υπόψη τις ανάγκες και τις εμπειρίες εκείνων που επηρεάζει η τεχνολογία τους, αντί να τοποθετούν την τεχνητή νοημοσύνη ως κάποιο μυστηριώδες, μαγικό, αυτόνομο ον. Είπε επίσης ότι η παραπλανητική κάλυψη της τεχνητής νοημοσύνης θα μπορούσε να έχει επιζήμια αποτελέσματα, καθώς δυσχεραίνει τη δημιουργία κατάλληλων κανονισμών.

Αναλυτικά το άρθρο:
Οι ερευνητές της τεχνητής νοημοσύνης καλούν τόσο το CBS όσο και την Google για υπερβολική υπερτίμηση της τεχνητής νοημοσύνης, μετά την προβολή από το δίκτυο μιας συνέντευξης υψηλού προφίλ στο 60 Minutes με τον διευθύνοντα σύμβουλο της Google Sundar Pichai. Στο τμήμα, ο ανταποκριτής Scott Pelley ισχυρίστηκε ότι ένα πρόγραμμα τεχνητής νοημοσύνης της Google έμαθε μια γλώσσα που δεν είχε ξαναδεί ποτέ από μόνο του, και ο Pichai αναφέρθηκε στην τεχνολογία τεχνητής νοημοσύνης ως "μαύρο κουτί" που ακόμη και οι άνθρωποι που εργάζονται στον τομέα δεν κατανοούν πλήρως. 

"Από τα θέματα AI για τα οποία μιλήσαμε, το πιο μυστηριώδες ονομάζεται "αναδυόμενες ιδιότητες"", είπε ο Pelley στην ενότητα. "Ορισμένα συστήματα τεχνητής νοημοσύνης μαθαίνουν μόνα τους δεξιότητες που δεν αναμένεται να έχουν. Το πώς συμβαίνει αυτό δεν είναι καλά κατανοητό".

Στη συνέχεια, το τμήμα περνάει σε ένα βίντεο με ένα πρόγραμμα τεχνητής νοημοσύνης που δημιουργήθηκε από την Google και το οποίο το δίκτυο δεν αναγνωρίζει, δείχνοντας έναν χρήστη να κάνει ερωτήσεις στο πρόγραμμα στα μπενγκάλι, μια γλώσσα που ομιλείται στο Μπαγκλαντές και την Ινδία, και το πρόγραμμα να απαντά με απαντήσεις τόσο στα μπενγκάλι όσο και στα αγγλικά. Το εν λόγω λογισμικό είναι το PaLM, η ίδια βασική τεχνολογία που τροφοδοτεί το Bard, το AI chatbot της Google που κυκλοφόρησε πρόσφατα.

Ο Pelley δήλωσε ότι το πρόγραμμα "προσαρμόστηκε από μόνο του" αφού του τέθηκαν ερωτήσεις στα Μπενγκάλι, μια γλώσσα στην οποία, όπως ισχυρίστηκε, δεν είχε εκπαιδευτεί να γνωρίζει. "Ανακαλύψαμε ότι με πολύ λίγες προτροπές στα Μπενγκάλι, μπορεί τώρα να μεταφράσει όλα τα Μπενγκάλι", δήλωσε στην εκπομπή ο Τζέιμς Μανίκα, αντιπρόεδρος της Google που επίσης πήρε συνέντευξη από το 60 Minutes. "Έτσι, τώρα, ξαφνικά, έχουμε μια ερευνητική προσπάθεια όπου προσπαθούμε τώρα να φτάσουμε σε χίλιες γλώσσες".

Σε δημοφιλή θέματα στο Twitter, δύο εξέχοντες ερευνητές τεχνητής νοημοσύνης αμφισβήτησαν αυτούς τους ισχυρισμούς. Η Μάργκαρετ Μίτσελ, ερευνήτρια και ηθικολόγος στην νεοφυή εταιρεία AI Hugging Face, η οποία στο παρελθόν ήταν συν-επικεφαλής της ομάδας ηθικής της AI της Google, επισήμανε ότι το PaLM, στην πραγματικότητα, εκπαιδεύεται στη Βεγγάλη σύμφωνα με μια εργασία που δημοσιεύθηκε από τους ίδιους τους ερευνητές της Google. Το έγγραφο αναφέρει ότι η Βεγγαλική γλώσσα αποτελούσε το 0,026% των δεδομένων εκπαίδευσης του PaLM.

"Προτρέποντας ένα μοντέλο που έχει εκπαιδευτεί στη Βεγγάλη με τη Βεγγαλική γλώσσα, θα γλιστρήσει πολύ εύκολα σε ό,τι γνωρίζει από τη Βεγγαλική γλώσσα: Έτσι λειτουργεί η προτροπή", έγραψε ο Mitchell στο Twitter. Δεν είναι δυνατόν, πρόσθεσε, η τεχνητή νοημοσύνη "να μιλάει καλά διαμορφωμένες γλώσσες στις οποίες δεν είχε ποτέ πρόσβαση".

Η Google παρουσίασε για πρώτη φορά το PaLM στο ετήσιο συνέδριό της για προγραμματιστές πέρυσι. Ο ίδιος ο Pichai επέδειξε επί σκηνής την ικανότητα του λογισμικού να κατανοεί και να απαντά σε ερωτήσεις στα Μπενγκάλι.  
"Αυτό που είναι τόσο εντυπωσιακό είναι ότι το PaLM δεν έχει δει ποτέ παράλληλες προτάσεις μεταξύ Μπενγκάλι και Αγγλικών", δήλωσε ο Pichai σε εκείνη την εκδήλωση. "Ποτέ δεν διδάχθηκε ρητά να απαντά σε ερωτήσεις ή να μεταφράζει καθόλου. Το μοντέλο συγκέντρωσε όλες τις δυνατότητές του για να απαντήσει σωστά σε ερωτήσεις στα Μπενγκάλι και μπορούμε να επεκτείνουμε την τεχνική σε περισσότερες γλώσσες και άλλες πολύπλοκες εργασίες".

Ο Jason Post, εκπρόσωπος της Google, δήλωσε στο BuzzFeed News ότι η εταιρεία δεν ισχυρίστηκε ποτέ ότι δεν εκπαίδευσε την PaLM στα Μπενγκάλι. "Ενώ το μοντέλο PaLM εκπαιδεύτηκε στη βασική συμπλήρωση προτάσεων σε μια μεγάλη ποικιλία γλωσσών (συμπεριλαμβανομένων των αγγλικών και της βεγγαλικής γλώσσας), δεν εκπαιδεύτηκε για να γνωρίζει πώς να 1) μεταφράζει μεταξύ γλωσσών, 2) να απαντά σε ερωτήσεις σε μορφή ερωτήσεων και απαντήσεων ή 3) να μεταφράζει πληροφορίες μεταξύ γλωσσών ενώ απαντά σε ερωτήσεις", ανέφερε ο Post σε μια δήλωση. "Έμαθε αυτές τις αναδυόμενες ικανότητες από μόνο του και αυτό είναι ένα εντυπωσιακό επίτευγμα".

Η Emily M. Bender, καθηγήτρια και ερευνήτρια του Πανεπιστημίου της Ουάσινγκτον, η οποία έγραψε ένα νήμα στο Twitter σχετικά με το τμήμα του 60 Minutes, διαφώνησε με τα σχόλια της Manyika. Η ικανότητα του προγράμματος να μεταφράζει "όλα τα Βεγγαλικά", δήλωσε η Bender στο BuzzFeed News, είναι ένας "μη ελεγμένος, ατεκμηρίωτος ισχυρισμός". 

"Τι σημαίνει στην πραγματικότητα 'όλα τα Βεγγαλικά';" τουίταρε ο Μπέντερ. "Πώς δοκιμάστηκε αυτό;" Έγραψε επίσης ότι η δήλωση της Manyika αγνόησε ή απέκρυψε το γεγονός ότι τα κείμενα της Βεγγάλης βρίσκονται στα δεδομένα εκπαίδευσης.

Η Bender έγραψε στο Twitter ότι ο όρος "'αναδυόμενες ιδιότητες" φαίνεται να είναι ο αξιοσέβαστος τρόπος να πούμε AGI, που σημαίνει τεχνητή γενική νοημοσύνη, μια υποθετική τεχνολογία που μπορεί να μαθαίνει μόνη της και να εκτελεί εργασίες καλύτερα από τους ανθρώπους.
Ο Μίτσελ ήταν εξίσου ωμός στο Twitter. "Η διατήρηση της πίστης στις "μαγικές" ιδιότητες και η ενίσχυσή της σε εκατομμύρια ανθρώπους εξυπηρετεί τους στόχους δημοσίων σχέσεων της Google", έγραψε ο Mitchell στο Twitter. "Δυστυχώς, πρόκειται για παραπληροφόρηση". 

Σε μια ξεχωριστή ανάρτηση στο Medium, ο Bender κάλεσε εταιρείες όπως η Google να λαμβάνουν "υπόψη τις ανάγκες και τις εμπειρίες εκείνων που επηρεάζει η τεχνολογία σας" αντί να τοποθετούν την τεχνητή νοημοσύνη "ως κάποιο μυστηριώδες, μαγικό, αυτόνομο ον".
Ο Bender δήλωσε στο BuzzFeed News ότι η παραπλανητική κάλυψη της Τεχνητής Νοημοσύνης θα μπορούσε να έχει επιζήμια αποτελέσματα. "Όταν οι ηγέτες της τεχνολογίας θολώνουν τα νερά σχετικά με το πώς λειτουργεί στην πραγματικότητα η τεχνολογία και μας καλούν να πιστέψουμε ότι έχει μυστηριώδεις "αναδυόμενες" ιδιότητες, αυτό δυσκολεύει τη δημιουργία κατάλληλων κανονισμών", δήλωσε ο Bender. "Είναι σημαντικό αυτή τη στιγμή να θεωρούμε τις εταιρείες υπεύθυνες για την τεχνολογία που βάζουν στον κόσμο και να μην τους επιτρέψουμε να μετατοπίσουν αυτή την ευθύνη στα ίδια τα λεγόμενα συστήματα τεχνητής νοημοσύνης".

Πηγή: Researchers Accused Google And “60 Minutes” Of Spreading AI “Disinformation”