Περίληψη άρθρου:

Ο πρόσφατος ανασχηματισμός του διοικητικού συμβουλίου του OpenAI, ο οποίος οδήγησε σε ένα συμβούλιο αποκλειστικά ανδρών, αναδεικνύει την ανισορροπία των φύλων στον τομέα της τεχνητής νοημοσύνης. Η Timnit Gebru, εξέχουσα ερευνήτρια Τεχνητής Νοημοσύνης, δηλώνει ότι δεν θα συμμετείχε στο διοικητικό συμβούλιο λόγω της έλλειψης ποικιλομορφίας. Το περιστατικό εγείρει επίσης ανησυχίες σχετικά με την καταπίεση των ηθικών προβληματισμών εντός του OpenAI. Τα σχέδια της εταιρείας να διευρύνει το διοικητικό της συμβούλιο έχουν προκαλέσει εικασίες σχετικά με πιθανά μέλη που μπορούν να υποστηρίξουν την υπεύθυνη και αξιόπιστη τεχνολογία. Ωστόσο, υπάρχουν ανησυχίες ότι τα νέα μέλη μπορεί να αντιμετωπίσουν την τοποθέτηση συμβόλων και την περιθωριοποίηση χωρίς τη δύναμη να οδηγήσουν σε ουσιαστικές αλλαγές.

Κύρια σημεία του άρθρου:

• Η OpenAI αντικατέστησε πρόσφατα τις γυναίκες στο διοικητικό της συμβούλιο με άνδρες, με αποτέλεσμα να υπάρχει ανισορροπία μεταξύ των δύο φύλων.
• Η απόλυση του διευθύνοντος συμβούλου Sam Altman και η αναδιαμόρφωση του διοικητικού συμβουλίου σόκαρε τους εργαζόμενους και σηματοδότησε την επιστροφή σε μια ανδροκρατούμενη δομή εξουσίας.
• Ο διακεκριμένος ερευνητής Τεχνητής Νοημοσύνης Timnit Gebru, ο οποίος απολύθηκε από την Google το 2020, έχει προβληθεί ως πιθανός υποψήφιος για το διοικητικό συμβούλιο, αλλά δεν ενδιαφέρεται να συμμετάσχει.
• Η έλλειψη γυναικών στην τεχνητή νοημοσύνη είναι ένα μακροχρόνιο ζήτημα, καθώς μόνο το 12% των κορυφαίων ερευνητών μηχανικής μάθησης είναι γυναίκες.
• Η εκδίωξη των γυναικών μελών του διοικητικού συμβουλίου αναδεικνύει τις προκλήσεις που αντιμετωπίζουν οι γυναίκες στον κλάδο της τεχνητής νοημοσύνης και υποδηλώνει ότι τα ηθικά ζητήματα μπορεί να παραγκωνίζονται.
• Το διοικητικό συμβούλιο του OpenAI, το οποίο αποτελείται αποκλειστικά από άνδρες, αντανακλά μια πολιτισμική μετατόπιση μακριά από την ποικιλομορφία και προς την προτεραιότητα της εμπορικής εκμετάλλευσης και της τεχνολογικής φιλοδοξίας.

Αναλυτικά το άρθρο:

Μετά από εσωτερικό χάος νωρίτερα αυτό το μήνα, η OpenAI αντικατέστησε τις γυναίκες στο διοικητικό της συμβούλιο με άνδρες. Καθώς σχεδιάζει να προσθέσει περισσότερες θέσεις, ο Timnit Gebru, η Sasha Luccioni και άλλες προσωπικότητες της τεχνητής νοημοσύνης λένε στο WIRED γιατί δεν θα συμμετείχαν.

Νωρίτερα αυτόν τον μήνα, το διοικητικό συμβούλιο της OpenAI απέλυσε αιφνιδιαστικά τον δημοφιλή διευθύνοντα σύμβουλό της, Sam Altman. Η απομάκρυνση συγκλόνισε τον κόσμο της τεχνολογίας και εξόργισε τους πιστούς υπαλλήλους του Altman, η συντριπτική πλειοψηφία των οποίων απείλησε να παραιτηθεί αν δεν αποκατασταθεί το αφεντικό τους.

Μετά από μια χαοτική πενθήμερη εξορία, ο Altman πήρε πίσω την παλιά του δουλειά - με ένα αναδιαμορφωμένο, αποκλειστικά ανδρικό διοικητικό συμβούλιο να τον επιβλέπει, με επικεφαλής τον πρώην διευθύνοντα σύμβουλο της Salesforce και πρώην πρόεδρο του διοικητικού συμβουλίου του Twitter, Bret Taylor.

Αυτή τη στιγμή, μόνο τρία άτομα συμμετέχουν σε αυτό το προσωρινό συμβούλιο του OpenAI. (Αναμένεται να προστεθούν και άλλοι.) Αμέσως πριν από το αποτυχημένο πραξικόπημα, υπήρχαν έξι. Ο Altman και οι συνιδρυτές του OpenAI Greg Brockman και Ilya Sutskever κάθονταν μαζί με τον διευθύνοντα σύμβουλο της Quora Adam D'Angelo, την Helen Toner, ερευνήτρια για την ασφάλεια της τεχνητής νοημοσύνης, και την Tasha McCauley, μια μηχανικό ρομποτικής που ηγείται μιας startup 3D-mapping.

Οι λεπτομέρειες της απόπειρας ανατροπής του διοικητικού συμβουλίου παραμένουν μυστήριο. Από αυτούς τους έξι, ο D'Angelo είναι ο μόνος που έμεινε όρθιος. Εκτός από τον Τέιλορ, το άλλο νέο μέλος του διοικητικού συμβουλίου είναι ο πρώην υπουργός Οικονομικών των ΗΠΑ Λάρι Σάμερς, ένα ζωντανό έμβλημα του αμερικανικού καπιταλισμού, ο οποίος κακόφημα δήλωσε το 2005 ότι οι έμφυτες διαφορές των δύο φύλων μπορεί να εξηγούν γιατί λιγότερες γυναίκες πετυχαίνουν σε καριέρες STEM (αργότερα ζήτησε συγγνώμη).

Ενώ οι Altman, Brockman και Sutskever εξακολουθούν να εργάζονται στην OpenAI παρά την απουσία τους από το διοικητικό συμβούλιο, οι Toner και McCauley - οι δύο γυναίκες που συμμετείχαν στο διοικητικό συμβούλιο - είναι πλέον αποκομμένες από την εταιρεία. Καθώς η νεοσύστατη επιχείρηση τεχνητής νοημοσύνης προχωράει μπροστά, η έντονη ανισορροπία των φύλων στο ανανεωμένο διοικητικό της συμβούλιο καταδεικνύει την επισφαλή θέση των γυναικών στην τεχνητή νοημοσύνη.

"Αυτό που υπογραμμίζει αυτό είναι ότι δεν υπάρχουν αρκετές γυναίκες στο μείγμα", λέει η Margaret O'Mara, καθηγήτρια ιστορίας στο Πανεπιστήμιο της Ουάσινγκτον και συγγραφέας του βιβλίου The Code: Silicon Valley and the Remaking of America. Για την O'Mara, το νέο διοικητικό συμβούλιο αντικατοπτρίζει τη δομή εξουσίας της Silicon Valley, σηματοδοτώντας ότι "επιστρέφει στις δουλειές της" η πιο επιδραστική εταιρεία τεχνητής νοημοσύνης στον κόσμο - αν "επιστρέφει στις δουλειές της" σημαίνει επιστροφή στη λέσχη των αγοριών της Μεγάλης Τεχνολογίας. (Αξίζει να σημειωθεί ότι όταν ιδρύθηκε το 2015, η OpenAI είχε μόνο δύο μέλη του διοικητικού συμβουλίου: Altman και Elon Musk).

Ο διακεκριμένος ερευνητής Τεχνητής Νοημοσύνης Timnit Gebru, ο οποίος απολύθηκε από την Google στα τέλη του 2020 λόγω διαφωνίας σχετικά με μια ερευνητική εργασία που αφορούσε την κριτική ανάλυση μεγάλων γλωσσικών μοντέλων, έχει εμφανιστεί στα μέσα ενημέρωσης ως πιθανός υποψήφιος για το διοικητικό συμβούλιο.

Είναι, πράγματι, ηγέτης στην υπεύθυνη τεχνητή νοημοσύνη- μετά τη Google, ίδρυσε το Distributed AI Research Institute, το οποίο περιγράφει τον εαυτό του ως έναν χώρο όπου "η τεχνητή νοημοσύνη δεν είναι αναπόφευκτη, οι βλάβες της μπορούν να αποφευχθούν". Αν το OpenAI ήθελε να σηματοδοτήσει ότι εξακολουθεί να δεσμεύεται για την ασφάλεια της ΤΝ, η Gebru θα ήταν μια έξυπνη επιλογή. Επίσης, μια αδύνατη επιλογή: Δεν θέλει μια θέση στο διοικητικό συμβούλιο.

"Είναι αποκρουστικό για μένα", λέει ο Gebru. "Ειλικρινά πιστεύω ότι υπάρχει μεγαλύτερη πιθανότητα να επιστρέψω στην Google -εννοώ, δεν θα με έχουν και δεν θα τους έχω- παρά να πάω στην OpenAI".

Η έλλειψη γυναικών στον τομέα της τεχνητής νοημοσύνης αποτελεί ζήτημα εδώ και χρόνια- το 2018, το WIRED εκτίμησε ότι μόνο το 12% των κορυφαίων ερευνητών μηχανικής μάθησης ήταν γυναίκες. Το 2020, το Παγκόσμιο Οικονομικό Φόρουμ διαπίστωσε ότι μόνο το 26 τοις εκατό των θέσεων δεδομένων και ΤΝ στο εργατικό δυναμικό κατέχουν γυναίκες. "Η τεχνητή νοημοσύνη είναι πολύ ανισόρροπη όσον αφορά το φύλο", λέει η Sasha Luccioni, ερευνήτρια ηθικής της τεχνητής νοημοσύνης στην HuggingFace. "Δεν είναι ένας πολύ φιλόξενος τομέας για τις γυναίκες".

Ένας από τους τομείς στους οποίους οι γυναίκες ευδοκιμούν στον κλάδο της τεχνητής νοημοσύνης είναι ο κόσμος της ηθικής και της ασφάλειας, τον οποίο η Luccioni θεωρεί ως συγκριτικά περιεκτικό. Θεωρεί επίσης σημαντικό το γεγονός ότι τα αποπεμφθέντα μέλη του διοικητικού συμβουλίου φέρονται να συγκρούστηκαν με την Altman σχετικά με την αποστολή του OpenAI. Σύμφωνα με τους New York Times, ο Toner και ο Altman είχαν διαπληκτιστεί για μια ερευνητική εργασία που δημοσίευσε με τους συν-συγγραφείς της τον Οκτώβριο και την οποία ο Altman ερμήνευσε ως επικριτική για την εταιρεία. Η Luccioni πιστεύει ότι εκτός από την ανάδειξη των ανισοτήτων μεταξύ των δύο φύλων, το περιστατικό αυτό δείχνει επίσης πώς οι φωνές που υποστηρίζουν ηθικές εκτιμήσεις αποσιωπούνται.

"Δεν νομίζω ότι απολύθηκαν επειδή είναι γυναίκες", λέει η Luccioni. "Νομίζω ότι απολύθηκαν επειδή ανέδειξαν ένα ζήτημα". (Τεχνικά, και οι δύο γυναίκες συμφώνησαν να αποχωρήσουν από το διοικητικό συμβούλιο).

"Είναι αποκρουστικό για μένα. Ειλικρινά πιστεύω ότι υπάρχει μεγαλύτερη πιθανότητα να επιστρέψω στην Google -εννοώ, δεν θα με έχουν και δεν θα τους έχω- παρά να πάω στην OpenAI".

Ανεξάρτητα από το τι ήταν αυτό που προκάλεσε τη σύγκρουση στην OpenAI, ο τρόπος με τον οποίο επιλύθηκε, με τον Altman πίσω στο τιμόνι και τους διαφωνούντες του έξω, έπαιξε σε μια αφήγηση: Ο Altman αναδεικνύεται νικητής, πλαισιωμένος από πιστούς και υποστηρικτές. Το διοικητικό του συμβούλιο είναι τώρα εφοδιασμένο με άνδρες που επιθυμούν να εμπορευματοποιήσουν τα προϊόντα του OpenAI, όχι να περιορίσουν τις τεχνολογικές φιλοδοξίες του. (Ένας πρόσφατος τίτλος που αποτυπώνει αυτή την προοπτική: "Η τεχνητή νοημοσύνη ανήκει στους καπιταλιστές τώρα"). Η προσοχή που υποστηρίζεται από τη γυναικεία ηγεσία τουλάχιστον φαίνεται να έχει χάσει.

Η O'Mara βλέπει το διοικητικό συμβούλιο του OpenAI, το οποίο αποτελείται αποκλειστικά από άνδρες, ως σημάδι ενός πολιτιστικού εκκρεμούς που ταλαντεύεται.

Ακριβώς όπως ορισμένες τεχνολογικές εταιρείες της Silicon Valley εργάζονται για να διορθώσουν τις θλιβερές επιδόσεις τους στην ποικιλομορφία και να εξετάσουν το περιβαλλοντικό τους αποτύπωμα, άλλες έχουν αποτραβηχτεί από τον "γουοκισμό" σε διάφορες μορφές, υποστηρίζοντας αντίθετα σκληρές πεποιθήσεις σχετικά με την εργασιακή κουλτούρα.

"Είναι αυτό το συναίσθημα γύρω από το "Εντάξει, τελειώσαμε με τις ευαισθησίες"", λέει.

"Είτε πρόκειται για τα "εξαιρετικά σκληροπυρηνικά" αιτήματα του Elon Musk είτε για το πρόσφατο μανιφέστο του Marc Andreessen, η ιδέα είναι ότι αν ζητάς από τους ανθρώπους να κάνουν μια παύση και να εξετάσουν τις πιθανές βλάβες ή να διαμαρτυρηθούν για την έλλειψη εκπροσώπησης, αυτό είναι ορθογώνιο για τη δουλειά τους".

Το OpenAI φέρεται να σχεδιάζει να διευρύνει το διοικητικό συμβούλιο σύντομα και οι εικασίες οργιάζουν σχετικά με το ποιοι θα συμμετάσχουν. Η εμφανώς αποκλειστικά ανδρική και λευκή σύνθεσή του σίγουρα δεν πέρασε απαρατήρητη, και το OpenAI εξετάζει ήδη προοπτικές που θα μπορούσαν να κατευνάσουν κάποιους επικριτές. Σύμφωνα με δημοσίευμα του Bloomberg, η φιλάνθρωπος Laurene Powell Jobs, η πρώην διευθύνουσα σύμβουλος της Yahoo Marissa Mayer και η πρώην υπουργός Εξωτερικών των ΗΠΑ Condoleezza Rice εξετάστηκαν αλλά δεν επιλέχθηκαν.

Τη στιγμή της δημοσίευσης, η OpenAI δεν είχε απαντήσει σε επανειλημμένα αιτήματα για σχόλια.

Για πολλούς θεατές, είναι ζωτικής σημασίας να επιλέξουν κάποιον που θα υποστηρίξει την εξισορρόπηση της φιλοδοξίας με την ασφάλεια και την υπευθυνότητα - κάποιον του οποίου η γραμμή έρευνας μπορεί να ταιριάζει με εκείνη της Toner, για παράδειγμα, και όχι κάποιον που απλώς της μοιάζει. "Το είδος των ανθρώπων που θα πρέπει να επαναφέρει αυτό το συμβούλιο είναι άνθρωποι που σκέφτονται την υπεύθυνη ή αξιόπιστη τεχνολογία και την ασφάλεια", λέει η Kay Firth-Butterfield, εκτελεστική διευθύντρια του Κέντρου για την αξιόπιστη τεχνολογία. "Υπάρχουν πολλές γυναίκες εκεί έξω που είναι ειδικοί στον συγκεκριμένο τομέα".

Καθώς η OpenAI αναζητά νέα μέλη του διοικητικού συμβουλίου, μπορεί να συναντήσει αντίσταση από υποψήφιους που είναι επιφυλακτικοί για τις πραγματικές δυναμικές εξουσίας εντός της εταιρείας. Υπάρχουν ήδη ανησυχίες σχετικά με την τοποθέτηση συμβόλων (tokenization). "Απλώς αισθάνομαι ότι το άτομο στο διοικητικό συμβούλιο θα περάσει φρικτά, επειδή θα δίνει συνεχώς μια δύσκολη μάχη", λέει ο Gebru. "Χρησιμοποιείται ως σύμβολο και δεν μπορεί να κάνει πραγματικά καμία διαφορά".

Δεν είναι το μόνο άτομο στον κόσμο της ηθικής της τεχνητής νοημοσύνης που αναρωτιέται αν τα νέα μέλη του διοικητικού συμβουλίου θα περιθωριοποιηθούν. "Δεν θα άγγιζα αυτό το διοικητικό συμβούλιο ούτε με ένα κοντάρι δέκα ποδιών", λέει ο Luccioni. Αισθάνεται ότι δεν θα μπορούσε να συστήσει ούτε σε έναν φίλο της να αναλάβει μια τέτοια θέση. "Τέτοιο άγχος!"

Η Meredith Whittaker, πρόεδρος της εφαρμογής ανταλλαγής μηνυμάτων Signal, βλέπει την αξία της προσθήκης κάποιου στο διοικητικό συμβούλιο που δεν είναι απλώς ένας ακόμη ιδρυτής νεοφυούς επιχείρησης, αλλά αμφιβάλλει ότι η προσθήκη μιας μόνο γυναίκας ή ενός έγχρωμου ατόμου θα τους δώσει τη δυνατότητα να επηρεάσουν ουσιαστική αλλαγή.

Αν το διευρυμένο διοικητικό συμβούλιο δεν είναι σε θέση να προκαλέσει πραγματικά τον Altman και τους συμμάχους του, το γέμισμά του με άτομα που συμπληρώνουν δημογραφικά κουτάκια για να ικανοποιήσουν τις εκκλήσεις για ποικιλομορφία θα μπορούσε να ισοδυναμεί με κάτι περισσότερο από "θέατρο ποικιλομορφίας".

"Δεν πρόκειται να λύσουμε το πρόβλημα -ότι η ΤΝ βρίσκεται στα χέρια συγκεντρωμένου κεφαλαίου επί του παρόντος- προσλαμβάνοντας απλώς πιο διαφορετικούς ανθρώπους για να εκπληρώσουμε τα κίνητρα του συγκεντρωμένου κεφαλαίου", λέει ο Whittaker. "Ανησυχώ για μια συζήτηση που επικεντρώνεται στην ποικιλομορφία και στη συνέχεια τοποθετεί τους ανθρώπους σε δωμάτια με τον [βρισιά] Larry Summers χωρίς πολλή δύναμη".

Πηγή: Prominent Women in Tech Say They Don't Want to Join OpenAI's All-Male Board