Περίληψη άρθρου:

Το OpenAI διέλυσε την ομάδα του που ασχολείται με τους μακροπρόθεσμους κινδύνους της τεχνητής νοημοσύνης, με τα μέλη της ομάδας να μετατίθενται σε άλλα τμήματα. Η ομάδα, με επικεφαλής τους Ilya Sutskever και Jan Leike, είχε ως στόχο να κατευθύνει και να ελέγχει εξυπνότερα συστήματα τεχνητής νοημοσύνης. Ο Leike τόνισε την ανάγκη για μια προσέγγιση με προτεραιότητα την ασφάλεια, αλλά διαφώνησε με την ηγεσία της εταιρείας και τελικά αποχώρησε λόγω αντικρουόμενων προτεραιοτήτων. Ο διευθύνων σύμβουλος της OpenAI εξέφρασε τη θλίψη του για τις αποχωρήσεις και αναγνώρισε τη σημασία της ευαισθητοποίησης σχετικά με τους κινδύνους της ΑΓΙ. Η διάλυση ακολουθεί μια κρίση ηγεσίας που αφορούσε τον Altman και προηγούμενες διαφωνίες εντός της εταιρείας σχετικά με την ανάπτυξη της τεχνητής νοημοσύνης. Παρά τις προκλήσεις αυτές, η OpenAI εγκαινίασε πρόσφατα νέα μοντέλα AI, όπως το ChatGPT, για να επεκτείνει τις υπηρεσίες της.

 

Κύρια σημεία του άρθρου:

• Το OpenAI διαλύει την ομάδα του που επικεντρώνεται στους μακροπρόθεσμους κινδύνους της τεχνητής νοημοσύνης
• Τα μέλη της ομάδας επανατοποθετούνται σε άλλες ομάδες εντός της εταιρείας
• Οι επικεφαλής Ilya Sutskever και Jan Leike αποχωρούν από την startup που υποστηρίζεται από τη Microsoft
• Ο Leike εκφράζει την ανησυχία του για την κουλτούρα ασφάλειας που έχει περάσει σε δεύτερη μοίρα σε σχέση με την ανάπτυξη προϊόντων
• Η OpenAI είχε μια ομάδα Superalignment που είχε δεσμευτεί να κατευθύνει και να ελέγχει συστήματα τεχνητής νοημοσύνης εξυπνότερα από τους ανθρώπους
• Ο συνιδρυτής και διευθύνων σύμβουλος Sam Altman μοιράζεται τα συναισθήματά του σχετικά με τις πρόσφατες αποχωρήσεις, αλλά δεν προσφέρει κανένα άμεσο σχόλιο σχετικά με τη διάλυση της ομάδας

 

Αναλυτικά το άρθρο:

Η OpenAI διέλυσε την ομάδα της που ασχολείται με τους μακροπρόθεσμους κινδύνους της τεχνητής νοημοσύνης, μόλις ένα χρόνο μετά την ανακοίνωση της ομάδας από την εταιρεία, όπως επιβεβαίωσε την Παρασκευή στο CNBC άτομο που γνωρίζει την κατάσταση.

Το πρόσωπο, το οποίο μίλησε υπό τον όρο της ανωνυμίας, δήλωσε ότι ορισμένα από τα μέλη της ομάδας μετατίθενται σε πολλές άλλες ομάδες εντός της εταιρείας.

Η είδηση έρχεται λίγες ημέρες αφότου και οι δύο επικεφαλής της ομάδας, ο συνιδρυτής της OpenAI Ilya Sutskever και ο Jan Leike, ανακοίνωσαν την αποχώρησή τους από την startup που υποστηρίζεται από τη Microsoft. Ο Leike την Παρασκευή έγραψε ότι η «κουλτούρα ασφάλειας και οι διαδικασίες της OpenAI έχουν περάσει σε δεύτερη μοίρα μπροστά στα λαμπερά προϊόντα».

Η ομάδα Superalignment του OpenAI, που ανακοινώθηκε πέρυσι, έχει επικεντρωθεί σε «επιστημονικές και τεχνικές ανακαλύψεις για την καθοδήγηση και τον έλεγχο συστημάτων τεχνητής νοημοσύνης πολύ πιο έξυπνων από εμάς». Τότε, το OpenAI δήλωσε ότι θα δεσμεύσει το 20% της υπολογιστικής του ισχύος στην πρωτοβουλία αυτή για τέσσερα χρόνια.

Η OpenAI δεν παρείχε κάποιο σχόλιο και αντ' αυτού παρέπεμψε το CNBC στην πρόσφατη ανάρτηση του συνιδρυτή και διευθύνοντος συμβούλου Sam Altman στο X, όπου μοιράστηκε ότι λυπάται που βλέπει τον Leike να φεύγει και ότι η εταιρεία έχει περισσότερη δουλειά να κάνει. Το Σάββατο, ο συνιδρυτής της OpenAI Greg Brockman δημοσίευσε μια δήλωση που αποδίδεται τόσο στον ίδιο όσο και στον Altman στο X, υποστηρίζοντας ότι η εταιρεία «αύξησε την ευαισθητοποίηση σχετικά με τους κινδύνους και τις ευκαιρίες της AGI, ώστε ο κόσμος να προετοιμαστεί καλύτερα γι' αυτήν».

Η είδηση της διάλυσης της ομάδας αναφέρθηκε για πρώτη φορά από το Wired.

Ο Sutskever και ο Leike ανακοίνωσαν την Τρίτη τις αποχωρήσεις τους στην πλατφόρμα κοινωνικής δικτύωσης X, με διαφορά ωρών, αλλά την Παρασκευή, ο Leike μοιράστηκε περισσότερες λεπτομέρειες σχετικά με τους λόγους για τους οποίους εγκατέλειψε την startup.

«Συμμετείχα επειδή πίστευα ότι το OpenAI θα ήταν το καλύτερο μέρος στον κόσμο για να κάνω αυτή την έρευνα», έγραψε ο Leike στο X. «Ωστόσο, διαφωνούσα με την ηγεσία του OpenAI σχετικά με τις βασικές προτεραιότητες της εταιρείας για αρκετό καιρό, μέχρι που τελικά φτάσαμε σε σημείο ρήξης».

Ο Leike έγραψε ότι πιστεύει ότι πολύ περισσότερο από το εύρος ζώνης της εταιρείας θα πρέπει να επικεντρωθεί στην ασφάλεια, την παρακολούθηση, την ετοιμότητα, την ασφάλεια και τον κοινωνικό αντίκτυπο.

«Αυτά τα προβλήματα είναι αρκετά δύσκολο να γίνουν σωστά και ανησυχώ ότι δεν είμαστε σε τροχιά για να φτάσουμε εκεί», έγραψε. «Τους τελευταίους μήνες η ομάδα μου πλέει κόντρα στον άνεμο. Μερικές φορές παλεύαμε για [υπολογιστικούς πόρους] και γινόταν όλο και πιο δύσκολο να γίνει αυτή η κρίσιμη έρευνα».

Ο Leike πρόσθεσε ότι η OpenAI πρέπει να γίνει μια «εταιρεία AGI με προτεραιότητα την ασφάλεια».

«Η κατασκευή μηχανών πιο έξυπνων από τον άνθρωπο είναι μια εγγενώς επικίνδυνη προσπάθεια», έγραψε. «Η OpenAI επωμίζεται μια τεράστια ευθύνη για λογαριασμό ολόκληρης της ανθρωπότητας. Αλλά τα τελευταία χρόνια, η κουλτούρα και οι διαδικασίες ασφάλειας έχουν περάσει σε δεύτερη μοίρα μπροστά στα λαμπερά προϊόντα».

Ο Leike δεν ανταποκρίθηκε αμέσως σε αίτημα για σχολιασμό.

Οι υψηλού προφίλ αποχωρήσεις έρχονται μήνες μετά την κρίση ηγεσίας που πέρασε η OpenAI με την Altman.

Τον Νοέμβριο, το διοικητικό συμβούλιο της OpenAI απομάκρυνε τον Altman, λέγοντας σε ανακοίνωσή του ότι ο Altman δεν ήταν «σταθερά ειλικρινής στις επικοινωνίες του με το διοικητικό συμβούλιο».

Το θέμα φαινόταν να γίνεται κάθε μέρα και πιο περίπλοκο, με την Wall Street Journal και άλλα μέσα ενημέρωσης να αναφέρουν ότι ο Sutskever εστίασε την προσοχή του στη διασφάλιση ότι η τεχνητή νοημοσύνη δεν θα βλάψει τους ανθρώπους, ενώ άλλοι, συμπεριλαμβανομένου του Altman, ήταν πιο πρόθυμοι να προχωρήσουν στην παράδοση της νέας τεχνολογίας.

Η απομάκρυνση του Altman προκάλεσε παραιτήσεις ή απειλές παραίτησης, συμπεριλαμβανομένης μιας ανοιχτής επιστολής που υπογράφουν σχεδόν όλοι οι εργαζόμενοι της OpenAI, και αναταραχή από τους επενδυτές, συμπεριλαμβανομένης της Microsoft. Μέσα σε μια εβδομάδα, ο Altman επέστρεψε στην εταιρεία και τα μέλη του διοικητικού συμβουλίου Helen Toner, Tasha McCauley και Ilya Sutskever, που είχαν ψηφίσει για την απομάκρυνση του Altman, είχαν αποχωρήσει. Ο Sutskever παρέμεινε τότε στο προσωπικό, αλλά όχι πλέον με την ιδιότητά του ως μέλος του διοικητικού συμβουλίου. Ο Adam D'Angelo, ο οποίος είχε επίσης ψηφίσει υπέρ της απομάκρυνσης του Altman, παρέμεινε στο διοικητικό συμβούλιο.

Όταν ο Altman ρωτήθηκε σχετικά με την κατάσταση του Sutskever σε μια κλήση Zoom με δημοσιογράφους τον Μάρτιο, είπε ότι δεν υπήρχαν ενημερώσεις για να μοιραστεί.

«Αγαπώ τον Ίλια ... Ελπίζω να δουλέψουμε μαζί για το υπόλοιπο της καριέρας μας, της καριέρας μου, οτιδήποτε", δήλωσε ο Altman. «Δεν υπάρχει τίποτα να ανακοινώσουμε σήμερα».

Την Τρίτη, ο Altman μοιράστηκε τις σκέψεις του σχετικά με την αποχώρηση του Sutskever.

«Αυτό είναι πολύ λυπηρό για μένα- ο Ilya είναι εύκολα ένα από τα μεγαλύτερα μυαλά της γενιάς μας, ένας οδηγός του τομέα μας και ένας αγαπητός φίλος», έγραψε ο Altman στο X. «Η ευφυΐα και το όραμά του είναι γνωστά- η ζεστασιά και η συμπόνια του είναι λιγότερο γνωστά, αλλά όχι λιγότερο σημαντικά». Ο Altman δήλωσε ότι ο διευθυντής έρευνας Jakub Pachocki, ο οποίος βρίσκεται στο OpenAI από το 2017, θα αντικαταστήσει τον Sutskever ως επικεφαλής επιστήμονας.

Οι ειδήσεις για τις αποχωρήσεις των Sutskever και Leike και τη διάλυση της ομάδας υπερεξουσίας, έρχονται λίγες ημέρες αφότου η OpenAI ξεκίνησε ένα νέο μοντέλο AI και μια έκδοση desktop του ChatGPT, μαζί με μια ενημερωμένη διεπαφή χρήστη, την τελευταία προσπάθεια της εταιρείας να επεκτείνει τη χρήση του δημοφιλούς chatbot της.

Η ενημέρωση φέρνει το μοντέλο GPT-4 σε όλους, συμπεριλαμβανομένων των δωρεάν χρηστών της OpenAI, δήλωσε η επικεφαλής τεχνολογίας Mira Murati τη Δευτέρα σε μια εκδήλωση που μεταδόθηκε σε ζωντανή ροή. Πρόσθεσε ότι το νέο μοντέλο, GPT-4o, είναι «πολύ πιο γρήγορο», με βελτιωμένες δυνατότητες σε κείμενο, βίντεο και ήχο.

Η OpenAI δήλωσε ότι σχεδιάζει τελικά να επιτρέψει στους χρήστες να κάνουν video chat με το ChatGPT. «Αυτή είναι η πρώτη φορά που κάνουμε πραγματικά ένα τεράστιο βήμα προς τα εμπρός όσον αφορά την ευκολία χρήσης», δήλωσε ο Murati.

 

Πηγή: OpenAI dissolves team focused on long-term AI risks, less than one year after announcing it