Περίληψη άρθρου:

Ο Ilya Sutskever, συνιδρυτής του OpenAI, έχει ιδρύσει μια νέα εταιρεία με την ονομασία Safe Superintelligence Inc. (SSI) με εταίρους τους Daniel Gross και Daniel Levy. Ο Sutskever, γνωστός για το έργο του σχετικά με την ασφάλεια της τεχνητής νοημοσύνης στο OpenAI, εγκατέλειψε τον οργανισμό λόγω διαφωνιών σχετικά με τις προσεγγίσεις για την ασφάλεια της τεχνητής νοημοσύνης. Η SSI επικεντρώνεται στην προώθηση των δυνατοτήτων της ΤΝ διασφαλίζοντας παράλληλα ότι η ασφάλεια παραμένει προτεραιότητα χωρίς εμπορικές πιέσεις. Σε αντίθεση με το OpenAI, το SSI είναι μια κερδοσκοπική οντότητα και είναι πιθανό να προσελκύσει σημαντική χρηματοδότηση λόγω της εμπειρογνωμοσύνης της ομάδας του στην ΤΝ. Η εταιρεία εδρεύει στο Palo Alto και στο Τελ Αβίβ και προσλαμβάνει ενεργά τεχνικά ταλέντα για τις δραστηριότητές της.

 

Κύρια σημεία του άρθρου:

• Ο Illya Sutskever, συνιδρυτής του OpenAI, ίδρυσε μια νέα εταιρεία με την ονομασία Safe Superintelligence Inc. (SSI) λίγο μετά την αποχώρησή του από το OpenAI.
• Ο Sutskever ίδρυσε την SSI μαζί με τον πρώην συνεργάτη του Y Combinator Daniel Gross και τον πρώην μηχανικό του OpenAI Daniel Levy.
• Στο OpenAI, ο Sutskever επικεντρώθηκε στη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης με την άνοδο των "υπερ-ευφυών" συστημάτων τεχνητής νοημοσύνης μαζί με τον Jan Leike, προτού αποχωρήσουν και οι δύο από την εταιρεία λόγω διαφωνίας σχετικά με τις προσεγγίσεις ασφάλειας της τεχνητής νοημοσύνης.
• Σε μια ανάρτηση στο ιστολόγιο από το 2023, οι Sutskever και Leike προέβλεψαν την πιθανή άφιξη μιας τεχνητής νοημοσύνης ανώτερης από τον άνθρωπο μέσα στη δεκαετία και την αναγκαιότητα της έρευνας για τον έλεγχό της.
• Η νέα εταιρεία του Sutskever στοχεύει να επικεντρωθεί αποκλειστικά στην ασφάλεια και τις δυνατότητες σε συνδυασμό, χωρίς περισπασμούς από τα γενικά έξοδα της διοίκησης ή τις βραχυπρόθεσμες εμπορικές πιέσεις.
• Σε αντίθεση με την OpenAI, η οποία ξεκίνησε ως μη κερδοσκοπική εταιρεία και αργότερα αναδιαρθρώθηκε, η SSI έχει σχεδιαστεί ως κερδοσκοπική οντότητα.

 

Αναλυτικά το άρθρο:

Ο llya Sutskever, ένας από τους συνιδρυτές του OpenAI, ίδρυσε μια νέα εταιρεία, την Safe Superintelligence Inc. (SSI), μόλις ένα μήνα μετά την επίσημη αποχώρησή του από το OpenAI.

Ο Sutskever, ο οποίος ήταν επί μακρόν επικεφαλής επιστήμονας του OpenAI, ίδρυσε την SSI μαζί με τον πρώην συνεργάτη του Y Combinator Daniel Gross και τον πρώην μηχανικό του OpenAI Daniel Levy.

Στο OpenAI, ο Sutskever ήταν αναπόσπαστο μέρος των προσπαθειών της εταιρείας για τη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης με την άνοδο των "υπερ-ευφυών" συστημάτων τεχνητής νοημοσύνης, ένας τομέας στον οποίο εργάστηκε μαζί με τον Jan Leike, ο οποίος ήταν συν-επικεφαλής της ομάδας Superalignment του OpenAI. Ωστόσο, τόσο ο Sutskever όσο και ο Leike εγκατέλειψαν την εταιρεία τον Μάιο μετά από μια δραματική διαφωνία με την ηγεσία της OpenAI σχετικά με τον τρόπο προσέγγισης της ασφάλειας της τεχνητής νοημοσύνης. Ο Leike είναι τώρα επικεφαλής μιας ομάδας στην αντίπαλη εταιρεία τεχνητής νοημοσύνης Anthropic.

Ο Sutskever έχει ρίξει φως στις πιο δύσκολες πτυχές της ασφάλειας της τεχνητής νοημοσύνης εδώ και πολύ καιρό. Σε μια ανάρτηση στο ιστολόγιο που δημοσιεύτηκε το 2023, ο Sutskever, γράφοντας μαζί με τον Leike, προέβλεψε ότι η τεχνητή νοημοσύνη με νοημοσύνη ανώτερη από τον άνθρωπο θα μπορούσε να φτάσει μέσα στη δεκαετία - και ότι όταν φτάσει, δεν θα είναι απαραίτητα καλοπροαίρετη, γεγονός που καθιστά αναγκαία την έρευνα για τρόπους ελέγχου και περιορισμού της.

Είναι ξεκάθαρα αφοσιωμένος όσο ποτέ στον σκοπό αυτό σήμερα. Το απόγευμα της Τετάρτης, ένα tweet που ανακοινώνει τη σύσταση της νέας εταιρείας του Sutskever αναφέρει ότι: "Η SSI είναι η αποστολή μας, το όνομά μας και ολόκληρος ο οδικός χάρτης των προϊόντων μας, επειδή είναι η μοναδική μας εστίαση. Η ομάδα μας, οι επενδυτές και το επιχειρηματικό μας μοντέλο είναι όλα ευθυγραμμισμένα για την επίτευξη του SSI. Προσεγγίζουμε την ασφάλεια και τις δυνατότητες παράλληλα, ως τεχνικά προβλήματα που πρέπει να επιλυθούν μέσω επαναστατικών τεχνικών και επιστημονικών ανακαλύψεων".

"Σκοπεύουμε να προωθήσουμε τις δυνατότητες όσο το δυνατόν ταχύτερα, διασφαλίζοντας παράλληλα ότι η ασφάλειά μας παραμένει πάντα μπροστά. Με αυτόν τον τρόπο, μπορούμε να κλιμακωθούμε με ηρεμία. Η μοναδική μας εστίαση σημαίνει ότι δεν αποσπάται η προσοχή μας από τα γενικά έξοδα της διοίκησης ή τους κύκλους των προϊόντων, και το επιχειρηματικό μας μοντέλο σημαίνει ότι η ασφάλεια, η προστασία και η πρόοδος είναι όλα απομονωμένα από τις βραχυπρόθεσμες εμπορικές πιέσεις."

Ο Sutskever μίλησε στο Bloomberg για τη νέα εταιρεία με περισσότερες λεπτομέρειες, αν και αρνήθηκε να συζητήσει την κατάσταση χρηματοδότησης ή την αποτίμησή της.

Το πιο προφανές είναι ότι σε αντίθεση με την OpenAI - η οποία ξεκίνησε αρχικά ως μη κερδοσκοπικός οργανισμός το 2015 και στη συνέχεια αναδιαρθρώθηκε όταν έγιναν πιο εμφανή τα τεράστια χρηματικά ποσά που απαιτούνταν για την υπολογιστική της ισχύ - η SSI σχεδιάζεται από την αρχή ως κερδοσκοπική οντότητα. Κρίνοντας από το ενδιαφέρον για την τεχνητή νοημοσύνη και τα διαπιστευτήρια της ομάδας συγκεκριμένα, μπορεί να πνιγεί πολύ σύντομα και αυτή στο κεφάλαιο. "Από όλα τα προβλήματα που αντιμετωπίζουμε", λέει ο Γκρος στο Bloomberg, "η άντληση κεφαλαίων δεν πρόκειται να είναι ένα από αυτά".

Η SSI έχει γραφεία στο Πάλο Άλτο και στο Τελ Αβίβ, όπου αυτή τη στιγμή προσλαμβάνει τεχνικά ταλέντα.

 

Πηγή: Ilya Sutskever, OpenAI’s former chief scientist, launches new AI company