Περίληψη του άρθρου:

Η Safe Superintelligence (SSI), που ιδρύθηκε από τον πρώην επικεφαλής επιστήμονα της OpenAI, Ilya Sutskever, έχει συγκεντρώσει 1 δισεκατομμύριο δολάρια για την ανάπτυξη ασφαλών συστημάτων τεχνητής νοημοσύνης που ξεπερνούν τις ανθρώπινες ικανότητες. Με αποτίμηση περίπου 5 δισεκατομμυρίων δολαρίων, η SSI έχει 10 υπαλλήλους και σχεδιάζει να ενισχύσει την υπολογιστική του δύναμη, ενώ προσλαμβάνει κορυφαία ταλέντα στο Palo Alto και στο Τελ Αβίβ. Παρά τη γενική μείωση της χρηματοδότησης των εταιρειών AI, εξέχοντες επενδυτές όπως η αποστολή της SSI της Andreessen Horowitz και της Sequoia Capital. Όσον αφορά τις ανησυχίες για την ασφάλεια του AI, ο Sutskever υπογραμμίζει την ανάγκη να εξασφαλιστεί ότι η ΑΙ ευθυγραμμίζεται με τις ανθρώπινες αξίες. Σε αντίθεση με την ασυνήθιστη δομή του OpenAI, ο SSI πρωταθλητής ένα παραδοσιακό μοντέλο που επικεντρώνεται στην πολιτιστική εφαρμογή κατά τη διάρκεια της πρόσληψης. Το Sutskever στοχεύει στην αντιμετώπιση της κλιμάκωσης του AI διαφορετικά, αλλά παραμένει αόριστη για συγκεκριμένες στρατηγικές.

Κύρια σημεία του άρθρου:

• Η Safe Superintelligence (SSI) ιδρύθηκε από τον πρώην επιστήμονα της OpenAI, Ilya Sutskever και αύξησε το 1 δισεκατομμύριο δολάρια για την ανάπτυξη ασφαλών συστημάτων τεχνητής νοημοσύνης.
• Η SSI απασχολεί επί του παρόντος 10 μέλη του προσωπικού και στοχεύει στην εξασφάλιση της υπολογιστικής εξουσίας καθώς και στην πρόσληψη κορυφαίων ταλέντων, με επιχειρήσεις στο Palo Alto, στην Καλιφόρνια και στο Τελ Αβίβ, στο Ισραήλ.
• Η εταιρεία αποτιμάται σε περίπου 5 δισεκατομμύρια δολάρια, υπογραμμίζοντας την εμπιστοσύνη των επενδυτών στην έρευνα AI παρά τη γενική μείωση της χρηματοδότησης για δυνητικά επιβλαβείς τεχνολογικές επιχειρήσεις.
• Οι κύριοι επενδυτές περιλαμβάνουν τους Andreessen Horowitz, Sequoia Capital, DST Global, SV Angel και NFDG (με επικεφαλής τους Nat Friedman και Daniel Gross).
• Η SSI δίνει προτεραιότητα στην ασφάλεια στην ανάπτυξη του AI για να αποτρέψει πιθανή βλάβη στην ανθρωπότητα, εν μέσω αυξανόμενων ανησυχιών για το κακόβουλο ΑΙ.
• Ένα νομοσχέδιο της Καλιφόρνια που επιβάλλει κανονισμούς ασφαλείας στο AI δημιούργησε ένα χάσμα στον κλάδο.

Αναλυτικά το άρθρο:

Η Safe Superintelligence (SSI), η οποία πρόσφατα ιδρύθηκε από τον πρώην επικεφαλής επιστήμονα της OpenAI Ilya Sutskever, συγκέντρωσε 1 δισεκατομμύριο δολάρια σε μετρητά για να βοηθήσει στην ανάπτυξη ασφαλών συστημάτων τεχνητής νοημοσύνης που ξεπερνούν κατά πολύ τις ανθρώπινες δυνατότητες, δήλωσαν στελέχη της εταιρείας στο Reuters.

Η SSI, η οποία έχει σήμερα 10 υπαλλήλους, σχεδιάζει να χρησιμοποιήσει τα κεφάλαια για να αποκτήσει υπολογιστική ισχύ και να προσλάβει κορυφαία ταλέντα. Θα επικεντρωθεί στη δημιουργία μιας μικρής ομάδας ερευνητών και μηχανικών υψηλής εμπιστοσύνης που θα μοιράζεται μεταξύ του Πάλο Άλτο της Καλιφόρνια και του Τελ Αβίβ του Ισραήλ.

Η εταιρεία αρνήθηκε να μοιραστεί την αποτίμησή της, αλλά πηγές προσκείμενες στο θέμα ανέφεραν ότι η αξία της αποτιμάται στα 5 δισεκατομμύρια δολάρια. Η χρηματοδότηση υπογραμμίζει το πώς ορισμένοι επενδυτές εξακολουθούν να είναι πρόθυμοι να κάνουν υπερμεγέθη στοιχήματα σε εξαιρετικά ταλέντα που επικεντρώνονται σε θεμελιώδη έρευνα τεχνητής νοημοσύνης. Αυτό συμβαίνει παρά τη γενική υποχώρηση του ενδιαφέροντος για τη χρηματοδότηση τέτοιων εταιρειών που μπορεί να είναι ζημιογόνες για κάποιο χρονικό διάστημα και η οποία έχει προκαλέσει την αποχώρηση αρκετών ιδρυτών νεοφυών επιχειρήσεων από τις θέσεις τους για τεχνολογικούς γίγαντες.

Στους επενδυτές περιλαμβάνονται κορυφαίες εταιρείες επιχειρηματικών κεφαλαίων Andreessen Horowitz, Sequoia Capital, DST Global και SV Angel. Συμμετείχε επίσης η NFDG, μια επενδυτική σύμπραξη που διευθύνεται από τον Nat Friedman και τον διευθύνοντα σύμβουλο της SSI Daniel Gross.
«Είναι σημαντικό για εμάς να περιτριγυριζόμαστε από επενδυτές που κατανοούν, σέβονται και υποστηρίζουν την αποστολή μας, η οποία είναι να κάνουμε μια ευθεία προσπάθεια για την ασφαλή υπερ-νοημοσύνη και ειδικότερα να αφιερώσουμε μερικά χρόνια για την έρευνα και ανάπτυξη του προϊόντος μας πριν το διαθέσουμε στην αγορά», δήλωσε ο Gross σε συνέντευξή του.

Η ασφάλεια της τεχνητής νοημοσύνης, η οποία αναφέρεται στην αποτροπή της τεχνητής νοημοσύνης από το να προκαλέσει βλάβη, είναι ένα καυτό θέμα εν μέσω φόβων ότι η κακόβουλη τεχνητή νοημοσύνη θα μπορούσε να ενεργήσει ενάντια στα συμφέροντα της ανθρωπότητας ή ακόμη και να προκαλέσει την εξαφάνιση του ανθρώπου.
Ένα νομοσχέδιο της Καλιφόρνιας που επιδιώκει να επιβάλει κανονισμούς ασφαλείας στις εταιρείες έχει διχάσει τον κλάδο. Αντιτίθεται από εταιρείες όπως η OpenAI και η Google (GOOGL.O), ανοίγει νέα καρτέλα, και υποστηρίζεται από την Anthropic και την xAI του Elon Musk.

Ο Sutskever, 37 ετών, είναι ένας από τους τεχνολόγους με τη μεγαλύτερη επιρροή στην τεχνητή νοημοσύνη. Συνίδρυσε την SSI τον Ιούνιο με τον Gross, ο οποίος προηγουμένως ηγήθηκε πρωτοβουλιών AI στην Apple (AAPL.O), ανοίγει νέα καρτέλα, και τον Daniel Levy, πρώην ερευνητή της OpenAI.

Ο Sutskever είναι επικεφαλής επιστήμονας και ο Levy είναι κύριος επιστήμονας, ενώ ο Gross είναι υπεύθυνος για την υπολογιστική ισχύ και τη συγκέντρωση κεφαλαίων.

Ο Sutskever δήλωσε ότι το νέο του εγχείρημα είχε νόημα επειδή «εντόπισε ένα βουνό που είναι λίγο διαφορετικό από αυτό πάνω στο οποίο δούλευα».
Πέρυσι, ήταν μέλος του διοικητικού συμβουλίου της μη κερδοσκοπικής μητρικής εταιρείας του OpenAI, το οποίο ψήφισε την απομάκρυνση του διευθύνοντος συμβούλου του OpenAI, Σαμ Άλτμαν, λόγω «διακοπής της επικοινωνίας».

Μέσα σε λίγες ημέρες, αντέστρεψε την απόφασή του και μαζί με όλους σχεδόν τους εργαζόμενους του OpenAI υπέγραψαν επιστολή με την οποία ζητούσαν την επιστροφή του Altman και την παραίτηση του διοικητικού συμβουλίου. Όμως η τροπή των γεγονότων μείωσε τον ρόλο του στο OpenAI. Απομακρύνθηκε από το διοικητικό συμβούλιο και αποχώρησε από την εταιρεία τον Μάιο.

Μετά την αποχώρηση του Sutskever, η εταιρεία διέλυσε την ομάδα του «Superalignment», η οποία εργαζόταν για να διασφαλίσει ότι η τεχνητή νοημοσύνη παραμένει ευθυγραμμισμένη με τις ανθρώπινες αξίες, ώστε να προετοιμαστεί για μια μέρα που η τεχνητή νοημοσύνη θα ξεπεράσει την ανθρώπινη νοημοσύνη.
Σε αντίθεση με την ανορθόδοξη εταιρική δομή της OpenAI, η οποία εφαρμόστηκε για λόγους ασφαλείας της AI, αλλά η οποία κατέστησε δυνατή την απομάκρυνση του Altman, η SSI έχει κανονική κερδοσκοπική δομή.

Η SSI επικεντρώνεται επί του παρόντος σε μεγάλο βαθμό στην πρόσληψη ανθρώπων που θα ταιριάζουν με την κουλτούρα της.
Ο Γκρος δήλωσε ότι περνούν ώρες ελέγχοντας αν οι υποψήφιοι έχουν «καλό χαρακτήρα» και αναζητούν ανθρώπους με εξαιρετικές ικανότητες αντί να δίνουν υπερβολική έμφαση στα διαπιστευτήρια και την εμπειρία στον τομέα.

«Ένα πράγμα που μας ενθουσιάζει είναι όταν βρίσκεις ανθρώπους που ενδιαφέρονται για τη δουλειά, που δεν ενδιαφέρονται για τη σκηνή, για τη διαφημιστική εκστρατεία», πρόσθεσε.

Η SSI λέει ότι σχεδιάζει να συνεργαστεί με παρόχους cloud και εταιρείες τσιπ για να χρηματοδοτήσει τις ανάγκες της σε υπολογιστική ισχύ, αλλά δεν έχει αποφασίσει ακόμη με ποιες εταιρείες θα συνεργαστεί. Οι νεοσύστατες επιχειρήσεις τεχνητής νοημοσύνης συχνά συνεργάζονται με εταιρείες όπως η Microsoft (MSFT.O), ανοίγει νέα καρτέλα και η Nvidia (NVDA.O), ανοίγει νέα καρτέλα για την αντιμετώπιση των αναγκών τους σε υποδομές.

Ο Sutskever ήταν ένας από τους πρώτους υποστηρικτές της κλιμάκωσης, μιας υπόθεσης ότι τα μοντέλα AI θα βελτιώσουν την απόδοσή τους με δεδομένες τεράστιες ποσότητες υπολογιστικής ισχύος. Η ιδέα και η εκτέλεσή της πυροδότησε ένα κύμα επενδύσεων AI σε τσιπ, κέντρα δεδομένων και ενέργεια, θέτοντας τις βάσεις για τις εξελίξεις της παραγωγικής AI, όπως το ChatGPT.

Ο Sutskever δήλωσε ότι θα προσεγγίσει την κλιμάκωση με διαφορετικό τρόπο από τον πρώην εργοδότη του, χωρίς να μοιραστεί λεπτομέρειες.
«Όλοι λένε απλώς ότι η κλιμάκωση είναι υπόθεση. Όλοι παραλείπουν να ρωτήσουν, τι κλιμακώνουμε;» είπε.

«Κάποιοι άνθρωποι μπορούν να δουλεύουν πραγματικά πολλές ώρες και απλά θα ακολουθήσουν το ίδιο μονοπάτι γρηγορότερα. Δεν είναι τόσο πολύ το στυλ μας. Αλλά αν κάνεις κάτι διαφορετικό, τότε σου δίνεται η δυνατότητα να κάνεις κάτι ξεχωριστό».

Πηγή: Exclusive: OpenAI co-founder Sutskever's new safety-focused AI startup SSI raises $1 billion