Περίληψη άρθρου:
Μια νέα ανάλυση δείχνει ότι τα εργαλεία τεχνητής νοημοσύνης "ανοιχτού κώδικα", όπως το Llama 2, εξακολουθούν να ελέγχονται από μεγάλες εταιρείες τεχνολογίας με διάφορους τρόπους, παρά τις προσπάθειες να γίνει η τεχνητή νοημοσύνη πιο προσιτή. Το Llama 2, που κυκλοφόρησε από τη Meta, είναι ελεύθερο να το κατεβάσετε και να το τροποποιήσετε, αλλά έχει περιορισμούς στη χρήση του. Άλλα μοντέλα που κυκλοφορούν με άδειες ανοιχτού κώδικα θεωρούνται πιο ανοιχτά, αλλά αντιμετωπίζουν προκλήσεις όπως τα μυστικά δεδομένα και ο έλεγχος των πλαισίων λογισμικού από μεγάλες εταιρείες. Η κυριαρχία λίγων εταιρειών στην τεχνητή νοημοσύνη θα μπορούσε να εμποδίσει τις δυνατότητές της και ζητείται ρύθμιση για την ενθάρρυνση εναλλακτικών λύσεων. Το άνοιγμα των προηγμένων μοντέλων ΤΝ στους επιστήμονες θα μπορούσε να βελτιώσει την κατανόηση και να μετριάσει τους κινδύνους.

Κύρια σημεία του άρθρου:

• Οι προσπάθειες να γίνει η τεχνητή νοημοσύνη πιο "ανοιχτή" έχουν αποκτήσει έδαφος, με μοντέλα όπως το Llama 2 να είναι διαθέσιμα σε οποιονδήποτε να τα κατεβάσει και να τα τροποποιήσει.
• Ωστόσο, ένα ερευνητικό έγγραφο προειδοποιεί ότι αυτά τα "ανοιχτά" μοντέλα μπορεί να συνοδεύονται από περιορισμούς και έλεγχο από μεγάλες εταιρείες τεχνολογίας.
• Τα μοντέλα που κυκλοφορούν με κανονικές άδειες ανοικτού κώδικα, όπως το GPT Neo, θεωρούνται πιο πλήρως ανοικτά, αλλά αντιμετωπίζουν προκλήσεις όσον αφορά τη διαθεσιμότητα δεδομένων, τα πλαίσια λογισμικού, την υπολογιστική ισχύ και τους πόρους που απαιτούνται για την εκπαίδευση.
• Η τρέχουσα πορεία μπορεί να οδηγήσει στο να εμπλουτίσει η τεχνολογία ΤΝ μόνο μια χούφτα εταιρείες και να περιορίσει την ευρύτερη διαθεσιμότητα και προσβασιμότητά της.
• Το να γίνουν τα μοντέλα ΤΝ πιο ανοικτά θα μπορούσε να βοηθήσει στην κατανόηση των δυνατοτήτων τους, στον μετριασμό των κινδύνων και στην πλήρη απελευθέρωση του δυναμικού τους.

Αναλυτικά το άρθρο:

Μια νέα ανάλυση δείχνει ότι τα εργαλεία τεχνητής νοημοσύνης "open source", όπως το Llama 2, εξακολουθούν να ελέγχονται από μεγάλες εταιρείες τεχνολογίας με διάφορους τρόπους.

ΤΟ CHATGPT ΚΑΤΑΣΚΕΥΑΖΕΙ σε οποιονδήποτε τη δυνατότητα να παίξει με ισχυρή τεχνητή νοημοσύνη, αλλά οι εσωτερικές λειτουργίες του παγκοσμίου φήμης chatbot παραμένουν ένα καλά φυλασσόμενο μυστικό.

Τους τελευταίους μήνες, ωστόσο, οι προσπάθειες να γίνει η τεχνητή νοημοσύνη πιο "ανοιχτή" φαίνεται να έχουν αποκτήσει δυναμική. Τον Μάιο, κάποιος διέρρευσε ένα μοντέλο από τη Meta, με την ονομασία Llama, το οποίο έδωσε στους ξένους πρόσβαση στον υποκείμενο κώδικά του, καθώς και στα "βάρη" που καθορίζουν τον τρόπο συμπεριφοράς του. Στη συνέχεια, αυτόν τον Ιούλιο, η Meta επέλεξε να διαθέσει ένα ακόμη πιο ισχυρό μοντέλο, το Llama 2, το οποίο μπορεί να κατεβάσει, να τροποποιήσει και να επαναχρησιμοποιήσει ο καθένας. Τα μοντέλα της Meta έχουν γίνει έκτοτε ένα εξαιρετικά δημοφιλές θεμέλιο για πολλές εταιρείες, ερευνητές και χομπίστες που δημιουργούν εργαλεία και εφαρμογές με δυνατότητες που μοιάζουν με το ChatGPT.

"Έχουμε ένα ευρύ φάσμα υποστηρικτών σε όλο τον κόσμο που πιστεύουν στην ανοιχτή προσέγγισή μας στη σημερινή τεχνητή νοημοσύνη... ερευνητές που έχουν δεσμευτεί να κάνουν έρευνα με το μοντέλο, και ανθρώπους από το χώρο της τεχνολογίας, της ακαδημαϊκής κοινότητας και της πολιτικής που βλέπουν τα οφέλη του Llama και μιας ανοιχτής πλατφόρμας όπως κι εμείς", δήλωσε η Meta κατά την ανακοίνωση του Llama 2. Σήμερα το πρωί, η Meta κυκλοφόρησε ένα άλλο μοντέλο, το Llama 2 Code, το οποίο είναι ρυθμισμένο για κωδικοποίηση.

Μπορεί να φαίνεται ότι η προσέγγιση του ανοιχτού κώδικα, η οποία έχει εκδημοκρατίσει την πρόσβαση στο λογισμικό, έχει εξασφαλίσει τη διαφάνεια και έχει βελτιώσει την ασφάλεια εδώ και δεκαετίες, είναι τώρα έτοιμη να έχει παρόμοιο αντίκτυπο στην τεχνητή νοημοσύνη.

Όχι τόσο γρήγορα, λέει μια ομάδα που βρίσκεται πίσω από ένα ερευνητικό έγγραφο που εξετάζει την πραγματικότητα του Llama 2 και άλλων μοντέλων τεχνητής νοημοσύνης που περιγράφονται, με τον ένα ή τον άλλο τρόπο, ως "ανοικτά". Οι ερευνητές, από το Πανεπιστήμιο Carnegie Mellon, το Ινστιτούτο AI Now και το Ίδρυμα Signal, λένε ότι τα μοντέλα που χαρακτηρίζονται "ανοιχτά" μπορεί να έχουν παγίδες.

Το Llama 2 είναι ελεύθερο να το κατεβάσετε, να το τροποποιήσετε και να το αναπτύξετε, αλλά δεν καλύπτεται από μια συμβατική άδεια ανοικτού κώδικα. Η άδεια της Meta απαγορεύει τη χρήση του Llama 2 για την εκπαίδευση άλλων γλωσσικών μοντέλων και απαιτεί ειδική άδεια αν ένας προγραμματιστής το αναπτύξει σε μια εφαρμογή ή υπηρεσία με περισσότερους από 700 εκατομμύρια καθημερινούς χρήστες.

Αυτό το επίπεδο ελέγχου σημαίνει ότι το Llama 2 μπορεί να προσφέρει σημαντικά τεχνικά και στρατηγικά οφέλη στη Meta - για παράδειγμα, επιτρέποντας στην εταιρεία να επωφελείται από χρήσιμες βελτιώσεις που γίνονται από εξωτερικούς προγραμματιστές όταν χρησιμοποιεί το μοντέλο στις δικές της εφαρμογές.

Το ChatGPT απαντά στις πιο συχνές ερωτήσεις του Web
Τα μοντέλα που κυκλοφορούν υπό κανονικές άδειες ανοιχτού κώδικα, όπως το GPT Neo από τη μη κερδοσκοπική EleutherAI, είναι πιο πλήρως ανοιχτά, λένε οι ερευνητές. Αλλά είναι δύσκολο για τέτοια έργα να βρεθούν σε ισότιμη βάση. 

Πρώτον, τα δεδομένα που απαιτούνται για την εκπαίδευση προηγμένων μοντέλων συχνά παραμένουν μυστικά. Δεύτερον, τα πλαίσια λογισμικού που απαιτούνται για τη δημιουργία τέτοιων μοντέλων συχνά ελέγχονται από μεγάλες εταιρείες. Τα δύο πιο δημοφιλή, το TensorFlow και το Pytorch, συντηρούνται από την Google και τη Meta, αντίστοιχα. Τρίτον, η ισχύς των υπολογιστών που απαιτείται για την εκπαίδευση ενός μεγάλου μοντέλου είναι επίσης πέρα από την εμβέλεια οποιουδήποτε κανονικού προγραμματιστή ή εταιρείας, καθώς συνήθως απαιτούνται δεκάδες ή εκατοντάδες εκατομμύρια δολάρια για μία μόνο εκτέλεση εκπαίδευσης. Και τέλος, η ανθρώπινη εργασία που απαιτείται για την τελειοποίηση και τη βελτίωση αυτών των μοντέλων είναι επίσης ένας πόρος που είναι ως επί το πλείστον διαθέσιμος μόνο σε μεγάλες εταιρείες με βαθιές τσέπες.

Έτσι όπως εξελίσσονται τα πράγματα, μια από τις πιο σημαντικές τεχνολογίες των τελευταίων δεκαετιών θα μπορούσε να καταλήξει να εμπλουτίσει και να δώσει δυνατότητες σε μια χούφτα εταιρείες, όπως η OpenAI, η Microsoft, η Meta και η Google. Αν η τεχνητή νοημοσύνη είναι πραγματικά μια τεχνολογία που αλλάζει τον κόσμο, τότε τα μεγαλύτερα οφέλη θα μπορούσαν να γίνουν αισθητά αν γινόταν ευρύτερα διαθέσιμη και προσιτή.

"Αυτό που δείχνει η ανάλυσή μας είναι ότι το άνοιγμα όχι μόνο δεν εξυπηρετεί τον "εκδημοκρατισμό" της AI", μου λέει η Meredith Whittaker, πρόεδρος της Signal και μία από τις ερευνήτριες πίσω από το έγγραφο. "Πράγματι, δείχνουμε ότι οι εταιρείες και τα ιδρύματα μπορούν και έχουν αξιοποιήσει τις "ανοιχτές" τεχνολογίες για να εδραιώσουν και να επεκτείνουν την κεντρική εξουσία".

Ο Whittaker προσθέτει ότι ο μύθος της ανοιχτότητας θα πρέπει να αποτελέσει παράγοντα στους αναγκαίους κανονισμούς για την τεχνητή νοημοσύνη. "Χρειαζόμαστε επειγόντως ουσιαστικές εναλλακτικές λύσεις στην τεχνολογία που ορίζεται και κυριαρχείται από μεγάλες, μονοπωλιακές εταιρείες -ιδιαίτερα καθώς τα συστήματα τεχνητής νοημοσύνης ενσωματώνονται σε πολλούς εξαιρετικά ευαίσθητους τομείς με ιδιαίτερο δημόσιο αντίκτυπο: στην υγειονομική περίθαλψη, τα οικονομικά, την εκπαίδευση και τον εργασιακό χώρο", λέει. "Η δημιουργία των συνθηκών που θα καταστήσουν δυνατές τέτοιες εναλλακτικές λύσεις είναι ένα έργο που μπορεί να συνυπάρξει, και ακόμη και να υποστηριχθεί από ρυθμιστικά κινήματα όπως οι αντιμονοπωλιακές μεταρρυθμίσεις".

Πέρα από τον έλεγχο της εξουσίας των μεγάλων εταιρειών, το να γίνει η τεχνητή νοημοσύνη πιο ανοιχτή θα μπορούσε να είναι ζωτικής σημασίας για να ξεκλειδώσουμε τις καλύτερες δυνατότητες της τεχνολογίας - και να αποφύγουμε τις χειρότερες τάσεις της.

Αν θέλουμε να κατανοήσουμε πόσο ικανά είναι τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης και να μετριάσουμε τους κινδύνους που θα μπορούσαν να προκύψουν με την ανάπτυξη και την περαιτέρω πρόοδο, ίσως θα ήταν καλύτερο να τα καταστήσουμε ανοιχτά στους επιστήμονες του κόσμου.

Καθώς η ασφάλεια μέσω της αδιαφάνειας δεν εγγυάται ποτέ ότι ο κώδικας θα εκτελεστεί με ασφάλεια, η φύλαξη των λειτουργιών των ισχυρών μοντέλων τεχνητής νοημοσύνης μπορεί να μην είναι ο πιο έξυπνος τρόπος να προχωρήσουμε.


Πηγή: The Myth of ‘Open Source’ AI