Περίληψη άρθρου:
Η OpenAI έχει κυκλοφορήσει τη λεπτομερή ρύθμιση για το GPT-3.5 Turbo και σχεδιάζει να την προσφέρει στο μέλλον και για το GPT-4. Οι προγραμματιστές μπορούν να προσαρμόσουν τα μοντέλα για καλύτερες επιδόσεις σε συγκεκριμένες περιπτώσεις χρήσης. Οι πρώτες δοκιμές δείχνουν ότι η λεπτομερής ρύθμιση GPT-3.5 Turbo μπορεί να ξεπεράσει τις δυνατότητες του βασικού GPT-4 σε ορισμένες εργασίες. Τα δεδομένα που αποστέλλονται μέσω του API λεπτομερούς ρύθμισης παραμένουν απόρρητα. Η λεπτομερής ρύθμιση βελτιώνει την κατευθυντικότητα, τη μορφοποίηση εξόδου και τον προσαρμοσμένο τόνο. Επιτρέπει επίσης στις επιχειρήσεις να συντομεύουν τις προτροπές διατηρώντας την απόδοση. Η λεπτή ρύθμιση με GPT-3.5-Turbo μπορεί να χειριστεί 4k tokens και έχει μειώσει το μέγεθος της προτροπής έως και 90%. Υπάρχουν μέτρα ασφαλείας και παρέχονται λεπτομέρειες σχετικά με την τιμολόγηση. Η OpenAI προσφέρει επίσης ενημερωμένα μοντέλα ως αντικαταστάτες των αρχικών βασικών μοντέλων GPT-3.

Κύρια σημεία του άρθρου:

• Η OpenAI κυκλοφόρησε τη λεπτομερή ρύθμιση για το GPT-3.5 Turbo, επιτρέποντας στους προγραμματιστές να προσαρμόζουν τα μοντέλα για τις συγκεκριμένες περιπτώσεις χρήσης τους.
• Η λεπτομερής ρύθμιση βελτιώνει την απόδοση του μοντέλου σε τομείς όπως η ακολουθία οδηγιών, η μορφοποίηση εξόδου και ο τόνος.
• Η λεπτομερής ρύθμιση μπορεί επίσης να μειώσει το μέγεθος της προτροπής και να χειριστεί tokens 4k, με αποτέλεσμα ταχύτερες κλήσεις API και εξοικονόμηση κόστους.
• Υπάρχουν μέτρα ασφαλείας για να διασφαλιστεί ότι η ανάπτυξη της λεπτομερούς ρύθμισης είναι ασφαλής, συμπεριλαμβανομένης της μετριοπάθειας των δεδομένων εκπαίδευσης.
• Η τιμολόγηση για τη λεπτομερή ρύθμιση περιλαμβάνει το κόστος εκπαίδευσης και το κόστος χρήσης με βάση τον αριθμό των token.
• Τα αρχικά μοντέλα βάσης GPT-3 θα απενεργοποιηθούν τον Ιανουάριο του 2024, αλλά τα υποκατάστατα (babbage-002 και davinci-002) είναι διαθέσιμα για τα μοντέλα βάσης ή τα μοντέλα λεπτομερούς ρύθμισης.

Αναλυτικά το άρθρο:
Η λεπτομερής ρύθμιση για το GPT-3.5 Turbo είναι τώρα διαθέσιμη, ενώ η λεπτομερής ρύθμιση για το GPT-4 θα γίνει αυτό το φθινόπωρο. Αυτή η ενημέρωση δίνει στους προγραμματιστές τη δυνατότητα να προσαρμόζουν μοντέλα που αποδίδουν καλύτερα για τις περιπτώσεις χρήσης τους και να εκτελούν αυτά τα προσαρμοσμένα μοντέλα σε κλίμακα. Οι πρώτες δοκιμές έχουν δείξει ότι μια εκλεπτυσμένη έκδοση του GPT-3.5 Turbo μπορεί να φτάσει ή και να ξεπεράσει τις βασικές δυνατότητες επιπέδου GPT-4 σε ορισμένες στενές εργασίες. Όπως συμβαίνει με όλα τα API μας, τα δεδομένα που αποστέλλονται μέσα και έξω από το API λεπτομερούς ρύθμισης ανήκουν στον πελάτη και δεν χρησιμοποιούνται από την OpenAI ή οποιονδήποτε άλλο οργανισμό για την εκπαίδευση άλλων μοντέλων.

Τελειοποίηση περιπτώσεων χρήσης
Από την κυκλοφορία του GPT-3.5 Turbo, οι προγραμματιστές και οι επιχειρήσεις ζήτησαν τη δυνατότητα προσαρμογής του μοντέλου ώστε να δημιουργούν μοναδικές και διαφοροποιημένες εμπειρίες για τους χρήστες τους. Με αυτή την κυκλοφορία, οι προγραμματιστές μπορούν πλέον να εκτελούν εποπτευόμενη λεπτομερή ρύθμιση για να κάνουν αυτό το μοντέλο να αποδίδει καλύτερα για τις περιπτώσεις χρήσης τους.

Στην ιδιωτική μας beta έκδοση, οι πελάτες που έκαναν fine-tuning μπόρεσαν να βελτιώσουν σημαντικά την απόδοση του μοντέλου σε κοινές περιπτώσεις χρήσης, όπως:

• Βελτιωμένη κατευθυντικότητα: Η λεπτομερής ρύθμιση επιτρέπει στις επιχειρήσεις να κάνουν το μοντέλο να ακολουθεί καλύτερα τις οδηγίες, όπως να κάνει τις εξόδους συνοπτικές ή να απαντά πάντα σε μια συγκεκριμένη γλώσσα. Για παράδειγμα, οι προγραμματιστές μπορούν να χρησιμοποιήσουν τη λεπτομερή ρύθμιση για να διασφαλίσουν ότι το μοντέλο απαντά πάντα στα γερμανικά όταν τους ζητείται να χρησιμοποιήσουν τη συγκεκριμένη γλώσσα.
• Αξιόπιστη μορφοποίηση εξόδου: Η λεπτομερής ρύθμιση βελτιώνει την ικανότητα του μοντέλου να μορφοποιεί με συνέπεια τις απαντήσεις - μια κρίσιμη πτυχή για εφαρμογές που απαιτούν μια συγκεκριμένη μορφή απάντησης, όπως η συμπλήρωση κώδικα ή η σύνθεση κλήσεων API. Ένας προγραμματιστής μπορεί να χρησιμοποιήσει τη λεπτομερή ρύθμιση για να μετατρέψει με μεγαλύτερη αξιοπιστία τις προτροπές των χρηστών σε υψηλής ποιότητας αποσπάσματα JSON που μπορούν να χρησιμοποιηθούν με τα δικά του συστήματα.
• Προσαρμοσμένος τόνος: Η λεπτομερής ρύθμιση είναι ένας πολύ καλός τρόπος για να βελτιώσετε την ποιοτική αίσθηση της εξόδου του μοντέλου, όπως ο τόνος του, ώστε να ταιριάζει καλύτερα στη φωνή των εμπορικών σημάτων των επιχειρήσεων. Μια επιχείρηση με αναγνωρίσιμη φωνή εμπορικού σήματος μπορεί να χρησιμοποιήσει τη λεπτομερή ρύθμιση του μοντέλου για να είναι πιο συνεπής με τον τόνο της.

Εκτός από την αυξημένη απόδοση, η λεπτομερής ρύθμιση επιτρέπει επίσης στις επιχειρήσεις να συντομεύσουν τις προτροπές τους, εξασφαλίζοντας παράλληλα παρόμοια απόδοση.  Η λεπτή ρύθμιση με GPT-3.5-Turbo μπορεί επίσης να χειριστεί 4k tokens - διπλάσια από τα προηγούμενα μοντέλα μας με λεπτή ρύθμιση. Οι πρώτοι δοκιμαστές έχουν μειώσει το μέγεθος της προτροπής έως και 90% με τη λεπτομερή ρύθμιση των οδηγιών στο ίδιο το μοντέλο, επιταχύνοντας κάθε κλήση API και μειώνοντας το κόστος.

Η λεπτομερής ρύθμιση είναι πιο ισχυρή όταν συνδυάζεται με άλλες τεχνικές, όπως η μηχανική προτροπών, η ανάκτηση πληροφοριών και η κλήση συναρτήσεων. Ανατρέξτε στον οδηγό μας για τη λεπτομερή ρύθμιση για να μάθετε περισσότερα. Η υποστήριξη για τη λεπτομερή ρύθμιση με κλήση συναρτήσεων και το gpt-3.5-turbo-16k θα έρθει αργότερα αυτό το φθινόπωρο.

Ασφάλεια
Είναι πολύ σημαντικό για εμάς να είναι ασφαλής η ανάπτυξη της τελειοποίησης. Για να διατηρηθούν τα χαρακτηριστικά ασφαλείας του προεπιλεγμένου μοντέλου μέσω της διαδικασίας λεπτής ρύθμισης, τα δεδομένα εκπαίδευσης της λεπτής ρύθμισης περνούν από το Moderation API μας και ένα GPT-4 powered moderation system για τον εντοπισμό μη ασφαλών δεδομένων εκπαίδευσης που έρχονται σε σύγκρουση με τα πρότυπα ασφαλείας μας.

Τιμολόγηση
Το κόστος της λεπτομερούς ρύθμισης αναλύεται σε δύο κατηγορίες: το αρχικό κόστος εκπαίδευσης και το κόστος χρήσης:

• Εκπαίδευση: $0,008 / 1K Tokens
• Εισαγωγή χρήσης: 0,012 $ / 1K Tokens
• Έξοδο χρήσης: $0,016 / 1K Tokens

Για παράδειγμα, μια εργασία λεπτομερούς ρύθμισης gpt-3.5-turbo με ένα αρχείο εκπαίδευσης 100.000 tokens που εκπαιδεύεται για 3 εποχές θα έχει αναμενόμενο κόστος 2,40 δολάρια.

Ενημερωμένα μοντέλα GPT-3
Τον Ιούλιο, ανακοινώσαμε ότι τα αρχικά βασικά μοντέλα GPT-3 (ada, babbage, curie και davinci) θα απενεργοποιούνταν στις 4 Ιανουαρίου 2024. Σήμερα, διαθέτουμε τα μοντέλα babbage-002 και davinci-002 ως αντικαταστάτες αυτών των μοντέλων, είτε ως βασικά είτε ως βελτιωμένα μοντέλα. Οι πελάτες μπορούν να έχουν πρόσβαση σε αυτά τα μοντέλα μέσω ερωτημάτων στο Completions API.
Αυτά τα μοντέλα μπορούν να ρυθμιστούν με το νέο μας τελικό σημείο API /v1/fine_tuning/jobs. Αυτό το νέο τελικό σημείο προσφέρει σελιδοποίηση και μεγαλύτερη επεκτασιμότητα για την υποστήριξη της μελλοντικής εξέλιξης του API λεπτομερούς ρύθμισης. Η μετάβαση από το /v1/fine-tunes στο ενημερωμένο τελικό σημείο είναι απλή και περισσότερες λεπτομέρειες μπορείτε να βρείτε στον νέο οδηγό μας για τη ρύθμιση της τελικής ρύθμισης. Αυτό καταργεί το παλιό τελικό σημείο /v1/fine-tunes, το οποίο θα απενεργοποιηθεί στις 4 Ιανουαρίου 2024.

Πηγή: GPT-3.5 Turbo fine-tuning and API updates