Περίληψη άρθρου:
Σε αυτό το άρθρο, ο συγγραφέας συζητά την έννοια ότι η τελειότητα είναι ο εχθρός της προόδου, τονίζοντας ότι η προσπάθεια για τέλειες προτροπές κατά τη χρήση της δημιουργικής ΤΝ μπορεί να είναι αντιπαραγωγική. Υποστηρίζουν ότι είναι πιο πρακτικό να δουλεύουμε με ατελείς προτροπές και να επαναλαμβάνουμε προς την κατεύθυνση των αρκετά καλών. Το άρθρο παρουσιάζει μια τεχνική βήμα προς βήμα για την αξιοποίηση των ατελών προτροπών, ενθαρρύνοντας τη μηχανική προτροπών με προσανατολισμό στη δράση. Ο συγγραφέας επισημαίνει επίσης μια ερευνητική μελέτη που προτείνει τη συγκέντρωση ατελών προτροπών για καλύτερα αποτελέσματα. Συνολικά, το άρθρο προωθεί την ιδέα ότι η υιοθέτηση της ατέλειας και της πρακτικότητας στη μηχανική των προτροπών μπορεί να οδηγήσει σε αποτελεσματικότερη χρήση της δημιουργικής ΤΝ.

Κύρια σημεία του άρθρου:

• Η τελειομανία στην άμεση μηχανική μπορεί να είναι αντιπαραγωγική με τη δημιουργική τεχνητή νοημοσύνη.
• Οι ατελείς προτροπές πρέπει να υιοθετούνται και να επαναλαμβάνονται.
• Η συγκέντρωση πολλαπλών ατελών προτροπών μπορεί να οδηγήσει σε καλύτερα αποτελέσματα.
• Ενθαρρύνονται οι τεχνικές σχεδιασμού προτροπών με προσανατολισμό στη δράση για τη βελτίωση των αλληλεπιδράσεων της δημιουργικής ΤΝ.

Αναλυτικά το άρθρο:

Το τέλειο είναι ο εχθρός του καλού.

Αυτή η σοφή σοφία που αποδίδεται στον Βολταίρο είναι μια εύχρηστη υπενθύμιση ότι μερικές φορές όταν προσπαθείτε για την τελειότητα μπορεί να κάνετε λάθος. Αντί να τα βάζετε όλα για την επίτευξη της τελειότητας, είναι συχνά πιο συνετό και πρακτικό να ικανοποιείστε με το να πετύχετε το αρκετά καλό. Συχνά βλέπουμε ξανά και ξανά ότι το σκονισμένο και κακοτράχαλο μονοπάτι που αναζητά εναγωνίως την τελειότητα είναι γεμάτο από εκείνους που έχουν ξοδέψει απρόσεκτα αδικαιολόγητα υπερβολική ενέργεια και προσοχή.

Η κοινή λογική προθυμία να ακολουθήσουμε μια στρατηγική του αρκετά καλού μπορεί να είναι απόλυτα ικανοποιητική.

Παρακαλώ να έχετε κατά νου αυτό το life hack (θα είναι εξαιρετικά χρήσιμο εδώ μέσα).

Στη σημερινή στήλη, συνεχίζω την ειδική σειρά μου σχετικά με τις τελευταίες εξελίξεις στη μηχανική των προτροπών και θα συζητήσω πώς η διαδεδομένη επιθυμία να συνθέσετε τέλειες προτροπές εμποδίζει την αποτελεσματική χρήση της δημιουργικής ΤΝ για να κάνετε την καθημερινή σας ουσιαστική δουλειά. Οι άνθρωποι τείνουν να διαστρέφονται διανοητικά προσπαθώντας να εξακριβώσουν την τέλεια διατύπωση για τις προτροπές τους. Αυτό αποδεικνύεται λανθασμένος αλτρουισμός. Η πιο πρόσφατη έρευνα σχετικά με τη γεννητική ΤΝ δείχνει ότι μπορείτε αντίθετα να επιτρέψετε στον εαυτό σας να κάνει χρήση ατελών προτροπών, από τις οποίες μπορείτε να συγκεντρώσετε και να επινοήσετε ισχυρές προτροπές που θα κάνουν το κόλπο και θα είναι επιτυχείς για εσάς.

Εν ολίγοις, μπορείτε να εκμεταλλευτείτε και να αξιοποιήσετε την ατέλεια μέσω του σχεδιασμού και να αυξήσετε την άμεση μηχανική σας ευστροφία όταν πρόκειται να σκύψετε γρήγορα και παραγωγικά στη γενεσιουργό ΤΝ.

Η κάλυψή μου θα προχωρήσει ως εξής. Πρώτον, θα εξετάσουμε προσεκτικά μια σημαντική ερευνητική μελέτη για την ΤΝ που εξέτασε την επικράτηση των ατελών προτροπών κατά τη χρήση της παραγωγικής ΤΝ. Οι ερευνητές πρότειναν ένα έξυπνο μέσο για τη μετατροπή των ατελών προτροπών σε ισχυρές. Θα επεκτείνω περαιτέρω τις βασικές τους έννοιες και θα διευκρινίσω μια συγκεκριμένη τεχνική βήμα προς βήμα που χρησιμοποιώ, η οποία αξιοποιεί επίσης τις ατελείς προτροπές αντί της συνήθους τάσης να βουλιάζουμε και να μελαγχολούμε επειδή θέλουμε να συνθέσουμε τέλειες προτροπές. Παραδόξως, μπορείτε να αγκαλιάσετε την ατέλεια και να της επιτρέψετε να γίνει φίλος σας, εφόσον κάνετε τα σωστά βήματα για να μετατρέψετε τις ατελείς προτροπές σας σε αρκετά καλές βελτιώσεις.

Ενώ βρισκόμαστε σε αυτό το βαρύ θέμα, θα ήθελα να κάνω μια σύντομη παράλληλη παρέκβαση που αξίζει να σκεφτείτε. Κάποιοι κατά καιρούς προβληματίζονται για το γεγονός ότι η εστίαση στο παρόν συνεπάγεται τη μετάβαση από τις ατελείς προτροπές προς (μόνο) αρκετά καλές προτροπές. Δεν θα έπρεπε αντ' αυτού να επικεντρωθούμε στο να πάμε από τις ατελείς προτροπές στις αμιγώς τέλειες προτροπές; Αν πρόκειται να κάνουμε το άλμα, να το πάμε μέχρι τέλους, είναι η τυπική επωδός σε αυτά τα κρίσιμα θέματα.

Αχά, θυμηθείτε την αρχική μου παρατήρηση για την τελειότητα ως εχθρό του καλού. Υποστηρίζω ότι η ίδια η αντίληψη των λεγόμενων τέλειων προτροπών είναι μια οφθαλμαπάτη και προβληματική. Δεν μπορείτε να φτάσετε εκεί, και δεν έχει νόημα να προσπαθήσετε.

Θα προσπαθήσω να εξηγήσω το γιατί, οπότε συνεχίστε να διαβάζετε, ευχαριστώ.

Γιατί οι τέλειες προτροπές δεν μπορούν να είναι

Ακούστε πώς έχουν τα πράγματα.

Οι εφαρμογές δημιουργικής τεχνητής νοημοσύνης χρησιμοποιούν πιθανολογικές και στατιστικές βάσεις κατά την ανάλυση των προτροπών και την υπολογιστική εξακρίβωση του είδους των παραγόμενων απαντήσεων που πρέπει να παραχθούν. Η ουσία είναι ότι κάθε φορά που εισάγετε μια προτροπή, ακόμη και αν τη διατυπώνετε ακριβώς με τον ίδιο τρόπο κάθε φορά, είναι εξαιρετικά πιθανό να λάβετε μια αρκετά διαφορετική παραγόμενη απάντηση σε σχέση με την ίδια ακριβώς απάντηση κάθε φορά.

Μερικοί άνθρωποι φαίνεται να πιστεύουν ότι αν συντάξουν μια προτροπή με κάποιο ιδανικό τρόπο, αυτό θα ωθήσει τη γεννητική ΤΝ να απαντήσει με έναν απόλυτα συμβατό και απόλυτα προβλέψιμο τρόπο. Θα έκαναν λάθος και θα είχαν λανθασμένη αντίληψη. Το θέμα είναι ότι παίζετε ρουλέτα στο Λας Βέγκας είτε το συνειδητοποιείτε είτε όχι. Η γεννητική ΤΝ είναι σαν το παροιμιώδες κουτί με σοκολάτες, ποτέ δεν ξέρεις τι μπορεί να πάρεις. Αυτό δεν είναι ένα σφιχτά περιορισμένο "τιμωρία για τιμωρία". Στην καλύτερη περίπτωση, μπορείτε μόνο να μαντέψετε κατά προσέγγιση πώς θα ερμηνευτεί η προτροπή σας και πώς θα μπορούσε ενδεχομένως να ανταποκριθεί η γεννητική τεχνητή νοημοσύνη.

Έτσι, αν κάθεστε εκεί όλη μέρα κοιτάζοντας μια κενή οθόνη και αγωνιζόμενοι ψυχικά για να βρείτε μια τέλεια προτροπή, οι πιθανότητες είναι ότι μέχρι να εισαγάγετε την προτροπή και να κάνετε τη γεννητική ΤΝ να απαντήσει, θα μπορούσατε να έχετε χρησιμοποιήσει όλο αυτό το χρόνο και την ενέργεια για πιο χρήσιμους σκοπούς. Μην κοιτάτε το παράθυρο προτροπής της γεννητικής ΤΝ και μην επιτρέπετε στον εαυτό σας να παγώσει από την παράλυση της ανάλυσης. Θα εξυπηρετηθείτε πολύ καλύτερα αν επιλέξετε κάτι λιγότερο από μια υποτιθέμενη τέλεια προτροπή.

Τούτου λεχθέντος, μια εξυπνακίστικη ανταπάντηση είναι ότι τότε μπορείτε κάλλιστα να συνθέσετε και να εισαγάγετε οποιαδήποτε προτροπή μπαλαντέρ που επιθυμείτε. Όχι, ούτε αυτό είναι καλή ιδέα. Δεν πρέπει να πετάτε τα χέρια σας στον αέρα και να εγκαταλείπετε την ελπίδα να προσπαθείτε να συνθέσετε λογικές προτροπές. Οι προτροπές θα πρέπει να είναι μέσα στα πλαίσια του θέματος που επιδιώκετε με τη γεννητική ΤΝ αλλιώς θα έχετε πραγματικά μια πληθώρα ανοησιών και σύγχυσης.

Ο επιθυμητός στόχος είναι να φτάσετε στο Goldilocks των προτροπών για τη συνεχιζόμενη ικανότητα μηχανικής προτροπών σας.

Θέλετε προτροπές που είναι ακριβώς σωστές, όχι πολύ κρύες και όχι πολύ καυτές.

Ένα μέσο για να φτάσετε στο εύρος Goldilocks είναι να ξεκινήσετε με ατελείς προτροπές και να τις χρησιμοποιήσετε για να καταλήξετε σε αρκετά καλές προτροπές. Εν τω μεταξύ, για το καλό του Θεού και το δικό σας καλό, πετάξτε τις τέλειες υποδείξεις από το μυαλό σας και από το παράθυρο. Δεν αξίζουν την ανάσα σας. Ακόμα χειρότερα, είναι πιθανό να σας αρπάξουν ανελέητα και να σας κρατήσουν σε ένα σκοτεινό μπουντρούμι απόγνωσης. Θα είστε για πάντα απογοητευμένοι που οι τέλειες προτροπές σας δεν αποδεικνύονται αξιόπιστα τέλειες. Μπορεί περιστασιακά να πετύχετε το λαχείο, αλλά κατά μέσο όρο, με τη συνεχή χρήση της γεννητικής ΤΝ, σπάνια θα πετύχετε μια επιτυχία.

Μην την πατήσετε σε αυτό το σαγηνευτικό θλιμμένο τραγούδι των σειρήνων (σημειώστε, το τραγούδι των σειρήνων στην ελληνική μυθολογία αποτελούνταν από μουσική και φωνές που παρέσυραν τους ναυτικούς στην καταδίκη τους και στο ναυάγιο).

Πριν βουτήξω στη μετατροπή των ατελών προτροπών, ας βεβαιωθούμε ότι βρισκόμαστε όλοι στο ίδιο τραπέζι όσον αφορά τους βασικούς άξονες της μηχανικής προτροπών και της δημιουργικής ΤΝ.

Η μηχανική των προτροπών είναι ο ακρογωνιαίος λίθος για τη γεννητική τεχνητή νοημοσύνη

Ως σύντομη ιστορική αναδρομή, η μηχανική προτροπής ή επίσης αναφερόμενη ως σχεδιασμός προτροπής είναι μια ταχέως εξελισσόμενη σφαίρα και είναι ζωτικής σημασίας για την αποτελεσματική και αποδοτική χρήση της παραγωγικής ΤΝ. Όποιος χρησιμοποιεί γεννητική ΤΝ, όπως το ευρέως και εξαιρετικά δημοφιλές ChatGPT του κατασκευαστή ΤΝ OpenAI, ή συγγενή ΤΝ όπως το GPT-4 (OpenAI), το Bard (Google), το Claude 2 (Anthropic), κ.λπ., οφείλει να δίνει ιδιαίτερη προσοχή στις τελευταίες καινοτομίες για τη δημιουργία βιώσιμων και ρεαλιστικών προτροπών.

Για όσους από εσάς ενδιαφέρεστε για τη μηχανική των προτροπών ή το σχεδιασμό προτροπών, έχω κάνει μια συνεχή σειρά από διορατικές ματιές στις τελευταίες εξελίξεις σε αυτό το διευρυνόμενο και εξελισσόμενο πεδίο, συμπεριλαμβανομένου του νεότερου χαρακτηριστικού του OpenAI που ονομάζεται προσαρμοσμένες οδηγίες και στο οποίο αναφέρομαι ως επίμονο πλαίσιο (δείτε το σύνδεσμο εδώ), την αξιοποίηση των πολλαπλών προσωπικοτήτων στη γενεσιουργό ΤΝ (δείτε τον σύνδεσμο εδώ), την έλευση των προσεγγίσεων της αλυσίδας σκέψης (δείτε τον σύνδεσμο εδώ), τη χρήση της μάθησης εντός του μοντέλου και των διανυσματικών βάσεων δεδομένων (δείτε τον σύνδεσμο εδώ), και πρόσθετη κάλυψη, συμπεριλαμβανομένης μιας επιθεώρησης της χρήσης μακροεντολών και της χρήσης του σχεδιασμού τελικού στόχου κατά τη χρήση γενεσιουργού ΤΝ (δείτε τον σύνδεσμο εδώ).

Η χρήση της παραγωγικής ΤΝ μπορεί συνολικά να πετύχει ή να αποτύχει με βάση την προτροπή που εισάγετε.

Αν δώσετε μια προτροπή που είναι κακοσυνταγμένη, οι πιθανότητες είναι ότι η τεχνητή νοημοσύνη θα περιπλανηθεί σε όλο το χάρτη και δεν θα λάβετε τίποτα αποδεικτικό που να σχετίζεται με το ερώτημά σας. Το να είστε αποδεδειγμένα συγκεκριμένοι μπορεί να είναι επωφελές, αλλά ακόμη και αυτό μπορεί να προκαλέσει σύγχυση ή με άλλο τρόπο να αποτύχει να σας δώσει τα αποτελέσματα που αναζητάτε. Μια μεγάλη ποικιλία από cheat sheets και μαθήματα κατάρτισης για κατάλληλους τρόπους σύνταξης και χρήσης των προτροπών έχει εισέλθει ταχύτατα στην αγορά για να προσπαθήσει να βοηθήσει τους ανθρώπους να αξιοποιήσουν υγιώς την παραγωγική ΤΝ. Επιπλέον, έχουν επινοηθεί πρόσθετα στη γεννητική ΤΝ για να σας βοηθήσουν όταν προσπαθείτε να επινοήσετε συνετές προτροπές, δείτε την κάλυψή μου στο σύνδεσμο εδώ.

Η ηθική της ΤΝ και ο νόμος της ΤΝ εισέρχονται επίσης έντονα στον τομέα της μηχανικής προτροπής. Για παράδειγμα, όποια προτροπή κι αν επιλέξετε να συνθέσετε, μπορεί άμεσα ή ακούσια να προκαλέσει ή να προωθήσει τη δυνατότητα της παραγωγικής ΤΝ να παράγει δοκίμια και αλληλεπιδράσεις που εμπεριέχουν ανεπιθύμητες προκαταλήψεις, λάθη, ψευδείς πληροφορίες, δυσλειτουργίες, ακόμη και τις λεγόμενες ψευδαισθήσεις ΤΝ (δεν υποστηρίζω τη φράση ψευδαισθήσεις ΤΝ, αν και έχει ομολογουμένως τεράστια προσκόλληση στα μέσα ενημέρωσης- εδώ είναι η άποψή μου για τις ψευδαισθήσεις ΤΝ στον σύνδεσμο εδώ).

Υπάρχει επίσης μια σημαντική πιθανότητα να δούμε τελικά τους νομοθέτες να έρχονται στο προσκήνιο σε αυτά τα θέματα, ενδεχομένως να επινοούν και να θέτουν σε εφαρμογή νέους νόμους ή κανονισμούς για να προσπαθήσουν να περιορίσουν τις καταχρηστικές χρήσεις της δημιουργικής τεχνητής νοημοσύνης. Όσον αφορά τη μηχανική προτροπών, είναι πιθανό να υπάρξουν έντονες συζητήσεις σχετικά με τη θέσπιση ορίων γύρω από τα είδη των προτροπών που μπορείτε να χρησιμοποιήσετε. Αυτό θα μπορούσε να περιλαμβάνει την απαίτηση από τους κατασκευαστές ΤΝ να φιλτράρουν και να αποτρέπουν ορισμένες υποτιθέμενες ακατάλληλες ή ακατάλληλες προτροπές, ένα ζήτημα που για ορισμένους είναι ανησυχητικό και αγγίζει τα όρια της ελευθερίας του λόγου. Για τη συνεχή κάλυψη αυτών των τύπων ζητημάτων ηθικής και δικαίου της ΤΝ, δείτε τον σύνδεσμο εδώ και τον σύνδεσμο εδώ, για να αναφέρω μόνο μερικά από αυτά.

Με τα παραπάνω ως γενική προοπτική, είμαστε έτοιμοι να ξεκινήσουμε τη σημερινή συζήτηση.

Οι προτροπές είναι το νόμισμα του βασιλείου

Στη συνέχεια θα ρίξω μια ματιά σε μια εύχρηστη ερευνητική μελέτη σχετικά με τη γεννητική ΤΝ με τίτλο "Ask Me Anything: A Simple Strategy For Prompting Language Models" των Simran Arora , Avanika Narayan, Mayee F. Chen, Laurel Orr, Neel Guha, Kush Bhatia, Ines Chami, Frederic Sala και Christopher Ré (αναρτήθηκε στο διαδίκτυο στις 20 Νοεμβρίου 2022). Θα παρουσιάσω ορισμένα αποσπάσματα και θα δώσω μια ανάλυση του τι έκαναν οι ερευνητές και πώς μπορούν να αξιοποιηθούν κατάλληλα τα αποτελέσματά τους.

Θυμηθείτε ότι προηγουμένως ανέφερα ότι κάνετε λάθος προσπαθώντας να επινοήσετε τις λεγόμενες τέλειες προτροπές. Μέρος του λόγου που ανέφερα είναι ότι δεν μπορείτε να προβλέψετε με βεβαιότητα πώς θα αντιδράσει η γεννητική ΤΝ σε μια δεδομένη προτροπή. Ένας έντονος τρόπος για να το πείτε αυτό είναι να δηλώσετε ότι έχετε να κάνετε με μια εύθραυστη διαδικασία, κάτι που αναδεικνύει ευθέως η ερευνητική εργασία:

• "Η προτροπή είναι μια εύθραυστη διαδικασία, όπου μικρές τροποποιήσεις στην προτροπή μπορούν να προκαλέσουν μεγάλες διακυμάνσεις στις προβλέψεις του μοντέλου, και ως εκ τούτου, αφιερώνεται σημαντική προσπάθεια για το σχεδιασμό μιας επίπονης και τέλειας προτροπής για μια εργασία. Για να μετριάσουμε τον υψηλό βαθμό προσπάθειας που συνεπάγεται η προτροπή, αντ' αυτού αναρωτιόμαστε αν η συλλογή πολλαπλών αποτελεσματικών, αλλά ατελών, προτροπών και η συγκέντρωσή τους μπορεί να οδηγήσει σε μια στρατηγική προτροπής υψηλής ποιότητας".
• "Αυτή η εργασία εξετάζει τη συγκέντρωση των προβλέψεων πολλαπλών αποτελεσματικών, αλλά ατελών, προτροπών για τη βελτίωση της απόδοσης της προτροπής σε ένα ευρύ σύνολο μοντέλων και εργασιών. Δεδομένης μιας εισόδου εργασίας, κάθε προτροπή παράγει μια ψήφο για την πραγματική ετικέτα της εισόδου και αυτές οι ψήφοι αθροίζονται για να παράγουν μια τελική πρόβλεψη."
• "Προτείνουμε το ASK ME ANYTHING PROMPTING (AMA), μια προσέγγιση προτροπής που χρησιμοποιεί πολλαπλές ατελείς προτροπές - αντί για μία επιμελώς κατασκευασμένη τέλεια προτροπή - και αθροίζει αξιόπιστα τα αποτελέσματά τους."

Πιστεύω ότι μπορείτε να δείτε πώς η συγκεκριμένη ερευνητική μελέτη ενισχύει την αντίληψη ότι πρέπει να αφήνετε στην άκρη τις τέλειες προτροπές και να επιτρέπετε στον εαυτό σας να εργάζεται με ατελείς προτροπές που μπορούν να οδηγήσουν σε ισχυρές προτροπές.

Προτείνουν την ιδέα ότι μπορείτε να συγκεντρώσετε μαζί ένα σύνολο ατελών προτροπών για να έχετε κάτι σαν αποτέλεσμα μιας συνεργιστικής προτροπής αρκετά καλής ποιότητας. Τείνω να μιλάω γι' αυτό ως μέθοδο τριγωνισμού. Κάντε κάτι που είναι ίσως εκτός στόχου, αλλά εντός του πεδίου παιχνιδιού. Κάντε μια άλλη προσπάθεια, πάλι εντός του πεδίου παιχνιδιού. Αφού το κάνετε αυτό αρκετές φορές, συνενώστε τις ξεχωριστές και ατελείς προτροπές σε μια νέα προτροπή που περιέχει τα διδάγματα που αντλήσατε από τη λιτανεία των ατελών προτροπών που επινοήσατε γρήγορα.

Το ωραίο είναι ότι σχεδόν αμέσως προχωράτε μπροστά στην προσπάθεια να φτάσετε σε μια αρκετά καλή προτροπή. Δεν χρειάζεται να κάθεστε ήσυχα και να βράζετε τα πράγματα. Σκεφτείτε μια λογική αλλά ατελή προτροπή, δοκιμάστε την αμέσως και μετά σκεφτείτε μια άλλη. Συνεχίστε να το κάνετε αυτό. Μόλις αισθανθείτε ότι το έχετε κάνει αρκετές φορές, μόνο τώρα βάζετε το παλιό σας καπέλο σκέψης και στοχεύετε σε μια βιώσιμη και πολεμοχαρή αρκετά καλή προτροπή.

Ιδού τι βρήκαν οι ερευνητές:

• "Διαπιστώνουμε ότι η AMA παρέχει τη μεγαλύτερη ανύψωση σε εργασίες όπου όλες οι απαιτούμενες γνώσεις περιλαμβάνονται στην είσοδο της εργασίας (π.χ. κατανόηση κειμένου) και οι οποίες βασίζονται σε μεγάλο βαθμό στις ικανότητες κατανόησης φυσικής γλώσσας (NLU) του μοντέλου. Η ανύψωση είναι μικρότερη σε εργασίες που βασίζονται στις απομνημονευμένες γνώσεις των LLMs (π.χ. κοινή λογική, κλειστά βιβλία). Η ΑΜΑ μπορεί να βοηθήσει να κλείσει το χάσμα σε εργασίες έντασης γνώσης".
• "Συνολικά, η AMA παρέχει ανύψωση σε τέσσερις οικογένειες γλωσσικών μοντέλων και σε μεγέθη μοντέλων που κυμαίνονται από 125M-175B παραμέτρους. Το πιο συναρπαστικό είναι ότι διαπιστώνουμε ότι η AMA επιτρέπει σε ένα μικρότερο LM κατά 30x να ξεπεράσει τη μέση απόδοση του GPT3-175B λίγων βολών, κατά μέσο όρο σε 20 δημοφιλή γλωσσικά benchmarks. Αρκετές εφαρμογές LM περιλαμβάνουν ιδιωτικά δεδομένα ή απαιτούν τη λειτουργία πάνω σε μεγάλες ποσότητες δεδομένων - για αυτές τις εφαρμογές, η χρήση APIs για πρόσβαση σε μοντέλα κλειστού κώδικα ή η φιλοξενία μεγάλων μοντέλων τοπικά αποτελεί πρόκληση. Ελπίζουμε ότι οι στρατηγικές του AMA και των επόμενων εργασιών θα βοηθήσουν να γίνουν εφικτές τέτοιες εφαρμογές".
• "Στόχος μας είναι να δημιουργήσουμε μια συλλογή προτροπών, P, που θα μπορούν να εφαρμοστούν σε εργασίες σε κλίμακα".

Αν ενδιαφέρεστε για τις λεπτομέρειες της προαναφερθείσας ερευνητικής μελέτης, ευτυχώς, έχουν διαθέσει τις προτροπές και τον κώδικά τους στο GitHub. Χαιρετίζω κάθε έρευνα τεχνητής νοημοσύνης που διαθέτει τις προτροπές και τον κώδικά της. Με τη δημοσιοποίηση του υλικού, άλλοι ερευνητές ΤΝ μπορούν να δοκιμάσουν, να επαληθεύσουν και να επικυρώσουν εκ νέου τα αποτελέσματα, συν το ότι μπορούν στη συνέχεια να χρησιμοποιήσουν την πηγή ως σημείο εκκίνησης για να σημειώσουν περαιτέρω πρόοδο στο πεδίο της ΤΝ. Δυστυχώς, πολλοί ερευνητές ΤΝ δεν δημοσιεύουν δημοσίως τα υλικά τους και ergo δεν έχουμε ένα έτοιμο μέσο για να μετρήσουμε την εγκυρότητα των πειραμάτων και ούτε μπορούμε να χτίσουμε πάνω στο ήδη διανυμένο έδαφος.

Αυτό είναι πολύ κρίμα.

Καθώς στέκομαι στην κορυφή αυτού του αυτοσχέδιου σαπουνόπετρου, θα ήθελα επίσης να προτείνω έντονα ότι όλες οι ερευνητικές μελέτες για την τεχνητή νοημοσύνη θα έπρεπε να περιλαμβάνουν κάποιου είδους έκθεση επιπτώσεων σχετικά με τις πτυχές της ηθικής της τεχνητής νοημοσύνης και του δικαίου της τεχνητής νοημοσύνης της έρευνάς τους. Το θέμα είναι ότι ένα μεγάλο μέρος των εργασιών για την Τεχνητή Νοημοσύνη επικεντρώνεται αποκλειστικά σε τεχνολογικούς παράγοντες. Λίγοι φαίνεται να είναι αρκετά πρόθυμοι ή σκεπτόμενοι ώστε να σταθμίσουν επίσης τις κοινωνικές και νομικές διαστάσεις των προσπαθειών τους για την ΤΝ.

Στην περίπτωση της ερευνητικής μελέτης που συζητάω εδώ, παρείχαν κάποιες διορατικές παρατηρήσεις σχετικά με το πώς η έρευνά τους για την τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί και ενδεχομένως δυστυχώς να καταχραστεί:

• "Σκοπεύουμε για AMA να βοηθήσει τους επαγγελματίες στην εξερεύνηση και τη χρήση τους LLMs - ειδικά μικρότερα, ανοικτού κώδικα LLMs. Ωστόσο, αναγνωρίζουμε ότι η ΑΜΑ θα μπορούσε να χρησιμοποιηθεί για την εκτέλεση επιβλαβών ή ανήθικων εργασιών. Το AMA είναι ένα proof-of-concept- διαθέτει λειτουργίες σφάλματος και αναγνωρίζουμε τους εγγενείς κινδύνους που συνεπάγεται η χρήση LLMs".

Τώρα για λίγη ανάλυση και περαιτέρω πονήματα.

Όπως έχω συζητήσει συχνά στη στήλη μου, μπορείτε να περιμένετε ότι ένα μεγάλο μέρος της μηχανικής προτροπής θα ενισχυθεί μέσω της χρήσης πρόσθετων ή ενσωματωμένων εργαλείων που βοηθούν τις στρατηγικές προτροπής που κατά τα άλλα βασίζονται στο χέρι. Το αναφέρω αυτό επειδή τα πολυάριθμα cheat sheets και τα μαθήματα με το χέρι δυστυχώς δεν έχουν ιδιαίτερη κλίμακα, όπως λέγεται. Δεν πρόκειται να φτάσετε στην τάξη των εκατοντάδων εκατομμυρίων ανθρώπινων χρηστών της δημιουργικής τεχνητής νοημοσύνης για να ανυψωθούν στη στρατόσφαιρα της μηχανικής προτροπής. Απλώς δεν είναι εφικτό από υλικοτεχνική άποψη και από άποψη ανθρώπινης συμπεριφοράς.

Η ανάπτυξη και η εφαρμογή πρόσθετων και εργαλείων προτροπής επιτρέπει στέρεες στρατηγικές προτροπής σε κλίμακα. Το ίδιο μπορεί να ειπωθεί και για αυτή την επαναληπτική προσέγγιση που περιλαμβάνει ατελείς προτροπές που χρησιμοποιούνται γρήγορα για να συγκεντρωθεί μια αρκετά καλή προτροπή. Φανταστείτε ότι αντί να δημιουργείτε εσείς χειροκίνητα μια σειρά ατελών προτροπών, ένα εύχρηστο εργαλείο της γεννητικής ΤΝ θα αναλάβει αυτό το έργο για εσάς.

Αντιλαμβάνομαι ότι αυτό μπορεί να φαίνεται λίγο αναδρομικό ή ένα όνειρο μέσα στο όνειρο, όπως η δημοφιλής ταινία "Inception". Ακούστε πώς θα λειτουργήσει αυτό. Θα εισάγετε μια πρόχειρη προτροπή, την οποία το πρόσθετο εργαλείο προτροπής με τεχνητή νοημοσύνη θα παράγει ένα σωρό πρόσθετες ατελείς προτροπές. Αυτές με τη σειρά τους θα συγκεντρώνονται αυτόματα ή ημιαυτόματα σε μια αρκετά καλή προτροπή από το εργαλείο. Αυτή η αρκετά καλή προτροπή γίνεται στη συνέχεια η τελική προτροπή την οποία εισάγετε ή απλώς δίνετε στη γεννητική τεχνητή νοημοσύνη για να λάβετε την αλληλεπίδραση ή το δοκίμιο που επιδιώκετε.

Εύκολο.

Ο οδηγός σας βήμα προς βήμα για αυτή την ειδική τεχνική προτροπής

Αν θέλετε να δοκιμάσετε αυτή την τεχνική, σας έχω μερικές χρήσιμες οδηγίες.

Να τι κάνω κάθε φορά που αντιμετωπίζω ένα δύσκολο πρόβλημα και θέλω να βάλω τη γεννητική τεχνητή νοημοσύνη να δώσει την κατάλληλη κατευθυνόμενη εστίαση. Για να διευκρινίσω, δεν θα χρησιμοποιούσατε πιθανότατα αυτή την τεχνική αν κάνετε εφάπαξ ή αν χαζεύετε με τη γενεσιουργό AI. Δεν νομίζω ότι η προσπάθεια θα άξιζε τον κόπο, ή όπως θα έλεγαν κάποιοι, η συμπίεση δεν θα άξιζε τον χυμό.

Εντάξει, ας υποθέσουμε ότι έχετε ένα κάπως περίπλοκο πρόβλημα το οποίο δυσκολεύεστε να φανταστείτε πώς να το συνθέσετε καλύτερα ως προτροπή για τη γεννητική τεχνητή νοημοσύνη. Το μυαλό σας είναι μπερδεμένο. Από πού να ξεκινήσετε; Ποιες λεπτομέρειες πρέπει να συμπεριλάβετε; Θα ήταν σοφότερο να θέσετε το πρόβλημα ως ερώτηση ή αντί γι' αυτό να γράψετε την προτροπή ως οδηγία που λέει ανοιχτά στη γενεσιουργό ΤΝ τι να κάνει;

Ερωτήσεις, ερωτήσεις, ερωτήσεις.

Διαβάστε τα χείλη μου - σταματήστε να ανησυχείτε.

Προχωρήστε στην εργασία σας.

Κάντε το καλύτερο που μπορείτε να κάνετε και κάντε το με μια σειρά από ευθέως "ατελείς" προτροπές (αυτές που κατά βάθος ξέρετε ότι δεν είναι αυτό που θέλετε ή πρέπει να πείτε, αλλά από κάπου πρέπει να ξεκινήσετε). Ένα ταξίδι χιλίων χιλιομέτρων απαιτεί να βάζετε το ένα πόδι μπροστά από το άλλο. Επανειλημμένα.

Τα τέσσερα συνολικά μεγάλα βήματά μου είναι αυτά:

• (1) Επινοήστε ένα συνειδητά ατελές σύνολο προτροπών.
• (2) Χρήση του ατελούς συνόλου προτροπών για την εξαγωγή μιας συγκεντρωτικής προτροπής.
• (3) Χρησιμοποιώ τη συγκεντρωτική προτροπή και βλέπω πώς πάνε τα πράγματα.
• (4) Ξεπλύνετε και επαναλάβετε, συν τον εντοπισμό μαθημάτων προτροπής

Σημειώστε ότι αυτή είναι μια μέθοδος που είναι αποφασιστικά προσανατολισμένη στη δράση.

Τα καλά νέα είναι ότι πιθανότατα θα αισθάνεστε καλύτερα σχετικά με τη χρήση της παραγωγικής ΤΝ λόγω της εμπνευσμένης από τη δράση μετακίνησης των πραγμάτων με το μάντρα αυτής της τεχνικής. Επιπλέον, σας δίνω τη ρητή άδεια να μην είστε σίγουρα τέλειοι. Ναι, σωστά, σας δίνεται μια κάρτα απαλλαγής από τη φυλακή. Ενώ οι περισσότεροι από εμάς θα υποφέραμε ατελείωτα με μια διακαή επιθυμία να γράψουμε την τέλεια προτροπή, σας λέω ότι αυτό δεν είναι κάτι που χρειάζεται να γκρινιάζετε περαιτέρω.

Το απολαυστικό τραγούδι Let It Go παρέχει παρηγοριά εδώ.

Προχωρώντας, ας ξετυλίξουμε αυτά τα τέσσερα σημαντικά βήματα:

(1) Επινοήστε ένα συνειδητά ατελές σετ προτροπών

• (α) Συνθέστε τη βασική σας προτροπή, μην ανησυχείτε γι' αυτήν.
• (β) Να επινοήσετε μια σειρά από λογικές και σχετικές παραλλαγές της βασικής προτροπής
• (γ) Εξετάστε το ενδεχόμενο να διαφοροποιήσετε το ύφος ή τη μορφή εκτός από την ουσία
• (δ) να επανεξετάσετε και ενδεχομένως να απορρίψετε ατελείς προτροπές που παραπλανούν ή θα μπορούσαν να μπερδέψουν την ΤΝ

(2) Χρήση του συνόλου ατελών προτροπών για την εξαγωγή μιας συγκεντρωτικής προτροπής

• (α) Ξεκινήστε μια νέα συζήτηση στη γενεσιουργό ΤΝ (φρέσκια και καθαρή)
• (β) Ξεκινήστε με τυχόν απαιτούμενες προτροπές που καθορίζουν το πλαίσιο (δείτε τον σύνδεσμο εδώ)
• (γ) Χρησιμοποιήστε επιλεκτικά τις ατελείς προτροπές σας από το σύνολο που συντάξατε
• (δ) Με βάση την ανταπόκριση της γεννητικής ΤΝ, εκτιμήστε ποιες άλλες επιλογές θα δοκιμάσετε
• (ε) Εάν συσπειρωθείτε προς μια κατάλληλη γεννητική απάντηση ΤΝ προχωρήστε προς αυτή την κατεύθυνση
• (στ) Εάν αποκλίνετε από μια κατάλληλη απάντηση τότε σταματήστε τις προσπάθειές σας, επαναξιολογήστε και ενδεχομένως ξεκινήστε εκ νέου
• (ζ) Καθορίστε μια συνετή συγκεντρωτική προτροπή με βάση τις δοκιμές σας στη γεννητική ΤΝ

(3) Χρησιμοποιήστε τη συγκεντρωτική προτροπή και δείτε πώς πάνε τα πράγματα

• (α) Ξεκινήστε μια νέα συζήτηση στη γενεσιουργό ΤΝ, ώστε όλα να είναι φρέσκα και καθαρά
• (β) Ξεκινήστε με τυχόν απαιτούμενες προτροπές που καθορίζουν το πλαίσιο (δείτε τον σύνδεσμο εδώ)
• (γ) Χρησιμοποιήστε την παράγωγη συγκεντρωτική προτροπή σας
• (δ) Με βάση την απάντηση της γεννητικής ΤΝ, χρησιμοποιήστε τις επόμενες προτροπές για πρόσθετο βάθος επιδίωξης
• (ε) Εάν η συνένωση καταλήγει σε μια κατάλληλη γεννητική απάντηση ΤΝ προχωρήστε περαιτέρω προς αυτή την κατεύθυνση
• (στ) Εάν αποκλίνετε από μια κατάλληλη απάντηση, τότε σταματήστε τις προσπάθειές σας, επανεκτιμήστε και ενδεχομένως ξεκινήστε εκ νέου.

(4) Ξέπλυμα και επανάληψη, καθώς και αναγνώριση μαθημάτων προτροπής

• (α) Σκεφτείτε για λίγο πώς πήγαν τα πράγματα
• (β) Ρωτήστε τον εαυτό σας: Πώς μπορείτε να βελτιώσετε την "ατελή" προετοιμασία προτροπής για το μέλλον;
• (γ) Ρωτήστε τον εαυτό σας: Πώς μπορείτε να βελτιώσετε την επινόηση συγκεντρωτικών προτροπών;
• (δ) Ρωτήστε τον εαυτό σας: Πώς μπορείτε να βελτιώσετε τη χρήση μιας συγκεντρωτικής προτροπής;
• (ε) Προσδιορίστε τυχόν άλλα διδάγματα που θα ενισχύσουν τις δεξιότητές σας στη μηχανική των προτροπών

Δεν έχω το χώρο εδώ για να αναφερθώ σε ένα ολοκληρωμένο παράδειγμα της διαδικασίας, αλλά αν υπάρχει επαρκές ενδιαφέρον από τους αναγνώστες θα το κάνω ευχαρίστως σε μια μεταγενέστερη στήλη παρακολούθησης και θα φωτίσω τις λεπτές αποχρώσεις αυτής της αξιοσημείωτης τεχνικής.

Αυτή η τεχνική θα έπρεπε να είναι μία από τις πολλές που έχετε στο οπλοστάσιό σας με τις μεθόδους άμεσης μηχανικής.

Κάθε τεχνική που σταδιακά θα εξοικειωθείτε με τη χρήση της θα εφαρμόζεται πιθανότατα σε συγκεκριμένες περιστάσεις. Μην πέσετε στην κλασική παγίδα της προσπάθειας να χρησιμοποιείτε μια τεχνική σε όλες τις καταστάσεις. Αυτό είναι το πραγματικό σφυρί και το καρφί. Αν το μόνο που έχετε είναι ένα σφυρί, όλος ο κόσμος μοιάζει να είναι γεμάτος καρφιά και χρησιμοποιείτε το σφυρί ακόμη και όταν δεν θα έπρεπε. Το ίδιο ισχύει και για την εμμονή σε μια συγκεκριμένη τεχνική άμεσης μηχανικής.

Μάθετε αυτή την τεχνική και χρησιμοποιήστε την όταν δικαιολογείται.

Συμπέρασμα

Έχω ένα ακόμη σκεπτικό για το γιατί θα πρέπει ενδεχομένως να αγκαλιάσουμε τις ατελείς προτροπές. Πρόκειται για μια δυνητικά εντυπωσιακή αιτιολόγηση. Για την ασφάλειά σας, παρακαλώ καθίστε και προετοιμαστείτε.

Είστε έτοιμοι;

Ένα άρθρο από το Harvard Business Review (HBR) αναφέρει τα εξής σχετικά με την ικανότητα των ανθρώπων γενικά να κάνουν ερωτήσεις:

• "Για μερικούς ανθρώπους, η αμφισβήτηση είναι εύκολη. Η φυσική τους περιέργεια, η συναισθηματική τους νοημοσύνη και η ικανότητά τους να διαβάζουν τους ανθρώπους βάζουν την ιδανική ερώτηση στην άκρη της γλώσσας τους. Αλλά οι περισσότεροι από εμάς δεν κάνουμε αρκετές ερωτήσεις, ούτε θέτουμε τις ερωτήσεις μας με τον βέλτιστο τρόπο" (άρθρο με τίτλο "The Surprising Power of Questions" των Alison Wood Brooks και Leslie K. John, Μάιος-Ιούνιος 2018, HBR).

Στο απόσπασμα σημειώνεται ότι οι άνθρωποι δεν είναι απαραίτητα έμπειροι στο να κάνουν ερωτήσεις. Μερικοί άνθρωποι είναι καλοί σε αυτό. Πιθανότατα οι περισσότεροι δεν είναι. Η άποψή μου είναι ότι τώρα έχουμε φαινομενικά εκατοντάδες εκατομμύρια ανθρώπους που χρησιμοποιούν εφαρμογές δημιουργικής τεχνητής νοημοσύνης και υποθέτουμε αδιάφορα ότι όλοι ή οι περισσότεροι από αυτούς τους ανθρώπους ξέρουν πώς να κάνουν ερωτήσεις. Πρέπει να γνωρίζουν πώς να κάνουν κατάλληλες ερωτήσεις με την έννοια ότι η γενεσιουργός ΤΝ λειτουργεί θεμελιωδώς σε μια βάση ερωτήσεων και απαντήσεων.

Δηλαδή, κάνετε μια ερώτηση και η γεννητική ΤΝ υποτίθεται ότι απαντά.

Νομίζω ότι καταλαβαίνετε το πρόβλημα. Αν οι άνθρωποι δεν είναι ιδιαίτερα έμπειροι στο να κάνουν ερωτήσεις, αλλά και αν πρέπει να κάνουν ερωτήσεις για να πάρουν απαντήσεις από τη γεννητική τεχνητή νοημοσύνη, τα πράγματα είναι μπερδεμένα. Το θέμα γίνεται ακόμα χειρότερο αν λάβετε υπόψη σας την προηγούμενη επισήμανσή μου ότι η γενεσιουργός ΤΝ λειτουργεί σε πιθανολογική και στατιστική βάση. Έχετε ανθρώπους που προσπαθούν να χρησιμοποιήσουν την παραγωγική τεχνητή νοημοσύνη η οποία δεν είναι ιδιαίτερα επιδέξια στο να κάνει ερωτήσεις. Ταυτόχρονα, έχετε γεννητική τεχνητή νοημοσύνη που ενδεχομένως πρόκειται να παρέχει γεννημένες απαντήσεις που θα διαφέρουν κάπως άσκοπα κάθε φορά που κάνετε μια ερώτηση. Υποθέτω ότι, με θράσος, θα μπορούσατε να πείτε ότι είναι ο τυφλός που οδηγεί τον τυφλό (μια παλιά ρήση που αξίζει να αποσυρθεί).

Πώς θα βγούμε από αυτή την ενοχλητική κατάσταση;

Έχω τρεις δυνατότητες να μοιραστώ μαζί σας.

Πρώτον, μπορούμε να προσπαθήσουμε να κάνουμε όλο τον κόσμο να κάνει καλύτερες ερωτήσεις. Ουάου, αυτό είναι μια εντυπωσιακή και εκπληκτικά αξιόλογη ηρωική φιλοδοξία, όλα αυτά. Αυτό θα βοηθούσε ιδιαίτερα τους ανθρώπους που στη συνέχεια θα επέλεγαν να κάνουν χρήση της δημιουργικής τεχνητής νοημοσύνης, αν και αυτός είναι ένας μικροσκοπικός λόγος για την επιδίωξη ενός τόσο υψηλού στόχου.

Μια άλλη οπτική γωνία θα ήταν να δεχτούμε ότι οι άνθρωποι είναι γενικά ασταθείς στο να κάνουν ερωτήσεις. Ως εκ τούτου, όταν χρησιμοποιείτε τη γεννητική τεχνητή νοημοσύνη, δώστε τους ένα μονοπάτι προς την κατεύθυνση της μετατροπής της αδυναμίας τους σε δύναμη, χρησιμοποιώντας πολλές ατελείς προτροπές για να βρείτε το δρόμο σας προς μια αρκετά καλή προτροπή. Ορίστε, η λύση όπως φαίνεται μέσω της τεχνικής που περιγράφεται εδώ.

Τρίτον, μπορούμε να προωθήσουμε την ΤΝ έτσι ώστε η γενετική ΤΝ να μπορεί να αντισταθμίσει το γεγονός ότι οι άνθρωποι σε γενικές γραμμές δεν είναι έξυπνοι στο να θέτουν ερωτήσεις. Όπως ανέφερα προηγουμένως, όλα τα είδη των πρόσθετων λειτουργιών που λειτουργούν με τεχνητή νοημοσύνη και διάφορα εργαλεία μηχανικής που θα μας ζητούν να αναμειχθούν αναμφίβολα στη γενετική ΤΝ και θα κάνουν τη ζωή των ανθρώπων που χρησιμοποιούν τη γενετική ΤΝ ευκολότερη.

Στοιχηματίζω ότι απολαμβάνετε αυτή την τελευταία οπτική γωνία ως την πιο συναρπαστική από τις τρεις επιλογές. Σχεδόν πάντα αγκαλιάζουμε τη χρήση της αυτοματοποίησης όταν αυτό μας απαλλάσσει από επίπονες δουλειές.

Λυπάμαι που το λέω, αλλά δεν πιστεύουν όλοι ότι το να βάλουμε την ΤΝ να κάνει τις ερωτήσεις που μας ανεβάζουν είναι τόσο καλή ιδέα. Ανησυχούν ότι οι άνθρωποι θα αφήσουν την ικανότητά τους να κάνουν ερωτήσεις να παρακμάσει. Όλο και χειρότερα θα πηγαίνουμε. Αν η ικανότητά μας να κάνουμε ερωτήσεις είναι ήδη ισχνή, φανταστείτε τι θα συμβεί αν η τεχνητή νοημοσύνη κάνει τις ερωτήσεις για εμάς στο μέλλον. Μπορεί να στερηθούμε εντελώς την ικανότητα υποβολής ερωτήσεων.

Υποθέτω ότι μπορούμε να ανατρέξουμε στον πανέξυπνο και παντογνώστη Άλμπερτ Αϊνστάιν και να δούμε αν υπάρχει κάτι που θα μπορούσε να έχει πει κάποτε που θα μπορούσε να μας βοηθήσει να λύσουμε αυτό το δίλημμα. "Αμφισβητήστε τα πάντα", αυτό μας προέτρεψε περίφημα ο Άλμπερτ Αϊνστάιν να κάνουμε. Αυτά είναι σοφά λόγια με τα οποία αξίζει να ζούμε, οπότε προχωρήστε και αρχίστε να κάνετε περισσότερες ερωτήσεις, όσες περισσότερες θέλετε, και στοχεύστε να τελειοποιήσετε τις ικανότητές σας στο να κάνετε ερωτήσεις, αν και να είστε πρόθυμοι να συμβιβαστείτε με το αρκετά καλό, αν αυτό είναι αρκετό.

Μια απόλυτα καλή φιλοδοξία.

Πηγή:  Latest Prompt Engineering Technique Inventively Transforms Imperfect Prompts Into Superb Interactions For Using Generative AI