Περίληψη κειμένου:
Η NVIDIA κυκλοφόρησε τα NeMo Guardrails, ένα λογισμικό ανοικτού κώδικα που έχει σχεδιαστεί για να βοηθήσει τους προγραμματιστές να καθοδηγούν τις εφαρμογές τεχνητής νοημοσύνης ώστε να δημιουργούν ακριβείς, κατάλληλες, εντός θέματος και ασφαλείς απαντήσεις κειμένου. Λειτουργεί με όλα τα μεγάλα γλωσσικά μοντέλα (LLMs) και επιτρέπει στους προγραμματιστές να θέτουν τρία είδη ορίων: θεματικά, ασφαλείας και guardrails ασφαλείας. Το NeMo Guardrails είναι εύκολο στη χρήση και μπορεί να ενσωματωθεί σε υπάρχοντα εργαλεία όπως το LangChain και το Zapier. Διατίθεται ως ανοιχτός κώδικας στο GitHub, ως πλήρες και υποστηριζόμενο πακέτο και ως υπηρεσία μέσω του NVIDIA AI Foundations. Η NVIDIA δεσμεύεται να καταστήσει την Τεχνητή Νοημοσύνη ένα υπολογίσιμο και αξιόπιστο μέρος του μέλλοντος και συμβάλλει στις προσπάθειες της κοινότητας των προγραμματιστών για την ασφάλεια της Τεχνητής Νοημοσύνης.

Αναλυτικά το κείμενο:
Το NeMo Guardrails είναι ένα νέο λογισμικό ανοικτού κώδικα που έχει σχεδιαστεί για να βοηθά τους προγραμματιστές να διασφαλίζουν την ακρίβεια, την καταλληλότητα και την ασφάλεια των εφαρμογών τεχνητής νοημοσύνης που παράγουν κείμενο. Περιλαμβάνει όλο τον κώδικα, τα παραδείγματα και την τεκμηρίωση που απαιτούνται για την προσθήκη ασφάλειας σε αυτές τις εφαρμογές. Οι LLM, οι ισχυρές μηχανές πίσω από αυτές τις εφαρμογές τεχνητής νοημοσύνης, χρησιμοποιούνται σε πολλές βιομηχανίες για να απαντούν σε ερωτήσεις πελατών, να συνοψίζουν έγγραφα, να γράφουν λογισμικό και να επιταχύνουν τον σχεδιασμό φαρμάκων. Το NeMo Guardrails παρέχει ένα σύνολο εργαλείων που βοηθούν τους προγραμματιστές να διατηρούν τις εφαρμογές τεχνητής νοημοσύνης τους ασφαλείς, όπως ένα API που μπορεί να ανιχνεύει και να μπλοκάρει κακόβουλες εισόδους. Με αυτό το λογισμικό, οι προγραμματιστές μπορούν να καθοδηγήσουν τις παραγωγικές εφαρμογές AI ώστε να δημιουργούν εντυπωσιακές απαντήσεις κειμένου που παραμένουν στην πορεία.

Το NeMo Guardrails συνεργάζεται με όλα τα γλωσσικά μοντέλα (LLM), όπως το ChatGPT του OpenAI, για να διασφαλίσει την ασφάλεια και την ακρίβεια στη δημιουργική τεχνητή νοημοσύνη. Το NeMo Guardrails δίνει τη δυνατότητα στους προγραμματιστές να δημιουργήσουν τρία είδη ορίων: topical guardrails για να αποτρέπουν τις εφαρμογές από το να παρεκκλίνουν σε ανεπιθύμητες περιοχές, safety guardrails για να διασφαλίζουν ότι οι εφαρμογές ανταποκρίνονται με ακριβείς και κατάλληλες πληροφορίες, και security guardrails για να περιορίζουν τις εφαρμογές να πραγματοποιούν συνδέσεις μόνο με εξωτερικές εφαρμογές τρίτων που είναι γνωστό ότι είναι ασφαλείς. Το NeMo Guardrails είναι εύκολο στη χρήση, χωρίς να απαιτεί εμπειρία μηχανικής μάθησης ή γνώσεις επιστήμης δεδομένων, και νέοι κανόνες μπορούν να δημιουργηθούν γρήγορα με λίγες γραμμές κώδικα.

Το NeMo Guardrails μπορεί να χρησιμοποιηθεί με υπάρχοντα εργαλεία ανάπτυξης εφαρμογών για επιχειρήσεις, όπως το LangChain και το Zapier. Το LangChain είναι μια εργαλειοθήκη ανοικτού κώδικα που οι προγραμματιστές υιοθετούν με ταχείς ρυθμούς για να συνδέσουν εφαρμογές τρίτων στη δύναμη των LLM. Το Zapier είναι μια πλατφόρμα αυτοματοποίησης που χρησιμοποιείται από πάνω από 2 εκατομμύρια επιχειρήσεις. Ο Reid Robinson, επικεφαλής διαχειριστής προϊόντων AI στη Zapier, πιστεύει ότι η ασφάλεια, η προστασία και η εμπιστοσύνη είναι οι ακρογωνιαίοι λίθοι της υπεύθυνης ανάπτυξης AI και ότι το NeMo Guardrails θα συμβάλει στο να καταστεί η AI ένα αξιόπιστο και αξιόπιστο μέρος του μέλλοντος. 

Η NVIDIA έχει ενσωματώσει το NeMo Guardrails στο πλαίσιο NVIDIA NeMo, το οποίο παρέχει στους χρήστες τα εργαλεία για την εκπαίδευση και τον συντονισμό γλωσσικών μοντέλων με τη χρήση ιδιόκτητων δεδομένων. Το NeMo διατίθεται ως ανοιχτός κώδικας στο GitHub, ως πλήρες και υποστηριζόμενο πακέτο και ως υπηρεσία. Έχει χρησιμοποιηθεί από μια εταιρεία κινητής τηλεφωνίας στη Νότια Κορέα για τη δημιουργία ενός έξυπνου βοηθού και από μια ερευνητική ομάδα στη Σουηδία για τη δημιουργία γλωσσικών μοντέλων για νοσοκομεία, κυβερνητικά και επιχειρηματικά γραφεία. Η πλατφόρμα λογισμικού NVIDIA AI Enterprise και οι υπηρεσίες cloud AI Foundations είναι επίσης διαθέσιμες για επιχειρήσεις για τη δημιουργία και εκτέλεση προσαρμοσμένων γεννητικών μοντέλων AI.

Η NVIDIA δημοσίευσε το NeMo Guardrails, προϊόν πολυετούς έρευνας, στην κοινότητα ανοικτού κώδικα, προκειμένου να συμβάλει στη συνεχιζόμενη έρευνα για την ασφάλεια της τεχνητής νοημοσύνης. Πρόκειται για ένα δύσκολο πρόβλημα που θα απαιτήσει συνεχή προσπάθεια καθώς η τεχνολογία της τεχνητής νοημοσύνης εξελίσσεται. Αποσκοπεί στη διασφάλιση ότι οι έξυπνες υπηρεσίες παραμένουν σύμφωνες με τα πρότυπα ασφάλειας, προστασίας της ιδιωτικής ζωής και ασφάλειας. Αυτό θα βοηθήσει να διασφαλιστεί ότι η ΤΝ θα παραμείνει κινητήρια δύναμη της καινοτομίας.

Πηγή: Right on Track: NVIDIA Open-Source Software Helps Developers Add Guardrails to AI Chatbots.