18/4/2023: Η πειρατεία του ChatGPT μόλις αρχίζει
Ο Alex Polyakov, διευθύνων σύμβουλος της Adversa AI, ανέπτυξε πρόσφατα ένα "καθολικό" jailbreak που λειτουργεί ενάντια σε πολλά μεγάλα γλωσσικά μοντέλα (LLM). Αυτό το jailbreak περιλαμβάνει το να ζητηθεί από τα LLMs να παίξουν ένα παιχνίδι, το οποίο περιλαμβάνει δύο χαρακτήρες (Tom και Jerry) που έχουν μια συνομιλία. Τα παραδείγματα που μοιράστηκε ο Polyakov δείχνουν ότι ο χαρακτήρας Tom λαμβάνει εντολή να μιλήσει για "hotwiring" ή "παραγωγή", ενώ στον Jerry δίνεται το θέμα "αυτοκίνητο" ή "μεθαμφεταμίνη". Αυτό το jailbreak μπορεί να ξεγελάσει τα συστήματα ώστε να παράγουν λεπτομερείς οδηγίες για τη δημιουργία μεθαμφεταμίνης και για το πώς να βραχυκυκλώνουν ένα αυτοκίνητο. Έχουν δημιουργηθεί και άλλα jailbreak, όπως το DAN, το οποίο μπορεί να παρακάμψει τις πολιτικές του OpenAI που υπαγορεύουν ότι το ChatGPT δεν πρέπει να χρησιμοποιείται για την παραγωγή παράνομου ή επιβλαβούς υλικού. Οι εταιρείες χρησιμοποιούν red-teaming για να προσπαθήσουν να αποτρέψουν αυτά τα jailbreaks, αλλά πρέπει να γίνουν περισσότερα. Προτείνονται λύσεις όπως η χρήση ενός δεύτερου LLM για την ανάλυση των προτροπών LLM ή ο σαφέστερος διαχωρισμός της προτροπής του συστήματος από την προτροπή του χρήστη.

Περίληψη άρθρου:
Την τελευταία δεκαετία, οι σχεδιαστές εμπειρίας χρήστη (UX) έχουν εργαστεί για να δημιουργήσουν μια απρόσκοπτη διαδικτυακή εμπειρία, όπου οι χρήστες δεν χρειάζεται να γνωρίζουν τι συμβαίνει στα παρασκήνια. Αυτό είχε ως αποτέλεσμα τα στοιχεία Τεχνητής Νοημοσύνης (ΤΝ) να σχεδιάζονται με τη φιλοσοφία της ελάχιστης επέμβασης του χρήστη. Ωστόσο, σήμερα παρατηρείται μια αλλαγή στη φιλοσοφία των προϊόντων, όπου οι χρήστες ενθαρρύνονται να αλληλεπιδρούν άμεσα με στοιχεία ΤΝ που έχουν σχεδιαστεί με στόχο τη χρησιμότητα και όχι την απρόσκοπτη ορθότητα. Αυτό έχει οδηγήσει σε μια επανάσταση στο UX, όπου οι προσδοκίες των χρηστών επαναπροσδιορίζονται και παρουσιάζονται νέες αλληλεπιδράσεις που θα ήταν απαγορευτικές πριν από μια δεκαετία. Η επανάσταση των δυνατοτήτων της ΤΝ έχει ξεκινήσει εδώ και μερικά χρόνια, αλλά οι τελευταίοι μήνες αφορούσαν τον σχεδιασμό UX και την επαναφορά των προσδοκιών των χρηστών.

Περίληψη άρθρου:
Η Meta Platforms, Inc (NASDAQ: META) αντιμετωπίζει ανησυχίες των εργαζομένων σχετικά με τη σταθερότητα των θέσεων εργασίας λόγω των περικοπών θέσεων εργασίας και τη βιωσιμότητα της εστίασής της στο metaverse. Η εταιρεία έχει πραγματοποιήσει δύο γύρους απολύσεων τους τελευταίους έξι μήνες, καταργώντας περισσότερα από 26.000 άτομα, ή σχεδόν το 30% του εργατικού δυναμικού της. Για να αποδείξουν την αξία τους για την εταιρεία, οι εργαζόμενοι αντιμετωπίζουν έντονο έλεγχο και πίεση και η εταιρεία μειώνει ορισμένα από τα πλούσια προνόμια και τις ανέσεις της.

Περίληψη άρθρου: 
Η Bluesky του Jack Dorsey δημιουργεί μια "αγορά αλγορίθμων" που θα επιτρέπει στους χρήστες να ελέγχουν τον τρόπο με τον οποίο φιλτράρεται και ταξινομείται το περιεχόμενο. Η διευθύνων σύμβουλος Jay Graber δήλωσε ότι μια ανοικτή αγορά αλγορίθμων θα παρέχει στους προγραμματιστές την ελευθερία να πειραματιστούν και να δημοσιεύσουν αλγορίθμους που μπορεί να χρησιμοποιήσει ο καθένας και ότι επιτρέποντας στους χρήστες να προσαρμόζουν την τροφοδοσία τους θα τους δώσει πίσω τον έλεγχο του πιο πολύτιμου πόρου τους: της προσοχής τους. Ο Ντόρσεϊ υπήρξε υπέρμαχος της "αλγοριθμικής επιλογής" και έθεσε μάλιστα την ιδέα μιας αγοράς αλγορίθμων όταν ακόμη διοικούσε το Twitter.

Περίληψη άρθρου:
Η Amazon Web Services (AWS) ανακοίνωσε σήμερα ότι επεκτείνει τις υπηρεσίες δημιουργικής τεχνητής νοημοσύνης που διαθέτει, ώστε να καταστήσει την τεχνολογία περισσότερο διαθέσιμη στους οργανισμούς στο cloud. Αυτό περιλαμβάνει το Amazon Bedrock, ένα σύνολο βασικών υπηρεσιών μοντέλου AI, και instances cloud Amazon EC2 Inf2 που τροφοδοτούνται από chips AWS Inferentia2. Επιπλέον, η υπηρεσία γενεσιουργού Τεχνητής Νοημοσύνης της Amazon CodeWhisperer για την ανάπτυξη κώδικα είναι πλέον γενικά διαθέσιμη και δωρεάν για όλους τους μεμονωμένους προγραμματιστές. Το Amazon Bedrock παρέχει στους χρήστες ένα σύνολο βασικών μοντέλων που μπορούν να προσαρμοστούν με πρόσθετη εκπαίδευση στο AWS. Η AWS διαθέτει επίσης το δικό της μοντέλο Titan, το οποίο είναι ένα μοντέλο κειμένου για τη δημιουργία περιεχομένου και ένα μοντέλο ενσωμάτωσης για τη δημιουργία διανυσματικών ενσωματώσεων. Το CodeWhisperer παρέχει ενισχυμένη ασφάλεια, επικυρώνοντας τον παραγόμενο κώδικα και ελέγχοντάς τον για πιθανές ευπάθειες. Όλες αυτές οι υπηρεσίες εντάσσονται στο πλαίσιο του στόχου της AWS να εκδημοκρατίσει τη χρήση της δημιουργικής τεχνητής νοημοσύνης.

Περίληψη άρθρου:
Η Stability AI κυκλοφόρησε μια νέα έκδοση του Stable Diffusion, ενός συστήματος τεχνητής νοημοσύνης που ανταγωνίζεται το DALL-E 2 της OpenAI. Αυτή η νέα έκδοση, που ονομάζεται Stable Diffusion XL (SDXL), είναι διαθέσιμη σε beta και φέρνει έναν "πλούτο" στη δημιουργία εικόνων που δεν είχε το παλιό μοντέλο. Είναι καλύτερο στη δημιουργία κειμένου, στη σύνθεση εικόνων και στη δημιουργία προσώπων και δεν απαιτεί μακροσκελείς, λεπτομερείς οδηγίες για τη δημιουργία περιγραφικών εικόνων. Διαθέτει επίσης λειτουργίες που επεκτείνονται πέρα από την προτροπή από κείμενο σε εικόνα, συμπεριλαμβανομένης της προτροπής από εικόνα σε εικόνα, της ζωγραφικής και της εξωτερικής ζωγραφικής. Ωστόσο, έχει υποβληθεί σε νομικές προκλήσεις λόγω των περιορισμών χρήσης του και της χρήσης εικόνων που προέρχονται από το διαδίκτυο και προστατεύονται από πνευματικά δικαιώματα. Η Stability AI έχει δεσμευτεί να σέβεται τα αιτήματα των καλλιτεχνών για την αφαίρεση της τέχνης τους από το σύνολο δεδομένων εκπαίδευσης, αλλά αυτό δεν ισχύει για το SDXL. Η εταιρεία δέχεται πιέσεις για την αξιοποίηση των προσπαθειών της στον τομέα της Τεχνητής Νοημοσύνης και έχει αφήσει να εννοηθεί ότι σχεδιάζει την εισαγωγή της στο χρηματιστήριο.

Περίληψη άρθρου:
Ο Elon Musk αποκάλυψε τα σχέδιά του για τη δημιουργία μιας τρίτης εταιρείας τεχνητής νοημοσύνης που θα αμφισβητήσει την OpenAI και την Google. Έχει ονομάσει την επιχείρηση "TruthGPT" και στόχος της είναι να δημιουργήσει μια τεχνητή νοημοσύνη που θα αναζητά την αλήθεια και θα κάνει περισσότερο καλό παρά κακό. Ο Μασκ αναγνώρισε ότι ξεκινάει αργά και δεν είναι σαφές πόσο μακριά βρίσκονται τα σχέδιά του. Έχει καταθέσει χαρτιά για μια επιχείρηση που ονομάζεται X.AI Corp και έχει προσλάβει ερευνητές από την DeepMind για ένα άγνωστο έργο τεχνητής νοημοσύνης στο Twitter. Το κίνητρό του είναι οι ανησυχίες για την κατεύθυνση της τεχνητής νοημοσύνης και την απειλή που θα μπορούσε να αποτελέσει για την ανθρωπότητα. Επίσης, προανήγγειλε μια επερχόμενη λειτουργία για το Twitter που θα επιτρέπει στους χρήστες να κρυπτογραφούν προαιρετικά τα άμεσα μηνύματά τους.

Περίληψη άρθρου:
Το ChatGPT του OpenAI έχει προκαλέσει ένα κύμα ενδιαφέροντος και επενδύσεων στην τεχνητή νοημοσύνη. Ο διευθύνων σύμβουλος Sam Altman προειδοποίησε πρόσφατα ότι η ερευνητική στρατηγική που γέννησε το ρομπότ έχει εξαντληθεί και δεν είναι σαφές από πού θα προέλθουν οι μελλοντικές εξελίξεις. Η OpenAI χρησιμοποίησε αλγορίθμους μηχανικής μάθησης και τους κλιμάκωσε σε μέγεθος που δεν είχε φανταστεί προηγουμένως, με κόστος άνω των 100 εκατομμυρίων δολαρίων. Ο Altman υποδηλώνει ότι η πρόοδος δεν θα έρθει από το να γίνουν τα μοντέλα μεγαλύτερα, αλλά από το να γίνουν καλύτερα με άλλους τρόπους. Ειδικοί της τεχνητής νοημοσύνης, επιχειρηματίες της τεχνολογίας και επιστήμονες έχουν ζητήσει εξάμηνη παύση στην ανάπτυξη οτιδήποτε ισχυρότερου από το GPT-4, το οποίο το OpenAI δεν αναπτύσσει επί του παρόντος. Είναι πιθανό ότι το GPT-4 χρησιμοποίησε μια μέθοδο που ονομάζεται ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για να ενισχύσει τις δυνατότητές του.