18/4/2023: Η πειρατεία του ChatGPT μόλις αρχίζει
Ο Alex Polyakov, διευθύνων σύμβουλος της Adversa AI, ανέπτυξε πρόσφατα ένα "καθολικό" jailbreak που λειτουργεί ενάντια σε πολλά μεγάλα γλωσσικά μοντέλα (LLM). Αυτό το jailbreak περιλαμβάνει το να ζητηθεί από τα LLMs να παίξουν ένα παιχνίδι, το οποίο περιλαμβάνει δύο χαρακτήρες (Tom και Jerry) που έχουν μια συνομιλία. Τα παραδείγματα που μοιράστηκε ο Polyakov δείχνουν ότι ο χαρακτήρας Tom λαμβάνει εντολή να μιλήσει για "hotwiring" ή "παραγωγή", ενώ στον Jerry δίνεται το θέμα "αυτοκίνητο" ή "μεθαμφεταμίνη". Αυτό το jailbreak μπορεί να ξεγελάσει τα συστήματα ώστε να παράγουν λεπτομερείς οδηγίες για τη δημιουργία μεθαμφεταμίνης και για το πώς να βραχυκυκλώνουν ένα αυτοκίνητο. Έχουν δημιουργηθεί και άλλα jailbreak, όπως το DAN, το οποίο μπορεί να παρακάμψει τις πολιτικές του OpenAI που υπαγορεύουν ότι το ChatGPT δεν πρέπει να χρησιμοποιείται για την παραγωγή παράνομου ή επιβλαβούς υλικού. Οι εταιρείες χρησιμοποιούν red-teaming για να προσπαθήσουν να αποτρέψουν αυτά τα jailbreaks, αλλά πρέπει να γίνουν περισσότερα. Προτείνονται λύσεις όπως η χρήση ενός δεύτερου LLM για την ανάλυση των προτροπών LLM ή ο σαφέστερος διαχωρισμός της προτροπής του συστήματος από την προτροπή του χρήστη.

18/4/2023: Ο διευθύνων σύμβουλος της Amazon Andy Jassy λέει ότι τα "πραγματικά καλά" μοντέλα A.I. χρειάζονται "δισεκατομμύρια δολάρια" για να εκπαιδευτούν
Η Amazon εισήγαγε μια υπηρεσία cloud με την ονομασία Bedrock, την οποία οι προγραμματιστές μπορούν να χρησιμοποιούν για να ενισχύουν το λογισμικό τους με συστήματα τεχνητής νοημοσύνης. Η Bedrock θα προσφέρει πρόσβαση στα δικά της πρώτα γλωσσικά μοντέλα της Amazon που ονομάζονται Titan, καθώς και σε γλωσσικά μοντέλα από άλλες νεοσύστατες επιχειρήσεις. Ο διευθύνων σύμβουλος της Amazon Andy Jassy δήλωσε ότι οι περισσότερες εταιρείες δεν θέλουν να περάσουν από τη διαδικασία εκπαίδευσης μεγάλων γλωσσικών μοντέλων, οπότε το Bedrock θα παρέχει ένα θεμελιώδες μοντέλο που θα μπορεί να προσαρμοστεί για τους δικούς τους σκοπούς. Η Amazon εστιάζει επίσης στην ακρίβεια και στη διασφάλιση ότι τα μοντέλα Titan της παράγουν απαντήσεις υψηλής ποιότητας. Το Bedrock βρίσκεται επί του παρόντος σε περιορισμένη προεπισκόπηση, με τους πελάτες να μπορούν να εγγραφούν σε μια λίστα αναμονής. Εταιρείες όπως η C3.ai, η Pegasystems, η Accenture και η Deloitte ανυπομονούν να χρησιμοποιήσουν το Bedrock. Η Amazon ανταγωνίζεται την Google και τη Microsoft, οι οποίες έχουν αρχίσει να προσφέρουν στους προγραμματιστές μεγάλα γλωσσικά μοντέλα στα οποία μπορούν να αξιοποιήσουν.

18/4/2023: Ο Elon Musk ιδρύει νέα εταιρεία τεχνητής νοημοσύνης με την ονομασία X.AI
Ο Elon Musk ίδρυσε μια νέα εταιρεία τεχνητής νοημοσύνης με την ονομασία X.AI, σύμφωνα με μια επιχειρηματική κατάθεση στη Νεβάδα από τις 9 Μαρτίου. Ο Musk είναι δημοσίως επιφυλακτικός για το μέλλον της τεχνητής νοημοσύνης και έχει ζητήσει πλήρη παύση της ανάπτυξης λόγω των κινδύνων που εγκυμονεί η τεχνολογία για την κοινωνία. Σε επικείμενη συνέντευξή του στον Τάκερ Κάρλσον του Fox News, ο Musk προειδοποίησε ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα καταστροφής του πολιτισμού. Στο παρελθόν ήταν συνιδρυτής της OpenAI, αλλά αποχώρησε το 2018. Η τεχνητή νοημοσύνη έχει γίνει μια καυτή αγορά τα τελευταία χρόνια, με τεχνολογικούς κολοσσούς όπως η Microsoft και η Google να επενδύουν σημαντικά στον χώρο. Η X.AI εντάσσεται στο ευρύ χαρτοφυλάκιο εταιρειών του Musk, το οποίο περιλαμβάνει τις Twitter, Tesla, SpaceX, Boring και Neuralink.

19/4/2023: Άνθρωπος παίρνει ποινή φυλάκισης αφού η Ομοσπονδιακή Τράπεζα των ΗΠΑ ανακάλυψε $3.4B σε κλεμμένο Bitcoin, κρυμμένο μέσα σε Cheetos Popcorn Tin
Ο James Zhong, ο χάκερ που ευθύνεται για την παραβίαση της αγοράς Silk Road, καταδικάστηκε σε φυλάκιση ενός έτους για απάτη μέσω καλωδίων. Έκλεψε πάνω από 50.000 Bitcoin από το dark web του Silk Road δημιουργώντας πολλαπλούς λογαριασμούς και παραπλανώντας το Silk Road ώστε να απελευθερώσει Bitcoin στους λογαριασμούς του. Όταν οι αρχές έκαναν έρευνα στο σπίτι του Zhong, ανακάλυψαν πάνω από 50.000 Bitcoin, ράβδους χρυσού και αργύρου και περισσότερα από 660.000 δολάρια σε μετρητά. Το Bitcoin είχε αποτιμηθεί στα 3,4 δισεκατομμύρια δολάρια κατά τη στιγμή της κατάσχεσης και τώρα αξίζει πάνω από 1,5 δισεκατομμύρια δολάρια. Το Silk Road ήταν μια διαδικτυακή μαύρη αγορά που χρησιμοποιούνταν για τη διανομή παράνομων ναρκωτικών και άλλων παράνομων αγαθών και υπηρεσιών σε αγοραστές σε όλο τον κόσμο και τελικά έκλεισε το 2015, με τον ιδρυτή του Ross Ulbricht να καταδικάζεται σε ισόβια κάθειρξη.

19/4/2023: Ταξίδι στο Metaverse;
Το 2022, ο όρος Metaverse ήταν η λέξη της χρονιάς, αλλά μέχρι το τέλος του έτους οι πλατφόρμες Meta είχαν χάσει το 64% της αξίας τους. Από τότε η Microsoft και η Meta Platforms απομακρύνθηκαν από το Metaverse, απολύοντας προσωπικό που ήταν συνδεδεμένο με έργα Metaverse. Ωστόσο, ο Δρ Arturo Gonzalez, πρώην επικεφαλής της Meta για την πολιτική υποστήριξη και την έρευνα, πιστεύει ότι το Metaverse εξακολουθεί να είναι αναπόφευκτο και θα προσφέρει ευκαιρίες για εμπειρία. Πιστεύει ότι οι αναπτυσσόμενες χώρες θα ωφεληθούν περισσότερο από τη διάδοση του Metaverse, αλλά υπάρχει κίνδυνος για την ανάπτυξη αν τεθεί σε δεύτερη μοίρα. Ο Alex Holmes από την Oxford Economics εξέφρασε επίσης την άποψή του, λέγοντας ότι υπάρχουν διδάγματα από τη Big Tech σχετικά με το να είναι κανείς πολύ γρήγορος στο να μειώσει τις επενδύσεις σε αναδυόμενες τεχνολογίες.

19/4/2023: Ο Διευθύνων Σύμβουλος του OpenAI λέει ότι η εποχή των γιγαντιαίων μοντέλων τεχνητής νοημοσύνης έχει ήδη τελειώσει
Το ChatGPT του OpenAI έχει προκαλέσει ένα κύμα ενδιαφέροντος και επενδύσεων στην τεχνητή νοημοσύνη. Ο διευθύνων σύμβουλος Sam Altman προειδοποίησε πρόσφατα ότι η ερευνητική στρατηγική που γέννησε το ρομπότ έχει εξαντληθεί και δεν είναι σαφές από πού θα προέλθουν οι μελλοντικές εξελίξεις. Η OpenAI χρησιμοποίησε αλγορίθμους μηχανικής μάθησης και τους κλιμάκωσε σε μέγεθος που δεν είχε φανταστεί προηγουμένως, με κόστος άνω των 100 εκατομμυρίων δολαρίων. Ο Altman υποδηλώνει ότι η πρόοδος δεν θα έρθει από το να γίνουν τα μοντέλα μεγαλύτερα, αλλά από το να γίνουν καλύτερα με άλλους τρόπους. Ειδικοί της τεχνητής νοημοσύνης, επιχειρηματίες της τεχνολογίας και επιστήμονες έχουν ζητήσει εξάμηνη παύση στην ανάπτυξη οτιδήποτε ισχυρότερου από το GPT-4, το οποίο το OpenAI δεν αναπτύσσει επί του παρόντος. Είναι πιθανό ότι το GPT-4 χρησιμοποίησε μια μέθοδο που ονομάζεται ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για να ενισχύσει τις δυνατότητές του.

20/4/2023: Ο Elon Musk λέει ότι θέλει να ξεκινήσει το "TruthGPT" για να ανταγωνιστεί το OpenAI και τη Google
Ο Elon Musk αποκάλυψε τα σχέδιά του για τη δημιουργία μιας τρίτης εταιρείας τεχνητής νοημοσύνης που θα αμφισβητήσει την OpenAI και την Google. Έχει ονομάσει την επιχείρηση "TruthGPT" και στόχος της είναι να δημιουργήσει μια τεχνητή νοημοσύνη που θα αναζητά την αλήθεια και θα κάνει περισσότερο καλό παρά κακό. Ο Μασκ αναγνώρισε ότι ξεκινάει αργά και δεν είναι σαφές πόσο μακριά βρίσκονται τα σχέδιά του. Έχει καταθέσει χαρτιά για μια επιχείρηση που ονομάζεται X.AI Corp και έχει προσλάβει ερευνητές από την DeepMind για ένα άγνωστο έργο τεχνητής νοημοσύνης στο Twitter. Το κίνητρό του είναι οι ανησυχίες για την κατεύθυνση της τεχνητής νοημοσύνης και την απειλή που θα μπορούσε να αποτελέσει για την ανθρωπότητα. Επίσης, προανήγγειλε μια επερχόμενη λειτουργία για το Twitter που θα επιτρέπει στους χρήστες να κρυπτογραφούν προαιρετικά τα άμεσα μηνύματά τους.

20/4/2023: Το νέο μοντέλο της Stability AI είναι ελαφρώς καλύτερο στη δημιουργία χεριών
Η Stability AI κυκλοφόρησε μια νέα έκδοση του Stable Diffusion, ενός συστήματος τεχνητής νοημοσύνης που ανταγωνίζεται το DALL-E 2 της OpenAI. Αυτή η νέα έκδοση, που ονομάζεται Stable Diffusion XL (SDXL), είναι διαθέσιμη σε beta και φέρνει έναν "πλούτο" στη δημιουργία εικόνων που δεν είχε το παλιό μοντέλο. Είναι καλύτερο στη δημιουργία κειμένου, στη σύνθεση εικόνων και στη δημιουργία προσώπων και δεν απαιτεί μακροσκελείς, λεπτομερείς οδηγίες για τη δημιουργία περιγραφικών εικόνων. Διαθέτει επίσης λειτουργίες που επεκτείνονται πέρα από την προτροπή από κείμενο σε εικόνα, συμπεριλαμβανομένης της προτροπής από εικόνα σε εικόνα, της ζωγραφικής και της εξωτερικής ζωγραφικής. Ωστόσο, έχει υποβληθεί σε νομικές προκλήσεις λόγω των περιορισμών χρήσης του και της χρήσης εικόνων που προέρχονται από το διαδίκτυο και προστατεύονται από πνευματικά δικαιώματα. Η Stability AI έχει δεσμευτεί να σέβεται τα αιτήματα των καλλιτεχνών για την αφαίρεση της τέχνης τους από το σύνολο δεδομένων εκπαίδευσης, αλλά αυτό δεν ισχύει για το SDXL. Η εταιρεία δέχεται πιέσεις για την αξιοποίηση των προσπαθειών της στον τομέα της Τεχνητής Νοημοσύνης και έχει αφήσει να εννοηθεί ότι σχεδιάζει την εισαγωγή της στο χρηματιστήριο.

20/4/2023: Η Amazon AWS επεκτείνει τις προσπάθειες δημιουργικής τεχνητής νοημοσύνης με ενημερώσεις των Bedrock και CodeWhisperer
Η Amazon Web Services (AWS) ανακοίνωσε σήμερα ότι επεκτείνει τις υπηρεσίες δημιουργικής τεχνητής νοημοσύνης που διαθέτει, ώστε να καταστήσει την τεχνολογία περισσότερο διαθέσιμη στους οργανισμούς στο cloud. Αυτό περιλαμβάνει το Amazon Bedrock, ένα σύνολο βασικών υπηρεσιών μοντέλου AI, και instances cloud Amazon EC2 Inf2 που τροφοδοτούνται από chips AWS Inferentia2. Επιπλέον, η υπηρεσία γενεσιουργού Τεχνητής Νοημοσύνης της Amazon CodeWhisperer για την ανάπτυξη κώδικα είναι πλέον γενικά διαθέσιμη και δωρεάν για όλους τους μεμονωμένους προγραμματιστές. Το Amazon Bedrock παρέχει στους χρήστες ένα σύνολο βασικών μοντέλων που μπορούν να προσαρμοστούν με πρόσθετη εκπαίδευση στο AWS. Η AWS διαθέτει επίσης το δικό της μοντέλο Titan, το οποίο είναι ένα μοντέλο κειμένου για τη δημιουργία περιεχομένου και ένα μοντέλο ενσωμάτωσης για τη δημιουργία διανυσματικών ενσωματώσεων. Το CodeWhisperer παρέχει ενισχυμένη ασφάλεια, επικυρώνοντας τον παραγόμενο κώδικα και ελέγχοντάς τον για πιθανές ευπάθειες. Όλες αυτές οι υπηρεσίες εντάσσονται στο πλαίσιο του στόχου της AWS να εκδημοκρατίσει τη χρήση της δημιουργικής τεχνητής νοημοσύνης.

21/4/2023: Η Bluesky του Jack Dorsey χτίζει μια “αγορά αλγορίθμων”
Η Bluesky του Jack Dorsey δημιουργεί μια "αγορά αλγορίθμων" που θα επιτρέπει στους χρήστες να ελέγχουν τον τρόπο με τον οποίο φιλτράρεται και ταξινομείται το περιεχόμενο. Η διευθύνων σύμβουλος Jay Graber δήλωσε ότι μια ανοικτή αγορά αλγορίθμων θα παρέχει στους προγραμματιστές την ελευθερία να πειραματιστούν και να δημοσιεύσουν αλγορίθμους που μπορεί να χρησιμοποιήσει ο καθένας και ότι επιτρέποντας στους χρήστες να προσαρμόζουν την τροφοδοσία τους θα τους δώσει πίσω τον έλεγχο του πιο πολύτιμου πόρου τους: της προσοχής τους. Ο Ντόρσεϊ υπήρξε υπέρμαχος της "αλγοριθμικής επιλογής" και έθεσε μάλιστα την ιδέα μιας αγοράς αλγορίθμων όταν ακόμη διοικούσε το Twitter.

21/4/2023: Οι προσπάθειες αναδιάρθρωσης της Meta πυροδοτούν ανησυχίες για την εργασιακή σταθερότητα μεταξύ των εργαζομένων εν μέσω απολύσεων και απουσίας ηγετών στα κεντρικά γραφεία
Η Meta Platforms, Inc (NASDAQ: META) αντιμετωπίζει ανησυχίες των εργαζομένων σχετικά με τη σταθερότητα των θέσεων εργασίας λόγω των περικοπών θέσεων εργασίας και τη βιωσιμότητα της εστίασής της στο metaverse. Η εταιρεία έχει πραγματοποιήσει δύο γύρους απολύσεων τους τελευταίους έξι μήνες, καταργώντας περισσότερα από 26.000 άτομα, ή σχεδόν το 30% του εργατικού δυναμικού της. Για να αποδείξουν την αξία τους για την εταιρεία, οι εργαζόμενοι αντιμετωπίζουν έντονο έλεγχο και πίεση και η εταιρεία μειώνει ορισμένα από τα πλούσια προνόμια και τις ανέσεις της.

21/4/2023: Τι είναι διαφορετικό στη σημερινή τεχνητή νοημοσύνη;
Την τελευταία δεκαετία, οι σχεδιαστές εμπειρίας χρήστη (UX) έχουν εργαστεί για να δημιουργήσουν μια απρόσκοπτη διαδικτυακή εμπειρία, όπου οι χρήστες δεν χρειάζεται να γνωρίζουν τι συμβαίνει στα παρασκήνια. Αυτό είχε ως αποτέλεσμα τα στοιχεία Τεχνητής Νοημοσύνης (ΤΝ) να σχεδιάζονται με τη φιλοσοφία της ελάχιστης επέμβασης του χρήστη. Ωστόσο, σήμερα παρατηρείται μια αλλαγή στη φιλοσοφία των προϊόντων, όπου οι χρήστες ενθαρρύνονται να αλληλεπιδρούν άμεσα με στοιχεία ΤΝ που έχουν σχεδιαστεί με στόχο τη χρησιμότητα και όχι την απρόσκοπτη ορθότητα. Αυτό έχει οδηγήσει σε μια επανάσταση στο UX, όπου οι προσδοκίες των χρηστών επαναπροσδιορίζονται και παρουσιάζονται νέες αλληλεπιδράσεις που θα ήταν απαγορευτικές πριν από μια δεκαετία. Η επανάσταση των δυνατοτήτων της ΤΝ έχει ξεκινήσει εδώ και μερικά χρόνια, αλλά οι τελευταίοι μήνες αφορούσαν τον σχεδιασμό UX και την επαναφορά των προσδοκιών των χρηστών.