30 Ιανουαρίου 2023

Κάποια Chatbots συμμάχησαν και με λογοκλοπήσαν

Περίληψη Άρθρου:
Το περασμένο Σαββατοκύριακο, ένα νέο Substack με την ονομασία Rationalist (Ορθολογιστής) λογοπάτησε μια ανάρτηση από ένα άλλο ενημερωτικό δελτίο της πλατφόρμας, το Big Technology (Μεγάλη Τεχνολογία). Η ανάρτηση γράφτηκε χρησιμοποιώντας εργαλεία Α.Ι. από το OpenAI, το Jasper και το Hugging Face και έγινε viral, φτάνοντας στην πρώτη σελίδα του Hacker News. Το The Rationalist ήταν πρόχειρο, αφαιρώντας ρήτρες λέξη προς λέξη, αλλά καθώς οι εκδόσεις με παρόμοιες προθέσεις βελτιώνουν τα συστήματά τους, θα μπορούν να αφαιρούν όλα τα ίχνη της αρχικής γραφής και απλώς να μεταδίδουν τις ιδέες. Αυτό αναδεικνύει τη δυσκολία της τιθάσευσης της σκοτεινής πλευράς της γεννητικής τεχνητής νοημοσύνης. Οι αναγνώστες και οι συντάκτες θα πρέπει να βρουν τρόπο να αντιμετωπίσουν αυτό το ζήτημα, καθώς δεν υπάρχει γρήγορη τεχνολογική λύση. Η διευθύνουσα σύμβουλος της The Information, Jessica Lessin, σχολίασε ότι οι ανταγωνιστές τους συχνά κάνουν remix το περιεχόμενό τους, αλλά ότι οι συνδρομητές τους είναι αρκετά έξυπνοι ώστε να το παίρνουν από την πηγή.


Αναλυτικά το Άρθρο:
Το περασμένο Σαββατοκύριακο, ένα νέο Substack που ονομάζεται Rationalist ανέσυρε την ανάλυση και τα κείμενα απευθείας από το δικό μου ενημερωτικό δελτίο στην πλατφόρμα, Big Technology. Η λογοκλοπή της ανάρτησής του για την "Οικονομία του Δημιουργού" -την οποία είχα καλύψει μόλις λίγες ημέρες πριν- έγινε viral, φτάνοντας στην πρώτη σελίδα του Hacker News και πυροδοτώντας μια συζήτηση με περισσότερα από 80 σχόλια. Θα ήταν ένα καταπληκτικό ντεμπούτο για οποιαδήποτε δημοσίευση, αν ήταν αυθεντικό.

Αυτό που έκανε την περίπτωση του Rationalist ιδιαίτερα εντυπωσιακή, όμως, ήταν ότι ο συγγραφέας της -ένα avatar με το όνομα "Petra"- παραδέχτηκε ότι είχε χρησιμοποιήσει εργαλεία τεχνητής νοημοσύνης για την παραγωγή της ιστορίας, συμπεριλαμβανομένων εκείνων των OpenAI, Jasper και Hugging Face. Η ταχύτητα με την οποία μπόρεσαν να αντιγράψουν, να αναμείξουν, να δημοσιεύσουν και να διανείμουν την μη αυθεντική ιστορία τους ήταν εντυπωσιακή. Ξεπέρασε την ικανότητα, και ίσως την προθυμία, των πλατφορμών να την σταματήσουν, σηματοδοτώντας ότι η σκοτεινή πλευρά της γεννητικής Α.Ι. θα είναι δύσκολο να τιθασευτεί.

"Είναι πραγματικά δύσκολο να προβλέψουμε όλες τις κακόβουλες χρήσεις", δήλωσε η Giada Pistilli, επικεφαλής ηθικολόγος της Hugging Face. "Προσπαθούμε να προβλέψουμε όλους τους κινδύνους, αλλά είναι πάντα εξαιρετικά δύσκολο".

Το The Rationalist είναι μια περίεργη έκδοση. Δεν έχει καμία αποστολή. Δεν έχει ονομαστικούς συγγραφείς εκτός της Πέτρας. Λειτουργεί εδώ και μια εβδομάδα. Και όμως, δύο ημέρες μετά την έναρξή του, ανέβαζε αποσπάσματα απευθείας από τη Μεγάλη Τεχνολογία.

Εδώ, για παράδειγμα, είναι μια ρήτρα του Big Technology από την ιστορία της περασμένης εβδομάδας:

Με τις μέρες του αφρισμού μηδενικών επιτοκίων να τελειώνουν, οι επενδύσεις γίνονται όλο και πιο δύσκολο να δικαιολογηθούν.

Και εδώ είναι το Rationalist, δύο ημέρες αργότερα:

Με το τέλος του αφρού των μηδενικών επιτοκίων, αυτές οι επενδύσεις γίνονται όλο και πιο δύσκολο να δικαιολογηθούν.

Εδώ είναι μια άλλη ρήτρα από τη Μεγάλη Τεχνολογία:

Η δημιουργία διαδικτυακού περιεχομένου εξακολουθεί να είναι βιώσιμη κυρίως για την κορυφή των διαδικτυακών δημιουργών.

Και εδώ και πάλι το Rationalist, δύο ημέρες αργότερα:

Μόνο η ανώτατη βαθμίδα των δημιουργών είναι σε θέση να εξασφαλίσει ένα βιώσιμο εισόδημα

Ένας εντυπωσιακός τίτλος - "Η οικονομία των δημιουργών: το κορυφαίο 1% και όλοι οι άλλοι"- βοήθησε να προωθηθεί η ιστορία του Rationalist στην πρώτη σελίδα του Hacker News, μια θέση που συνήθως αξίζει χιλιάδες προβολές. Ο πυρήνας της ιστορίας, που αντλήθηκε από το Big Technology, ήταν αρκετά καλός για να προκαλέσει μια συζήτηση.

Ωστόσο, καθώς οι χρήστες του Hacker News το διάβαζαν, παρατήρησαν ότι κάτι δεν πήγαινε καλά. "Όλο το άρθρο μου φαίνεται σαν να δημιουργήθηκε από το GPT-3 με βάση μερικές προτροπές", έγραψε ένας χρήστης. "Αυτό δεν γράφτηκε από άνθρωπο", είπε ένας άλλος. Στη συνέχεια, η Petra εξομολογήθηκε. "Αν είστε από τα hacker news, εδώ είναι τα εργαλεία που χρησιμοποίησα για να βελτιώσω την αναγνωσιμότητα", είπε πριν απαριθμήσει τα OpenAI, Jasper και Hugging Face. Τα εργαλεία επιτρέπουν τη γραφή με A.I. και πιθανότατα βοήθησαν στο remix του αρχικού άρθρου. Η Petra, η οποία δεν ανταποκρίθηκε σε αίτημα σχολιασμού, δεν ανέφερε ότι το περιεχόμενο προέρχεται από άλλη δημοσίευση.

Καθώς η ιστορία κυκλοφόρησε, οι τεχνολογικές πλατφόρμες που βοηθούσαν το Rationalist έμειναν ακίνητες. Το OpenAI μοιράστηκε μια γενική δήλωση που περιλάμβανε τη φράση: "Οι πολιτικές μας απαιτούν από τους χρήστες να είναι ειλικρινείς με το κοινό τους". Το Hugging Face παραδέχτηκε ότι δεν είχε τρόπο να βρει τον παραβάτη χρήστη, αν και ο Pistilli φάνηκε ευγνώμων που ειδοποιήθηκε. Και η Substack υποσχέθηκε να το ερευνήσει.

Η Substack δήλωσε ότι έχει πολιτική κατά της λογοκλοπής, την οποία το Merriam-Webster ορίζει ως "κλέβω και μεταφέρω (τις ιδέες ή τα λόγια κάποιου άλλου) ως δικά μου". Ωστόσο, ενώ αυτή η περίπτωση ταιριάζει με τον ορισμό, η Substack αποφάσισε να αφήσει την ανάρτηση του The Rationalist να παραμείνει. "Προς το παρόν δεν είμαστε σε θέση να συμπεράνουμε με βεβαιότητα ότι η ανάρτηση παραβιάζει την πολιτική μας για τη λογοκλοπή", δήλωσε η εκπρόσωπος του Substack Helen Tobin.

Δεδομένης της επιτυχίας του The Rationalist, θα γίνουν πιθανότατα πιο προχωρημένες προσπάθειες αντιγραφής και remix της δουλειάς άλλων με A.I. Και θα πρέπει να είναι εύκολο να βελτιωθεί. Το Rationalist ήταν πρόχειρο, αναιρώντας ρήτρες λέξη προς λέξη. Αλλά καθώς οι εκδόσεις με παρόμοιες προθέσεις τελειοποιούν τα συστήματά τους, θα είναι σε θέση να αφαιρούν όλα τα ίχνη της αρχικής γραφής και απλώς να μεταδίδουν τις ιδέες. Και δεν θα πρέπει να είναι δύσκολο να αυτοματοποιηθεί ούτε αυτό.

Φανταστείτε ότι η τεχνητή νοημοσύνη αναμειγνύει τις 10 πιο πολυδιαβασμένες ιστορίες της ημέρας των Financial Times ή την κάλυψη του επιχειρηματικού κεφαλαίου της Information και καθιστά το ρεπορτάζ διαθέσιμο χωρίς paywall. Η A.I. γράφει ήδη μη λογοκλοπικά ρεπορτάζ για δημοσιεύσεις όπως το CNET. Από ένα σημείο και μετά, κάποιοι, κατά πάσα πιθανότητα λιγότερο αξιόπιστοι εκδότες, θα κάνουν περικοπές.

Δεν υπάρχει γρήγορη τεχνολογική λύση σε αυτά τα ζητήματα. Όπως συνέβη σε όλες σχεδόν τις περιπτώσεις διάδοσης κακών πληροφοριών στο διαδίκτυο, οι αναγνώστες και οι συντάκτες θα πρέπει και πάλι να το ανακαλύψουν μόνοι τους. "Οι ανταγωνιστές μας μας κλέβουν συνεχώς, ουσιαστικά αναμειγνύοντας πράγματα και μοιράζοντας τα", δήλωσε η διευθύνουσα σύμβουλος της Information Jessica Lessin. "Οι συνδρομητές της The Information είναι έξυπνο να τα παίρνουν από την πηγή. Αλλά παρακολουθώ όλα αυτά με γοητεία φυσικά".
Πηγή: How someone used ChatGPT, Jasper, and Hugging Face chatbots to plagiarize me. (slate.com)