Περίληψη άρθρου:
Ερευνητές της Σχολής Μηχανικής και Εφαρμοσμένων Επιστημών του Πανεπιστημίου της Πενσυλβάνια ανέπτυξαν ένα διαδικτυακό εκπαιδευτικό παιχνίδι με τίτλο "Αληθινό ή ψεύτικο κείμενο;", για να βοηθήσουν τους ανθρώπους να μάθουν να εντοπίζουν τη διαφορά μεταξύ κειμένου που παράγεται από μηχανήματα και κειμένου που γράφεται από ανθρώπους. Τα αποτελέσματα της μελέτης δείχνουν ότι οι συμμετέχοντες σημείωσαν σημαντικά καλύτερη βαθμολογία από την τυχαία προσπάθεια, αποδεικνύοντας ότι το κείμενο που δημιουργείται από Τεχνητή Νοημοσύνη είναι, σε κάποιο βαθμό, ανιχνεύσιμο. Η μελέτη σκιαγραφεί επίσης ένα καθησυχαστικό μέλλον για τη σχέση μας με αυτή την τεχνολογία, καθώς οι άνθρωποι μπορούν να εκπαιδευτούν ώστε να αναγνωρίζουν τα είδη των λαθών που κάνουν σήμερα οι μηχανές. Οι ερευνητές προτείνουν ότι η Τεχνητή Νοημοσύνη είναι καταλληλότερη για τη δημιουργική γραφή, καθώς δεν υπάρχει εγγύηση της πραγματολογίας για ειδήσεις, εργασίες ή νομικές συμβουλές. Τονίζουν τη σημασία της επίγνωσης των κινδύνων που σχετίζονται με την Τεχνητή Νοημοσύνη, αλλά υπογραμμίζουν επίσης τη δυνατότητα της Τεχνητής Νοημοσύνης να μας βοηθήσει να γράψουμε πιο ευφάνταστα και ενδιαφέροντα κείμενα.

Αναλυτικά το άρθρο:
Τα chatbots είναι η πιο πρόσφατη γενιά τεχνολογίας Τεχνητής Νοημοσύνης που έχει προκαλέσει ανησυχίες σχετικά με την αυξανόμενη πολυπλοκότητα και προσβασιμότητά της. Αυτά τα γλωσσικά μοντέλα μεγάλης κλίμακας, όπως το ChatGPT, έχουν τη δυνατότητα να επηρεάσουν σχεδόν κάθε πτυχή της ζωής μας, από την αγορά εργασίας έως τη σχολική τάξη.

Υπάρχουν επίσης ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη που ενισχύει τις κοινωνικές προκαταλήψεις, διαπράττει απάτες και κλοπές ταυτότητας, παράγει ψευδείς ειδήσεις και διαδίδει παραπληροφόρηση. Αυτές οι ανησυχίες οδηγούν σε επανεξέταση του τρόπου με τον οποίο χρησιμοποιείται η Τεχνητή Νοημοσύνη και του τρόπου με τον οποίο μπορεί να ρυθμιστεί ώστε να διασφαλιστεί η υπεύθυνη χρήση της.

Η Σχολή Μηχανικής και Εφαρμοσμένων Επιστημών του Πανεπιστημίου της Πενσυλβάνια ερευνά τρόπους που θα βοηθήσουν τους χρήστες τεχνολογίας να προστατευτούν από κακόβουλους φορείς. Σε έγγραφο που παρουσιάστηκε στην Association for the Advancement of Artificial Intelligence, οι ερευνητές αποδεικνύουν ότι οι άνθρωποι μπορούν να μάθουν να αναγνωρίζουν το κείμενο που δημιουργείται από μηχανήματα από το κείμενο που γράφεται από τον άνθρωπο.

Αυτό θα μπορούσε να βοηθήσει τους ανθρώπους να λαμβάνουν πιο ενημερωμένες αποφάσεις όταν χρησιμοποιούν την τεχνολογία, όπως όταν επιλέγουν μια συνταγή, μοιράζονται ένα άρθρο ή παρέχουν στοιχεία πιστωτικής κάρτας. Η έρευνα θα μπορούσε να βοηθήσει τους χρήστες τεχνολογίας να παραμείνουν ασφαλείς και προστατευμένοι στο διαδίκτυο.

Η μελέτη αυτή, με επικεφαλής τον Chris Callison-Burch, αναπληρωτή καθηγητή στο Τμήμα Επιστήμης Υπολογιστών και Πληροφορικής (CIS) και τους Liam Dugan και Daphne Ippolito, διδακτορικούς φοιτητές στο CIS, παρέχει αποδείξεις ότι το κείμενο που παράγεται από τεχνητή νοημοσύνη είναι ανιχνεύσιμο. Διαπιστώθηκε ότι οι άνθρωποι μπορούν να μάθουν να αναγνωρίζουν κείμενα που παράγονται από μηχανές με αρκετά παραδείγματα και οδηγίες.

Η τεχνητή νοημοσύνη είναι εκπληκτικά καλή στο να παράγει εύγλωττο και γραμματικό κείμενο, αλλά κάνει λάθη. Η μελέτη εντόπισε τέσσερις τύπους λαθών που κάνουν οι μηχανές: λάθη κοινής λογικής, λάθη συνάφειας, λάθη συλλογισμού και λογικά λάθη. Αυτά τα λάθη μπορούν οι άνθρωποι να μάθουν να τα εντοπίζουν.
Η παρούσα μελέτη χρησιμοποιεί δεδομένα που συλλέχθηκαν από ένα πρωτότυπο διαδικτυακό εκπαιδευτικό παιχνίδι με τίτλο "Αληθινό ή ψεύτικο κείμενο;".

Αυτό το παιχνίδι διαφέρει από τις συνήθεις μεθόδους μελετών ανίχνευσης, καθώς αναπαριστά τον τρόπο με τον οποίο οι άνθρωποι χρησιμοποιούν την Τεχνητή Νοημοσύνη για τη δημιουργία κειμένου. Αντί να ταξινομούν απλώς ένα κείμενο ως πραγματικό ή ψεύτικο, οι συμμετέχοντες καλούνται να σημειώσουν πού πιστεύουν ότι αρχίζει η μετάβαση από το ανθρώπινο κείμενο στο παραγόμενο κείμενο.

Τα αποτελέσματα δείχνουν ότι οι συμμετέχοντες σημείωσαν σημαντικά καλύτερη βαθμολογία από την τυχαία προσπάθεια, αποδεικνύοντας ότι το κείμενο που έχει δημιουργηθεί από την Τεχνητή Νοημοσύνη είναι ανιχνεύσιμο.

Ο Dugan και η ομάδα του ανέπτυξαν μια μέθοδο για να κάνουν την εκπαίδευση των AI chatbots πιο ελκυστική και ρεαλιστική. Η μέθοδος περιλαμβάνει την παροχή ανθρώπινων προτροπών στο AI chatbot, το οποίο στη συνέχεια παράγει κείμενα. Η μελέτη αυτή μιλάει για την τρέχουσα κατάσταση της τεχνητής νοημοσύνης και τις μελλοντικές δυνατότητές της.

Τα AI chatbots έχουν εξελιχθεί σημαντικά τα τελευταία πέντε χρόνια, αλλά οι άνθρωποι θα πρέπει να συνεχίσουν να εκπαιδεύονται για να αναγνωρίζουν τη διαφορά μεταξύ κειμένου γραμμένου από Τεχνητή Νοημοσύνη και κειμένου γραμμένου από άνθρωπο. Το λογισμικό ανίχνευσης μπορεί να χρησιμοποιηθεί ως συμπλήρωμα για να βοηθήσει σε αυτό.

Η μελέτη των Callison-Burch και Ippolito παρέχει αποδείξεις ότι οι γεννήτριες κειμένων Τεχνητής Νοημοσύνης μπορούν να χρησιμοποιηθούν για να βοηθήσουν τους ανθρώπους να γράψουν πιο ευφάνταστα και ενδιαφέροντα κείμενα. Η συν-επικεφαλής Ippolito έχει συμβάλει στο Wordcraft, ένα εργαλείο δημιουργικής γραφής με Τεχνητή Νοημοσύνη, που αναπτύχθηκε σε συνεργασία με δημοσιευμένους συγγραφείς.

Η έρευνα διαπίστωσε ότι η Τεχνητή Νοημοσύνη δεν αντικαθιστά έναν συγγραφέα μυθοπλασίας, αλλά μπορεί να χρησιμοποιηθεί για να υποστηρίξει τη δημιουργική διαδικασία. Αυτό θα μπορούσε να βοηθήσει να μετριάσει τις ανησυχίες των ανθρώπων σχετικά με την Τεχνητή Νοημοσύνη και να μας επιτρέψει να επικεντρωθούμε στα πιθανά οφέλη που μπορεί να επιφέρει.

Ο Chris Callison-Burch και ο Liam Dugan είναι και οι δύο ειδικοί στην επεξεργασία φυσικής γλώσσας και στη μηχανική μάθηση. Πιστεύουν ότι αυτές οι τεχνολογίες είναι καταλληλότερες για δημιουργική γραφή, αλλά όχι για ειδήσεις, εργασίες ή νομικές συμβουλές λόγω της έλλειψης πραγματολογίας. Ωστόσο, πιστεύουν επίσης ότι οι τεχνολογίες αυτές μπορούν να χρησιμοποιηθούν για να βοηθήσουν τους ανθρώπους να γίνουν καλύτεροι αναγνώστες και συγγραφείς.

Πηγή: Real or fake text? We can learn to spot the difference