Περίληψη άρθρου:

Ο Πάπας Φραγκίσκος προειδοποίησε για τους κινδύνους της τεχνητής νοημοσύνης (ΤΝ) και ζήτησε την παγκόσμια ρύθμισή της για να αποφευχθεί η κατάχρησή της. Στο μήνυμά του για την Παγκόσμια Ημέρα Κοινωνικών Επικοινωνιών, εξέφρασε τις ανησυχίες του για τη "γνωστική ρύπανση" που προκαλεί η τεχνητή νοημοσύνη, η οποία μπορεί να διαστρεβλώσει την πραγματικότητα και να προωθήσει ψευδείς αφηγήσεις. Ο Πάπας αναφέρθηκε επίσης στην προσωπική του εμπειρία που έπεσε θύμα μιας deepfake φωτογραφίας. Τόνισε την ανάγκη αντιμετώπισης της παραπληροφόρησης και των ψευδών ειδήσεων στην ψηφιακή εποχή, υπογραμμίζοντας την πιθανή βλάβη που προκαλούν τα ηχητικά μηνύματα που παράγονται από την Τεχνητή Νοημοσύνη και οι παραποιημένες εικόνες. Ο Φραγκίσκος ζήτησε μια νομικά δεσμευτική διεθνή συνθήκη για τη ρύθμιση της τεχνητής νοημοσύνης και τόνισε τη σημασία της διατήρησης του πλουραλισμού και της κριτικής σκέψης απέναντι στην ομαδική σκέψη. Προειδοποίησε επίσης για τον αντίκτυπο της ΤΝ στη δημοσιογραφία, προτρέποντας ότι θα πρέπει να υποστηρίζει και όχι να αντικαθιστά το επιτόπιο ρεπορτάζ.

Κύρια σημεία του άρθρου:

• Ο Πάπας Φραγκίσκος προειδοποιεί για τους κινδύνους της τεχνητής νοημοσύνης και ζητεί την παγκόσμια ρύθμισή της.
• Εκφράζει τους φόβους και τις ελπίδες του για την τεχνητή νοημοσύνη στο μήνυμά του για την Παγκόσμια Ημέρα Κοινωνικών Επικοινωνιών της Ρωμαιοκαθολικής Εκκλησίας.
• Ο Φραγκίσκος υπογραμμίζει το πρόβλημα της παραπληροφόρησης και των "deepfakes" που μπορούν να διαστρεβλώσουν την πραγματικότητα και να προωθήσουν ψευδείς αφηγήσεις.
• Αναφέρεται σε μια ψεύτικη εικόνα του εαυτού του που έγινε viral στα μέσα κοινωνικής δικτύωσης πέρυσι ως παράδειγμα της τεχνολογίας deepfake.
• Ο Πάπας αναφέρει επίσης ψεύτικα ηχητικά μηνύματα που χρησιμοποιούν τη φωνή ενός ατόμου για να πουν πράγματα που δεν είπε ποτέ.
• Ζητά να υπάρξει μια νομικά δεσμευτική διεθνής συνθήκη για τη ρύθμιση της τεχνητής νοημοσύνης.

Αναλυτικά το άρθρο:

Πόλη του Βατικανού, 24 Ιανουαρίου (Reuters) - Ο Πάπας Φραγκίσκος, αναγνωρίζοντας ότι έπεσε θύμα μιας deepfake φωτογραφίας, προειδοποίησε την Τετάρτη κατά των "διεστραμμένων" κινδύνων της τεχνητής νοημοσύνης, ανανεώνοντας την έκκληση για την παγκόσμια ρύθμισή της, ώστε να αξιοποιηθεί για το κοινό καλό.

Ο Φραγκίσκος μίλησε για τους φόβους και τις ελπίδες του για την τεχνητή νοημοσύνη (AI) στο μήνυμά του για την Παγκόσμια Ημέρα Κοινωνικών Επικοινωνιών της Ρωμαιοκαθολικής Εκκλησίας, η οποία θα εορταστεί σε όλο τον κόσμο στις 12 Μαΐου.

Ενώ προέτρεψε τους ανθρώπους να "αφήσουν προσωρινά στην άκρη τις καταστροφικές προβλέψεις και τα μουδιαστικά αποτελέσματά τους" σχετικά με τα νέα πράγματα, το τρισέλιδο μήνυμά του ήταν κυρίως δυσοίωνο, προειδοποιώντας για τη "γνωστική ρύπανση" που μπορεί να διαστρεβλώσει την πραγματικότητα, να προωθήσει ψευδείς αφηγήσεις και να εγκλωβίσει τους ανθρώπους σε ιδεολογικούς θαλάμους ηχούς.

"Δεν χρειάζεται παρά να σκεφτούμε το μακροχρόνιο πρόβλημα της παραπληροφόρησης με τη μορφή ψευδών ειδήσεων, που σήμερα μπορεί να απασχολήσει

"deepfakes", δηλαδή τη δημιουργία και διάδοση εικόνων που φαίνονται απολύτως αληθοφανείς αλλά ψευδείς - έχω γίνει κι εγώ αντικείμενο αυτού", έγραψε ο Francis.

Προφανώς αναφερόταν σε μια ψεύτικη εικόνα του που έγινε viral στα μέσα κοινωνικής δικτύωσης πέρυσι. Τον απεικόνιζε να φοράει ένα άσπρο παλτό μέχρι τον αστράγαλο, το οποίο είχε αναρτηθεί από κάποιον που χρησιμοποίησε ένα πρόγραμμα δημιουργίας εικόνων.

Ο Φραγκίσκος μίλησε επίσης για ψεύτικα "ηχητικά μηνύματα που χρησιμοποιούν τη φωνή ενός ατόμου για να πουν πράγματα που το άτομο αυτό δεν είπε ποτέ".

Τη Δευτέρα, ο γενικός εισαγγελέας της αμερικανικής πολιτείας του Νιου Χαμσάιρ δήλωσε ότι το γραφείο του ξεκίνησε έρευνα για την προέλευση των ψεύτικων ρομποτικών τηλεφωνημάτων που προσομοίαζαν τη φωνή του προέδρου Τζο Μπάιντεν και ενθάρρυναν τους ψηφοφόρους να μην ψηφίσουν στις προκριματικές εκλογές της Τρίτης.

"Η τεχνολογία της προσομοίωσης που κρύβεται πίσω από αυτά τα προγράμματα μπορεί να είναι χρήσιμη σε ορισμένους συγκεκριμένους τομείς, αλλά γίνεται διεστραμμένη όταν διαστρεβλώνει τη σχέση μας με τους άλλους και με την πραγματικότητα", έγραψε ο Πάπας.

Ανανέωσε την έκκληση που απηύθυνε τον περασμένο μήνα για μια νομικά δεσμευτική διεθνή συνθήκη για τη ρύθμιση της τεχνητής νοημοσύνης.

Στο μήνυμα της Τετάρτης μίλησε για τις "συναφείς παθολογίες" της ΤΝ, συμπεριλαμβανομένης της μείωσης του πλουραλισμού και της εξάπλωσης της "ομαδικής σκέψης", όπου λαμβάνονται θέσεις συναίνεσης χωρίς να λαμβάνονται υπόψη εξωτερικές κριτικές ή εναλλακτικές λύσεις.

Ο Φραγκίσκος μίλησε επίσης για τον κίνδυνο της Τεχνητής Νοημοσύνης στα μέσα μαζικής ενημέρωσης, ιδίως στην αναφορά του πολέμου, η οποία, όπως είπε, μπορεί να υποστεί έναν παράλληλο πόλεμο που διεξάγεται μέσω εκστρατειών παραπληροφόρησης.

Η ΤΝ πρέπει να υποστηρίζει και όχι να εξαλείφει τον ρόλο της δημοσιογραφίας επί τόπου, είπε.

Πηγή: Pope Francis, victim of AI, warns against its 'perverse' dangers