Περίληψη άρθρου:
Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε τη διαπραγματευτική του θέση σχετικά με την προτεινόμενη πράξη για την τεχνητή νοημοσύνη, η οποία αποσκοπεί στη δημιουργία ενός κανονιστικού πλαισίου για την τεχνητή νοημοσύνη (ΤΝ) που θα βασίζεται στις αξίες και τα θεμελιώδη δικαιώματα της ΕΕ. Η πράξη υιοθετεί μια προσέγγιση με βάση τον κίνδυνο, απαγορεύοντας τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που θεωρείται ότι ενέχουν απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων ή εκμεταλλεύονται τα τρωτά σημεία τους για κοινωνική βαθμολόγηση ή σκόπιμα χειριστικές τεχνικές. Για τα συστήματα τεχνητής νοημοσύνης χαμηλού ή ελάχιστου κινδύνου, θα επιβληθούν περιορισμένες υποχρεώσεις διαφάνειας. Οι ευρωβουλευτές έχουν επεκτείνει τον κατάλογο των απαγορευμένων πρακτικών ΤΝ ώστε να περιλαμβάνει συστήματα βιομετρικής αναγνώρισης σε πραγματικό χρόνο από απόσταση σε χώρους προσβάσιμους από το κοινό, συστήματα βιομετρικής αναγνώρισης μετά την απομάκρυνση (εκτός από σκοπούς επιβολής του νόμου) και συστήματα προβλεπτικής αστυνόμευσης. Έχουν επίσης προσθέσει στον κατάλογο των εφαρμογών υψηλού κινδύνου τα συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες κοινωνικής δικτύωσης με πάνω από 45 εκατομμύρια χρήστες και εκείνα που χρησιμοποιούνται για να επηρεάσουν τους ψηφοφόρους και τα αποτελέσματα των εκλογών. Οι πάροχοι ιδρυτικών μοντέλων που χρησιμοποιούνται στη γενεσιουργό ΤΝ θα πρέπει να καταχωρίζουν τα μοντέλα τους σε δημόσια προσβάσιμη βάση δεδομένων της ΕΕ πριν από τη διάθεσή τους στην αγορά και να συμμορφώνονται με τις υποχρεώσεις διαφάνειας. Η πρόταση προωθεί ρυθμιστικά πλαίσια (sandboxes) για τη δοκιμή της ΤΝ πριν από την ανάπτυξη και ενισχύει το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα ΤΝ που επηρεάζουν σημαντικά τα θεμελιώδη δικαιώματά τους. Η πρόταση θα αποτελέσει τώρα αντικείμενο διαπραγμάτευσης με το Ευρωπαϊκό Συμβούλιο.

Κύρια σημεία του άρθρου:

• Η ΕΕ εγκρίνει το σχέδιο νόμου για την τεχνητή νοημοσύνη σε ιστορική ψηφοφορία στις 14 Ιουνίου 2023 και γίνεται η πρώτη μεγάλη ρυθμιστική αρχή που δημιουργεί παγκόσμια πρότυπα για τη χρήση της τεχνητής νοημοσύνης.
• Η πρόταση νόμου για την τεχνητή νοημοσύνη ακολουθεί μια ανθρωποκεντρική προσέγγιση που βασίζεται στις αξίες και τα θεμελιώδη δικαιώματα της ΕΕ.
• Ο κανονισμός επιβάλλει κανονιστικές επιβαρύνσεις, απαιτήσεις και υποχρεώσεις για τους παρόχους και όσους αναπτύσσουν συστήματα ΤΝ, ανάλογες με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η εκάστοτε εφαρμογή της ΤΝ.
• Ο νέος κανονισμός θα προωθήσει ρυθμιστικά πλαίσια (sandboxes) και θα ενισχύσει το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες σχετικά με συστήματα ΤΝ και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν σημαντικά τα θεμελιώδη δικαιώματά τους.

Αναλυτικά το άρθρο:
Στο πλαίσιο της ψηφιακής στρατηγικής της ΕΕ, τον Απρίλιο του 2021, η Ευρωπαϊκή Επιτροπή πρότεινε το πρώτο ρυθμιστικό πλαίσιο της ΕΕ για την τεχνητή νοημοσύνη (ΤΝ). Η πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (AI Act) ακολουθεί μια ανθρωποκεντρική προσέγγιση, βασισμένη στις αξίες και τα θεμελιώδη δικαιώματα της ΕΕ, και αποσκοπεί στο να δώσει στους χρήστες την εμπιστοσύνη να αγκαλιάσουν λύσεις που βασίζονται στην τεχνητή νοημοσύνη, ενώ παράλληλα ενθαρρύνει τις επιχειρήσεις να τις αναπτύξουν, με απώτερο στόχο την αύξηση της ανθρώπινης ευημερίας.

Η πρόταση νόμου για την ΤΝ ακολουθεί μια προσέγγιση με βάση τον κίνδυνο και επιβάλλει κανονιστικές επιβαρύνσεις, απαιτήσεις και υποχρεώσεις για τους παρόχους και όσους αναπτύσσουν συστήματα ΤΝ, ανάλογες με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η εκάστοτε εφαρμογή της ΤΝ.

Ως εκ τούτου, θα απαγορεύονται τα συστήματα ΤΝ με μη αποδεκτό επίπεδο κινδύνου για την ασφάλεια των ανθρώπων, δηλαδή τα συστήματα που αναπτύσσουν υποσυνείδητες ή σκόπιμα χειριστικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για κοινωνική κατάταξη (ταξινόμηση των ανθρώπων με βάση την κοινωνική συμπεριφορά τους, την κοινωνικοοικονομική τους κατάσταση, τα προσωπικά τους χαρακτηριστικά). Για τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, οι απαιτήσεις υψηλής ποιότητας δεδομένων, τεκμηρίωσης και ιχνηλασιμότητας, διαφάνειας, ανθρώπινης εποπτείας, ακρίβειας και στιβαρότητας, είναι απολύτως απαραίτητες για τον μετριασμό των κινδύνων για τα θεμελιώδη δικαιώματα και την ασφάλεια που ενέχει η τεχνητή νοημοσύνη, οι οποίοι δεν καλύπτονται από άλλα υφιστάμενα νομικά πλαίσια. Για άλλα, χαμηλού ή ελάχιστου κινδύνου συστήματα ΤΝ, επιβάλλονται μόνο πολύ περιορισμένες υποχρεώσεις διαφάνειας, για παράδειγμα όσον αφορά την παροχή πληροφοριών για την επισήμανση της χρήσης ενός συστήματος ΤΝ κατά την αλληλεπίδραση με ανθρώπους.

Την Τετάρτη 14 Ιουνίου 2023, το Ευρωπαϊκό Κοινοβούλιο ενέκρινε τη διαπραγματευτική του θέση σχετικά με την AI Act, ανοίγοντας το δρόμο για τις θεσμικές διαπραγματεύσεις που θα οριστικοποιήσουν τον πρώτο ολοκληρωμένο νόμο για την ΤΝ στον κόσμο.

Τα μέλη του Ευρωπαϊκού Κοινοβουλίου (ευρωβουλευτές) διεύρυναν σημαντικά τον κατάλογο των απαγορευμένων πρακτικών ΤΝ, ώστε να συμπεριλάβουν απαγορεύσεις για παρεμβατικές και διακριτικές χρήσεις της ΤΝ, όπως συστήματα βιομετρικής αναγνώρισης σε πραγματικό χρόνο από απόσταση σε χώρους προσβάσιμους από το κοινό, συστήματα βιομετρικής αναγνώρισης μετά την απομάκρυνση (εκτός από σκοπούς επιβολής του νόμου), συστήματα βιομετρικής κατηγοριοποίησης με χρήση ευαίσθητων χαρακτηριστικών (π.χ. φύλο, φυλή, εθνικότητα, ιδιότητα του πολίτη, θρησκεία, πολιτικός προσανατολισμός), συστήματα πρόβλεψης της αστυνόμευσης (με βάση τη δημιουργία προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά), συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, τον χώρο εργασίας και τα εκπαιδευτικά ιδρύματα, και η αδιάκριτη απόσπαση βιομετρικών δεδομένων από τα μέσα κοινωνικής δικτύωσης ή το υλικό από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβιάζοντας τα ανθρώπινα δικαιώματα και το δικαίωμα στην ιδιωτική ζωή).

Επιπλέον, οι ευρωβουλευτές εξασφάλισαν ότι τα συστήματα τεχνητής νοημοσύνης που προκαλούν σημαντική βλάβη στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα ή το περιβάλλον των ανθρώπων θα ταξινομούνται ως εφαρμογές υψηλού κινδύνου και προσέθεσαν στην ταξινόμηση των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου αυτά που χρησιμοποιούνται για να επηρεάσουν τους ψηφοφόρους και το αποτέλεσμα των εκλογών και στα συστήματα συστάσεων που χρησιμοποιούνται από τις πλατφόρμες κοινωνικής δικτύωσης (με πάνω από 45 εκατομμύρια χρήστες).

Επίσης, όσον αφορά τα μοντέλα θεμελίωσης, τα οποία χαρακτηρίστηκαν ως "πρόσφατη εξέλιξη κατά την οποία τα μοντέλα ΤΝ αναπτύσσονται από αλγορίθμους που έχουν σχεδιαστεί για τη βελτιστοποίηση της γενικότητας και της ευελιξίας των αποτελεσμάτων", οι πάροχοι τέτοιων μοντέλων θα πρέπει να αξιολογούν και να μετριάζουν τους πιθανούς κινδύνους (για την υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου) και να καταχωρούν τα μοντέλα τους στη δωρεάν, δημόσια προσβάσιμη, εύκολα κατανοητή και αναγνώσιμη από μηχανήματα βάση δεδομένων της ΕΕ πριν από τη διάθεσή τους στην αγορά της ΕΕ. Οι πάροχοι βασικών μοντέλων που χρησιμοποιούνται σε συστήματα ΤΝ, τα οποία προορίζονται ειδικά για να παράγουν, με διαφορετικά επίπεδα αυτονομίας, περιεχόμενο όπως σύνθετο κείμενο, εικόνες, ήχο ή βίντεο (Generative AI) και οι πάροχοι που εξειδικεύουν ένα βασικό μοντέλο σε ένα Generative AI σύστημα (όπως τα ChatGPT, DALL-E 2 και BERT) θα πρέπει α) να συμμορφώνονται με τις υποχρεώσεις διαφάνειας (ενημέρωση των ατόμων ότι αλληλεπιδρούν με ένα σύστημα ΤΝ), β) να εκπαιδεύονται και, κατά περίπτωση, να σχεδιάζει και να αναπτύσσει το μοντέλο θεμελίωσης κατά τρόπο που να διασφαλίζει επαρκείς εγγυήσεις κατά της δημιουργίας περιεχομένου κατά παράβαση της νομοθεσίας της ΕΕ, σύμφωνα με τη γενικώς αναγνωρισμένη κατάσταση της τεχνολογίας, και γ) χωρίς να θίγονται τα θεμελιώδη δικαιώματα, συμπεριλαμβανομένης της ελευθερίας της έκφρασης, καθώς και χωρίς να θίγεται η εθνική ή η ευρωπαϊκή νομοθεσία περί πνευματικής ιδιοκτησίας, να τεκμηριώνει και να δημοσιοποιεί επαρκώς λεπτομερή περίληψη της χρήσης των δεδομένων εκπαίδευσης που προστατεύονται βάσει της νομοθεσίας περί πνευματικής ιδιοκτησίας.

Επιπλέον, οι ευρωβουλευτές αποφάσισαν ότι ο νέος κανονισμός δεν θα επηρεάσει τις ερευνητικές δραστηριότητες σχετικά με τα συστήματα τεχνητής νοημοσύνης στο βαθμό που οι δραστηριότητες αυτές δεν οδηγούν ή συνεπάγονται τη διάθεση ενός συστήματος τεχνητής νοημοσύνης στην αγορά ή τη θέση του σε λειτουργία και επίσης δεν θα εφαρμόζεται στα συστατικά στοιχεία τεχνητής νοημοσύνης που παρέχονται με άδειες ελεύθερου και ανοικτού κώδικα, εκτός εάν διατίθενται στην αγορά ή τίθενται σε λειτουργία από έναν πάροχο ως μέρος ενός συστήματος τεχνητής νοημοσύνης υψηλού κινδύνου ή ενός συστήματος τεχνητής νοημοσύνης που εμπίπτει στον τίτλο II (Απαγορευμένες πρακτικές τεχνητής νοημοσύνης) ή στον τίτλο IV (Υποχρεώσεις διαφάνειας για ορισμένα συστήματα τεχνητής νοημοσύνης) του προτεινόμενου κανονισμού.

Επιπλέον, ο νέος κανονισμός θα προωθήσει ρυθμιστικά πλαίσια (sandboxes), ή περιβάλλοντα πραγματικής ζωής, που δημιουργούνται από τις δημόσιες αρχές για τη δοκιμή της ΤΝ πριν από την ανάπτυξή της και θα ενισχύσει επίσης το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες σχετικά με συστήματα ΤΝ και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν σημαντικά τα θεμελιώδη δικαιώματά τους.

Η ισχυρή, διακομματική έγκριση (499 ψήφοι υπέρ, 28 κατά και 93 αποχές) της πρότασης νόμου για την τεχνητή νοημοσύνη από το Ευρωπαϊκό Κοινοβούλιο θα δώσει το έναυσμα για τις διαπραγματεύσεις με το Ευρωπαϊκό Συμβούλιο.

Πηγή: Brussels approves draft AI Act in historic vote on 14 Wednesday, 2023 – EU becomes the first large regulator to create global standards on use of Artificial Intelligence