Αρχική Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξειςΆρθρο 5 Αλγοριθμική εκτίμηση αντικτύπουΣχόλιο του χρήστη Εθνική Συνομοσπονδία Ατόμων με Αναπηρία (Ε.Σ.Α.μεΑ.) | 12 Ιουλίου 2022, 09:29
  • Σχόλιο του χρήστη 'Εθνική Συνομοσπονδία Ατόμων με Αναπηρία (Ε.Σ.Α.μεΑ.)' | 12 Ιουλίου 2022, 09:29

    Η θέσπιση ρυθμίσεων για την ασφαλή αξιοποίηση των δυνατοτήτων της τεχνολογίας Τεχνητής Νοημοσύνης (ΤΝ) από φορείς του δημοσίου και του ιδιωτικού τομέα είναι ιδιαίτερα σημαντική καθώς η χρήση της αυξάνεται ολοένα και περισσότερο και ως εκ τούτου και ο αντίκτυπός της στις ζωές του συνόλου των πολιτών. Παρά το γεγονός ότι η συμβολή της ΤΝ στην αντιμετώπιση σύγχρονων προκλήσεων μπορεί να είναι ιδιαίτερα θετική, ωστόσο την ίδια στιγμή μπορεί ο αντίκτυπός της στα άτομα και τις κοινωνίες να είναι ιδιαίτερα αρνητικός. Πιο συγκεκριμένα, στη Λευκή Βίβλο «Τεχνητή Νοημοσύνη-Η Ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης» [Βρυξέλλες 19.02.2020, COM(2020) 65 Final], επισημαίνονται οι κίνδυνοι για τα θεμελιώδη δικαιώματα. Πιο συγκεκριμένα, επισημαίνεται ότι «Η χρήση της ΤΝ μπορεί να επηρεάσει τις αξίες στις οποίες βασίζεται η ΕΕ και να οδηγήσει σε παραβιάσεις των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των δικαιωμάτων της ελευθερίας της έκφρασης, της ελευθερίας του συνέρχεσθαι, της ανθρώπινης αξιοπρέπειας, της απαγόρευσης των διακρίσεων λόγω φύλου, φυλετικής ή εθνοτικής καταγωγής, θρησκείας ή πεποιθήσεων, αναπηρίας, ηλικίας ή γενετήσιου προσανατολισμού, όπως ισχύει σε ορισμένους τομείς». Συνεχίζοντας η Βίβλος αναφέρει ότι «Οι κίνδυνοι αυτοί θα μπορούσαν να προκύψουν από αδυναμίες στον συνολικό σχεδιασμό των συστημάτων ΤΝ (μεταξύ άλλων όσον αφορά την ανθρώπινη εποπτεία) ή από τη χρήση δεδομένων χωρίς διόρθωση της πιθανής μεροληψίας (π.χ. το σύστημα έχει εκπαιδευτεί με τη χρήση μόνο ή κυρίως δεδομένων από άνδρες, γεγονός που οδηγεί σε κατώτερα του επιθυμητού αποτελέσματα για τις γυναίκες)», και εύλογα θα συμπληρώναμε ή μόνο από άτομα δίχως αναπηρία, γεγονός που οδηγεί σε κατώτερα του επιθυμητού αποτελέσματα για τα άτομα με αναπηρία ή/και χρόνιες παθήσεις. Αρνητικές επιπτώσεις στα δικαιώματα των ατόμων με αναπηρία θα μπορούσαν να επιφέρουν συστήματα Τεχνητής Νοημοσύνης που χρησιμοποιούνται για τη βιομετρική ταυτοποίηση φυσικών προσώπων, την πρόσβαση στην απασχόληση, στην εκπαίδευση και στην επαγγελματική κατάρτιση, στις βασικές ιδιωτικές υπηρεσίες και στις δημόσιες υπηρεσίες και παροχές. Για τον λόγο αυτό το Ευρωπαϊκό Φόρουμ Ατόμων με Αναπηρία στο Κείμενο Πολιτικής που δημοσίευσε τον Νοέμβριο του 2021[1], στο οποίο περιλαμβάνονταν οι απόψεις του επί της Πρότασης Κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την Τεχνητή Νοημοσύνη, ζητά να απαγορευτούν πρακτικές που περιλαμβάνονται στο Παράρτημα ΙΙΙ αυτού και οι οποίες συνδέονται με τη βιομετρική ταυτοποίηση φυσικών προσώπων, την πρόσβαση στην απασχόληση, στην εκπαίδευση και στην επαγγελματική κατάρτιση, στις βασικές ιδιωτικές υπηρεσίες και στις δημόσιες υπηρεσίες και παροχές. Πέραν των προαναφερθέντων, το Ευρωπαϊκό Φόρουμ Ατόμων με Αναπηρία προτείνει ο εν λόγω Κανονισμός: • να περιλαμβάνει απαιτήσεις για την οριζόντια ενσωμάτωση της προσβασιμότητας στα άτομα με αναπηρία σε όλα τα συστήματα Τεχνητής Νοημοσύνης, ανεξάρτητα από το επίπεδο κινδύνου, καθώς και την παροχή ενημέρωσης και οδηγιών σε προσβάσιμες μορφές στα άτομα με αναπηρία, • να διασφαλίζει την ιδιωτικότητα και την προστασία των προσωπικών δεδομένων όλων των ατόμων με αναπηρία, ήτοι και των ατόμων με νοητική και ψυχοκοινωνική αναπηρία, συμπεριλαμβανομένων μάλιστα και αυτών που στερούνται τη δικαιοπρακτική τους ικανότητα, όταν γίνεται επεξεργασία των στοιχείων τους από τα συστήματα Τεχνητής Νοημοσύνης, και να ενημερώνονται για τα δεδομένα που συλλέγονται καθώς και για τη χρήση τους, • να προβλέπει μέτρα για την υποβολή καταγγελιών σε εξουσιοδοτημένους φορείς, που να είναι προσβάσιμα στα άτομα με αναπηρία, • να διασφαλίζει την εκ των προτέρων εκτίμηση του αντικτύπου των συστημάτων Τεχνητής Νοημοσύνης υψηλού κινδύνου στα ανθρώπινα δικαιώματα προτού αυτά τεθούν σε χρήση, καθώς και την εκ των προτέρων αξιολόγηση της προσβασιμότητας των συστημάτων αυτών στα άτομα με αναπηρία, • να περιλαμβάνει προορατικά μέτρα σε επίπεδο ΕΕ και κρατών μελών για την υποστήριξη της ανάπτυξης της Τεχνητής Νοημοσύνης προς όφελος της κοινωνίας και των ευπαθών ομάδων του πληθυσμού, μεταξύ των οποίων συγκαταλέγονται και τα άτομα με αναπηρία και χρόνιες παθήσεις, και να προωθεί, μέσω της παροχής σχετικών κινήτρων (π.χ. ευρωπαϊκών και εθνικών χρηματοδοτήσεων) τη συμμετοχή εμπειρογνωμόνων με αναπηρία, εμπειρογνωμόνων προσβασιμότητας και οργανώσεων των ατόμων με αναπηρία στην ανάπτυξη συστημάτων Τεχνητής Νοημοσύνης. Βάσει των προαναφερθέντων, η Ε.Σ.Α.μεΑ. προτείνει τα ακόλουθα: 1. Στο άρθρο 5 «Αλγοριθμική εκτίμηση αντικτύπου», το σημείο στ) της παρ. 2 να συμπληρωθεί ως ακολούθως: «2. Η αλγοριθμική εκτίμηση αντικτύπου περιλαμβάνει, ιδίως, τις ακόλουθες πληροφορίες: […] στ) την αξιολόγηση των κινδύνων που ενδέχεται να προκύψουν για τα δικαιώματα και τις ελευθερίες των φυσικών ή νομικών προσώπων, στα οποία αφορά η λήψη της απόφασης, συμπεριλαμβανομένου του δικαιώματος στη μη διάκριση λόγω φύλου, φυλετικής ή εθνοτικής καταγωγής, θρησκείας ή πεποιθήσεων, αναπηρίας, ηλικίας ή γενετήσιου προσανατολισμού, και […]» 2. Στο άρθρο 6 «Υποχρεώσεις διαφάνειας», η παρ. 2 να συμπληρωθεί ως ακολούθως: «2. Κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα αλγοριθμικής λήψης αποφάσεων διασφαλίζει ότι το φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης δύναται να λαμβάνει γνώση για τις παραμέτρους στις οποίες στηρίχθηκε η λήψη της απόφασης σε κατανοητή και εύκολα προσβάσιμη μορφή για όλους, συμπεριλαμβανομένων εκείνων των μορφών που διευκολύνουν την ενημέρωση των ατόμων με αναπηρία (π.χ. easy-to-read, braille κ.λπ.)».