Αρχική Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξειςΚΕΦΑΛΑΙΟ Β’ ΡΥΘΜΙΣΕΙΣ ΓΙΑ ΤΗΝ ΑΝΑΠΤΥΞΗ ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ Άρθρο 3 ΟρισμοίΣχόλιο του χρήστη Σπυριδούλα Καρύδα | 1 Ιουλίου 2022, 15:29
  • Σχόλιο του χρήστη 'Σπυριδούλα Καρύδα' | 1 Ιουλίου 2022, 15:29

    Με αφορμή τη θέση σε διαβούλευση του ΣχΝ του Υπουργείου Ψηφιακής Διακυβέρνησης υπό τον τίτλο «Ψηφιακή Αναβάθμιση της Δημόσιας Διοίκησης» και ειδικότερα όσον αφορά τα προτεινόμενα άρθρα 1-10 αυτού μέσω των οποίων επιχειρείται, το πρώτον, η θέσπιση τομεακού εθνικού νομοθετικού πλαισίου για την χρησιμοποίηση τεχνολογιών τεχνητής νοημοσύνης διατυπώνω τις ακόλουθες παρατηρήσεις: Α. Επί της Αρχής του ΣχΝ Όπως είναι γνωστό, από πλευράς ενωσιακού νομοθέτη επιχειρείται μέσω πρότασης κανονισμού [βλ. Πρόταση Κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη ( πράξη για την τεχνητή νοημοσύνη (COM(2021) 206 final] η θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη). Όπως περαιτέρω επισημαίνεται, σε πλείστα όσα σημεία της αιτιολογικής έκθεσης που συνοδεύει την εν θέματι «πρόταση», στόχο του Κανονισμού αποτελεί η θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη ( βλ. σημείο 1.1. της προτάσης). Περαιτέρω, σε άλλο σημείο της πρότασης (σημείο 2.1 της πρότασης) επισημαίνεται από την ΕΕ ότι «Η παρούσα πρόταση αποτελεί βασικό μέρος της στρατηγικής της ΕΕ για την ψηφιακή ενιαία αγορά. Πρωταρχικός στόχος της παρούσας πρότασης είναι να διασφαλιστεί η ορθή λειτουργία της εσωτερικής αγοράς με τη θέσπιση εναρμονισμένων κανόνων, ειδικότερα σε σχέση με την ανάπτυξη, τη διάθεση στην αγορά της Ένωσης και τη χρήση προϊόντων και υπηρεσιών που χρησιμοποιούν τεχνολογίες ΤΝ ή παρέχονται ως αυτόνομα συστήματα ΤΝ. Κάποια κράτη μέλη εξετάζουν ήδη το ενδεχόμενο θέσπισης εθνικών κανόνων για να διασφαλίσουν ότι η ΤΝ είναι ασφαλής και αναπτύσσεται και χρησιμοποιείται σύμφωνα με τις υποχρεώσεις που απορρέουν από τα θεμελιώδη δικαιώματα. Αυτό είναι πιθανό να οδηγήσει σε δύο βασικά προβλήματα: i) στον κατακερματισμό της εσωτερικής αγοράς σε σχέση με ουσιώδη στοιχεία, ειδικότερα όσον αφορά τις απαιτήσεις για τα προϊόντα και τις υπηρεσίες ΤΝ, την εμπορία τους, τη χρήση τους, την ευθύνη και την εποπτεία από τις δημόσιες αρχές, και ii) τη σημαντική μείωση της ασφάλειας δικαίου τόσο για τους παρόχους όσο και για τους χρήστες συστημάτων ΤΝ σχετικά με τον τρόπο εφαρμογής των υφιστάμενων και των νέων κανόνων στα εν λόγω συστήματα στην Ένωση. Δεδομένης της ευρείας διασυνοριακής κυκλοφορίας προϊόντων και υπηρεσιών, τα δύο αυτά προβλήματα μπορούν να επιλυθούν καλύτερα μέσω της εναρμόνισης της νομοθεσίας σε επίπεδο ΕΕ». Παρατηρείται λοιπόν ότι με το προτεινόμενο ΣχΝ επιχειρείται από πλευράς εθνικού νομοθέτη μία αναιτιολόγητη σπουδή ως προς τη λήψη σχετικής νομοθετικής πρωτοβουλίας, πριν ακόμη υιοθετηθεί η πρόταση του εν θέματι Κανονισμού, θα τολμούσα να πω και προχειρότητα, η οποία θα επιβαρύνει με αδικαιολόγητα κόστη τις εμπορικές εταιρείες και με γραφειοκρατικό φόρτο τους φορείς του δημόσιου τομέα και νομοτελειακά θα έχει αντίχτυπο σε τυχόν επενδυτικό ενδιαφέρον, θα βλάψει δε και τον ανταγωνισμό. Επισημαίνεται επίσης, ότι παρατηρείται αλληλοεπικάλυψη των προς λήψη μέτρων (δίνεται ορισμός της τεχνητής νοημοσύνης, επιβάλλεται αλγοριθμική εκτίμηση αντιχτύπου, προβλέπονται υποχρεώσεις των αναδόχων συστημάτων τεχνητής νοημοσύνης κ.ο.κ). ζητήματα τα οποία κατ’εξοχήν ρυθμίζονται από τη σχετική «πρόταση» σε ενωσιακό όμως επίπεδο. Με πληροφορίες αντλούμενες από το «ΕU AI Act Newsletter» υπό της Προεδρεία της Τσεχίας θα συζητηθεί η πρόταση στην σχετική ομάδα εργασίας την 5.7.2022 και έως και τις 20.7.2022 αναμένεται η κοινοποίηση νέας επικαιροποιημένης πρότασης (τίθενται ζητήματα όσον αφορά τον ορισμό της τεχνητής νοημοσύνης και για τα υψηλού κινδύνου συστήματα). Ωστόσο, ο Κανονισμός, λόγω της νομικής φύσης του, δεν απαιτεί την έκδοση ιδιαίτερης νομικής πράξης εφαρμογής από τα κράτη μέλη, δεσμεύοντας άμεσα τα κρατικά όργανα, τις δημόσιες αρχές και τα δικαστήρια, καθώς και όλα τα πρόσωπα, φυσικά και νομικά, που εμπίπτουν στο πεδίο εφαρμογής του. Γίνονται εύκολα αντιληπτά τα προβλήματα που θα δημιουργήσει η προτεινόμενη ρύθμιση με τεχνοοικονομικούς όρους και την ανασφάλεια δικαίου που θα προκαλέσει. Β. Επί των αρχών διαφάνειας- θέσπισης νομικής βάσης επεξεργασίας- δικαιώματα εργαζομένων (άρθρα 4-6 και 9 του ΣχΝ). Η αλληλεπίδραση του ΣχΝ με τον ΓΚΠΔ και την προστασία δεδομένων προσωπικού χαρακτήρα, κατά την άποψη μου, δεν φωτίζεται επαρκώς. Με το άρθρο 4 πράγματι επιχειρείται να δοθεί μία τομεακή νομική βάση στηριζόμενη στη διατύπωση του άρθρου 22 παρ.2 στοιχ β) του ΓΚΠΔ η οποία δίδει ρήτρα ανοίγματος στα ΚΜ [ βλ. Buchner:Kühling/Buchner, DS-GVO/BDSG, 3η έκδ. 2020, άρ. 22, αρ. 37-38] και με βάση την αρχή της «επιτρεπτικότητας» που διαπνέει όλο το δίκαιο της προστασίας δεδομένων προσωπικού χαρακτήρα (Verbotsprinzip mit Erlaubnisvorbehalt), ωστόσο τα ληφθέντα μέτρα, οι εγγυήσεις, εκτιμώ ότι βρίσκονται αρκετά χαμηλότερα από τα προτεινόμενα με την Αιτ.σκ 71 του ΓΚΠΔ, αν υπάρχουν…. Δεν καθίσταται σαφές αν το άρθρο 4 καταλαμβάνει και την κατάρτιση προφίλ και αν όχι, ποιος είναι ο λόγος που περιλαμβάνεται στους ορισμούς του άρθρου 3 του ΣχΝ (κατά ανεπίτρεπτη επανάληψη του ορισμού του ΓΚΠΔ). Αυτό νομίζω επιβάλλεται να διευκρινισθεί. Εξόχως προβληματικό είναι και το άρθρο 9 για τη χρήση τεχνητής νοημοσύνης στον εργασιακό τομέα. Δεν διευκρινίζεται ποια είναι η έννοια «σύστημα τεχνητής νοημοσύνης», η οποία δεν ταυτίζεται με τους ορισμούς του άρθρου 3, δεν προσδιορίζεται η εθνική νομική βάση, αν τυχόν υπάρχει, για το επιτρεπτό της προτεινόμενης επεξεργασίας, η οποία άλλωστε τίθεται σοβαρώς το ενδεχόμενο να έρχεται σε αντίθεση με το άρθρο 22 ΓΚΠΔ και άρθρο 27 ν. 4624/2019 (Α΄137). Δεν λαμβάνονται τέλος ειδικά προστατευτικά μέτρα έναντι των εργαζομένων, ενώ η πρόβλεψη μόνο για ενημέρωση τους δεν κρίνεται επαρκής. Τέλος, ενώ το άρθρο 6 θεσπίζει υποχρεώσεις διαφάνειας, έστω και με προβληματικό τρόπο, αυτό αφορά μόνο τους δημόσιους φορείς, ενώ το άρθρο 9 εφαρμόζεται μόνον στον ιδιωτικό τομέα, χωρίς να γίνεται παραπομπή και στο άρθρο 6 του ΣχΝ αναφορικά με τις πληροφορίες που πρέπει να παρέχονται στο υποκείμενο των δεδομένων. Ως προς το ακανθώδες ζήτημα του δικαιώματος ενημέρωσης/ πρόσβασης ή παροχής εξηγήσεων στο υποκείμενο των δεδομένων, προκειμένου για λήψη αυτοματοποιημένης απόφασης που το αφορά, σύμφωνα με το άρθρο 15 παρ.1 στοιχείο η) του ΓΚΠΔ σε συνδυασμό με το άρθρο 22 του ΓΚΠΔ, αν υπάρχει σχετικό δικαίωμα, το εύρος αυτού, την τυχόν πρόσκρουση με δικαιώματα βιομηχανικής ή εμπορικής ιδιοκτησίας, εκκρεμούν αυτή τη στιγμή σχετικές υποθέσεις στο ΔΕΕ [ενδεικτικώς: Υποθέσεις C-203/22 Dun & Bradstreet Austria, C-634/21 and C-552/21 SCHUFA Holding] και εκτιμώ ότι το ζήτημα δεν είναι ώριμο για υιοθέτηση εθνικής ρύθμισης, την προτεινόμενη δε ρύθμιση την κρίνω ως ανεπαρκή από πλευράς προστασίας των δεδομένων προσωπικού χαρακτήρα αλλά και από τεχνοοικονομική όψη ιδιαιτέρως προβληματική. Προτείνω, χωρίς επιφύλαξη, την απόσυρση των άρθρων 3-10 του ΣχΝ. Με τιμή Σπυριδούλα Καρύδα Πάρεδρος Συμβουλίου της Επικρατείας LL.M. in Space, SatCom and Media Law (University of Luxembourg) PhD (c) in International Satellite and Data Protection Law