Αρχική Ολοκλήρωση της κτηματογράφησης, απλοποίηση διαδικασιών, χρήση τεχνητής νοημοσύνης και διατάξεις για τη λειτουργία του ν.π.δ.δ. «Ελληνικό Κτηματολόγιο», λοιπές διατάξεις του Υπουργ...ΜΕΡΟΣ Γ’ ΑΠΛΟΠΟΙΗΣΗ ΔΙΑΔΙΚΑΣΙΩΝ ΚΑΙ ΜΕΙΩΣΗ ΓΡΑΦΕΙΟΚΡΑΤΙΑΣ ΣΤΟ Ν.Π.Δ.Δ. «ΕΛΛΗΝΙΚΟ ΚΤΗΜΑΤΟΛΟΓΙΟ» – Άρθρο 10 Εισήγηση νομικού ελέγχου με τη χρήση συστήματος τεχνητής νοημοσύνηςΣχόλιο του χρήστη Σπυριδούλα Καρύδα | 31 Αυγούστου 2024, 21:59
  • Σχόλιο του χρήστη 'Σπυριδούλα Καρύδα' | 31 Αυγούστου 2024, 21:59

    Από πλευράς ενωσιακού νομοθέτη, αναγνωρίζοντας τους κινδύνους από την εφαρμογή συστημάτων τεχνητής νοημοσύνης, μέσω της δεσμευτικής για τα Κράτη Μέλη (ΚΜ) υιοθέτηση της νομικής πράξης του ‘κανονισμού’, έχουν θεσπισθεί εναρμονισμένοι κανόνες σχετικά με την τεχνητή νοημοσύνη (Kανονισμός για την τεχνητή νοημοσύνη, L 2024/1689, εφεξής: ΚΤΝ) με το κριτήριο της διαβάθμισης του κινδύνου ( risk-based approach). Ο κανονισμός βασίζεται σε μια δυαδική αντίληψη: αφενός, αποσκοπεί στην προστασία του κεκτημένου της ΕΕ στον τομέα των θεμελιωδών δικαιωμάτων, αφετέρου, στην προώθηση της ανταγωνιστικότητας της ΕΕ. Οι δύο αυτοί στόχοι - ιδιαίτερα στον τομέα των νέων τεχνολογιών - είναι δύσκολο να εναρμονισθούν[Rostalski/Weiss, ZfDR 2021,329 (336)]. Στην προβληματική αυτή, η οριοθέτηση του ορισμού των ‘συστημάτων τεχνητής νοημοσύνης’ (AIs) αποτέλεσε κατά τη διάρκεια των διαπραγματεύσεων έντονο σημείο αντιπαράθεσης. Επισημαίνεται ότι, έως και την ψήφιση του εν θέματι κανονισμού, δεν υπήρχε νομικά δεσμευτικός ορισμός για τα συστήματα τεχνητής νοημοσύνης [Herberger, NJW 2018, 2825 (2825)]. Αντιθέτως, ελλόχευε σοβαρός κίνδυνος υπό τον ορισμό των συστημάτων τεχνητής νοημοσύνης να ενταχθούν όλες οι τεχνολογικές εφαρμογές και τα λογισμικά τους. Ένας άλλος φόβος ήταν ότι η υπερβολική ρύθμιση θα μπορούσε να θέσει σε κίνδυνο τις σχετικές τεχνολογικές εξελίξεις ή να αναγκάσει τις εταιρείες υψηλής τεχνολογίας να εγκαταλείψουν την ΕΕ. Έτσι, για παράδειγμα, χώρες όπως η Γαλλία και η Γερμανία αντιτάχθηκαν έντονα στην πιθανή ρύθμιση μοντέλων τεχνητής νοημοσύνης, όπως το ChatGPT, μέσω του ΚΤΝ, εκφράζοντας επιφυλάξεις οικονομοτεχνικού κυρίως χαρακτήρα. Τα προλεγόμενα έχουν ως στόχο να αναδείξουν τη σημασία του ορισμού ενός συστήματος ως εμπίπτοντος στην έννοια του συστήματος ΤΝ στο οποίο και μόνο εφαρμόζεται ο εν θέματι κανονισμός. Έτσι λοιπόν, ως σύστημα ΤΝ ορίζεται στο άρθρο 3 σημείο 1) του ΚΤΝ το: «μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα». Ο ΚΤΝ προβλέπει επίσης και την περίπτωση «μοντέλων ΤΝ γενικού σκοπού» [άρθρο 3 σημείο 63) του ΚΤΝ]. Ως πρώτη παρατήρηση στην προτεινόμενη ρύθμιση θα επισημάνω την ορολογική ασυνέπεια που παρουσιάζει σε σχέση με τον ΚΤΝ καθώς χρησιμοποιεί τον αόριστο και αδόκιμο όρο ‘εφαρμογή τεχνητής νοημοσύνης’( άρθρο 10 παρ.1), ενώ σπεύδει στην παρ.2 να ορίσει ότι η εφαρμογή αυτή θα λειτουργεί σύμφωνα με τον ΚΤΝ. Η πρόβλεψη αυτή είναι προεχόντως αντίθετη με το ενωσιακό δίκαιο καθώς όπως προελέχθει μόνο συστήματα ΤΝ με τα ως άνω χαρακτηριστικά εμπίπτουν στο πεδίο εφαρμογής του ΚΤΧ και όχι το αντίθετο, και πάντως αν θα εμπίπτει ή όχι το όποιο σύστημα ΤΝ υιοθετηθεί στο πεδίο εφαρμογής του ΚΤΝ το ορίζει ο ίδιος ο κανονισμός και όχι ο εθνικός νομοθέτης. Επισημαίνεται επίσης, ότι με άρθρο 29 παρ.5 του ΣχΝ δίδεται εξουσιοδότηση στο Δ.Σ. του Εθνικού Κτηματολογίου για τη ρύθμιση των ειδικότερων ζητημάτων σχετικά με την ανάπτυξη και τη λειτουργία της εφαρμογής εισήγησης νομικού ελέγχου με τη χρήση συστήματος τεχνητής νοημοσύνης του άρθρου 10, όπως τα αντλούμενα έγγραφα ή πληροφορίες, οι αναγκαίες διαλειτουργικότητες με πληροφοριακά συστήματα και τα οργανωτικά και τεχνικά μέτρα. Ωστόσο, η εξουσιοδοτική διάταξη είναι εξαιρετικά ευρεία καθώς δεν έχουν ορισθεί τα χαρακτηριστικά του συστήματος ΤΝ, ερευνητέο αν εμπίπτει στα υψηλού κινδύνου συστήματα ΤΝ, ενώ στη διάταξη αυτή για πρώτη φορά γίνεται αναφορά σε σύστημα ΤΝ και όχι σε εφαρμογή. Περαιτέρω, εφιστώ την προσοχή και σε ένα άλλο ζήτημα. Σύμφωνα με το σημείο 8 του Παραρτήματος ΙΙΙ του ΚΤΝ, υπό τον τίτλο «Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες», χαρακτηρίζονται ως υψηλού κινδύνου και τα «συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από δικαστική αρχή ή για λογαριασμό της για τη συνδρομή προς δικαστική αρχή κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών ή να χρησιμοποιηθούν με παρεμφερή τρόπο σε εναλλακτική επίλυση διαφορών». Η πρόβλεψη αυτή σε συνδυασμό με την αιτ.σκ. 63 του ΚΤΝ χρήζει ιδιαίτερης προσοχής διότι ο έλεγχος πράξεων κτηματολογίου αποτελεί σαφέστατα προπαρασκευαστική ενέργεια για λογαριασμό και δικαστικής αρχής και ενδέχεται να εμπίπτει στα υψηλού κινδύνου συστήματα ΤΝ από την άποψη αυτή ( βλ. ν. 2664/1998 όπως ισχύει). Ως τελικό συμπέρασμα θα πρότεινα η διάταξη να αποσυρθεί διότι η εμπειρία από την εφαρμογή του ΚΤΝ είναι ισχνή και το κυριότερο δεν έχει ορισθεί η αρμόδια εποπτική αρχή επί της αγοράς. Αντιλαμβάνομαι, από τη μη νομοτεχνικά άρτια διατύπωση του άρθρου 29 παρ. 2 περ. ε΄, ότι το επίμαχο άρθρο 10 δεν έχει άμεση εφαρμογή. Ωστόσο, ενωσιακά νομοθετήματα της εμβέλειας του ΚΤΝ ευκταίο θα ήταν να μην αποτελούν αντικείμενο πρόχειρης νομοθέτησης για λόγους εντυπωσιασμού. Επίσης, θα εισηγούμουν ενθέρμως οι όποιες λεπτομέρειες να εισαχθούν με Π.Δ. μετά από επεξεργασία από το Συμβούλιο της Επικρατείας και λήψη υπόψη της γνώμης της ΑΠΔΠΧ (η εν θέματι επεξεργασία προδήλως αφορά σε επεξεργασία δεδομένων προσωπικού χαρακτήρα) καθώς και της αρμόδιας για την εποπτεία της αγοράς εποπτικής αρχής, σύμφωνα με τα οριζόμενα στο άρθρο 74 παρ. 8, όταν αυτή ορισθεί. Εξάλλου, η αλληλεπίδραση του ΓΚΠΔ με τον ΚΤΝ είναι πρόδηλη [βλ.EDPB: Statement 3/2024 on data protection authorities’ role in the Artificial Intelligence Act framework, AI system development: CNIL’s recommendations to comply with the GDPR (7 June 2024) ] και άρθρο 2 παρ. 7 και αιτ,σκ. 10 ΚΤΝ. Μετά τιμής! Σπυριδούλα Καρύδα LL.M.