Αρχική Ανοιχτή δημόσια διαβούλευση για τη Βίβλο Ψηφιακού Μετασχηματισμού 2020-20257.6. Αξιοποίηση προηγμένων τεχνολογιώνΣχόλιο του χρήστη Νικόλαος Βασιλειάδης | 15 Δεκεμβρίου 2020, 16:09
  • Σχόλιο του χρήστη 'Νικόλαος Βασιλειάδης' | 15 Δεκεμβρίου 2020, 16:09

    Στην παράγραφο 7.6.2 για την Τεχνητή Νοημοσύνη αναφέρεται ότι για την Αξιοποίηση της τεχνητής νοημοσύνης στη Δημόσια Διοίκηση θα πρέπει να καταρτιστεί η απαραίτητη νομοθεσία για τη συντονισμένη πανευρωπαϊκή προσέγγιση των ανθρώπινων και ηθικών συνεπειών της τεχνητής νοημοσύνης πέρα από τις «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη» της Ευρωπαϊκής Επιτροπής [COM(2019) 168]. Στο σημείο αυτό θα πρέπει να αναφερθεί πώς το διάσημο GDPR (General Data Protection Regulation) σκιαγραφεί στο άρθρο 22 την λήψη αποφάσεων με την χρήση μεθόδων Τεχνητής Νοημοσύνης και αναφέρει ότι "1. Το υποκείμενο των δεδομένων έχει το δικαίωμα να μην υπόκειται σε απόφαση που λαμβάνεται αποκλειστικά βάσει αυτοματοποιημένης επεξεργασίας, συμπεριλαμβανομένης της κατάρτισης προφίλ, η οποία παράγει έννομα αποτελέσματα που το αφορούν ή το επηρεάζει σημαντικά με παρόμοιο τρόπο. ... 3. Στις περιπτώσεις που αναφέρονται στην παράγραφο 2 στοιχεία α) και γ), ο υπεύθυνος επεξεργασίας των δεδομένων εφαρμόζει κατάλληλα μέτρα για την προστασία των δικαιωμάτων, των ελευθεριών και των έννομων συμφερόντων του υποκειμένου των δεδομένων, τουλάχιστον του δικαιώματος εξασφάλισης ανθρώπινης παρέμβασης από την πλευρά του υπευθύνου επεξεργασίας, έκφρασης άποψης και αμφισβήτησης της απόφασης. " Συνεπώς, ήδη σε κανονισμούς της ΕΕ σκιαγραφείται η ορθή χρήση των αυτοματοποιημένων μεθόδων λήψης απόφασης της Τεχνητής Νοημοσύνης, και συνεπώς κάθε εργαλείο που αξιοποιεί την Τεχνητή Νοημοσύνη στην Δημόσια Διοίκηση θα πρέπει κατ' ελάχιστον να προσφέρει στον χειριστή του Δημόσιο Λειτουργό ή/και στον χρήστη του (τον πολίτη) την δυνατότητα να παρέχει εύληπτες εξηγήσεις σχετικά με τους λόγους που οδήγησαν στην εφαρμογή Τεχνητής Νοημοσύνης να προτείνει μια συγκεκριμένη απόφαση, καθώς έτσι αυξάνεται η διαφάνεια των μοντέλων που χρησιμοποιούνται στην λήψη αποφάσεων και εν τέλει η εμπιστοσύνη σε αυτά από τον χρήστη. Αυτή πλευρά της Τεχνητής Νοημοσύνης ονομάζεται "Ερμηνεύσιμη ή Επεξηγήσιμη Τεχνητή Νοημοσύνη" (Explainable AI) και αποτελεί πολύ σημαντικό παράγοντα (τουλάχιστον στην ΕΕ) για την δημόσια εδραίωση της Τεχνητής Νοημοσύνης. Συνεπώς, θα έπρεπε να τονιστεί αυτή διάσταση λίγο παραπάνω στο κείμενο. Όσον αφορά την "Πλατφόρμα τεχνητής νοημοσύνης και μηχανικής μάθησης", αναφέρω ότι κεντρικά, στην ΕΕ αναπτύσσεται μία τέτοια πλατφόρμα AI4EU (https://www.ai4eu.eu/) στην οποία συμμετέχουν 5 Ελληνικά Πανεπιστήμια/Ερευνητικά Ινστιτούτα. Συνεπώς θα μπορούσε μία τέτοια προσπάθεια να βασιστεί ή να διασυνδεθεί με την ευρωπαϊκή πλατφόρμα. Τέλος, όσον αφορά την "Εισαγωγή τεχνολογιών Αυτοματοποίησης Ρομποτικών Διαδικασιών (Robotic Process Automation) για τη μείωση των επαναλαμβανόμενων διοικητικών εργασιών", θα πρέπει να προβλεφθεί ότι όποια παρακολούθηση και αυτοματοποίηση διεργασιών θα πρέπει αρχικά να σέβεται την ιδιωτικότητα των υπαλλήλων. Επιπλέον όμως η αυτοματοποίηση των διεργασιών δεν θα πρέπει πάντα να στοχεύει στην βελτιστοποίηση του χρόνου και του κόστους εκτέλεσης των διαδικασιών αλλά και στην διευκόλυνση από τη μια μεριά των πολιτών αλλά και των δημόσιων λειτουργών, χωρίς ωστόσο να παραβιάζονται οι απαιτούμενες ενέργειες και έγγραφα που απαιτεί η νομοθεσία στην διεκπεραίωση μιας διαδικασίας. Άρα η αυτοματοποίηση θα πρέπει να γίνεται μόνο αν η παρατηρούμενες βέλτιστες ενέργειες τηρούν τις νόμιμες προδιαγραφές και να προειδοποιούν τον χειριστή όταν δεν τηρούνται. Από την άλλη πλευρά όμως, όταν οι παρατηρούμενες βέλτιστες πρακτικές τείνουν να γίνουν η de facto μεθοδολογία διεκπεραίωσης, τότε το υλικό αυτό θα μπορεί να δοθεί σε νομοθέτες προκειμένου να εξετάσουν την αλλαγή της νομοθεσίας ώστε να οι βέλτιστες διαδικασίες να καταστούν και σύννομες.