Άρθρο 7 Υποχρεώσεις αναδόχων συστημάτων τεχνητής νοημοσύνης

1. Με την επιφύλαξη των διατάξεων για την προστασία του στρατιωτικού, του εμπορικού ή του βιομηχανικού απορρήτου, σε κάθε προκήρυξη ή πρόσκληση εκδήλωσης ενδιαφέροντος με τις οποίες εκκινεί διαγωνιστική ή άλλη διαδικασία ανάθεσης δημόσιας σύμβασης που σχετίζεται με τον σχεδιασμό ή την ανάπτυξη συστήματος τεχνητής νοημοσύνης, περιλαμβάνεται όρος για την υποχρέωση του αναδόχου να παρέχει προς τον φορέα του δημόσιου τομέα τις πληροφορίες των περ. β΄ και γ΄ της παρ. 1 και της παρ. 2 του άρθρου 6, συμπεριλαμβανομένης της υποχρέωσης παραίτησης αυτού από την άσκηση αξιώσεων που ενδέχεται να θέσουν σε κίνδυνο το δικαίωμα των φυσικών ή νομικών προσώπων για πλήρη και επαρκή ενημέρωση σύμφωνα με την παρ. 1 του άρθρου 6.
2. Στη σύμβαση προμήθειας ή παροχής υπηρεσιών που συνάπτεται σύμφωνα με την παρ. 1, προβλέπεται υποχρεωτικά όρος, ότι το σύστημα τεχνητής νοημοσύνης που σχεδιάζεται ή αναπτύσσεται παραδίδεται στον φορέα του δημόσιου τομέα με όρους, ώστε ο φορέας να δύναται να μελετά τον τρόπο λειτουργίας του συστήματος και τις παραμέτρους που, ενόψει του επιδιωκόμενου σκοπού, λαμβάνονται υπόψη για τη λήψη αποφάσεων, να βελτιώνει το σύστημα και να δημοσιεύει ή να διαθέτει με οποιονδήποτε τρόπο τις βελτιώσεις αυτές.

  • 14 Ιουλίου 2022, 19:54 | ΟΜΑΔΑ ΕΡΓΑΣΙΑΣ ΟΜΙΛΟΥ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ AI CATALYST

    Στην πρώτη παράγραφο ποια είναι η υποχρέωση του αναδόχου στην περίπτωση που αναπτύξει ένα custom μοντέλο που δεν έχει κάποιο εμπορικό όνομα; Τι πληροφορίες πρέπει να δηλώσει για το σύστημα με βάση το άρθρο 6;

    Στην δεύτερη παράγραφο, στο σημείο όπου αναφέρεται η παράδοση, παραδίδεται ο κώδικας υλοποίησης του μοντέλου ή οι παράμετροι που προέκυψαν από την εκπαίδευση; Και αν ο ανάδοχος έχει χρησιμοποιήσει έτοιμη βιβλιοθήκη (π.χ. το AutoML της Google) τί παραδίδει;

    Επίσης στην ίδια παράγραφο αναφέρεται ότι ο φορέας θα βελτιώνει το σύστημα τεχνητής νοημοσύνης. Θα έχει τη γνώση για κάτι τέτοιο; Μήπως πρέπει αυτό να υλοποιείται από τον ανάδοχο και το αποτέλεσμα της διαδικασίας να διατίθεται στον φορέα;

    Τέλος θα ήταν καλό ο φορέας να μπορεί να μελετά στοιχειώδεις συνέπειες και κινδύνους που απορρέουν από την υλοποίηση του συστήματος που αναπτύσσεται.

  • 14 Ιουλίου 2022, 16:29 | Σπυριδουλα Καρυδα

    Λυπάμαι διότι είναι προφανές ότι δεν έγινε αντιληπτή η παρέμβαση μου.
    Το ζήτημα αναμένεται να ρυθμιστεί σε ενωσιακο επίπεδο. Αυτό δεν βλέπω να προβληματίζει ιδιαίτερα τους φορείς που συμμετείχαν στη διαβούλευση.
    Φαντάζομαι ότι η ΕΕ αυτό ακριβώς προσπαθεί τώρα να πετύχει. Δηλαδή εμείς σε επίπεδο εθνικής νομοθέτησης τι ακριβως επιδιώκουμε?
    Θα δώσουμε ορισμό της τεχνητής νοημοσύνης? Μετά την ψήφιση του Κανονισμού τι αξία θα έχει αυτός?
    Δεν αντιλαμβάνομαι το πνεύμα της παρέμβασης!
    Πολύ εντυπωσιακά πράγματι όλα αυτά που λέτε…λυπάμαι όμως θα οριστούν σε ενωσιακο επίπεδο.
    Υποθέτω θα έχετε καταθέσει τις προτάσεις σας σχετικώς. Εκεί να δώσετε τη μάχη!
    Διότι εγώ είμαι νομικός και σας διαβεβαιώνω ότι μετά την ψήφιση του κανονισμού δεν θα έχουν καμία αξία…
    Μάλλον προβλήματα θα δημιουργήσουν…
    Επίσης, ως γενική παρατήρηση, μάλλον δεν έχει γίνει αντιληπτό ότι η προτεινόμενη ρύθμιση εμπεριέχει σοβαρούς κινδύνους για τα δεδομένα προσωπικού χαρακτήρα και αναφέρομαι φυσικά σε φυσικά πρόσωπα, ακόμη όμως και νομικά πρόσωπα ενδεχομένως μπορεί να θίγονται.
    Πολύ εντυπωσιακά όλα αυτά που λέτε…δεν εντυπωσιάστηκα καθόλου!
    Προτείνω και πάλι, πριν από την ψήφιση του ΣχΝ να γνωμοδοτήσει η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα.
    Αν θέλετε ρύθμιση καθαρά τεχνοκρατική να καταστεί σαφές ότι θα γίνεται επεξεργασία μόνο ανωνυμοποιημενων δεδομένων η open data…όπως υπολαμβανει η Κεντρική Ένωση Δήμων και Κοινοτήτων.
    Θα σας πρότεινα επίσης να συμβουλευθείτε νομικό με γνώσεις στα θεμελιώδη δικαιώματα…πιστέψτε με χρειάζεστε επειγόντως τη συνδρομή του!
    Αν δεν γίνεται αντιληπτό τι ακριβώς επιδιώκει η προτεινόμενη ρύθμιση και η σοβαρότητα των κινδύνων για τα προσωπικά δεδομένα των υποκειμένων των δεδομένων…θαρρώ έχουμε πολύ σοβαρό πρόβλημα!

    Με τιμή
    Σπυριδουλα Κ

  • 14 Ιουλίου 2022, 15:44 | Σπυριδουλα Καρυδα

    Λυπάμαι διότι είναι προφανές ότι δεν έγινε αντιληπτή η παρέμβαση μου.
    Το ζήτημα αναμένεται να ρυθμιστεί σε ενωσιακο επίπεδο. Αυτό δεν βλέπω να προβληματίζει ιδιαίτερα τους φορείς που συμμετείχαν στη διαβούλευση.
    Φαντάζομαι ότι η ΕΕ αυτό ακριβώς προσπαθεί τώρα να πετύχει. Δηλαδή εμείς σε επίπεδο εθνικής νομοθέτησης τι ακριβως επιδιώκουμε?
    Θα δώσουμε ορισμό της τεχνητής νοημοσύνης? Μετά την ψήφιση του Κανονισμού τι αξία θα έχει αυτός?
    Δεν αντιλαμβάνομαι το πνεύμα της παρέμβασης!
    Πολύ εντυπωσιακά πράγματι όλα αυτά που λέτε…λυπάμαι όμως θα οριστούν σε ενωσιακο επίπεδο.
    Υποθέτω θα έχετε καταθέσει τις προτάσεις σας σχετικώς. Εκεί να δώσετε τη μάχη!
    Διότι εγώ είμαι νομικός και σας διαβεβαιώνω ότι μετά την ψήφιση του κανονισμού δεν θα έχουν καμία αξία…
    Μάλλον προβλήματα θα δημιουργήσουν…
    Επίσης, ως γενική παρατήρηση, μάλλον δεν έχει γίνει αντιληπτό ότι η προτεινόμενη ρύθμιση εμπεριέχει σοβαρούς κινδύνους για τα δεδομένα προσωπικού χαρακτήρα και αναφέρομαι φυσικά σε φυσικά πρόσωπα, ακόμη όμως και νομικά πρόσωπα ενδεχομένως μπορεί να θίγονται.
    Πολύ εντυπωσιακά όλα αυτά που λέτε…δεν εντυπωσιάστηκα καθόλου!
    Προτείνω και πάλι, πριν από την ψήφιση του ΣχΝ να γνωμοδοτήσει η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα.
    Αν θέλετε ρύθμιση καθαρά τεχνοκρατική να καταστεί σαφές ότι θα γίνεται επεξεργασία μόνο ανωνυμοποιημενων δεδομένων η open data…όπως υπολαμβανει η Κεντρική Ένωση Δήμων και Κοινοτήτων.
    Θα σας πρότεινα επίσης να συμβουλευθείτε νομικό με γνώσεις στα θεμελιώδη δικαιώματα…πιστέψτε με χρειάζεστε επειγόντως τη συνδρομή του!
    Αν δεν γίνεται αντιληπτό τι ακριβώς επιδιώκει η προτεινόμενη ρύθμιση και η σοβαρότητα των κινδύνων για τα προσωπικά δεδομένα των υποκειμένων των δεδομένων…θαρρώ έχουμε πολύ σοβαρό πρόβλημα!

    Με τιμή
    Σπυριδουλα Καρύδα
    Πάρεδρος ΣτΕ

  • 14 Ιουλίου 2022, 13:49 | Οργανισμός Ανοιχτών Τεχνολογιών – ΕΕΛΛΑΚ

    Η ΕΕΛΛΑΚ προτείνει την εισαγωγή ρητής αναφοράς στον ανοιχτό κώδικα και ζητά τη συμπλήρωση της παρ.2 ως εξής:

    «2 Στη σύμβαση προμήθειας ή παροχής υπηρεσιών που συνάπτεται σύμφωνα με την παρ. 1, προβλέπεται υποχρεωτικά όρος, ότι το σύστημα τεχνητής νοημοσύνης που σχεδιάζεται ή αναπτύσσεται παραδίδεται στον φορέα του δημόσιου τομέα με όρους ανοιχτού κώδικα, ώστε ο φορέας να δύναται να μελετά τον τρόπο λειτουργίας του συστήματος και τις παραμέτρους που, ενόψει του επιδιωκόμενου σκοπού, λαμβάνονται υπόψη για τη λήψη αποφάσεων, να βελτιώνει το σύστημα και να δημοσιεύει ή να διαθέτει με οποιονδήποτε τρόπο τις βελτιώσεις αυτές.»

  • 14 Ιουλίου 2022, 12:16 | Γιάννης Κανελλόπουλος

    Θεωρώ πως στις υποχρεώσεις του Αναδόχου, ειδικά αν το σύστημα θεωρείται υψηλού ρίσκου, θα πρέπει να περιλαμβάνεται και ένα Testing & Auditing Report από ανεξάρτητο φορέα το οποίο να πιστοποιεί ότι το σύστημα είναι τουλάχιστον:
    1) Δίκαιο: Τα δεδομένα και το αλγοριθμικό μοντέλο δεν περιέχουν δυνητικές μορφές μεροληψίας (testing for bias)
    2) Διαφανές: Οι αποφάσεις του μπορούν να εξηγηθούν στα υποκείμενα νομικά ή φυσικά πρόσωπα χωρίς τεχνική ορολογία (explainability analysis)
    3) Ασφαλές πρός χρήση: Το αλγοριθμικό μοντέλο και τα δεδομένα εισόδου του δεν μπορούν να επηρρεαστούν από κακόβουλους χρήστες (robustness testing via adversarial attacks).

  • 13 Ιουλίου 2022, 17:20 | Χ.Γ.

    Άρθρο 7
    Η περιγραφή των υποχρεώσεων του φορέα-αναδόχου κατασκευής, καθώς και του φορέα-πάροχο των αντίστοιχων υπηρεσιών που συνδέονται με Τεχνητή Νοημοσύνη, υπόκεινται σε Αρχές που περιγράφονται σε δύο δημοσιευμένα έγγραφα από την Ένωση Πληροφορικών Ελλάδας:
    1) «Ψήφισμα Γενικής Συνέλευσης: Παρέμβαση της ΕΠΕ για την Τεχνητή Νοημοσύνη και την απαγόρευση αυτόνομων οπλικών συστημάτων» (18/12/2018) — https://www.epe.org.gr/ola-ta-arthra/psifisma-genikis-syneleysis-parembasi-tis-epe-gia-tin-techniti-noimosyni-kai-tin-apagoreysi-aytonomon-oplikon-systimaton
    (Απόσπασμα):
    Βασικές Αρχές Τεχνητής Νοημοσύνης & Ρομποτικής
    * Ο σκοπός της ανάπτυξης και εφαρμογής της Τεχνητής Νοημοσύνης & Ρομποτικής (ΤΝ&Ρ) δεν είναι χωρίς στόχευση. Πρέπει να εξυπηρετεί το κοινό καλό και την προστασία της ζωής.
    * Η επένδυση στην ανάπτυξη και στην εφαρμογή ΤΝ&Ρ πρέπει πάντα να συνοδεύεται από τη διασφάλιση διαφάνειας και της σωστής κατεύθυνσης, σε σχέση με τα ζητήματα ηθικής, ανθρωπιστικής, κοινωνικής, νομικής και οικονομικής διάστασης.
    * Η πρόσβαση στην επιστημονική, τεχνολογική και παραγωγική διάσταση της ΤΝ&Ρ πρέπει να είναι ισότιμη για όλους, διαχρονικά, ως ανθρώπινο δικαίωμα στη γνώση και στα ανθρώπινα αγαθά.
    * Τα αποτελέσματα της ανάπτυξης και εφαρμογής της ΤΝ&Ρ πρέπει να αφορούν ισότιμα το σύνολο της κοινωνίας, με ιδιαίτερη μέριμνα στα ζητήματα ασφάλειας, προστασίας των προσωπικών δεδομένων και σεβασμού των ατομικών ελευθεριών.
    * Η συμμόρφωση με το Νόμο, ιδιαίτερα η προστασία της ζωής, η απόδοση ευθύνης (liability), η ελαχιστοποίηση του ρίσκου και η αποτροπή ζημιών σε περίπτωση εσφαλμένης λειτουργίας (fail-safe) αποτελούν ύψιστη προτεραιότητα.
    * Ο έλεγχος των συστημάτων ΤΝ&Ρ πρέπει πάντοτε να διατηρείται ή να μπορεί να αναληφθεί κατά προτεραιότητα σε άνθρωπο, για την ολοκλήρωση σκοπών που καθορίζονται από τον άνθρωπο.
    * Η κατανόηση από άνθρωπο της εσωτερικής λειτουργίας και η δυνατότητα τεκμηρίωσης (auditing) των διαδικασιών λήψης αποφάσεων σε ένα σύστημα ΤΝ&Ρ θα πρέπει να διασφαλίζεται στο μέγιστο δυνατό βαθμό.
    * Η εφαρμογή συστημάτων ΤΝ&Ρ στην καθημερινή ζωή σε ευρεία κλίμακα θα πρέπει να σέβεται και να διασφαλίζει στο μέγιστο δυνατό βαθμό τη δυνατότητα προσωπικής επιλογής του κάθε ατόμου ως προς το αν επιθυμεί ή όχι να κάνει χρήση αυτής.
    * Η ενσωμάτωση των επιστημονικών και τεχνολογικών επιτευγμάτων της ΤΝ&Ρ σε πρακτικές εφαρμογές και η χρήση τους για ειρηνικούς σκοπούς είναι υποχρέωση όλων.
    * Η αυτο-βελτίωση και η αυτο-προστασία των συστημάτων ΤΝ&Ρ, ως βασική παράμετρος της σχεδίασής τους, θα πρέπει πάντα να υπόκειται στην αξιολόγηση από άνθρωπο και να διασφαλίζεται πως πραγματοποιείται προς ωφέλιμη κατεύθυνση.
    2) «Δελτίο Τύπου – Ο πρώτος Κώδικας Δεοντολογίας για την Πληροφορική από την Ένωση Πληροφορικών Ελλάδας» (14/7/2016) — https://www.epe.org.gr/ola-ta-arthra/deltio-typoy-o-protos-kodikas-deontologias-gia-tin-pliroforiki-apo-tin-enosi-pliroforikon-elladas
    (Απόσπασμα):
    * Δημόσιο συμφέρον
    * Κοινωνία της Πληροφορίας
    * Υποχρέωση γνωστοποίησης
    * Ποιότητα έργου
    * Αντικειμενική κρίση
    * Διευθυντική ευθύνη
    * Συμφέροντα εντολέα
    * Προαγωγή επαγγέλματος
    * Συναδελφική αλληλεγγύη
    * Προσωπική ευθύνη