Σε προηγούμενη αρθρογραφία μας επιχειρήσαμε την προσέγγιση δύο εξαιρετικά σημαντικών θεμάτων: το πρώτο αφορά τον Κανονισμό για την Τεχνητή Νοημοσύνη (ΤΝ) και το δεύτερο τις κατηγορίες κινδύνου συστημάτων ΤΝ. Ο Κανονισμός προβλέπει σειρά υποχρεώσεων ανάλογα με την ιδιότητα όσων εμπλέκονται (λ.χ. Πάροχοι Συστημάτων ΤΝ, Φορείς Εφαρμογής, Εισαγωγείς και Διανομείς, εξουσιοδοτημένοι Αντιπροσώποι)-όπως τις επιμέρους ιδιότητες γνωρίσαμε στην προαναφερθείσα αρθρογραφία μας. Οι υποχρεώσεις των επιμέρους εμπλεκομένων διακρίνονται με βάση την κατηγοριοποίηση των συστημάτων. Καθώς τα Συστήματα Υψηλού Κινδύνου αποτελούν το βασικό αντικείμενο του Κανονισμού, αναγκαίο είναι να προσεγγίσουμε τις σχετικές υποχρεώσεις των Φορέων Εφαρμογής˙ και τις επαπειλούμενες, επίσης, κυρώσεις για την περίπτωση της παραβίασής τους.

Υποχρεώσεις Φορέων Εφαρμογής

(1) Υποχρέωση γραμματισμού-AI literacy

Ο Φορέας Εφαρμογής οφείλει να μεριμνά, ώστε τα πρόσωπα που θα αναλάβουν την ανθρώπινη εποπτεία του συστήματος να είναι κατάλληλα εκπαιδευμένα και καταρτισμένα. Ειδικότερα, τα πρόσωπα αυτά θα πρέπει να είναι σε θέση: να κατανοούν τις δυνατότητες και τους περιορισμούς του συστήματος, να παρακολουθούν τη λειτουργία του και να ερμηνεύουν τα αποτελέσματά του, να αποφασίζουν να μην το χρησιμοποιήσουν ή να παρακάμπτουν τα outputs του και να το διακόπτουν με ασφάλεια.

(2) Υποχρέωση ανθρώπινης εποπτείας

Ο Φορέας Εφαρμογής συστημάτων υψηλού κινδύνου υποχρεούται να εφαρμόζει μέτρα ανθρώπινης εποπτείας, τα οποία προσδιορίζονται από τον Πάροχο πριν από τη διάθεση του συστήματος ΤΝ στην αγορά ή τη θέση του σε λειτουργία.

Ειδικότερα, στο πλαίσιο συμμόρφωσης με την υποχρέωση αυτή προτείνονται: (α) oρισμός υπευθύνων εποπτών, (β) δυνατότητα ουσιαστικής παρέμβασης, (γ) εκ των προτέρων εντοπισμός κρίσιμων σημείων απόφασης, (δ) κατάλληλο περιβάλλον εποπτείας (τα δεδομένα εξόδου (outputs) θα πρέπει, δηλ., να είναι δεκτικά αξιολόγησης), (ε) η ανθρώπινη εποπτεία να μην βασίζεται σε μεγάλο βαθμό σε αυτοματοποιημένα συστήματα («automation bias») και (στ) τεκμηρίωση (καταγραφή και απόδειξη) της ανθρώπινης εποπτείας.

(3) Υποχρέωση λήψης κατάλληλων τεχνικών και οργανωτικών μέτρων

Το σύστημα ΤΝ υψηλού κινδύνου θα πρέπει να χρησιμοποιείται από τον Φορέα Εφαρμογής αποκλειστικά σε συμφωνία με τις οδηγίες χρήσης που παρέχονται από τον Πάροχο. Θα πρέπει, επίσης, να λαμβάνονται όλα τα κατάλληλα τεχνικά και οργανωτικά μέτρα για την ασφαλή και νόμιμη χρήση του˙ για την ουσιαστική συμμόρφωση με την υποχρέωση αυτή αναγκαία είναι η ενσωμάτωση των οδηγιών σε διαδικασίες και πολιτικές.

(4) Υποχρέωση ελέγχου δεδομένων εισόδου

Ο Φορέας Εφαρμογής οφείλει να διασφαλίζει ότι τα δεδομένα εισόδου είναι συναφή και επαρκώς αντιπροσωπευτικά σε σχέση με τον επιδιωκόμενο σκοπό.

(5) Υποχρέωση παρακολούθησης λειτουργίας και ενημέρωσης Παρόχου - αναστολής χρήσης και ενημέρωσης αρχών - αντιμετώπισης συστημάτων ΤΝ που παρουσιάζουν κίνδυνο

Ο Φορέας Εφαρμογής υποχρεούται να παρακολουθεί τη λειτουργία του συστήματος ΤΝ με βάση τις οδηγίες χρήσης και να ενημερώνει, μεταξύ άλλων, τον Πάροχο και τις Αρμόδιες Αρχές Εποπτείας.

(6) Υποχρέωση συνεργασίας με τις αρμόδιες αρχές

Ο Φορέας Εφαρμογής υποχρεούται να συνεργάζεται πλήρως με τις Αρμόδιες εποπτικές Αρχές, παρέχοντας κάθε αναγκαία πληροφορία και πρόσβαση που ζητείται για την αξιολόγηση της συμμόρφωσης.

(7) Τήρηση αρχείων καταγραφής-logs

Ο Φορέας Εφαρμογής οφείλει να τηρεί αρχεία καταγραφής (logs), εφόσον αυτά παράγονται αυτόματα από το σύστημα στο βαθμό που αυτά βρίσκονται στον έλεγχό του.

(8) Υποχρέωση διαφάνειας

Πρόκειται για ειδικές υποχρεώσεις ενημέρωσης με σαφή και διακριτό τρόπο από μέρους του Φορέα Εφαρμογής, όταν χρησιμοποιούνται συστήματα ανάλυσης συναισθημάτων, συστήματα βιομετρικής κατηγοριοποίησης ή συστήματα που παράγουν ή χειρίζονται περιεχόμενο εικόνας, ήχου ή βίντεο που αποτελεί προϊόν βαθυπαραποίησης (deepfake).

(9) Υποχρέωση επεξήγησης

Ο Κανονισμός θεμελιώνει το δικαίωμα των φυσικών προσώπων να λαμβάνουν επεξήγηση για τον ρόλο του συστήματος ΤΝ στη διαδικασία λήψης απόφασης που τους αφορά καθώς και για τα βασικά, επίσης, στοιχεία της απόφασης.

(10) Υποχρεώσεις με περιορισμένο πεδίο εφαρμογής

Η υποχρέωση διενέργειας εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα βαρύνει τους Φορείς Εφαρμογής που είναι οργανισμοί δημόσιου δικαίου ή ιδιωτικές οντότητες που παρέχουν δημόσιες υπηρεσίες και Φορείς Εφαρμογής συγκεκριμένων συστημάτων ΤΝ υψηλού κινδύνου. Αντίστοιχα και η υποχρέωση εγγραφής, επιλογής του συστήματος και καταχώρισης της χρήσης του στη βάση δεδομένων της ΕΕ βαρύνει Φορείς Εφαρμογής που είναι δημόσιες αρχές, θεσμικά και λοιπά όργανα ή οργανισμοί της Ένωσης ή πρόσωπα που ενεργούν για λογαριασμό τους, πριν από τη θέση σε λειτουργία ή τη χρήση συγκεκριμένων συστημάτων ΤΝ υψηλού κινδύνου.

Κυρώσεις

Ο Κανονισμός προβλέπει τα όρια των χρηματικών κυρώσεων, τις οποίες θα πρέπει να προσδιορίσουν τα κράτη-μέλη ανάλογα με την παράβαση. Ειδικότερα:

Η παραβίαση της απαγόρευσης χρήσης συστημάτων «μη αποδεκτού κινδύνου επισύρει διοικητικά πρόστιμα ύψους έως 35.000.000 €. Στην περίπτωση που ο παραβάτης είναι επιχείρηση, το διοικητικό πρόστιμο θα πρέπει να ισούται με το μεγαλύτερο από τα ακόλουθα: (α) ποσό έως 35.000.000€ ή (β) έως το 7% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος.

Η μη συμμόρφωση με οποιεσδήποτε από τις υποχρεώσεις που αμέσως, στη συνέχεια, αναφέρονται επισύρει διοικητικά πρόστιμα ύψους έως 15.000.000€. Στην περίπτωση που ο παραβάτης είναι επιχείρηση, το διοικητικό πρόστιμο θα πρέπει να ισούται με το μεγαλύτερο από τα ακόλουθα: ποσό έως 15.000.000€ ή έως το 3% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος. Συγκεκριμένα:

(α) Των κατά τα άνω (υπό 5, 6 και 7) υποχρεώσεων των Φορέων Εφαρμογής.

(β) Της κατά τα άνω (υπό 8) υποχρέωσης Διαφάνειας για Παρόχους και Φορείς εφαρμογής.

Η παραβίαση της υποχρέωσης για παροχή ανακριβών, ελλιπών ή παραπλανητικών πληροφοριών σε κοινοποιημένους οργανισμούς ή εθνικές αρμόδιες αρχές κατά την απάντηση σε αίτημα επισύρει διοικητικά πρόστιμα ύψους έως 7.500.000€. Στην περίπτωση που ο παραβάτης είναι επιχείρηση, το διοικητικό πρόστιμο θα πρέπει να ισούται με το μεγαλύτερο από τα ακόλουθα: (α) ποσό έως 7.500.000€ ή (β) έως το 1% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος.

Σημειώνεται ότι στην περίπτωση ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, απειλείται πρόστιμο από τα ανωτέρω αναφερόμενα ποσά ή ποσοστά, ανάλογα με το ποιο από αυτά είναι μικρότερο.

Σημειώνεται, πάντως, ότι δεν έχει υπάρξει, προσώρας, σχετικός προσδιορισμός τόσο του ύψους όσο και, εν γένει, του πλαισίου επιβολής των κυρώσεων από τον Έλληνα νομοθέτη.

Τα Συστήματα Τεχνητής Νοημοσύνης Υψηλού Κινδύνου είναι εκείνα με τα οποία περισσότερο ασχολείται, και δικαίως, ο σχετικός Ευρωπαϊκός Κανονισμός. Η χρήση τους αξιώνει ιδιαίτερη προσοχή-προδήλως γιατί η κοινή λογική και η υποχρέωση προστασίας βασικών αξιών και ανθρώπινων δικαιωμάτων το επιβάλλει˙ επιπρόσθετα, όμως, γιατί οι επαπειλούμενες κυρώσεις μπορούν να αποδειχθούν δραματικές για τις επιχειρήσεις που παραβιάζουν τις συναφείς υποχρεώσεις τους. Ουδεμία, λοιπόν, αμφιβολία χωρεί πως δεν αρκεί η εύρεση των βέλτιστων, σχετικών, συστημάτων αλλά, προεχόντως, η ευλαβική τήρηση των (όχι αμελητέων) υποχρεώσεων που βαρύνουν εκείνους που θα τα χρησιμοποιήσουν.

Σημ.1: Το παρόν άρθρο αποτελεί τμήμα ευρύτερης ενότητας αρθρογραφίας της Δικηγορικής μας για την Τεχνητή Νοημοσύνη και τις Επιχειρήσεις. Στην ενότητα αυτή επιχειρούμε την προσέγγιση των βασικών, σχετικών, υποχρεώσεων υπό το πρίσμα του Κανονισμού (ΕΕ) 2024/1689.

Σημ.2: Σε πλήρη μορφή το άρθρο Κανονισμός για την ΤΝ: Υποχρεώσεις Φορέων Εφαρμογής και Κυρώσεις