Ακόμα και η απλή χρήση εργαλείων τεχνητής νοημοσύνης από τις επιχειρήσεις όπως το Chat gpt, μπορεί να τις εκθέσει σε κινδύνους και ποινές βάσει της Κοινοτικής και εθνικής νομοθεσίας. Οι επιχειρήσεις ανεξαρτήτως κλάδου και μεγέθους (με ορισμένες ευνοϊκές προβλέψεις ωστόσο για τις μικρές) υποχρεούνται να εφαρμόζουν εργαλεία ελέγχου και εποπτείας των εργαλείων τεχνητής νοημοσύνης που χρησιμοποιούν και να είναι σε θέση να αποδείξουν σε περίπτωση ελέγχου ότι η χρήση δεν παραβιάζει τα όρια που θέτει ο νόμος.
Αυτά προκύπτουν από την εκδήλωση που πραγματοποιήθηκε χθες στα γραφεία του ΣΕΒ, στο πλαίσιο της οποίας ο Σύνδεσμος παρουσίασε τον «Οδηγό για τη Συμμόρφωση των Επιχειρήσεων με τον Κανονισμό EU AI Act». Ο Οδηγός, όπως επισημαίνει ο ΣΕΒ, αποτελεί ένα πρακτικό εργαλείο που βοηθά κάθε επιχείρηση να κατανοήσει τι την αφορά, να εντοπίσει τις υποχρεώσεις της και να διαμορφώσει, βήμα-βήμα, το κατάλληλο πλαίσιο διακυβέρνησης.
Όπως ανέφερε ο Συν-Πρόεδρος της Επιτροπής Τεχνολογίας & Ψηφιακού Μετασχηματισμού του ΣΕΒ Κυριάκος Σαμπατακάκης: «Ο Κανονισμός της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη εισάγει ένα κοινό πλαίσιο κανόνων που επιδιώκει να προστατεύσει τα θεμελιώδη δικαιώματα και την ασφάλεια, χωρίς να ανακόψει την καινοτομία. Για τις επιχειρήσεις, η συμμόρφωση δεν είναι μια αποσπασματική άσκηση αλλά ζήτημα εταιρικής διακυβέρνησης και στρατηγικής ετοιμότητας. Απαιτεί από τη Διοίκηση να γνωρίζει ποια συστήματα ΤΝ χρησιμοποιούνται, για ποιον σκοπό, με ποια δεδομένα, ποιοι επηρεάζονται και ποιος λογοδοτεί για τις αποφάσεις και τα αποτελέσματά τους». Ο ίδιος τόνισε ακόμη πως η εφαρμογή του Κανονισμού αποτελεί ευκαιρία για τις επιχειρήσεις, να κερδίσουν την εμπιστοσύνη τόσο των πελατών τους όσο και των επενδυτών.
Ο Ειδικός Γραμματέας Τεχνητής Νοημοσύνης & Διακυβέρνησης Δεδομένων Βασίλης Καρκατζούνης σημείωσε πως είναι σε εξέλιξη διερεύνηση της ελληνικής αγοράς για ενδεχόμενη χρήση απαγορευμένων από τη νομοθεσία πρακτικών τεχνητής νοημοσύνης. Υπογράμμισε ακόμη ότι στόχος της Πολιτείας είναι να συνδράμει τις επιχειρήσεις να συμμορφωθούν και όχι η απειλή προστίμων. Στο πλαίσιο αυτό σε περιπτώσεις παραβάσεων η εφαρμογή προγραμμάτων επιμόρφωσης στην τεχνητή νοημοσύνη από τις επιχειρήσεις για τους εργαζόμενούς τους θα προσμετράται ευνοϊκά κατά τον προσδιορισμό τυχόν κυρώσεων.
Ο Οδηγός του ΣΕΒ προτείνει 7 κρίσιμες διαδικασίες που πρέπει να υλοποιήσουν οι επιχειρήσεις που αναπτύσσουν, διαθέτουν στην αγορά ή χρησιμοποιούν (είναι η πλέον συνηθισμένη περίπτωση) συστήματα ΤΝ, προκειμένου να εντοπίσουν τις υποχρεώσεις τους και να εναρμονιστούν με τις απαιτήσεις του Κανονισμού.
Περιλαμβάνει δε συχνές ερωτήσεις και απαντήσεις για το θέμα οι οποίες έχουν ως εξής:
Ε: Χρησιμοποιούμε μόνο ChatGPT/Copilot για γραφειακές εργασίες. Μας αφορά ο Κανονισμός;
Α: Ναι, τουλάχιστον ως προς το AI literacy, την πολιτική χρήσης και τον έλεγχο ότι καμία χρήση δεν εμπίπτει σε απαγορευμένη πρακτική. Οι χρήσεις γενικής παραγωγικότητας είναι συνήθως ελάχιστου/περιορισμένου κινδύνου, αλλά πρέπει να καταγράφονται και να επανελέγχονται όταν επεκτείνονται.
Ε: Ο προμηθευτής μάς διαβεβαιώνει ότι το εργαλείο του «είναι συμμορφωμένο». Αρκεί;
Α: Όχι. Ο φορέας εφαρμογής φέρει δικές του υποχρεώσεις (χρήση σύμφωνα με οδηγίες, εποπτεία, διαφάνεια, παρακολούθηση) και οφείλει να τεκμηριώνει τη δική του αξιολόγηση. Η δήλωση και συμμόρφωση του προμηθευτή είναι αναγκαίο στοιχείο αρχικού ελέγχου, όχι υποκατάστατο.
Ε: Πότε γινόμαστε «πάροχος» χωρίς να το καταλάβουμε;
Α: Όταν διαθέτουμε σύστημα υψηλού κινδύνου με δικό μας σήμα ή υπό την επωνυμία μας, όταν το τροποποιούμε ουσιωδώς ή όταν το χρησιμοποιούμε για σκοπό διαφορετικό από τον επιδιωκόμενο του αρχικού παρόχου.
Ε: Το σύστημά μας κάνει προτάσεις, ο άνθρωπος αποφασίζει. Είμαστε εκτός υψηλού κινδύνου;
Α: Όχι απαραίτητα. Η ύπαρξη ανθρώπου «στο τέλος» δεν αρκεί. Κρίσιμο είναι αν ο άνθρωπος έχει πραγματική δυνατότητα κατανόησης, αμφισβήτησης και παράκαμψης. Συστήματα που επηρεάζουν ουσιωδώς αποφάσεις για φυσικά πρόσωπα (π.χ. προσλήψεις) παραμένουν κατά κανόνα υψηλού κινδύνου. Μάλιστα, η εισαγωγή μέτρων ανθρώπινης εποπτείας είναι μία από τις βασικές υποχρεώσεις ως προς τα συστήματα ΤΝ υψηλού κινδύνου.
Ε: Πρέπει να κάνουμε FRIA (Εκτίμηση Αντικτύπου στα Θεμελιώδη Δικαιώματα);
Α: Μόνο αν είστε φορέας εφαρμογής συστήματος υψηλού κινδύνου και είτε παρέχετε δημόσιες υπηρεσίες συνδεόμενες με καθήκοντα δημόσιου συμφέροντος, είτε αξιολογείτε πιστοληπτική ικανότητα φυσικών προσώπων, είτε τιμολογείτε ασφαλίσεις ζωής/υγείας
Ε: Η πιστοποίηση ISO/IEC 42001 μάς καλύπτει νομικά;
Α: Αποδεικνύει οργανωτική ωριμότητα και διευκολύνει σημαντικά, αλλά τεκμήριο νομικής συμμόρφωσης θα παρέχουν μόνο τα εναρμονισμένα ευρωπαϊκά πρότυπα όταν δημοσιευθούν.
Ε: Οι προθεσμίες μετατέθηκαν στο 2027-2028. Μπορούμε να περιμένουμε;
Α: Όχι: ορισμένες υποχρεώσεις ισχύουν ήδη, ενώ η προετοιμασία για τα συστήματα υψηλού κινδύνου απαιτεί 12-24 μήνες
Ε: Ποια αρχή μάς εποπτεύει στην Ελλάδα;
Α: Κατά κανόνα η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, ως αρχή εποπτείας της αγοράς και ενιαίο σημείο επαφής και η ΕΕΤΤ.
Σημειώνεται ότι ο ευρωπαϊκός Κανονισμός (2024/1689) προβλέπει σειρά απαγορευμένων πρακτικών όπως:
-Τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ή παραπλανητικές τεχνικές για τη χειραγώγηση της συμπεριφοράς κάποιου ατόμου ή ομάδας, υποβαθμίζοντας την ικανότητά τους να λάβουν τεκμηριωμένες αποφάσεις και ενδεχομένως προκαλώντας σημαντική βλάβη.
-Εκμετάλλευση ευάλωτων χαρακτηριστικών με βάση την ηλικία, την αναπηρία ή κοινωνικοοικονομικές καταστάσεις για χειραγώγηση ατόμων ή ομάδων, που οδηγεί σε ενδεχόμενη βλάβη.
-Παραγωγή ή χειρισμός μη συναινετικού υλικού προσωπικής φύσης, όπως ρεαλιστικές εικόνες, βίντεο, ηχητικό ή παρόμοιο υλικό των απόκρυφων μερών ταυτοποιήσιμου προσώπου ή το εν λόγω πρόσωπο να επιδίδεται σε δραστηριότητες σαφούς σεξουαλικού χαρακτήρα, χωρίς τη ρητή συγκατάθεση του συγκεκριμένου προσώπου.
-Παραγωγή ή χειρισμός υλικού σεξουαλικής κακοποίησης παιδιών.
-Κοινωνική βαθμολόγηση, για την αξιολόγηση ή την ταξινόμηση ανθρώπων με βάση τη συμπεριφορά ή τα χαρακτηριστικά, που οδηγεί σε άνιση μεταχείριση η οποία δεν σχετίζεται με το πλαίσιο στο οποίο συλλέχθηκαν τα δεδομένα ή με τρόπο δυσανάλογο συγκριτικά με τη σοβαρότητα της συμπεριφοράς.
-Αξιολόγηση ποινικού κινδύνου, για πρόβλεψη της πιθανότητας τέλεσης ενός εγκλήματος αποκλειστικά με βάση την κατάρτιση προφίλ ή τα χαρακτηριστικά της προσωπικότητας, με εξαίρεση τις αντικειμενικές ποινικές έρευνες που βασίζονται σε πραγματικά γεγονότα.
-Εξαγωγή εικόνων προσώπου από βάσεις δεδομένων αναγνώρισης προσώπου από το διαδίκτυο ή κάμερες ασφαλείας χωρίς συγκεκριμένο στόχο.
-Συναγωγή συναισθημάτων σε ευαίσθητους χώρους, όπως οι χώροι εργασίας ή τα εκπαιδευτικά ιδρύματα, εκτός αν χρησιμοποιούνται για ιατρικούς σκοπούς ή σκοπούς ασφάλειας.
-Βιομετρική κατηγοριοποίηση με βάση δεδομένα για συναγωγή ευαίσθητων γνωρισμάτων όπως η φυλή, η θρησκευτικές ή πολιτικές πεποιθήσεις, με εξαίρεση τη νόμιμη χρήση στο πλαίσιο επιβολής του νόμου.
-Βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσιους χώρους από αρχές επιβολής του νόμου, εκτός αν είναι απολύτως απαραίτητο σε συγκεκριμένες περιπτώσεις (π.χ. εύρεση εξαφανισμένων προσώπων, αποτροπή επικείμενων απειλών ή ταυτοποίηση υπόπτων σοβαρών εγκλημάτων). Για αυτή τη χρήση πρέπει να ακολουθούνται αυστηρές νομικές διαδικασίες, όπως, μεταξύ άλλων, η πρότερη λήψη άδειας, το περιορισμένο πεδίο εφαρμογής και διασφαλίσεις για την προστασία των δικαιωμάτων και των ελευθεριών.
Ο Κανονισμός ορίζει επίσης ως "υψηλού κινδύνου" τη χρήση της τεχνητής νοημοσύνης σε ορισμένους τομείς στους οποίους η χρήση της επιτρέπεται αλλά με πολύ αυστηρή εποπτεία.
Αυτά είναι:
Βιομετρικά στοιχεία, όταν χρησιμοποιούνται για εξ αποστάσεως επαλήθευση ταυτότητας, κατηγοριοποίηση ατόμων με βάση ευαίσθητα γνωρίσματα (όπως η φυλή ή οι θρησκευτικές πεποιθήσεις), ή για την αναγνώριση συναισθημάτων, με εξαίρεση τις περιπτώσεις που χρησιμοποιούνται για απλή επαλήθευση ταυτότητας.
Υποδομές ζωτικής σημασίας, όταν η ΤΝ είναι κατασκευαστικό στοιχείο ασφάλειας σε τομείς όπως οι ψηφιακές υποδομές, η κυκλοφορία, το νερό, το φυσικό αέριο, η θέρμανση και η ηλεκτρική ενέργεια.
Εκπαίδευση και επαγγελματική κατάρτιση, συμπεριλαμβανομένης της πρόσβασης σε ζητήματα εκπαίδευσης, της αξιολόγησης των μαθησιακών αποτελεσμάτων, της αξιολόγησης των επιπέδων εκπαίδευσης ή της παρακολούθησης της συμπεριφοράς κατά τη διάρκεια εξετάσεων
Απασχόληση, συμπεριλαμβανομένης της πρόσληψης, της επιλογής υποψηφίων, της λήψης αποφάσεων για τους όρους απασχόλησης (προαγωγές, καταγγελίες συμβατικών σχέσεων), της κατανομής εργασιών ή της παρακολούθησης των επιδόσεων
Βασικές υπηρεσίες - συστήματα ΤΝ που χρησιμοποιούνται από δημόσιες αρχές για την αξιολόγηση της επιλεξιμότητας για δημόσιες υπηρεσίες (υγειονομική περίθαλψη, επιδόματα), τη βαθμολόγηση της πιστοληπτικής ικανότητας, την αξιολόγηση του κινδύνου ασφάλισης και την ιεράρχηση προτεραιοτήτων για την αντιμετώπιση καταστάσεων έκτακτης ανάγκης.
Επιβολή του νόμου - συστήματα ΤΝ που χρησιμοποιούνται για την εκτίμηση κινδύνων τέλεσης εγκλημάτων, ανιχνευτών ψεύδους, για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων, για την πρόβλεψη υποτροπής ή την κατάρτιση προφίλ ατόμων για ποινικές έρευνες.
Μετανάστευση και συνοριακός έλεγχος - συστήματα ΤΝ που χρησιμοποιούνται για την εκτίμηση κινδύνων σχετικά με τη μετανάστευση, το άσυλο και τις αιτήσεις χορήγησης θεώρησης εισόδου, ή για τον εντοπισμό και την ταυτοποίηση ατόμων σε μεταναστευτικό πλαίσιο.
Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες - συστήματα ΤΝ που χρησιμοποιούνται από δικαστικές αρχές για νομική έρευνα και ερμηνεία ή συστήματα που θα μπορούσαν να επηρεάσουν τα αποτελέσματα εκλογών.
Κατασκευαστικά στοιχεία ασφάλειας προϊόντων.
