Ένα ολοκληρωμένο θεσμικό πλαίσιο για τη χρήση της Τεχνητής Νοημοσύνης στα σχολεία αποκτά, για πρώτη φορά, η Ελλάδα, επιχειρώντας να βάλει σαφή όρια, κανόνες και δικλείδες ασφαλείας σε μια τεχνολογία, που εισέρχεται όλο και πιο δυναμικά στην εκπαιδευτική διαδικασία. Μέσα από κοινή πρωτοβουλία των Υπουργείων Παιδείας και Ψηφιακής Διακυβέρνησης και ΤΝ, θεσπίζονται κανόνες για το πώς μπορούν να αξιοποιούνται εργαλεία τεχνητής νοημοσύνης στις σχολικές μονάδες, υπό ποιες προϋποθέσεις και με ποιες απαγορεύσεις.
Η νέα πολιτική επιχειρεί να ισορροπήσει ανάμεσα στις δυνατότητες, που προσφέρει η Τεχνητή Νοημοσύνη για τη μάθηση και στους κινδύνους, που εγκυμονεί η ανεξέλεγκτη χρήση της, ιδιαίτερα όταν αφορά ανήλικους μαθητές. Το βασικό μήνυμα του πλαισίου είναι σαφές: η ΑΙ μπορεί να λειτουργήσει ως υποστηρικτικό εργαλείο της εκπαιδευτικής διαδικασίας, όχι όμως ως υποκατάστατο της προσωπικής προσπάθειας, της κριτικής σκέψης ή του ρόλου του εκπαιδευτικού.
Σύμφωνα με το νέο πλαίσιο, η χρήση εφαρμογών ΤΝ στα σχολεία παραμένει προαιρετική τόσο για μαθητές, όσο και για εκπαιδευτικούς, ενώ δεν συνδέεται με την αξιολόγηση ή τη μαθησιακή και υπηρεσιακή κατάσταση. Παράλληλα, κάθε χρήση συστημάτων ΤΝ θα πραγματοποιείται αποκλειστικά υπό την εποπτεία εκπαιδευτικού.
Ιδιαίτερη βαρύτητα δίνεται στην προστασία της σχολικής κοινότητας από φαινόμενα παραπληροφόρησης, αλγοριθμικών στρεβλώσεων και καταχρηστικής αξιοποίησης της τεχνολογίας. Για πρώτη φορά εισάγονται ρητές απαγορεύσεις για πρακτικές, όπως η δημιουργία και διάδοση deepfake περιεχομένου χωρίς συναίνεση, η παραγωγή ψευδών βιβλιογραφικών αναφορών ή ανύπαρκτων πηγών, καθώς και η μη εξουσιοδοτημένη ανάπτυξη ή χρήση εφαρμογών ΑΙ μέσα στο σχολικό περιβάλλον.
Προστασία προσωπικών δεδομένων
Το πλαίσιο απαγορεύει, επίσης, την πλήρως αυτοματοποιημένη αξιολόγηση μαθητών ή εκπαιδευτικών, διατηρώντας τον ανθρώπινο παράγοντα στον πυρήνα της εκπαιδευτικής διαδικασίας. Ταυτόχρονα, προβλέπεται ότι οι μαθητικές εργασίες δεν μπορούν να παράγονται εξ ολοκλήρου ή σε σημαντικό βαθμό από εργαλεία ΑΙ, ενώ η χρήση τέτοιων εφαρμογών δεν επιτρέπεται κατά τη διάρκεια γραπτών εξετάσεων και διαγωνισμάτων, εκτός εάν έχει προβλεφθεί ελεγχόμενη χρήση τους από τον εκπαιδευτικό.
Κεντρικό στοιχείο του νέου πλαισίου αποτελεί η προστασία των προσωπικών δεδομένων ανηλίκων. Απαγορεύεται ρητά η δημιουργία προφίλ μαθητών και εκπαιδευτικών, καθώς και η επεξεργασία στοιχείων προσωπικότητας ή συμπεριφοράς μέσω συστημάτων ΑΙ. Ειδικότερα, δεν επιτρέπεται η καταχώριση ονοματεπωνύμων, φωτογραφιών, φωνητικών δειγμάτων, βαθμολογιών, δεδομένων υγείας ή οποιουδήποτε στοιχείου μπορεί να οδηγήσει στην ταυτοποίηση μαθητών και εκπαιδευτικών.
Συντονιστής χρήσης ΑΙ
Παράλληλα, θεσμοθετείται για πρώτη φορά ο ρόλος του «Συντονιστή χρήσης ΑΙ» σε κάθε σχολική μονάδα. Ο υπεύθυνος εκπαιδευτικός θα έχει την ευθύνη παρακολούθησης της ορθής εφαρμογής των εργαλείων Τεχνητής Νοημοσύνης, του συντονισμού της συμμετοχής μαθητών και εκπαιδευτικών, αλλά και της διαχείρισης ζητημάτων ασφάλειας και προστασίας δεδομένων.
Η πρόσβαση στα συστήματα ΑΙ θα πραγματοποιείται, όπου αυτό υποστηρίζεται, μέσω του Πανελλήνιου Σχολικού Δικτύου, με ασφαλή αυθεντικοποίηση χρηστών και αυστηρούς περιορισμούς πρόσβασης. Επιπλέον, εισάγονται συγκεκριμένες εγγυήσεις ασφαλείας, όπως η ανωνυμοποίηση ή ψευδωνυμοποίηση δεδομένων, η καταγραφή όλων των διαδικασιών επεξεργασίας, οι μηχανισμοί ανθρώπινης εποπτείας και οι τακτικές αξιολογήσεις κινδύνου.
Πριν από κάθε εφαρμογή συστήματος ΑΙ, θα διενεργείται υποχρεωτικά Εκτίμηση Αντικτύπου στην Προστασία Δεδομένων (DPIA), σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (ΓΚΠΔ), ώστε να αξιολογούνται εκ των προτέρων οι πιθανοί κίνδυνοι για τη σχολική κοινότητα.
Το νέο πλαίσιο επεκτείνεται και στην ενημέρωση και εκπαίδευση της εκπαιδευτικής κοινότητας. Κάθε σχολική μονάδα θα οργανώνει τουλάχιστον μία ετήσια δράση ενημέρωσης για μαθητές και γονείς, ενώ θα υλοποιούνται επιμορφώσεις εκπαιδευτικών για τις βασικές αρχές λειτουργίας της ΑΙ, τις αλγοριθμικές μεροληψίες, την προστασία προσωπικών δεδομένων, τις τεχνικές prompting και τη διαχείριση περιστατικών
