Η εταιρεία TrendAI, ηγέτιδα στον τομέα της ασφάλειας της Τεχνητής Νοημοσύνης παγκοσμίως, δημοσίευσε νέα έρευνα που αποκαλύπτει ότι οργανισμοί σε όλο τον κόσμο προχωρούν στην υιοθέτηση λύσεων ΤΝ, παρά τους γνωστούς κινδύνους που σχετίζονται με την ασφάλεια και τη συμμόρφωση.
Διαβάστε την τελική έκθεση: Securing the AI-Powered Enterprise – Governance Gaps, Visibility Challenges and Rising Risk
Η νέα παγκόσμια μελέτη*, στην οποία συμμετείχαν 3.700 στελέχη επιχειρήσεων και υπεύθυνοι λήψης αποφάσεων στον τομέα της πληροφορικής, διαπίστωσε ότι το 67% έχει δεχθεί πίεση να εγκρίνει την υιοθέτηση εφαρμογών Τεχνητής Νοημοσύνης, παρά τις ανησυχίες τους σχετικά με την ασφάλεια. Επιπλέον, περίπου 1 στους 7 χαρακτήρισε τις ανησυχίες αυτές ως «εξαιρετικά σοβαρές», ωστόσο παρακάμφθηκαν προκειμένου οι οργανισμοί να συμβαδίσουν με τον ανταγωνισμό και να ανταποκριθούν στην αυξανόμενη εσωτερική ζήτηση.
Η Rachel Jin, Chief Platform, Business Officer και επικεφαλής της TrendAI, δήλωσε: «Οι οργανισμοί δεν στερούνται επίγνωσης των κινδύνων· στερούνται των προϋποθέσεων που απαιτούνται για τη διαχείρισή τους. Όταν η υιοθέτηση της Τεχνητής Νοημοσύνης καθοδηγείται από την πίεση του ανταγωνισμού και όχι από την ωριμότητα των μηχανισμών διακυβέρνησης, δημιουργείται μια συνθήκη στην οποία η ΤΝ ενσωματώνεται σε κρίσιμα συστήματα χωρίς τους απαραίτητους ελέγχους για την ασφαλή διαχείρισή της. Η έρευνα αυτή ενισχύει την εστίασή μας στο να βοηθάμε τους οργανισμούς να επιτυγχάνουν ουσιαστικά επιχειρηματικά αποτελέσματα με τη χρήση της ΤΝ, διατηρώντας παράλληλα υπό έλεγχο τον επιχειρηματικό κίνδυνο.»
Ο κίνδυνος από την πιεστικά επιταχυνόμενη υιοθέτηση της ΤΝ επιτείνεται από τις ασυνέπειες στη διακυβέρνηση και την ασαφή ανάληψη ευθύνης για τη διαχείριση των κινδύνων της ΤΝ, φαινόμενα που λαμβάνουν ολοένα και μεγαλύτερες διαστάσεις. Το ίδιο ισχύει και για τις ομάδες ασφαλείας, οι οποίες συχνά καλούνται να λειτουργήσουν εκ των υστέρων, αντιδρώντας σε αποφάσεις για την υιοθέτηση της ΤΝ που λαμβάνονται από τη διοίκηση, γεγονός που συχνά οδηγεί σε εναλλακτικές παρακάμψεις και στην αυξημένη χρήση μη εγκεκριμένων ή «σκιωδών» εργαλείων ΤΝ.
Η πρόσφατη έρευνα απειλών της TrendAI ενισχύει αυτή την τάση, δείχνοντας πως οι επιτιθέμενοι χρησιμοποιούν ήδη την ΤΝ για να αυτοματοποιήσουν την αναγνώριση (reconnaissance), να επιταχύνουν τις εκστρατείες «ηλεκτρονικού ψαρέματος» (phishing) και να μειώσουν το φράγμα εισόδου στο κυβερνοέγκλημα, αυξάνοντας τόσο την ταχύτητα όσο και την κλίμακα των επιθέσεων.
Η υιοθέτηση της ΤΝ ξεφεύγει από τον έλεγχο
Οι οργανισμοί χρησιμοποιούν την Τεχνητή Νοημοσύνη ταχύτερα από ό,τι μπορούν να διαχειριστούν τους σχετικούς κινδύνους, δημιουργώντας ένα διευρυνόμενο χάσμα μεταξύ φιλοδοξίας και εποπτείας. Το 57% των οργανισμών δηλώνει ότι η εξέλιξη της ΤΝ προχωρά ταχύτερα από την ικανότητά του να τη διασφαλίσει, ενώ περισσότεροι από τους μισούς (55%) αναφέρουν ότι διαθέτουν μόνο μέτρια κατανόηση των νομικών πλαισίων που διέπουν την ΤΝ.
Από την άλλη, η ωριμότητα της διακυβέρνησης παραμένει σε χαμηλά επίπεδα. Μόνο το ένα τρίτο (38%) των οργανισμών διαθέτει ολοκληρωμένες πολιτικές για την ΤΝ, με πολλούς να βρίσκονται ακόμη στο στάδιο της σύνταξης, ενώ το 41% αναφέρει την ασαφή νομοθεσία ή τα πρότυπα συμμόρφωσης ως εμπόδιο. Στην πράξη, η ΤΝ τίθεται σε λειτουργία προτού θεσπιστούν πλήρως οι κανόνες που διέπουν τη χρήση της.
Η εμπιστοσύνη στην αυτόνομη ΤΝ παραμένει αβέβαιη
Η εμπιστοσύνη σε πιο προηγμένα, αυτόνομα συστήματα βρίσκεται ακόμη σε στάδιο ωρίμανσης. Το 44% των ερωτηθέντων πιστεύουν ότι η agentic AI θα βελτιώσει σημαντικά την κυβερνοάμυνα βραχυπρόθεσμα, καθώς εξακολουθούν να υπάρχουν ανησυχίες σχετικά με την πρόσβαση σε δεδομένα, την κακόβουλη χρήση και την έλλειψη εποπτείας.
Τα δεδομένα δείχνουν πού εντοπίζονται αυτές οι ανησυχίες. Περισσότεροι από τέσσερις στους δέκα οργανισμούς (42%) δηλώνουν ότι ο μεγαλύτερος κίνδυνος είναι η πρόσβαση των AI agents σε ευαίσθητα δεδομένα. Πάνω από το ένα τρίτο (36%) προειδοποιεί ότι κακόβουλες εντολές θα μπορούσαν να θέσουν σε κίνδυνο την ασφάλεια, ενώ ένας στους τρεις (33%) επισημαίνει τη διεύρυνση της επιφάνειας επίθεσης για τους κυβερνοεγκληματίες. Αντίστοιχο ποσοστό (33%) ανησυχεί για την κατάχρηση της εμπιστoσύνης της ΤΝ και για τους κινδύνους που συνδέονται με την αυτόνομη ανάπτυξη κώδικα.
Ταυτόχρονα, σχεδόν το ένα τρίτο (31%) παραδέχεται ότι δεν διαθέτει επαρκή δυνατότητα παρακολούθησης ή ελέγχου καταγραφών για αυτά τα συστήματα, γεγονός που εγείρει σοβαρά ερωτήματα σχετικά με το πώς μπορούν οι οργανισμοί να ελέγξουν ή να παρέμβουν αφού τεθούν σε λειτουργία οι AI agents.
Περίπου το 40% των οργανισμών υποστηρίζει την εισαγωγή μηχανισμών «διακόπτη έκτακτης απενεργοποίησης», ώστε να μπορούν να τερματίζουν τη λειτουργία συστημάτων σε περίπτωση αποτυχίας ή κακόβουλης χρήσης, ενώ σχεδόν οι μισοί παραμένουν αναποφάσιστοι. Αυτή η έλλειψη συναίνεσης αναδεικνύει ένα βαθύτερο ζήτημα: οι οργανισμοί προχωρούν προς την αυτόνομη ΤΝ χωρίς να έχουν συμφωνήσει στον τρόπο με τον οποίο θα διατηρούν τον έλεγχο όταν αυτός είναι περισσότερο απαραίτητος.
«Η agentic AI μεταφέρει τους οργανισμούς σε μια νέα κατηγορία κινδύνου», πρόσθεσε η Rachel Jin. «Η έρευνά μας δείχνει ότι οι ανησυχίες είναι ήδη ξεκάθαρες, από την έκθεση ευαίσθητων δεδομένων έως την απώλεια εποπτείας. Χωρίς ορατότητα και έλεγχο, οι οργανισμοί αναπτύσσουν συστήματα τα οποία δεν κατανοούν ή δεν διαχειρίζονται πλήρως, και αυτός ο κίνδυνος θα συνεχίσει να αυξάνεται αν δεν ληφθούν μέτρα.».
*Η TrendAI ανέθεσε στη SAPIO Research τη διεξαγωγή έρευνας σε 3.700 στελέχη επιχειρήσεων και υπεύθυνους λήψης αποφάσεων στον τομέα της πληροφορικής, σε 23 χώρες παγκοσμίως
