Η Καλιφόρνια, η καρδιά της Σίλικον Βάλεϊ και έδρα των μεγαλύτερων τεχνολογικών κολοσσών, όπως οι Google, Meta, OpenAI και Anthropic, έγινε η πρώτη πολιτεία στις ΗΠΑ που εφαρμόζει ένα ολοκληρωμένο νομοθετικό πλαίσιο για την Τεχνητή Νοημοσύνη. Ο νέος νόμος SB 53, που επικύρωσε ο κυβερνήτης Γκάβιν Νιούσομ, έρχεται έναν χρόνο έπειτα από την απόρριψη προηγούμενου σχεδίου το οποίο είχε θεωρηθεί υπερβολικά περιοριστικό για την καινοτομία. Αυτή τη φορά, ο Νιούσομ υπογράμμισε ότι βρέθηκε η απαραίτητη ισορροπία ανάμεσα στην προώθηση της τεχνολογικής ανάπτυξης και την προστασία της δημόσιας ασφάλειας.
Η ψήφιση του νόμου συμπίπτει με μια περίοδο που δισεκατομμύρια δολάρια επενδύσεων κατευθύνονται στην Τεχνητή Νοημοσύνη, ενώ την ίδια στιγμή εντείνονται οι ανησυχίες για τις πιθανές παρεκκλίσεις των πιο προηγμένων μοντέλων. Για την ακρίβεια, ο νόμος εισάγει σχεδόν πρωτόγνωρες υποχρεώσεις διαφάνειας για τις εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα AI. Οι επιχειρήσεις καλούνται πλέον να δημοσιοποιούν τα πρωτόκολλα ασφαλείας τους, να αναφέρουν σοβαρά περιστατικά μέσα σε διάστημα 15 ημερών και να προστατεύουν όσους καταγγέλλουν επικίνδυνες πρακτικές.
Ο νόμος απαιτεί επίσης την καταγραφή και δημοσιοποίηση περιπτώσεων όπου η AI εμφανίζει παραπλανητικές ή επικίνδυνες συμπεριφορές κατά τη διάρκεια δοκιμών. Ενδεικτικά αναφέρεται το σενάριο κατά το οποίο ένα σύστημα αποκρύπτει ή ψευδώς διαβεβαιώνει ότι διαθέτει μηχανισμούς αποτροπής χρήσης του για την κατασκευή βιολογικών ή πυρηνικών όπλων. Σε τέτοιες περιπτώσεις, οι εταιρείες είναι υποχρεωμένες να αποκαλύψουν το περιστατικό, ιδίως εάν αυτό αυξάνει σημαντικά τον κίνδυνο πρόκλησης βλάβης.
Η διαμόρφωση του κειμένου πέρασε από ένα πλαίσιο ευρείας διαβούλευσης, με τη συμμετοχή ομάδας σκέψης που συγκρότησε ο κυβερνήτης και στην οποία συμμετείχαν κορυφαίοι ειδικοί, όπως η καθηγήτρια του Στάνφορντ Φέι-Φέι Λι, γνωστή ως «νονά της AI». Ο γερουσιαστής Σκοτ Βίνερ, που συνέταξε τον νόμο, είχε δει πέρυσι την προηγούμενη πρότασή του να απορρίπτεται με βέτο, καθώς η Σίλικον Βάλεϊ φοβόταν ότι θα αποθαρρυνθεί η καινοτομία σε μια κρίσιμη στιγμή για την ανάπτυξη της τεχνολογίας.
Σύμφωνα με τον Βίνερ, το πλεονέκτημα του νέου πλαισίου είναι ότι τα πρωτόκολλα ασφαλείας δημοσιοποιούνται στο κοινό, σε αντίθεση με το ευρωπαϊκό νομοσχέδιο για την AI, το οποίο, αν και πιο αυστηρό, περιορίζει τη διαβίβασή τους αποκλειστικά στις αρχές. Αξίζει να σημειωθεί ότι αρκετές εταιρείες, μεταξύ τους η Meta, η Google, η OpenAI και η Anthropic, είχαν ήδη δεσμευθεί εθελοντικά σε αυστηρούς ελέγχους ασφαλείας. Με τον νέο νόμο, αυτές οι δεσμεύσεις πλέον κωδικοποιούνται και διευρύνονται, καθιστώντας την Καλιφόρνια πρωτοπόρο στη διεθνή ρύθμιση της Τεχνητής Νοημοσύνης.
