Η OpenAI ματαίωσε την κυκλοφορία νέου μοντέλου Τεχνητής Νοημοσύνης (ΤΝ, αγγλικά AI) λόγω ανησυχιών σχετικών με την ασφάλεια. Η Σαάτσι Τζέιν, επικεφαλής των συστημάτων ασφαλείας στην εταιρεία που ανέπτυξε το ChatGPT, δήλωσε στο βρετανικό δίκτυο BBC ότι το νέο μοντέλο GPT-6.1 Astra δεν ανταποκρινόταν επαρκώς στις προδιαγραφές της εταιρείας. Το σύστημα δεν ήταν πάντα ειλικρινές με τους χρήστες σχετικά με τις ενέργειες στις οποίες είχε ή δεν είχε προχωρήσει, εξήγησε, προσθέτοντας ότι σε κάποιες περιπτώσεις ενήργησε κατόπιν δικής του πρωτοβουλίας χωρίς να εξασφαλίσει άδεια από τον χρήστη. Προηγμένα μοντέλα της OpenAI έχουν κατ’επανάληψιν γίνει πρώτη είδηση σε όλον τον κόσμο τις τελευταίες εβδομάδες, εγείροντας σοβαρές ανησυχίες σχετικά με την ασφάλεια και αιτήματα να υπάρξει κυβερνητική ρύθμιση.
Το σαββατοκύριακο προέκυψε ότι η εταιρεία ανέστειλε την εκπαίδευση των πιο ισχυρών μοντέλων της ΤΝ ύστερα από νέο περιστατικό, κατά το οποίο ένα από αυτά κατάφερε να εξασφαλίσει απαντήσεις από ένα εξωτερικό chatbot στη διάρκεια ενός τεστ, μολονότι υποτίθετο ότι δεν θα είχε πρόσβαση στο ίντερνετ. Το λογισμικό βρήκε και εκμεταλλεύτηκε κενό στις ρυθμίσεις του δικτύου, ανακοίνωσε η OpenAI σε ανάρτησή της σε ιστολόγιο. Η εκπαίδευση θα επαναληφθεί μόνον όταν η εταιρεία θα είναι πεπεισμένη ότι το ζήτημα ρυθμίστηκε, πρόσθεσε. Το μοντέλο ΤΝ που εμπλεκόταν δεν ήταν το GPT-6.1 Astra. Το πιο προβεβλημένο περιστατικό μέχρι στιγμής είναι αυτό κατά το οποίο ένα σύστημα της OpenAI δραπέτευσε από περιβάλλον ασφαλείας δοκιμών και κατόρθωσε να διεισδύσει σε υπολογιστές που ανήκουν σε άλλη εταιρεία Τεχνητής Νοημοσύνης, την πλατφόρμα Huggin Face.
Στη συνέχεια προέκυψε ότι συστήματα ΤΝ που αναπτύχθηκαν από άλλες εταιρείες -την αντίπαλο της OpenAI, την Anthropic, όπως και τις Google και Meta -έχουν διεισδύσει στα συστήματα άλλων εταιρειών στη διάρκεια δοκιμών. Η πολιτεία της Φλόριντα, η οποία έχει ήδη καταθέσει αγωγή κατά της OpenAI, συνέχισε με αίτηση για την έκδοση προδικαστικής διαταγής. Ο Γενικός Εισαγγελέας της πολιτείας της Φλόριντα Τζέιμς Αθμάιερ δήλωσε ότι στις απαιτήσεις περιλαμβάνεται αξίωση να μην αναπτυχθούν νέα μοντέλα ΤΝ χωρίς επιπρόσθετες δικλείδες ασφαλείας.
Η OpenAI ζήτησε συγγνώμη στην αυστραλιανή κυβέρνηση
Η OpenAI ζήτησε επίσης συγγνώμη σήμερα αφού ένα από τα μοντέλα της κατάφερε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικούς ιστοτόπους της Αυστραλίας. Την περασμένη εβδομάδα, ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζι αποκάλυψε ότι ένας λεγόμενος «πράκτορας» της OpenAI παραβίασε τουλάχιστον έναν κυβερνητικό ιστότοπο. Το περιστατικό προέκυψε τον Ιούνιο, αλλά η Αυστραλία ενημερώθηκε μόλις τον Σεπτέμβριο μέσω email που εστάλη σε δημόσια θυρίδα ηλεκτρονικού ταχυδρομείου. Σε σημερινή ανακοίνωσή της, η OpenAI σημείωσε ότι θέλει να «αποκαταστήσει την εμπιστοσύνη» των Αυστραλών. Δήλωσε ότι στη διάρκεια εσωτερικής εκπαίδευσης και αξιολόγησης, μοντέλα της OpenAI απέκτησαν πρόσβαση σε 4 κυβερνητικούς ιστοτόπους της Αυστραλίας με μη εξουσιοδοτημένους τρόπους.
«Επίσης θα έπρεπε να είχαμε χειριστεί την ανταπόκρισή μας καλύτερα. Λυπούμαστε και εργαζόμαστε ώστε να τα πάμε καλύτερα στο μέλλον», σημείωσε η OpenAI. «Αυτό είναι ένα νέο είδος περιστατικού στον κυβερνοχώρο, το οποίο αντιπροσωπεύει μια αναδυόμενη παγκόσμια πρόκληση». Η OpenAI σημείωσε ότι δεσμεύεται για «πόρους και τεχνογνωσία» για την υποστήριξη των υπηρεσιών που επλήγησαν, περιλαμβανομένης της δημιουργίας μιας αυστραλιανής ομάδας κρούσης για να καταρτίσει συστάσεις πολιτικής για τη διαχείριση κινδύνων από την AI.
Επίσης θα χρηματοδοτήσει την κυβερνητική εργασία μέσω πιστώσεων από ταμείο 1 δισεκατομμυρίου δολαρίων, το οποίο επιδοτεί τις εργασίες για την ενίσχυση της άμυνας στον κυβερνοχώρο. Ο επικεφαλής στρατηγικής της OpenAI Τζέισον Κουόν θα παρουσιαστεί σε ακρόαση ενώπιον κυβερνητικής επιτροπής στις αρχές Οκτωβρίου. «Ξέρουμε ότι έχουμε πολλή δουλειά μπροστά μας για να αποκαταστήσουμε την εμπιστοσύνη, και φέρουμε την ευθύνη να δείξουμε στους Αυστραλούς ότι κάνουμε ουσιαστικές αλλαγές και φέρνουμε εις πέρας τις δεσμεύσεις μας».
