Η Anthropic ενισχύει δραστικά τις ομάδες ασφαλείας της, αναζητώντας δεκάδες ειδικούς που θα επιχειρούν να προβλέψουν πώς θα μπορούσαν κακόβουλοι χρήστες να αξιοποιήσουν τα ισχυρά μοντέλα τεχνητής νοημοσύνης για να προκαλέσουν σοβαρή βλάβη στον πραγματικό κόσμο.
Η εταιρεία πίσω από το Claude διαθέτει 32 ανοικτές θέσεις εργασίας με αντικείμενο την αντιμετώπιση απειλών που εκτείνονται από την κατασκευή εκρηκτικών και την ανάπτυξη πυρηνικών ή ραδιολογικών όπλων μέχρι τις κυβερνοεπιθέσεις, τις οικονομικές απάτες και τη βιολογική τρομοκρατία.
Οι αγγελίες αποκαλύπτουν το εύρος των κινδύνων που θεωρούν πλέον πιθανό ή τουλάχιστον τεχνικά εφικτό οι μεγαλύτερες εταιρείες AI. Παράλληλα, αναδεικνύουν μια από τις βασικές αντιφάσεις του κλάδου: οι ίδιοι οργανισμοί που αναπτύσσουν ολοένα ισχυρότερα συστήματα επενδύουν σημαντικά ποσά για να εμποδίσουν τη μετατροπή τους σε εργαλεία επίθεσης.
Από τα εκρηκτικά έως τις πυρηνικές απειλές
Η Anthropic αναζητεί αναλυτές και ερευνητές με εξειδίκευση σε ιδιαίτερα ευαίσθητα πεδία.
Στην επίσημη σελίδα προσλήψεων της εταιρείας εμφανίζονται, μεταξύ άλλων, θέσεις για:
- βιολογικές απειλές,
- χημικά και εκρηκτικά,
- πυρηνικές και ραδιολογικές βλάβες,
- κυβερνοεπιθέσεις,
- οικονομική απάτη,
- βίαιο εξτρεμισμό,
- παραβίαση λογαριασμών και κλοπή διαπιστευτηρίων,
- προηγμένα όπλα και απειλές CBRN-E.
Η τελευταία κατηγορία περιλαμβάνει χημικές, βιολογικές, ραδιολογικές, πυρηνικές και εκρηκτικές απειλές. Στις διαθέσιμες θέσεις περιλαμβάνονται επίσης τεχνικοί ερευνητές απειλών, μηχανικοί red teaming και στελέχη συλλογής πληροφοριών ασφαλείας.
Σε μία από τις αγγελίες, η εταιρεία αναφέρει ότι ο ειδικός για τις πυρηνικές και ραδιολογικές απειλές θα έχει κρίσιμο ρόλο στην προστασία από την κατάχρηση συστημάτων AI για την πρόκληση αντίστοιχων βλαβών.
Το έργο των νέων εργαζομένων δεν περιορίζεται στην ανάπτυξη λογισμικού ή στη δημιουργία γενικών πολιτικών ασφαλείας.
Οι αναλυτές θα πρέπει να εξετάζουν τα συστήματα από τη σκοπιά ενός επιτιθέμενου: να επιχειρούν να παρακάμψουν τα φίλτρα ασφαλείας, να αποκρύψουν τις πραγματικές προθέσεις τους και να αποσπάσουν πληροφορίες που το μοντέλο κανονικά δεν θα έπρεπε να παρέχει.
Αυτή η διαδικασία είναι γνωστή ως red teaming. Οι ειδικοί δοκιμάζουν ένα σύστημα πριν από την κυκλοφορία του, αναζητώντας αδυναμίες τις οποίες θα μπορούσαν να εκμεταλλευτούν εγκληματίες, τρομοκρατικές οργανώσεις, κρατικοί φορείς ή μεμονωμένοι χρήστες.
Όπως ανέφερε εκπρόσωπος της Anthropic στο Axios, η διασφάλιση ότι τα μοντέλα δεν παρέχουν δυνητικά επιβλαβείς πληροφορίες αποτελεί κεντρικό στοιχείο της υπεύθυνης ανάπτυξής τους. Για τον λόγο αυτό, η εταιρεία προσλαμβάνει ειδικούς που κατανοούν τόσο τη φύση μιας απειλής όσο και τον τρόπο με τον οποίο η AI μπορεί να την ενισχύσει.
Η Anthropic είναι διατεθειμένη να πληρώσει ακριβά την εξειδικευμένη γνώση που απαιτούν οι συγκεκριμένοι ρόλοι.
Οι βασικές ετήσιες αμοιβές για αρκετές από τις θέσεις κινούνται στα μεσαία έως υψηλά επίπεδα των 200.000 δολαρίων, πριν συνυπολογιστούν πιθανές παροχές ή συμμετοχή στο μετοχικό κεφάλαιο της εταιρείας.
Το ύψος των αποδοχών αντανακλά τόσο τη σπανιότητα της σχετικής τεχνογνωσίας όσο και τη σοβαρότητα με την οποία αντιμετωπίζει πλέον ο κλάδος τους κινδύνους των προηγμένων μοντέλων.
Οι εταιρείες δεν αναζητούν απλώς ειδικούς στην τεχνητή νοημοσύνη. Χρειάζονται επιστήμονες και αναλυτές με πραγματική εμπειρία στη βιολογία, στη χημεία, στην πυρηνική τεχνολογία, στην κυβερνοασφάλεια, στην εγκληματολογία και στη συλλογή πληροφοριών.
