Δεκάδες ερευνητές και στελέχη του τομέα της τεχνητής νοημοσύνης (ΤΝ, αγγλικά AI) δημοσίευσαν χθες, Δευτέρα, κοινό αίτημα για την καθιέρωση ενός διεθνούς ρυθμιστικού πλαισίου που θα θέτει όρια στη χρήση της για να προληφθούν καταστροφικές συνέπειες για την ανθρωπότητα.
"Η ΤΝ έχει τεράστια δυναμική για την ευημερία της ανθρωπότητας, αλλά η σημερινή της πορεία παρουσιάζει κινδύνους άνευ προηγουμένου», αναφέρουν σε επιστολή που υπογράφουν και η οποία δημοσιεύτηκε καθώς ηγέτες από όλον τον κόσμο βρίσκονται στη Νέα Υόρκη για τη Γενική Συνέλευση του ΟΗΕ.
Οι ερευνητές και τα στελέχη ζητούν συνεργασία ανάμεσα στους ηγέτες για να καταλήξουν σε «διεθνείς συμφωνίες για τις κόκκινες γραμμές στην ΤΝ», για τον καθορισμό ορίων για τους μεγάλους παράγοντες της τεχνητής νοημοσύνης στην ανάπτυξη της τεχνολογίας αυτής.
Πρόκειται για «ελάχιστες δικλείδες ασφαλείας», «τον ‘ελάχιστο κοινό παρονομαστή’ στον οποίο πρέπει να συμφωνήσουν οι κυβερνήσεις για να περιοριστούν οι πιο επικείμενοι και απαράδεκτοι κίνδυνοι», εξηγούν οι οργανωτές της πρωτοβουλίας αυτής.
Αυτοί οι τελευταίοι απαρτίζουν το Κέντρο για την Ασφάλεια της ΤΝ (CeSIA), μια γαλλική οντότητα, όπως και την Κοινωνία του Μέλλοντος (The Future Society) και το Κέντρο για συμβατή με τον άνθρωπο ΤΝ (Center for Human-Compatible Artificial Intelligence) του πανεπιστημίου του Μπέρκλεϊ, που υποστηρίζονται από 20 συνεργαζόμενους οργανισμούς.
«Η ΤΝ θα μπορούσε σύντομα να ξεπεράσει σε μεγάλο βαθμό τις ανθρώπινες δεξιότητες και να αυξήσει ορισμένους κινδύνους όπως το ξέσπασμα πανδημιών, η διάδοση της παραπληροφόρησης, (…) προβλήματα εθνικής ασφάλειας, η μαζική ανεργία ή παραβιάσεις των ανθρωπίνων δικαιωμάτων», προειδοποιούν αυτοί που υπογράφουν την επιστολή.
Ανάμεσά τους βρίσκονται παράγοντες της βιομηχανίας, όπως ο Τζέισον Κλίντον, επικεφαλής ασφάλειας πληροφορικής της Anthropic, μιας από τις γνωστές εταιρείες του τομέα, και ορισμένοι εκ των συνεργατών του, αλλά και εργαζόμενοι στην DeepMind, θυγατρική ΤΝ της Google, ή την OpenAI.
Ο κατάλογος περιλαμβάνει επίσης τον Τζέφρι Χίντον, τον τιμηθέντα με Νόμπελ Φυσικής το 2024 που θεωρείται ένας από τους πατέρες της σύγχρονης ΤΝ, και τον Γιόσουα Μπέντζιο, καθηγητή του πανεπιστημίου του Μόντρεαλ και μεταξύ των προσωπικοτήτων που έχουν κύρος στον κλάδο.
Η πλειονότητα των μεγάλων παραγόντων του τομέα επιδιώκει την ανάπτυξη της τεχνητής γενικής νοημοσύνης (ΤΓΝ, αγγλικά AGI), στάδιο στο οποίο η τεχνητή νοημοσύνη θα εξισωθεί με όλες τις διανοητικές ικανότητες των ανθρώπων, αλλά και της «υπερνοημοσύνης», που θα τις ξεπεράσει.
Οι συντάκτες της επιστολής υπογραμμίζουν ότι ήδη υπάρχουν διεθνείς συμφωνίες για τις περιπτώσεις τεχνολογιών που θεωρούνται επικίνδυνες για όλη ή μέρος της ανθρωπότητας.
Όπως συμβαίνει για παράδειγμα με τη Συνθήκη για τη μη διάδοση των πυρηνικών όπλων του 1970, ή με το Πρωτόκολλο της Γενεύης του 1925 που απαγορεύει τη χρήση χημικών όπλων, το οποίο παρατάθηκε από τη Σύμβαση για την Απαγόρευση των Χημικών Όπλων, που τέθηκε σε ισχύ το 1997.
