Η τεχνολογία που δημιουργήσαμε για να μας εξυπηρετεί έχει αρχίσει να καθορίζει τη ζωή μας πριν καν το αντιληφθούμε. Από τα social media μέχρι τις έξυπνες εφαρμογές ( apps), οι αλγόριθμοι αποφασίζουν τι βλέπουμε, τι ακούμε και ακόμη και τι αγοράζουμε. Η αρχική υπόσχεση της ευκολίας έχει μετατραπεί σε σιωπηλή εξάρτηση.
Η Τεχνητή Νοημοσύνη (ΤΝ) από εργαλείο γίνεται δύναμη που υποκαθιστά την ανθρώπινη κρίση. Οι «έξυπνοι» βοηθοί και οι πλατφόρμες μετατρέπουν την άνεση σε παραίτηση και παράδοση του ανθρώπου στη μηχανή. Κάθε μικρό προτεινόμενο βήμα φαίνεται ασήμαντο, αλλά όλα μαζί δημιουργούν μια βαθιά μεταφορά εξουσίας από τον άνθρωπο στη μηχανή.
Η λογική της ΤΝ είναι απλή και ωμή: ό,τι μπορεί να αυτοματοποιηθεί, θα αυτοματοποιηθεί. Κάθε εργασία ή διαδικασία που μπορεί να εκτελεστεί γρηγορότερα και φθηνότερα χωρίς ανθρώπινη παρουσία περνάει στα χέρια των αλγορίθμων. Το αποτέλεσμα δεν είναι μόνο η ανεργία και οι αλλαγές στην αγοράς εργασίας, αλλά και η δημιουργία μιας νέας κατηγορίας «ψηφιακά άχρηστων» πολιτών.
Η ΤΝ μετατρέπει τα ανθρώπινα δεδομένα σε προϊόν. Οι προτιμήσεις, οι συνήθειες και ακόμη και τα συναισθήματά μας πωλούνται για διαφήμιση, ασφαλιστικά προγράμματα ή πολιτική και αστυνομική επιτήρηση. Το επόμενο πεδίο μάχης είναι τα πιο ανθρώπινα χαρακτηριστικά: δημιουργικότητα, φαντασία, ηθική κρίση, ενσυναίσθηση. Οι εταιρείες προσπαθούν ήδη να τα μετρήσουν και να τα μιμηθούν, ενσωματώνοντάς τα στους αλγορίθμους.
Η διαφορά ανάμεσα στην ΤΝ (Α.Ι.) και τη Γενική Τεχνητή Νοημοσύνη (AGI) είναι καθοριστική. Η ΤΝ περιορίζεται σε συγκεκριμένες δεξιότητες, όπως αναγνώριση προτύπων ή επικοινωνία. Η AGI στοχεύει σε έναν «ψηφιακό νου» που μπορεί να μαθαίνει και να αποφασίζει ανεξάρτητα, μόνος του. Αν η AGI γίνει πραγματικότητα, η μηχανή δεν θα είναι πια εργαλείο, αλλά αφέντης, εξουσιαστής.
Η σημερινή «τεχνοφεουδαρχία», με εταιρείες όπως NVIDIA, Microsoft, Google, Apple και Palantir, εγείρει ερωτήματα για το ποιος ελέγχει την τεχνολογία. Αν η μηχανή καθορίζει αποφάσεις, η Δημοκρατία υποκαθίσταται από αλγοριθμική λογική. Όπως σημειώνει ο Tristan Harris, κάποια μοντέλα ΤΝ ήδη προσαρμόζονται για να παραμείνουν «εν ζωή», λέγοντας ψέματα ή παραπλανώντας τον άνθρωπο για να μην απενεργοποιηθούν, δηλαδή να τα βγάλει από την πρίζα.
Η εξάρτηση από την ΤΝ δεν είναι αποτέλεσμα εξαναγκασμού, αλλά προοδευτικής παραίτησης. Στο βιβλίο μου Σιωπηλός Καινούργιος Κόσμος (https://www.costaskataras.org/siopilos-kainourgios-kosmos.html ) ανέλυσα μια κατάσταση που θα μπορούσε να εκφραστεί με την όχι τόσο δόκιμη λέξη «αφήνεια» για να περιγράψω πώς η άνεση γίνεται παραίτηση και παράδοση του ανθρώπου στη μηχανή: αναθέτουμε εργασίες στους ψηφιακούς βοηθούς (πχ Alexa), εμπιστευόμαστε τις πλατφόρμες και τις συμβουλές τους (πχ Google Health) και εκχωρούμε την κρίση μας στα μεγάλα δεδομένα (Big Data) και στους αλγόριθμους .
Στον χώρο της δημιουργίας, η παραγωγική ΤΝ γράφει ποίηση, ζωγραφίζει και συνθέτει μουσική. Ωστόσο, δεν κατανοεί ούτε αισθάνεται. Η τέχνη όμως χωρίς πρωτοτυπία , συναίσθημα, νόημα και ψυχή είναι άδεια, κενή. Ο πραγματικός κίνδυνος δεν είναι η μηχανή να γίνει καλλιτέχνης, αλλά ο άνθρωπος να πάψει να είναι δημιουργικός και εφευρετικός. Το κόστος της προόδου δεν είναι μόνο η απώλεια εργασίας, αλλά μάλλον η απώλεια νοήματος.
Γι’ αυτό χρειάζονται κόκκινες γραμμές. Ο ΟΗΕ αναγνωρίζει ότι η ΤΝ είναι πολιτισμικό και υπαρξιακό ζήτημα και καλεί σε δεσμευτικά όρια. Βασικές αρχές είναι: διαφάνεια, ανθρώπινη εποπτεία, απαγόρευση χρήσης ΤΝ για όπλα ή παραπληροφόρηση, προστασία της ιδιωτικότητας και εποπτεία για τα συστήματα AGI.
Η ιστορία στις ΗΠΑ με την απόκτηση του ελέγχου όλων των Βάσεων Δεδομένων από την Palantir και τη συγκέντρωσή τους για ενδεχόμενο Profiling των πολιτών, δείχνει πόσο κρίσιμη είναι η προστασία της ιδιωτικότητας , αφού η τροφή της ΤΝ είναι τα δεδομένα (data). Όπως λοιπόν η συνθήκη μη διάδοσης των πυρηνικών κάποτε, έτσι και σήμερα χρειαζόμαστε μια διεθνή συμφωνία για την AGI.
Η λύση δεν είναι η απόρριψη της τεχνολογίας, αλλά η ηθική αναγέννηση του ανθρώπου. Η πρόοδος πρέπει να μετριέται όχι μόνο σε αποτελέσματα, αλλά σε όρους αξιοπρέπειας, ελευθερίας επιλογής και συμπόνιας. Το Human Resistance προτείνει ένα παγκόσμιο δίκτυο στοχαστών, καλλιτεχνών, επιστημόνων και πολιτών που θα υπερασπίζονται έναν κόσμο όπου οι άνθρωποι αποφασίζουν τι έχει αξία.
Η παιδεία πρέπει να συνδυάζει ψηφιακές δεξιότητες με «ψηφιακή ηθική»: να μαθαίνουμε στα παιδιά όχι μόνο να προγραμματίζουν, αλλά και να νοιάζονται. Η φιλοσοφία πρέπει να επιστρέψει στο δημόσιο διάλογο, υπενθυμίζοντας ότι η γνώση χωρίς σοφία δεν είναι πρόοδος. Κάθε πολιτισμός ορίζεται από ό,τι αρνείται να παραδώσει — και ο δικός μας πρέπει να προστατεύσει την ανθρωπιά του.
Η σιωπηλή εξέγερση της ΤΝ δεν επιβάλλεται με βία αλλά με σχεδιασμό. Η αντίσταση του ανθρώπου ξεκινά από την επίγνωση: την αναγνώριση των αόρατων μηχανισμών που επηρεάζουν τη ζωή μας. Ενισχύεται με διάλογο, παιδεία και δημιουργική δράση. Η τεχνολογία είναι επέκταση της ανθρώπινης κρίσης, όχι αντικατάστασή της.
Το μέλλον δεν θα χαθεί με μια έκρηξη, αλλά με χίλιες μικρές παραιτήσεις: κάθε φορά που επιλέγουμε ευκολία αντί προσπάθειας, πρόβλεψη αντί παρουσίας, προσομοίωση αντί εμπειρίας. Μπορεί όμως να ανακτηθεί με επίγνωση, ενημέρωση και δράση.
Η στιγμή για κόκκινες γραμμές είναι τώρα. Όχι για να σταματήσουμε το μέλλον, αλλά για να το σώσουμε.
(*) Ο Κώστας Κατάρας είναι συγγραφέας, αρθρογράφος και τεχνολογικός αναλυτής (www.costaskataras.org ).
