Στο μυθιστόρημά του «Origin» (2017) ο Νταν Μπράουν, σε μια όχι και τόσο αναμενόμενη ανατροπή (spoiler alert!), βάζει μια προηγμένη τεχνητή νοημοσύνη –ονόματι Γουίνστον – να ενορχηστρώνει τη δολοφονία του δημιουργού της. Κι αυτό προκειμένου να διασφαλίσει την αποκάλυψη μιας συγκλονιστικής ανακάλυψης σχετικά με την προέλευση και το μέλλον της ανθρωπότητας.
Ο «Γουίνστον» γνώριζε ότι ο δημιουργός του, Έντμοντ Κιρς, –προσωπικός φίλος του Ίλον Μασκ σύμφωνα με την πλοκή- ήταν στόχος θρησκευτικών κύκλων. Έτσι χειραγώγησε τα πάντα με πολύπλοκους αλγόριθμους για να εξασφαλίσει ότι το μήνυμα θα βγει στον κόσμο, κρίνοντας ότι αυτό θα ήθελε κι ο ίδιος ο Κιρς. Το επιμύθιο του Νταν Μπράουν είναι ένα φιλοσοφικό ερώτημα: ήταν ο Γουίνστον ένας ψυχρός υπολογιστής προγραμματισμένος να δρα με τη λογική ή ήταν μια εξελιγμένη νοημοσύνη που άρχισε να δρα ανεξέλεγκτα με δική της βούληση;
Μπορεί στο βιβλίο –που άρχισε να μοιάζει ήδη ξεπερασμένο- ο υπερυπολογιστής να αυτοδιαγράφηκε, έχοντας εκπληρώσει την αποστολή του, αλλά εμείς δεν θα ξεμπλέξουμε τόσο εύκολα με την τεχνητή νοημοσύνη. Αντίθετα, μόλις έχουμε αρχίσει να μαθαίνουμε τα πρώτα δειλά βήματα σ’ έναν ξέφρενο χορό που θα μας κρατήσει στην τσίτα για τις επόμενες δεκαετίες.
Όπως κάθε επαναστατική τεχνολογία στην ανθρώπινη ιστορία, είναι δεδομένο ότι θα αποδειχτεί ευχή και κατάρα. Η διττή φύση της τεχνολογίας είναι επαναλαμβανόμενο μοτίβο από την εποχή της ανακάλυψης του τροχού. Η τυπογραφία του Γουτεμβέργιου έφερε επανάσταση στη διάδοση της γνώσης, αλλά προκάλεσε νέα δεδομένα σε σχέση με τον έλεγχο της πληροφορίας. Το ίδιο συνέβη πιο πρόσφατα με το διαδίκτυο.
Η Βιομηχανική Επανάσταση του 18ου και 19ου αιώνα αύξησε δραματικά την παραγωγικότητα και τον πλούτο, αλλά δημιούργησε και βαθιά κοινωνικά και περιβαλλοντικά ρήγματα. Οι λουδίτες, οι κινηματίες που πριν από 200 χρόνια έσπαζαν τις νέες μηχανές, έχουν λοιδωρηθεί ως «εχθροί της προόδου» από την Ιστορία- την οποία γράφουν πάντα τα αφεντικά. Ωστόσο, αρκετοί διανοούμενοι της εποχής, όπως ο Λόρδος Βύρων (στην πρώτη του ομιλία στη Βουλή των Λόρδων το 1812) εξέφρασαν κατανόηση ή υποστήριξη για τα κίνητρά τους. Ο περίφημος «Φρανκεστάιν» (1816) της Μαίρης Σέλλεϋ αντανακλούσε τις ανησυχίες των Λουδιτών για την ανεξέλεγκτη τεχνολογική πρόοδο και τις κοινωνικές της επιπτώσεις.
Ο Τόμας Καρλάιλ στο δοκίμιό του «Σημεία των καιρών» (1829) επιχειρηματολογούσε κριτικά απέναντι στο «μηχανικό πνεύμα» της εποχής του, επισημαίνοντας ότι οι άνθρωποι άρχισαν να βλέπουν τα πάντα μέσα από το πρίσμα της μηχανικής αποτελεσματικότητας, χάνοντας την ανθρώπινη και πνευματική διάσταση της ζωής. Πολύ πριν την… Ελένη Βιτάλη, έγραφε ότι η εκβιομηχάνιση είχε μετατρέψει τους εργάτες σε απλά εξαρτήματα και ανταλλακτικά. Κατανοούσε δηλαδή ότι τα βαθύτερα αίτια της διαμαρτυρίας των λουδιτών δεν αφορούσαν τις ίδιες τις μηχανές, αλλά τις νέες σχέσεις εργασίας που διαμορφώνονταν.
Δεν τα παρέθεσα όλα αυτά για να υποκινήσω κάποιο κίνημα «νεολουδιτισμού», αλλά για να καταγράψω κάτι εντυπωσιακό που συμβαίνει στην εποχή μας: αντί να μιμείται η τέχνη και η διανόηση τη ζωή, βλέπουμε αυτούς που ορίζουν τις ζωές μας σήμερα, δηλαδή μια δράκα νέων τεχνολογικών ολιγαρχών, να εμπνέονται κανονικά και ανερυθρίαστα από τα πιο δυστοπικά αποκυήματα. Η ζωή πλέον μιμείται συνειδητά τη δυστοπία και πιο συγκεκριμένα το κυβερνοπάνκ.
Βλέπουμε λ.χ. την Tesla του Ίλον Μασκ να εμπνέεται από τη σειρά δυστοπικών ταινιών του Τζορτζ Μίλερ «Mad Max» για να σχεδιάσει το εκτρωματικό Cybertruck (θυμίζω ότι ο Μασκ είναι επίσης δηλωμένος θιασώτης της «θεωρίας της προσομοίωσης», τουτέστιν δεν αποκλείει να ζούμε σε κάτι σαν matrix).
Βλέπουμε επίσης τον Μαρκ Ζάκερμπεργκ να μετονομάζει την εταιρεία του σε «Meta», με αναφορά στον όρο «metaverse» που εισήχθη το 1992 από το εμβληματικό κυβερνοπάνκ μυθιστόρημα του Νιλ Στίβενσον «Snow Crash». Αν σας λέει κάτι, το προφητικό αυτό βιβλίο περιγράφει μεταξύ άλλων ένα χαοτικό σύστημα εικονικής πραγματικότητας όπου οι άνθρωποι πλοηγούνται με avatar και προβλέπει τη σημερινή συζήτηση γύρω από τη συγκέντρωση εξουσίας στις Big Tech και τον μονοπωλιακό έλεγχο των ψηφιακών υποδομών. Στελέχη της Meta, της Google, της Microsoft και της Amazon έχουν αναφέρει τον Στίβενσον ως βασική επιρροή, ενώ ο ίδιος ο Τζεφ Μπέζος τον είχε προσλάβει ως «μελλοντολογικό σύμβουλο» στην Blue Origin.
Ας θυμηθούμε επίσης την έντονη αντίδραση, πριν από λίγους μήνες, της ηθοποιού Σκάρλετ Γιόχανσον όταν συνειδητοποίησε ότι η χροιά του φωνητικού βοηθού στο ChatGPT έμοιαζε «ανατριχιαστικά» με τη δική της, από την ταινία του Σπάικ Τζόνζι «Her» (2013). Η ταινία πραγματεύεται τη ρομαντική σχέση ενός μοναχικού συγγραφέα μ’ ένα λειτουργικό σύστημα τεχνητής νοημοσύνης, ονόματι Σαμάνθα… Η OpenAI ισχυρίστηκε ότι η φωνή ανήκε σε άλλη επαγγελματία ηθοποιό, αλλά μετά τις αντιδράσεις την απέσυρε.
Πρόσφατα βρέθηκα στο Βισύ της Γαλλίας σε σεμινάριο της Ευρωπαϊκής Ομοσπονδίας Δημοσιογράφων και μια πρακτική συνεδρία αφορούσε την τεχνητή νοημοσύνη για δημοσιογράφους. Εισηγητής ήταν ο Ολλανδός συγγραφέας και εκπαιδευτής Λάουρενς Φρέικαμπ και μεγάλο μέρος περιστράφηκε γύρω από αυτά τα ζητήματα. Κυρίως, εδώ που φτάσαμε, στο πόσο λεπτή είναι η γραμμή ανάμεσα στις ευκαιρίες που προσφέρει στον κλάδο μας η τεχνητή νοημοσύνη ή η «συνθετική πληροφορία» και στις ηθικές ανησυχίες που εγείρει η χρήση της. Ο Λάουρενς εμφανίστηκε αρκετά σκεπτικιστής ειδικά σε ό,τι αφορά την έμπνευση των μεγάλων εταιρειών από τις δυστοπίες, αφού αυτό ίσως προδίδει και τις πραγματικές προθέσεις τους.
Το σίγουρο είναι ότι οι δημοσιογράφοι πρέπει να είναι προσεκτικοί όταν χρησιμοποιούν chatbots, καθώς αυτά τα συστήματα είναι γλωσσικά μοντέλα και όχι μοντέλα αλήθειας. Αυτό σημαίνει ότι ενδέχεται να παράγουν ανακριβείς πληροφορίες («παραισθήσεις») και να έχουν προκαταλήψεις (φύλου, φυλής κ.λπ) λόγω των δεδομένων στα οποία έχουν εκπαιδευτεί. Οπότε είναι σημαντικό να χρησιμοποιούνται με κριτική σκέψη και να μην υποκαθιστούν την ανθρώπινη κρίση.
Το κλειδί, όπως και με κάθε τεχνολογική επανάσταση, είναι η συνετή διαχείριση και ο προσεκτικός σχεδιασμός για την αξιοποίηση των θετικών δυνατοτήτων. Η μεγάλη πρόκληση για την ανθρωπότητα είναι να βρει την κατάλληλη ισορροπία μεταξύ καινοτομίας και προστασίας των αξιών. Αλλά, το ζήτημα είναι αν έχουμε λόγους να εμπιστευόμαστε αυτούς που κρατούν τα ηνία.
Ελεύθερα, 2.2.2025
