ΑΝΑΔΗΜΟΣΙΕΥΣΗ ΑΠΟ ΤΑ ΗΜΕΡΟΛΟΓΙΑ ΕΝΟΣ ΙΟΥ:
Τεχνητή Χαμηλή Νοημοσύνη
Ο όλος θόρυβος γύρω απο την τεχνητή νοημοσύνη θυμίζει περισσότερο ψυχολογική εκστρατεία, παρά ένα φυσιολογικό -με τις υπερβολές, το μηντιακό συγκινησιακό εντυπωσιασμό και τα μικροσυμφεροντά του, έστω- διάλογο γύρω απο μια νέα τεχνολογία. Οι ειδικοί προειδοποιούν για υπαρξιακούς κινδύνους και πρωτεργάτες ανάπτυξης της τεχνολογίας παραιτούνται, ενώ παράλληλα βομβαρδιζόμαστε απο όλο και περισσότερα θαυμαστά κατορθώματα της ΤΝ, απο τα πτυχία που αποκτά το chatgpt, μέχρι την ανάπτυξη νέων αντιβιοτικών και πρωτοποριακών θεραπειών. Οι πολίτες καλούνται να τη θαυμάσουν και να τη φοβηθούν ταυτόγχρονα∙ μ΄άλλα λόγια να αποδεχτούν την εξουσία της πάνω τους. Το ίδιο αφήγημα της πρώτης βιομηχανικής επανάστασης -οι εργάτες καλά θα κάνουν να μην πολυπιέζουν για αυξήσεις μισθών και μειώσεις ωρών, γιατί με τις μηχανές η ανθρώπινη εργασία θα είναι άχρηστη και θα παρακαλάνε να βρούνε δουλειά- σερβίρεται απαράλλαχτο δια στόματος νοέλ χαρράρι και πλήθους αριστερόστροφων αρθρογράφων και στην τέταρτη: στο άμεσο μέλλον η πλειοψηφία των ανθρώπων θα είναι άχρηστοι. Θα πρέπει οπότε να δεχτούν μια ζωή επιδομάτων και να παραμείνουν στ΄αυγά τους “με ναρκωτικά και βιντεοπαιχνίδια” όπως δήλωσε προσφάτως μειδιώντας ο χαρράρι.
Ας δούμε ωστόσο τα πράγματα όσο πιο ψύχραιμα γίνεται. Καταρχάς: δεν πρόκειται για νοημοσύνη. Το chatgpt[1] στηρίζεται σε κάποια γλωσσικά μαθηματικά και στατιστικά μοντέλα. Χτίζει το κείμενο συλλαβή-συλλαβή ανατρέχοντας στον τεράστιο όγκο ψηφιοποιημένων γραπτών της ανθρωπότητας, βάσει πιθανοτήτων.[2] Οποιαδήποτε μορφή, έστω και υποτυπώδους κατανόησης του κειμένου που παράγει, ή αυτού του “συνομιλητή” της, απουσιάζει παντελώς. Δε διαφέρει αισθητά δηλαδή απο μια μηχανή αναζήτησης με ενσωματωμένο ένα μεταφραστικό εργαλείο τύπου deepl.
Προγράμματα αυτόματης παραγωγής κειμένου κυκλοφορούσαν ήδη απο τα τέλη του ΄10 και στα μέσα της προηγούμενης δεκαετίας προγραμματιστές έφτιαχναν με python τα δικά τους. To scigen ξελάσπωνε φοιτητές ήδη απο το ΄10 και αναρίθμητες “επιστημονικές” εργασίες σπαμάριζαν τα επιστημονικά περιοδικά παγκοσμίως (και γίνονταν μάλιστα και peer review, μιλάμε για μελέτες με τίτλους όπως “Κοινωνικές επιπτώσεις στη φυλή των νάγκα απο την επαυξημένη τεχνική κουρδίσματος και ένας καινοφανής τρόπος αντιμετώπισης της κλιματικής αλλαγής στην τελετή ενηλικίωσης” και έπαιρναν υποτίθεται το οκ απο πηρ ρηβίουερς και δημοσιεύονταν ακόμα και σε έγκριτα περιοδικά).
Αυτό που κάνει το chatgpt πιο εντυπωσιακό είναι η υπολογιστική του ισχύς και ο τεράστιος όγκος δεδομένων (ο οποίος αυξάνεται με κάθε ανθρώπινη αλληλεπίδραση μαζί του) στον οποίο έχει πρόσβαση. Η υπολογιστική ισχύς δεν ισούται ωστόσο με την νοημοσύνη – δεν υπάρχει υποψία σκέψης ή κατανόησης στα επιτεύγματα του chat gpt. Απο την άποψη της γνωσιακής επιστήμης δεν έχουμε δηλαδή συνταρακτικές εξελίξεις απο τα μέσα του ΄90 – μάλλον απέχουμε απο την τεχνητή νόηση τόσο όσο και τότε. Αυτό που έχουμε ωστόσο είναι μερικές σχετικά απλές μαθηματικές ρουτίνες που μπορούν με το κατάλληλο μέγεθος ανθρωπογενών δεδομένων να προσποιηθούν αρκετά καλά κάποιες γνωσιακές λειτουργίες. Πράγματι, οι εικόνες που παράγει καθ΄εντολή [3] είναι εντυπωσιακές [4], αλλά και το ρημαγμένο επίπεδο τοπίο που αφήνει πίσω της μια μπουλντόζα μετά την επιθεσή της σε μια δασωμένη πλαγιά, εντυπωσιακό είναι.
Υποστηρίζω πως οποιαδήποτε νόηση που δεν εδράζεται στην ανθρώπινη ή έστω στη ζωική φυσιολογία, θα είναι μια νόηση εξ΄ορισμού ξένη. Ένας νους χωρίς ορμόνες, στομάχι, πνευμόνια, αίμα, είναι εξ΄ορισμού ένας παράφρων νους [5]. Αν υπάρξει ποτέ η δυνατότητα παραγωγής τεχνητών νοήμονων οντοτήτων, πιστεύω πως αυτό θα έπρεπε να γίνει σε ένα πλήρως ελεγχόμενο περιβάλλον, με διπλές και τριπλές δικλείδες ασφαλείας και χωρίς καμία δυνατότητα πρόσβασης στο διαδίκτυο. Αλλά αυτό είναι μια άλλη συζήτηση – επι του παρόντος δε μπορούμε να μιλάμε για νοημοσύνη, οπότε τα περί “υπαρξιακής απειλής για την ανθρωπότητα” ειδικά απο τα χείλη ειδικών της τεχνολογίας αυτής, προφανώς και αποσκοπούν κάπου αλλού και όχι στην αποτύπωση της πραγματικότητας. Και πιο συγκεκριμένα, στην εμπέδωση της αποδοχής της ανώτερης νόησης, τόσο ανώτερης που νομοτελειακά θα μας αντικαταστήσει, μιας γενιάς μηχανημάτων που είναι στη βάση τους το ίδιο αυτόματα με μια πρέσα λωρίδας παραγωγής. Και για να το αποδείξουν, καταφεύγουν σε χυδαιολογίες, απίστευτης αμορφωσιάς και άγνοιας, του τύπου “ένα τρις τρανζίστορ είναι προφανώς ανώτερα απο τα μόλις 80 δις των ανθρώπινων νευρώνων”.
“Η νόηση δεν είναι απαραίτητο να είναι ενσυνείδητη”, θα αντιτείνουν κάποιοι. “Μπορούμε να επιτύχουμε ευφυΐα χωρίς συνείδηση και γνώση χωρίς σοφία. Το εγώ δεν είναι προυπόθεση για τη νόηση”. Κάποιοι άλλοι θα υποστηρίξουν πως η συνείδηση γεννιέται αυτόματα όταν ξεπεραστεί ένα κατώφλι πολυπλοκότητας σε ένα σύστημα. Ο όποιος διάλογος διεξάγεται σχεδόν αποκλειστικά στο φιλοσοφικό πεδίο και στο ίδιο πλαίσιο με μισό αιώνα πριν. Καμία εξέλιξη στη νευροεπιστήμη και τη φυσιολογία του εγκεφάλου δεν έχει διαφωτίσει ιδιαίτερα το τοπίο, τόσο σε σχέση με τη συνείδηση, όσο και σ΄ό,τι αφορά τη συνολική κατανόηση της νοητικής λειτουργίας. Το μόνο βέβαιο για την ώρα είναι πως τα μοντέλα τύπου chat gpt, δε μπορούν να περάσουν το τεστ τούρινγκ.
Νοήμων ή μη, θα καταστήσει ωστόσο η Τ.Ν. την πλειοψηφία της ανθρώπινης εργασίας άχρηστη [6]; Σίγουρα, μια σειρά απο τυποποιημένες συγγραφικές εργασίες, που δεν απαιτούν φαντασία και δημιουργικότητα, όπως για παράδειγμα διάφορα νομικά κείμενα, πτυχιακές εργασίες, ρυθμιστικά πλαίσια της ΕΕ, ή μετα-σταλινικές αναλύσεις τύπου Αντίθεση, μπορούνε κάλλιστα να παραχθούν απο κάποια μηχανή gpt. Και κάτι τέτοιο θα ήταν μια σχετική ανακούφιση για τον ανθρώπινο εγκέφαλο. Το ίδιο ισχύει για το μεγαλύτερο μέρος απο το χαμαλίκι στη συγγραφή κώδικα ή στην παραγωγή άρτγουορκ, ή ακόμη και στο συνταίριασμα πρωτεινών και καταγραφή ακολουθιών στα εργαστήρια, αλλά αυτές είναι εργασίες τις οποίες ούτως ή άλλως εκπλήρωναν αλγόριθμοι σε μεγάλο βαθμό. Φυσικά θα υπάρξουν θέματα πνευματικών δικαιωμάτων -αφού τα δημιουργήματα του gpt στηρίζονται εξ΄ολοκλήρου στην πλιατσικολόγηση ανθρώπινης δημιουργίας- και εγκυρότητας των ειδήσεων, καθώς η δυνατότητα χάλκευσης ή κατασκευής της πραγματικότητας δε θα΄ναι πλέον προνόμιο των μμε και σκιωδών υπηρεσιών.
Ο πλέον ριζικός εργασιακός μετασχηματισμός αναμένεται ωστόσο να συμβεί στις υπηρεσίες, στην τυποποιημένη πνευματική εργασία και στη χαμηλή ειδίκευση. Υπάλληλοι γκισέ, ταμίες σουπερμάρκετ, οδηγοί λεωφορείων, λογιστές μικρών επιχειρήσεων, αρχιτέκτονες μαζικής παραγωγής, υπάλληλοι τηλεφωνικών κέντρων, σερβιτόροι, ακόμα και δικηγόροι, θα δούνε το μεγαλύτερο όγκο της εργασίας τους αντικαθίσταται απο κάποιας μορφής ΤΝ. Και το ίδιο θα ισχύσει για τους γιατρούς, ειδικά της πρωτοβάθμιας φροντίδας, αλλά και τους ψυχολόγους. Αυτό, πέρα απο την απώλεια εκατομμυρίων θέσεων εργασίας θα έχει ως συνέπεια και την περαιτέρω υποβάθμιση της καθημερινότητας των ανθρώπων. Η τυποποίηση των προιόντων, με τη γνωστή κάθετη πτώση ποιότητας που επιφέρει, δε θα αφορά πλέον μόνο τους τομείς της τροφής και της ένδυσης, αλλά κάθε σχεδόν πτυχή της ζωής, απο τις υπηρεσίες υγείας, μέχρι την κατασκευή ενός σπιτιού και απο την ψυχαγωγία, μέχρι την -ούτως ή άλλως ψυχοφθόρα- συναλλαγή με τους διαφόρους κρατικούς φορείς. Η πρόσβαση σε ανθρώπινο γιατρό, αρχιτέκτονα ή σερβιτόρο, θα παραμείνει μάλλον ως λίγο ή πολύ είδος πολυτελείας.
Αυτό όμως δεν πρόκειται να καταστήσει την πλειοψηφία του πληθυσμού “άχρηστη”. Οι μηχανές πάντα κωδικοποιούσαν ένα τμήμα των ανθρώπινων δεξιοτήτων και αντικαθιστούσαν ένα μέρος της εργατικής δύναμης. Αλλά δε μπορούμε να πούμε ότι η βιομηχανική επανάσταση μείωσε την ανάγκη για εκμετάλλευση της ανθρώπινης εργασίας. Αφενός, για κάθε θέση εργασίας που χάνεται απο τη μηχανική της αντικατάσταση, ξεπηδούν κάποιες άλλες, που είτε έχουν να κάνουν με τη συντήρηση και τον προγραμματισμό των μηχανών ή με κάτι τελείως διαφορετικό. Τα τελευταία 150 χρόνια ενώ οι τεχνολογικοί αυτοματισμοί έχουν θεωρητικά αυξήσει την παραγωγικότητα κατά πολλές τάξεις μεγέθους, η ανθρώπινη εργασία παραμένει σταθερά στο 8 ώρες την ημέρα, 5 μέρες την εβδομάδα. Αν δηλαδή η ανθρώπινη εργασία είναι όντως άχρηστη τότε θα είχε τουλάχιστον μειωθεί: καταρχάς απο οχτάωρο σε τετράωρο και από πενθήμερο σε τριήμερο.
Αφετέρου, αν και ομολογουμένως δε μπορώ να απαντήσω με σιγουριά στο ερώτημα το αν οι μηχανές της τέταρτης βιομηχανικής επανάστασης παράγουν αξία, αυτό που είναι απολύτως βέβαιο είναι πως οι ασύλληπτες περιουσίες των τεχνολογικών και φαρμακευτικών κολοσσών οφείλονται αποκλειστικά στην ανθρώπινη εκμετάλλευση. Ποια θα ήταν η αξία της google ή του meta αν υπήρχαν μόνο 100 χρήστες και χωρίς λεφτά για να αγοράσουν τα προιόντα που διαφημίζονται εκεί; Πόσο θα άξιζε η μετοχή της pfizer αν μόνο μια χούφτα άνθρωποι κατανάλωναν φάρμακα; Η χρήση των τεταρτοβιομηχανικών υπηρεσιών είναι μια μορφή απλήρωτης μετα-εργασίας που χωρίς αυτή ο καπιταλισμός θα καταρρεύσει. Στον πυρήνα λοιπόν των σεναρίων καταστροφής του χαρράρι και του συρφετού των διανοούμενων του ύστερου καπιταλισμού, εδρεύει ένα θρασύτατο ψέμμα. Πως η amazon, η google ή η meta, δε χρειάζονται πλέον εργαζόμενους και άρα η επιβίωση της πλειοψηφίας της ανθρωπότητας εξαρτάται απο τη φιλανθρωπία των ελιτ και των κρατών. Στην πραγματικότητα όλες αυτές οι εταιρείες χρειάζονται περισσότερους εργαζόμενους απο ποτέ, απλά θέλουν να απαλλαγούν απο την υποχρέωση να τους πληρώνουν: θέλουν δισεκατομμύρια χρήστες να παράγουν δωρεάν περιεχόμενο προσδίδοντας αξία στις πλατφόρμες τους, να γίνονται πειραματόζωα για τα προιόντα τους και εν τέλει να τα καταναλώνουν.
Η μεγάλη αλλαγή στο ρόλο του ανθρώπου στο Νέο Παράδειγμα δεν έγκειται οπότε σε κάποια αντικειμενική αχρηστευσή του λόγω αντικατάστασης απο την ΤΝ. Ενώ παραδοσιακά ο ρόλος του πολίτη στον καπιταλισμό ήταν αυτός του εργάτη-καταναλωτή, κάτι που τουλάχιστον άφηνε κάποια περιθώρια για καλύτερη διαπραγμάτευση της τιμής της εργατικής του δύναμης, πλέον αυτός ο ρόλος μετασχηματίζεται σε αυτόν του χρήστη. Και όπως κάθε χρήστης εξαρτάται απο το ντήλερ του, έτσι και οι άνθρωποι, σύμφωνα με το παραληρηματικά οράματα των θινκ τάνκερς του καπιταλισμού, θα εξαρτώνται απο το κράτος και τις εταιρείες για την επιβιωσή τους, μέσω επιδομάτων και θα χρησιμεύουν περιστασιακά ως εφεδρικό εργατικό δυναμικό. Το κυρίαρχο καθήκον τους θα είναι η παραγωγή υπεραξίας μέσω της χρήσης διαφόρων τεταρτοβιομηχανικών υπηρεσιών. Η Τ.Ν. δεν είναι το αίτιο αλλά το μέσο για την επίτευξη αυτού του σκοπού: είναι απαραίτητη για τον διαρκή έλεγχο και την πειθάρχηση του πληθυσμού, καθώς και για την υλοποίηση της ψηφιοποίησης των πάντων. Αυτό που υπονοείται άλλωστε και απο τον όρο στα αγγλικά, Artificial Intelligence, είναι η έτερη ερμηνεία του όρου intelligence: αυτός του ελέγχου της πληροφορίας με τον τρόπο που αυτός πχ εκφράζεται στη Central Intelligence Αgency, πιο γνωστή ως cia.
Το ό,τι αυτό που προπαγανδίζεται ως Τ.Ν. δε μπορεί να αντικαταστήσει τον άνθρωπο -παρά μόνο σε τυποποιημένες διεργασίες, αλλά εκεί ούτως ή άλλως κυριαρχούσαν οι αλγόριθμοι- δε σημαίνει ωστόσο πως δεν είναι όντως απειλή και μάλιστα υπαρξιακή, για την ανθρωπότητα. Και η απειλή της αυτή έγκειται ακριβώς στην χαμηλή της νοημοσύνη.
Αν η τρίτη βιομηχανική επανάσταση χαρακτηριζόταν απο αυτό που ο γκύντερς άντερς, χρόνια πριν, διατύπωσε πάνω-κάτω ως “ό,τι μπορεί να γίνει, θα γίνει”[7], στην τέταρτη τα πράγματα είναι ακόμη πιο απελπιστικά: πλέον “ό,τι είναι τεχνολογικά εφικτό, θα γίνει με τον έναν ή τον άλλο τρόπο υποχρεωτικό”. Και επειδή έχουμε να κάνουμε με ψυχοπαθείς ναρκισσιστές που θέλουν το καλό μας και όχι με τίποτε στυγνούς δικτάτορες, για την ακρίβεια : “ό,τι είναι τεχνολογικά εφικτό, θα γίνει με τον ένα ή τον άλλο τρόπο υποχρεωτικό να το επιθυμήσεις”.[8] Η κατάληψη της ανθρώπινης καθημερινότητας και κυρίως, της κοινωνικότητας, απο ένα τσούρμο, χειριστικών, απαιτητικών, σπασαρχίδικων και παντελώς ηλίθιων αλγορίθμων, σε ένα βαθμό επιθυμήθηκε, αλλά σε έναν άλλο επιβλήθηκε. Το να μην έχεις τηλεόραση το ΄70 δε σήμαινε ούτε πως δε θα μπορείς να νοικιάσεις ένα σπίτι, ούτε πως θα έχεις πρόβλημα να βρεις δουλειά∙ το να μην έχεις έξυπνο κινητό και φέησμπουκ, πλέον στις δυτικές τουλάχιστον χώρες,σημαίνει ακριβώς αυτό – και πολλά άλλα εξίσου δυσάρεστα.
Και αν η διαρκής φλυαρία των έξυπνων κινητών, έχει ήδη παρασύρει την ανθρωπότητα σε ένα στρόβιλο ασημαντότητας και αποβλάκωσης, η εισβολή της τεχνητής νοημοσύνης σε όλο το εύρος της ζωής, δε μπορεί παρά να την οδηγήσει σε ένα απέραντο βάλτο όπου βρέχει αποβλάκωση και απελπισία. Για το κάθε τι στη ζωή σου, απο το να ανοίξεις το πρωί το έξυπνο ψυγείο σου, μέχρι το να προσπαθήσεις να τακτοποιήσεις το φορολογικό σου μπάχαλο και απο το να χρειαστείς μια ιατρική βοήθεια, μέχρι να αναζητήσεις μια είδηση ή πληροφορία, θα χρειάζεται να συνδιαλλαγείς με μια τεχνητή χαμηλή νοημοσύνη.
Ο άνθρωπος είναι σχετικά ευπροσάρμοστο ζώο. Έχει δε, μια μοναδική ικανότητα να αλλάζει το περιβάλλον του και να αλλάζει απο αυτό. Η ζωή σε ένα περιβάλλον ασταμάτητης φλυαρίας, απόσπασης προσοχής και μονολιθικής, μηχανικής σκέψης, τον οδηγεί αναπόφευκτα σε μια μηχανική, κατακερματισμένη, ρηχή αντιληπτική ικανότητα [9].
Η εκστρατεία των τελευταίων ετών για την ψηφιοποίηση των πάντων δεν έχει σκοπό τη βελτίωση των ανθρώπινων συνθηκών, ούτε την εκπλήρωση κάποιας μετανθρωπικής δοξασίας, τύπου, Άνθρωπος 2.0. Αντιθέτως, ο σύγχρονος άνθρωπος καλείται όχι να αναβαθμιστεί , αλλά να υποβαθμιστεί ώστε να μπορέσει να φτάσει το επίπεδο των μηχανών. Και έτσι να είναι προβλέψιμος, ελεγχόμενος και υπάκουος. Το ιδανικό δηλαδή υποκείμενο για κάθε ολοκληρωτικό καθεστώς.
Η κάθε εισβολή της μηχανής στην ανθρώπινη ζωή κουβαλά μαζί της νέα παραδείγματα – η αντίληψη που έχουμε για το σώμα μας, την υγεία μας, τη σκέψη μας και την ίδια τη ζωή αντικατοπτρίζει σε ένα μεγάλο βαθμό τους περιορισμούς και τις δυνατότητες των μηχανών. Καθώς σήμερα καλούμαστε όχι απλά να συνυπάρξουμε, αλλά να συνδιαλλαγούμε σε καθημερινό επίπεδο με τη μηχανή και την μονολιθική της “σκέψη” και να ευθυγραμμιστούμε με αυτή, αυτή η διαδικασία εκ-μηχανοποίησης του ανθρώπινου φτάνει στο απόγειό της. Με μια προκρούστεια διαδικασία, ό,τι δε μπορεί να επεξεργαστεί η μηχανή, εξοστρακίζεται ή απαγορεύεται. Και αυτό που απομένει είναι μια προσομοίωση του μηχανικού με βιολογικό περιτύλιγμα∙ καταδικασμένο εκ των πραγμάτων να ωχριά σε κάθε σύγκριση με το αυθεντικά μηχανικό.
Ο σύγχρονος άνθρωπος καλείται να αντιμετωπίσει την ίδια του την ανθρωπινότητα ως πρόβλημα: η αμφισημία και αντίφαση της ανθρώπινης ψυχοσύνθεσης θεωρείται ατέλεια συγκρινόμενη με την άσπιλη αποφασιστικότητα της μηχανής∙ η πολυπλοκότητα του βασικού του εργαλείου συνδιαλλαγής με το Άλλο, του ανοσοποιητικού του δηλαδή συστήματος, λογίζεται ως αδυναμία και επιβάλλεται να καταστραφεί για να αντικατασταθεί απο ορθολογικές βιοτεχνολογικές λύσεις-για-προβλήματα. Ο ίδιος ο κόσμος περιγράφεται ως ένα σύνολο απειλών και προβλημάτων, που επιδέχονται τεχνικές λύσεις. Και έτσι ο άνθρωπος, δυο αιώνες μετά το sabot των γαλλίδων εργατριών και του ned ludd, καταλήγει να θαυμάζει τη μηχανή και την αποτελεσματικοτητά της. Εμπιστεύεται πιο πολύ το gps απο τις οδηγίες ενός τυχαίου περαστικού και εξαρτάται απο το google και τη wikipedia για να εκτιμήσει μια προσωπική μαρτυρία. Προστρέχει στο κινητό του πολύ συχνότερα απ΄ό,τι ο πιο φανατικός πιστός σχηματίζει το σύμβολο της πίστης του ή επικαλείται το θεό του.
Πρόκειται για ένα θρίαμβο του τεχνικού πολιτισμού. Ο κόσμος ολόκληρος γίνεται πλεόν αντιληπτός ως μια μηχανή, τα ξεχωριστά τμήματα της οποίας μπορούν να επισκευαστούν ή να αντικατασταθούν απο άλλα, χωρίς να περιορίζεται η απρόσκοπτη λειτουργία της. Η μηχανή δε μπορεί να διστάσει ή να αμφιβάλλει – στερείται τη δυνατότητα αναστοχασμού. Και αυτό ακριβώς την καθιστά ανίκητη. Δεν υπάρχει καμία αμφιβολία πως τα αυτόνομα οπλικά συστήματα θανάτου, που απο τις αρχές του 2023 επιτρέπονται να χρησιμοποιούνται απο την αστυνομία της καλλιφόρνια σε “έκτακτες καταστάσεις”, θα είναι πιο αποτελεσματικά στην επίτευξη του ολέθρου ακόμα και απο τις μονάδες swat ή τους πράκτορες του fbi σε μια επιχείρηση καταστολής κάποιας σέκτας. Και εδώ ακριβώς έγκειται η υπαρξιακή απειλή.
Ένας κόσμος όπου Τ.Ν. συνεδεμένες με κάμερες μειώνουν κατά 20% το μηνιαίο επιδομά σου επειδή πέταξες μη-ανακυκλώσιμα στον κάδο ανακύκλωσης. Όπου σύμφωνα με την ανάλυση του προφίλ και του στάτους σου, δε σου επιτρέπεται να χρησιμοποιήσεις το ψηφιακό νόμισμα του επιδοματός σου για αλκοόλ, τσιγάρα ή γκουρμέ προιόντα. Όπου το αυτόνομο, έξυπνο αυτοκινητό σου δε φτάνει που σε καρφώνει αδιάκοπα στις αρχές, αρνείται να διανύσει τα 20 χιλιόμετρα που σε χωρίζουν απο το σπίτι της κολλητής σου που είναι άρρωστη, επειδή έχεις υπερβεί τα μηνιαία χιλιόμετρα που δικαιούσαι βάσει του ανθρακικού σου αποτυπώματος. Όπου όλη η ζωή σου καθορίζεται, ακόμα και στις πιο μικρές της λεπτομέρειες απο αποφάσεις που λαμβάνονται απο παντελώς α-νόητα αυτόματα, οι οποίες ενίοτε έχουν και τη μορφή ενός ντρον με την εμφάνιση του οποίου αμφότεροι οι εμπλεκόμενοι στον οικιακό καυγά σας αφήνετε γρήγορα στην άκρη ζήλιες, απειλές και αλληλοκατηγορίες εξωσυζυγικών περιπετειών, καταλαβαίνοντας πως τα παρακάνατε πουτάνα και ήρθε για να σας σκοτώσει.
Ένας κόσμος χωρίς δικαίωμα έφεσης, μια ιερά εξέταση με στεροειδή. Αλλά πάνω απ΄ολα αντικειμενικός, ορθολογικός και αποτελεσματικός. Άτεγκτος και άσπιλος. Το υγρό όνειρο του κάθε ιεροεξεταστή. Η κόλαση επί της γης.
[1] Δεν έχω ασχοληθεί με το bing της microsoft και δεν ξέρω αν στηρίζεται στην ίδια τεχνολογία.
[2] Και επειδή τα κείμενα που προκύπτουν απο την αυστηρή υπακοή στον κανόνα του πιο πιθανού είναι υπερβολικά ανούσια, εφαρμόζεται μια τυχαιοποίηση στην επιλογή: ενίοτε επιλέγονται λιγότερο πιθανές συλλαβές και αυτό, άγνωστο γιατί, καταφέρνει κάπως πιο υποφερτά αποτελέσματα.
[3] Έχει ήδη δημιουργηθεί ένας νέος εργασιακός κλάδος που έχει να κάνει με την παραγωγή των κατάλληλων ερωτημάτων (prompt) στα μοντέλα gpt.
[4] Και κρύβουν συνήθως ένα κάπως ανατριχιαστικό bug: οι άνθρωποι, στις ρεαλιστικές απεικονίσεις των διαφόρων μοντέλων gpt, τείνουν να έχουν 8 δάχτυλα σε κάθε παλάμη και παραπάνω δόντια απο το φυσιολογικό στο στόμα τους. Είναι άγνωστο το που οφείλεται το συγκεκριμένο bug, το οποίο ξεπερνιέται με την βελτίωση των prompts του χρήστη στο gpt. Το βέβαιο είναι πως προσφέρει ένα έξοχο πεδίο για σενάρια ιστοριών τρόμου (και ξαφνικά, στο πρώτο φως του ήλιου παρατηρείς πως τη μεθυσμένη ερωτική περιπέτεια της χθεσινής βραδυάς το χέρι που χαιδεύει το στήθος σου έχει 8 δάχτυλα).
[5] Όπως έχω επαναλάβει στο χώρο αυτών των ημερολογίων: “τρελός δεν είναι αυτός που έχει χάσει τα λογικά του, αλλά αυτός που έχει χάσει τα πάντα, πέρα απο τα λογικά του”.
[6] Θα αφήσω στην άκρη το ερώτημα του αν μπορούν οι μηχανές να παράξουν αξία – προσωπικά δεν έχω σαφή απάντηση.
[7] Έχοντας προ καιρού παραιτηθεί απο κάθε φιλοδοξία αρχειοθέτησης ή ονειρώξεων ενός ηλιόλουστου γραφείου περιτριγυρισμένου απο άκρη εις άκρη με βιβλιοθήκες και έχοντας αρκούντως σιχαθεί την προσφυγή στο google για την πρόσδωση κύρους στα γραπτά μέσω παράθεσης πηγών, οι αναφορές μου, πλην ίσως επιστημονικών ερευνών, τείνουν να είναι απο μνήμης. Με όλες τις ασάφειες και ανακρίβειες αυτής της μεθόδου.
[8] Για πολλοστή φορά: δε θέλουν να πλύνεις τα πιάτα, θέλουν να θέλεις να πλύνεις τα πιάτα.
[9] Έχει κάποιο ενδιαφέρον πως στον διαδικτυακό διάλογο με αφορμή τη δημοσίευση ενός κειμένου των εμμονικών υπερασπιστών του νέπου παραδείγματος, Αντίθεση, στο indymedia, κάποιος χρήστης επιστρατεύει το chatgpt (ή κάποια άλλη T.N. gpt) για να υπερασπιστεί την τυφλή υπακοή στα κράτη και τις εταιρείες. Κάτι που καταδεικνύει δυο εξίσου απελπιστικά γεγονότα: αφενός οι παραγόμενες gpt μπουρδολογίες, διαπίστωνε κανείς με φρίκη πως εδώ που τα λέμε είναι εξαιρετικά παρόμοιες με τον εκφερόμενο λόγο των υπερασπιστών της επιστήμης και του ορθολογισμού και αφετέρου η ίδια η ομάδα λογοκρισίας του indymedia, άνθρωποι δηλαδή που εκ των πραγμάτων έχουν κάποια σχέση με την τεχνολογία, δε μπορούσε να διακρίνει το ξεκάθαρο ρομποτικό σπαμάρισμα.
Προγράμματα αυτόματης παραγωγής κειμένου κυκλοφορούσαν ήδη απο τα τέλη του ΄10 και στα μέσα της προηγούμενης δεκαετίας προγραμματιστές έφτιαχναν με python τα δικά τους. To scigen ξελάσπωνε φοιτητές ήδη απο το ΄10 και αναρίθμητες “επιστημονικές” εργασίες σπαμάριζαν τα επιστημονικά περιοδικά παγκοσμίως (και γίνονταν μάλιστα και peer review, μιλάμε για μελέτες με τίτλους όπως “Κοινωνικές επιπτώσεις στη φυλή των νάγκα απο την επαυξημένη τεχνική κουρδίσματος και ένας καινοφανής τρόπος αντιμετώπισης της κλιματικής αλλαγής στην τελετή ενηλικίωσης” και έπαιρναν υποτίθεται το οκ απο πηρ ρηβίουερς και δημοσιεύονταν ακόμα και σε έγκριτα περιοδικά).
Αυτό που κάνει το chatgpt πιο εντυπωσιακό είναι η υπολογιστική του ισχύς και ο τεράστιος όγκος δεδομένων (ο οποίος αυξάνεται με κάθε ανθρώπινη αλληλεπίδραση μαζί του) στον οποίο έχει πρόσβαση. Η υπολογιστική ισχύς δεν ισούται ωστόσο με την νοημοσύνη – δεν υπάρχει υποψία σκέψης ή κατανόησης στα επιτεύγματα του chat gpt. Απο την άποψη της γνωσιακής επιστήμης δεν έχουμε δηλαδή συνταρακτικές εξελίξεις απο τα μέσα του ΄90 – μάλλον απέχουμε απο την τεχνητή νόηση τόσο όσο και τότε. Αυτό που έχουμε ωστόσο είναι μερικές σχετικά απλές μαθηματικές ρουτίνες που μπορούν με το κατάλληλο μέγεθος ανθρωπογενών δεδομένων να προσποιηθούν αρκετά καλά κάποιες γνωσιακές λειτουργίες. Πράγματι, οι εικόνες που παράγει καθ΄εντολή [3] είναι εντυπωσιακές [4], αλλά και το ρημαγμένο επίπεδο τοπίο που αφήνει πίσω της μια μπουλντόζα μετά την επιθεσή της σε μια δασωμένη πλαγιά, εντυπωσιακό είναι.
Υποστηρίζω πως οποιαδήποτε νόηση που δεν εδράζεται στην ανθρώπινη ή έστω στη ζωική φυσιολογία, θα είναι μια νόηση εξ΄ορισμού ξένη. Ένας νους χωρίς ορμόνες, στομάχι, πνευμόνια, αίμα, είναι εξ΄ορισμού ένας παράφρων νους [5]. Αν υπάρξει ποτέ η δυνατότητα παραγωγής τεχνητών νοήμονων οντοτήτων, πιστεύω πως αυτό θα έπρεπε να γίνει σε ένα πλήρως ελεγχόμενο περιβάλλον, με διπλές και τριπλές δικλείδες ασφαλείας και χωρίς καμία δυνατότητα πρόσβασης στο διαδίκτυο. Αλλά αυτό είναι μια άλλη συζήτηση – επι του παρόντος δε μπορούμε να μιλάμε για νοημοσύνη, οπότε τα περί “υπαρξιακής απειλής για την ανθρωπότητα” ειδικά απο τα χείλη ειδικών της τεχνολογίας αυτής, προφανώς και αποσκοπούν κάπου αλλού και όχι στην αποτύπωση της πραγματικότητας. Και πιο συγκεκριμένα, στην εμπέδωση της αποδοχής της ανώτερης νόησης, τόσο ανώτερης που νομοτελειακά θα μας αντικαταστήσει, μιας γενιάς μηχανημάτων που είναι στη βάση τους το ίδιο αυτόματα με μια πρέσα λωρίδας παραγωγής. Και για να το αποδείξουν, καταφεύγουν σε χυδαιολογίες, απίστευτης αμορφωσιάς και άγνοιας, του τύπου “ένα τρις τρανζίστορ είναι προφανώς ανώτερα απο τα μόλις 80 δις των ανθρώπινων νευρώνων”.
“Η νόηση δεν είναι απαραίτητο να είναι ενσυνείδητη”, θα αντιτείνουν κάποιοι. “Μπορούμε να επιτύχουμε ευφυΐα χωρίς συνείδηση και γνώση χωρίς σοφία. Το εγώ δεν είναι προυπόθεση για τη νόηση”. Κάποιοι άλλοι θα υποστηρίξουν πως η συνείδηση γεννιέται αυτόματα όταν ξεπεραστεί ένα κατώφλι πολυπλοκότητας σε ένα σύστημα. Ο όποιος διάλογος διεξάγεται σχεδόν αποκλειστικά στο φιλοσοφικό πεδίο και στο ίδιο πλαίσιο με μισό αιώνα πριν. Καμία εξέλιξη στη νευροεπιστήμη και τη φυσιολογία του εγκεφάλου δεν έχει διαφωτίσει ιδιαίτερα το τοπίο, τόσο σε σχέση με τη συνείδηση, όσο και σ΄ό,τι αφορά τη συνολική κατανόηση της νοητικής λειτουργίας. Το μόνο βέβαιο για την ώρα είναι πως τα μοντέλα τύπου chat gpt, δε μπορούν να περάσουν το τεστ τούρινγκ.
Νοήμων ή μη, θα καταστήσει ωστόσο η Τ.Ν. την πλειοψηφία της ανθρώπινης εργασίας άχρηστη [6]; Σίγουρα, μια σειρά απο τυποποιημένες συγγραφικές εργασίες, που δεν απαιτούν φαντασία και δημιουργικότητα, όπως για παράδειγμα διάφορα νομικά κείμενα, πτυχιακές εργασίες, ρυθμιστικά πλαίσια της ΕΕ, ή μετα-σταλινικές αναλύσεις τύπου Αντίθεση, μπορούνε κάλλιστα να παραχθούν απο κάποια μηχανή gpt. Και κάτι τέτοιο θα ήταν μια σχετική ανακούφιση για τον ανθρώπινο εγκέφαλο. Το ίδιο ισχύει για το μεγαλύτερο μέρος απο το χαμαλίκι στη συγγραφή κώδικα ή στην παραγωγή άρτγουορκ, ή ακόμη και στο συνταίριασμα πρωτεινών και καταγραφή ακολουθιών στα εργαστήρια, αλλά αυτές είναι εργασίες τις οποίες ούτως ή άλλως εκπλήρωναν αλγόριθμοι σε μεγάλο βαθμό. Φυσικά θα υπάρξουν θέματα πνευματικών δικαιωμάτων -αφού τα δημιουργήματα του gpt στηρίζονται εξ΄ολοκλήρου στην πλιατσικολόγηση ανθρώπινης δημιουργίας- και εγκυρότητας των ειδήσεων, καθώς η δυνατότητα χάλκευσης ή κατασκευής της πραγματικότητας δε θα΄ναι πλέον προνόμιο των μμε και σκιωδών υπηρεσιών.
Ο πλέον ριζικός εργασιακός μετασχηματισμός αναμένεται ωστόσο να συμβεί στις υπηρεσίες, στην τυποποιημένη πνευματική εργασία και στη χαμηλή ειδίκευση. Υπάλληλοι γκισέ, ταμίες σουπερμάρκετ, οδηγοί λεωφορείων, λογιστές μικρών επιχειρήσεων, αρχιτέκτονες μαζικής παραγωγής, υπάλληλοι τηλεφωνικών κέντρων, σερβιτόροι, ακόμα και δικηγόροι, θα δούνε το μεγαλύτερο όγκο της εργασίας τους αντικαθίσταται απο κάποιας μορφής ΤΝ. Και το ίδιο θα ισχύσει για τους γιατρούς, ειδικά της πρωτοβάθμιας φροντίδας, αλλά και τους ψυχολόγους. Αυτό, πέρα απο την απώλεια εκατομμυρίων θέσεων εργασίας θα έχει ως συνέπεια και την περαιτέρω υποβάθμιση της καθημερινότητας των ανθρώπων. Η τυποποίηση των προιόντων, με τη γνωστή κάθετη πτώση ποιότητας που επιφέρει, δε θα αφορά πλέον μόνο τους τομείς της τροφής και της ένδυσης, αλλά κάθε σχεδόν πτυχή της ζωής, απο τις υπηρεσίες υγείας, μέχρι την κατασκευή ενός σπιτιού και απο την ψυχαγωγία, μέχρι την -ούτως ή άλλως ψυχοφθόρα- συναλλαγή με τους διαφόρους κρατικούς φορείς. Η πρόσβαση σε ανθρώπινο γιατρό, αρχιτέκτονα ή σερβιτόρο, θα παραμείνει μάλλον ως λίγο ή πολύ είδος πολυτελείας.
Αυτό όμως δεν πρόκειται να καταστήσει την πλειοψηφία του πληθυσμού “άχρηστη”. Οι μηχανές πάντα κωδικοποιούσαν ένα τμήμα των ανθρώπινων δεξιοτήτων και αντικαθιστούσαν ένα μέρος της εργατικής δύναμης. Αλλά δε μπορούμε να πούμε ότι η βιομηχανική επανάσταση μείωσε την ανάγκη για εκμετάλλευση της ανθρώπινης εργασίας. Αφενός, για κάθε θέση εργασίας που χάνεται απο τη μηχανική της αντικατάσταση, ξεπηδούν κάποιες άλλες, που είτε έχουν να κάνουν με τη συντήρηση και τον προγραμματισμό των μηχανών ή με κάτι τελείως διαφορετικό. Τα τελευταία 150 χρόνια ενώ οι τεχνολογικοί αυτοματισμοί έχουν θεωρητικά αυξήσει την παραγωγικότητα κατά πολλές τάξεις μεγέθους, η ανθρώπινη εργασία παραμένει σταθερά στο 8 ώρες την ημέρα, 5 μέρες την εβδομάδα. Αν δηλαδή η ανθρώπινη εργασία είναι όντως άχρηστη τότε θα είχε τουλάχιστον μειωθεί: καταρχάς απο οχτάωρο σε τετράωρο και από πενθήμερο σε τριήμερο.
Αφετέρου, αν και ομολογουμένως δε μπορώ να απαντήσω με σιγουριά στο ερώτημα το αν οι μηχανές της τέταρτης βιομηχανικής επανάστασης παράγουν αξία, αυτό που είναι απολύτως βέβαιο είναι πως οι ασύλληπτες περιουσίες των τεχνολογικών και φαρμακευτικών κολοσσών οφείλονται αποκλειστικά στην ανθρώπινη εκμετάλλευση. Ποια θα ήταν η αξία της google ή του meta αν υπήρχαν μόνο 100 χρήστες και χωρίς λεφτά για να αγοράσουν τα προιόντα που διαφημίζονται εκεί; Πόσο θα άξιζε η μετοχή της pfizer αν μόνο μια χούφτα άνθρωποι κατανάλωναν φάρμακα; Η χρήση των τεταρτοβιομηχανικών υπηρεσιών είναι μια μορφή απλήρωτης μετα-εργασίας που χωρίς αυτή ο καπιταλισμός θα καταρρεύσει. Στον πυρήνα λοιπόν των σεναρίων καταστροφής του χαρράρι και του συρφετού των διανοούμενων του ύστερου καπιταλισμού, εδρεύει ένα θρασύτατο ψέμμα. Πως η amazon, η google ή η meta, δε χρειάζονται πλέον εργαζόμενους και άρα η επιβίωση της πλειοψηφίας της ανθρωπότητας εξαρτάται απο τη φιλανθρωπία των ελιτ και των κρατών. Στην πραγματικότητα όλες αυτές οι εταιρείες χρειάζονται περισσότερους εργαζόμενους απο ποτέ, απλά θέλουν να απαλλαγούν απο την υποχρέωση να τους πληρώνουν: θέλουν δισεκατομμύρια χρήστες να παράγουν δωρεάν περιεχόμενο προσδίδοντας αξία στις πλατφόρμες τους, να γίνονται πειραματόζωα για τα προιόντα τους και εν τέλει να τα καταναλώνουν.
Η μεγάλη αλλαγή στο ρόλο του ανθρώπου στο Νέο Παράδειγμα δεν έγκειται οπότε σε κάποια αντικειμενική αχρηστευσή του λόγω αντικατάστασης απο την ΤΝ. Ενώ παραδοσιακά ο ρόλος του πολίτη στον καπιταλισμό ήταν αυτός του εργάτη-καταναλωτή, κάτι που τουλάχιστον άφηνε κάποια περιθώρια για καλύτερη διαπραγμάτευση της τιμής της εργατικής του δύναμης, πλέον αυτός ο ρόλος μετασχηματίζεται σε αυτόν του χρήστη. Και όπως κάθε χρήστης εξαρτάται απο το ντήλερ του, έτσι και οι άνθρωποι, σύμφωνα με το παραληρηματικά οράματα των θινκ τάνκερς του καπιταλισμού, θα εξαρτώνται απο το κράτος και τις εταιρείες για την επιβιωσή τους, μέσω επιδομάτων και θα χρησιμεύουν περιστασιακά ως εφεδρικό εργατικό δυναμικό. Το κυρίαρχο καθήκον τους θα είναι η παραγωγή υπεραξίας μέσω της χρήσης διαφόρων τεταρτοβιομηχανικών υπηρεσιών. Η Τ.Ν. δεν είναι το αίτιο αλλά το μέσο για την επίτευξη αυτού του σκοπού: είναι απαραίτητη για τον διαρκή έλεγχο και την πειθάρχηση του πληθυσμού, καθώς και για την υλοποίηση της ψηφιοποίησης των πάντων. Αυτό που υπονοείται άλλωστε και απο τον όρο στα αγγλικά, Artificial Intelligence, είναι η έτερη ερμηνεία του όρου intelligence: αυτός του ελέγχου της πληροφορίας με τον τρόπο που αυτός πχ εκφράζεται στη Central Intelligence Αgency, πιο γνωστή ως cia.
Το ό,τι αυτό που προπαγανδίζεται ως Τ.Ν. δε μπορεί να αντικαταστήσει τον άνθρωπο -παρά μόνο σε τυποποιημένες διεργασίες, αλλά εκεί ούτως ή άλλως κυριαρχούσαν οι αλγόριθμοι- δε σημαίνει ωστόσο πως δεν είναι όντως απειλή και μάλιστα υπαρξιακή, για την ανθρωπότητα. Και η απειλή της αυτή έγκειται ακριβώς στην χαμηλή της νοημοσύνη.
Αν η τρίτη βιομηχανική επανάσταση χαρακτηριζόταν απο αυτό που ο γκύντερς άντερς, χρόνια πριν, διατύπωσε πάνω-κάτω ως “ό,τι μπορεί να γίνει, θα γίνει”[7], στην τέταρτη τα πράγματα είναι ακόμη πιο απελπιστικά: πλέον “ό,τι είναι τεχνολογικά εφικτό, θα γίνει με τον έναν ή τον άλλο τρόπο υποχρεωτικό”. Και επειδή έχουμε να κάνουμε με ψυχοπαθείς ναρκισσιστές που θέλουν το καλό μας και όχι με τίποτε στυγνούς δικτάτορες, για την ακρίβεια : “ό,τι είναι τεχνολογικά εφικτό, θα γίνει με τον ένα ή τον άλλο τρόπο υποχρεωτικό να το επιθυμήσεις”.[8] Η κατάληψη της ανθρώπινης καθημερινότητας και κυρίως, της κοινωνικότητας, απο ένα τσούρμο, χειριστικών, απαιτητικών, σπασαρχίδικων και παντελώς ηλίθιων αλγορίθμων, σε ένα βαθμό επιθυμήθηκε, αλλά σε έναν άλλο επιβλήθηκε. Το να μην έχεις τηλεόραση το ΄70 δε σήμαινε ούτε πως δε θα μπορείς να νοικιάσεις ένα σπίτι, ούτε πως θα έχεις πρόβλημα να βρεις δουλειά∙ το να μην έχεις έξυπνο κινητό και φέησμπουκ, πλέον στις δυτικές τουλάχιστον χώρες,σημαίνει ακριβώς αυτό – και πολλά άλλα εξίσου δυσάρεστα.
Και αν η διαρκής φλυαρία των έξυπνων κινητών, έχει ήδη παρασύρει την ανθρωπότητα σε ένα στρόβιλο ασημαντότητας και αποβλάκωσης, η εισβολή της τεχνητής νοημοσύνης σε όλο το εύρος της ζωής, δε μπορεί παρά να την οδηγήσει σε ένα απέραντο βάλτο όπου βρέχει αποβλάκωση και απελπισία. Για το κάθε τι στη ζωή σου, απο το να ανοίξεις το πρωί το έξυπνο ψυγείο σου, μέχρι το να προσπαθήσεις να τακτοποιήσεις το φορολογικό σου μπάχαλο και απο το να χρειαστείς μια ιατρική βοήθεια, μέχρι να αναζητήσεις μια είδηση ή πληροφορία, θα χρειάζεται να συνδιαλλαγείς με μια τεχνητή χαμηλή νοημοσύνη.
Ο άνθρωπος είναι σχετικά ευπροσάρμοστο ζώο. Έχει δε, μια μοναδική ικανότητα να αλλάζει το περιβάλλον του και να αλλάζει απο αυτό. Η ζωή σε ένα περιβάλλον ασταμάτητης φλυαρίας, απόσπασης προσοχής και μονολιθικής, μηχανικής σκέψης, τον οδηγεί αναπόφευκτα σε μια μηχανική, κατακερματισμένη, ρηχή αντιληπτική ικανότητα [9].
Η εκστρατεία των τελευταίων ετών για την ψηφιοποίηση των πάντων δεν έχει σκοπό τη βελτίωση των ανθρώπινων συνθηκών, ούτε την εκπλήρωση κάποιας μετανθρωπικής δοξασίας, τύπου, Άνθρωπος 2.0. Αντιθέτως, ο σύγχρονος άνθρωπος καλείται όχι να αναβαθμιστεί , αλλά να υποβαθμιστεί ώστε να μπορέσει να φτάσει το επίπεδο των μηχανών. Και έτσι να είναι προβλέψιμος, ελεγχόμενος και υπάκουος. Το ιδανικό δηλαδή υποκείμενο για κάθε ολοκληρωτικό καθεστώς.
Η κάθε εισβολή της μηχανής στην ανθρώπινη ζωή κουβαλά μαζί της νέα παραδείγματα – η αντίληψη που έχουμε για το σώμα μας, την υγεία μας, τη σκέψη μας και την ίδια τη ζωή αντικατοπτρίζει σε ένα μεγάλο βαθμό τους περιορισμούς και τις δυνατότητες των μηχανών. Καθώς σήμερα καλούμαστε όχι απλά να συνυπάρξουμε, αλλά να συνδιαλλαγούμε σε καθημερινό επίπεδο με τη μηχανή και την μονολιθική της “σκέψη” και να ευθυγραμμιστούμε με αυτή, αυτή η διαδικασία εκ-μηχανοποίησης του ανθρώπινου φτάνει στο απόγειό της. Με μια προκρούστεια διαδικασία, ό,τι δε μπορεί να επεξεργαστεί η μηχανή, εξοστρακίζεται ή απαγορεύεται. Και αυτό που απομένει είναι μια προσομοίωση του μηχανικού με βιολογικό περιτύλιγμα∙ καταδικασμένο εκ των πραγμάτων να ωχριά σε κάθε σύγκριση με το αυθεντικά μηχανικό.
Ο σύγχρονος άνθρωπος καλείται να αντιμετωπίσει την ίδια του την ανθρωπινότητα ως πρόβλημα: η αμφισημία και αντίφαση της ανθρώπινης ψυχοσύνθεσης θεωρείται ατέλεια συγκρινόμενη με την άσπιλη αποφασιστικότητα της μηχανής∙ η πολυπλοκότητα του βασικού του εργαλείου συνδιαλλαγής με το Άλλο, του ανοσοποιητικού του δηλαδή συστήματος, λογίζεται ως αδυναμία και επιβάλλεται να καταστραφεί για να αντικατασταθεί απο ορθολογικές βιοτεχνολογικές λύσεις-για-προβλήματα. Ο ίδιος ο κόσμος περιγράφεται ως ένα σύνολο απειλών και προβλημάτων, που επιδέχονται τεχνικές λύσεις. Και έτσι ο άνθρωπος, δυο αιώνες μετά το sabot των γαλλίδων εργατριών και του ned ludd, καταλήγει να θαυμάζει τη μηχανή και την αποτελεσματικοτητά της. Εμπιστεύεται πιο πολύ το gps απο τις οδηγίες ενός τυχαίου περαστικού και εξαρτάται απο το google και τη wikipedia για να εκτιμήσει μια προσωπική μαρτυρία. Προστρέχει στο κινητό του πολύ συχνότερα απ΄ό,τι ο πιο φανατικός πιστός σχηματίζει το σύμβολο της πίστης του ή επικαλείται το θεό του.
Πρόκειται για ένα θρίαμβο του τεχνικού πολιτισμού. Ο κόσμος ολόκληρος γίνεται πλεόν αντιληπτός ως μια μηχανή, τα ξεχωριστά τμήματα της οποίας μπορούν να επισκευαστούν ή να αντικατασταθούν απο άλλα, χωρίς να περιορίζεται η απρόσκοπτη λειτουργία της. Η μηχανή δε μπορεί να διστάσει ή να αμφιβάλλει – στερείται τη δυνατότητα αναστοχασμού. Και αυτό ακριβώς την καθιστά ανίκητη. Δεν υπάρχει καμία αμφιβολία πως τα αυτόνομα οπλικά συστήματα θανάτου, που απο τις αρχές του 2023 επιτρέπονται να χρησιμοποιούνται απο την αστυνομία της καλλιφόρνια σε “έκτακτες καταστάσεις”, θα είναι πιο αποτελεσματικά στην επίτευξη του ολέθρου ακόμα και απο τις μονάδες swat ή τους πράκτορες του fbi σε μια επιχείρηση καταστολής κάποιας σέκτας. Και εδώ ακριβώς έγκειται η υπαρξιακή απειλή.
Ένας κόσμος όπου Τ.Ν. συνεδεμένες με κάμερες μειώνουν κατά 20% το μηνιαίο επιδομά σου επειδή πέταξες μη-ανακυκλώσιμα στον κάδο ανακύκλωσης. Όπου σύμφωνα με την ανάλυση του προφίλ και του στάτους σου, δε σου επιτρέπεται να χρησιμοποιήσεις το ψηφιακό νόμισμα του επιδοματός σου για αλκοόλ, τσιγάρα ή γκουρμέ προιόντα. Όπου το αυτόνομο, έξυπνο αυτοκινητό σου δε φτάνει που σε καρφώνει αδιάκοπα στις αρχές, αρνείται να διανύσει τα 20 χιλιόμετρα που σε χωρίζουν απο το σπίτι της κολλητής σου που είναι άρρωστη, επειδή έχεις υπερβεί τα μηνιαία χιλιόμετρα που δικαιούσαι βάσει του ανθρακικού σου αποτυπώματος. Όπου όλη η ζωή σου καθορίζεται, ακόμα και στις πιο μικρές της λεπτομέρειες απο αποφάσεις που λαμβάνονται απο παντελώς α-νόητα αυτόματα, οι οποίες ενίοτε έχουν και τη μορφή ενός ντρον με την εμφάνιση του οποίου αμφότεροι οι εμπλεκόμενοι στον οικιακό καυγά σας αφήνετε γρήγορα στην άκρη ζήλιες, απειλές και αλληλοκατηγορίες εξωσυζυγικών περιπετειών, καταλαβαίνοντας πως τα παρακάνατε πουτάνα και ήρθε για να σας σκοτώσει.
Ένας κόσμος χωρίς δικαίωμα έφεσης, μια ιερά εξέταση με στεροειδή. Αλλά πάνω απ΄ολα αντικειμενικός, ορθολογικός και αποτελεσματικός. Άτεγκτος και άσπιλος. Το υγρό όνειρο του κάθε ιεροεξεταστή. Η κόλαση επί της γης.
[1] Δεν έχω ασχοληθεί με το bing της microsoft και δεν ξέρω αν στηρίζεται στην ίδια τεχνολογία.
[2] Και επειδή τα κείμενα που προκύπτουν απο την αυστηρή υπακοή στον κανόνα του πιο πιθανού είναι υπερβολικά ανούσια, εφαρμόζεται μια τυχαιοποίηση στην επιλογή: ενίοτε επιλέγονται λιγότερο πιθανές συλλαβές και αυτό, άγνωστο γιατί, καταφέρνει κάπως πιο υποφερτά αποτελέσματα.
[3] Έχει ήδη δημιουργηθεί ένας νέος εργασιακός κλάδος που έχει να κάνει με την παραγωγή των κατάλληλων ερωτημάτων (prompt) στα μοντέλα gpt.
[4] Και κρύβουν συνήθως ένα κάπως ανατριχιαστικό bug: οι άνθρωποι, στις ρεαλιστικές απεικονίσεις των διαφόρων μοντέλων gpt, τείνουν να έχουν 8 δάχτυλα σε κάθε παλάμη και παραπάνω δόντια απο το φυσιολογικό στο στόμα τους. Είναι άγνωστο το που οφείλεται το συγκεκριμένο bug, το οποίο ξεπερνιέται με την βελτίωση των prompts του χρήστη στο gpt. Το βέβαιο είναι πως προσφέρει ένα έξοχο πεδίο για σενάρια ιστοριών τρόμου (και ξαφνικά, στο πρώτο φως του ήλιου παρατηρείς πως τη μεθυσμένη ερωτική περιπέτεια της χθεσινής βραδυάς το χέρι που χαιδεύει το στήθος σου έχει 8 δάχτυλα).
[5] Όπως έχω επαναλάβει στο χώρο αυτών των ημερολογίων: “τρελός δεν είναι αυτός που έχει χάσει τα λογικά του, αλλά αυτός που έχει χάσει τα πάντα, πέρα απο τα λογικά του”.
[6] Θα αφήσω στην άκρη το ερώτημα του αν μπορούν οι μηχανές να παράξουν αξία – προσωπικά δεν έχω σαφή απάντηση.
[7] Έχοντας προ καιρού παραιτηθεί απο κάθε φιλοδοξία αρχειοθέτησης ή ονειρώξεων ενός ηλιόλουστου γραφείου περιτριγυρισμένου απο άκρη εις άκρη με βιβλιοθήκες και έχοντας αρκούντως σιχαθεί την προσφυγή στο google για την πρόσδωση κύρους στα γραπτά μέσω παράθεσης πηγών, οι αναφορές μου, πλην ίσως επιστημονικών ερευνών, τείνουν να είναι απο μνήμης. Με όλες τις ασάφειες και ανακρίβειες αυτής της μεθόδου.
[8] Για πολλοστή φορά: δε θέλουν να πλύνεις τα πιάτα, θέλουν να θέλεις να πλύνεις τα πιάτα.
[9] Έχει κάποιο ενδιαφέρον πως στον διαδικτυακό διάλογο με αφορμή τη δημοσίευση ενός κειμένου των εμμονικών υπερασπιστών του νέπου παραδείγματος, Αντίθεση, στο indymedia, κάποιος χρήστης επιστρατεύει το chatgpt (ή κάποια άλλη T.N. gpt) για να υπερασπιστεί την τυφλή υπακοή στα κράτη και τις εταιρείες. Κάτι που καταδεικνύει δυο εξίσου απελπιστικά γεγονότα: αφενός οι παραγόμενες gpt μπουρδολογίες, διαπίστωνε κανείς με φρίκη πως εδώ που τα λέμε είναι εξαιρετικά παρόμοιες με τον εκφερόμενο λόγο των υπερασπιστών της επιστήμης και του ορθολογισμού και αφετέρου η ίδια η ομάδα λογοκρισίας του indymedia, άνθρωποι δηλαδή που εκ των πραγμάτων έχουν κάποια σχέση με την τεχνολογία, δε μπορούσε να διακρίνει το ξεκάθαρο ρομποτικό σπαμάρισμα.
