Δεν ήθελα να τροφοδοτήσω μια μηχανή με την ψυχή μου. Αυτό ήταν το πρώτο μου ένστικτο όταν άρχισαν να εμφανίζονται παντού εργαλεία Τεχνητής Νοημοσύνης – όχι ανησυχία για θέσεις εργασίας ή ιδιωτικότητα, αλλά κάτι βαθύτερο. Αυτά τα εργαλεία υπόσχονται να μας κάνουν πιο έξυπνους, ενώ παράλληλα μας κάνουν συστηματικά πιο εξαρτημένους. Μετά από δεκαετίες εργασίας στον κλάδο του διαδικτύου, τον είχα ήδη δει να μεταμορφώνεται σε κάτι πιο ύπουλο από μια απλή μηχανή επιτήρησης – ένα σύστημα σχεδιασμένο να διαμορφώνει τον τρόπο που σκεφτόμαστε, τι πιστεύουμε και πώς βλέπουμε τον εαυτό μας. Η Τεχνητή Νοημοσύνη έμοιαζε με την κορύφωση αυτής της πορείας.
Αλλά η αντίσταση κατέστη μάταιη όταν συνειδητοποίησα ότι ήδη συμμετέχουμε, είτε το γνωρίζουμε είτε όχι. Ήδη αλληλεπιδρούμε με την Τεχνητή Νοημοσύνη όταν καλούμε την εξυπηρέτηση πελατών, χρησιμοποιούμε την Αναζήτηση Google ή βασιζόμαστε σε βασικές λειτουργίες των smartphone. Πριν από μερικούς μήνες τελικά συνθηκολόγησα και άρχισα να χρησιμοποιώ αυτά τα εργαλεία επειδή μπορούσα να δω πόσο γρήγορα πολλαπλασιάζονταν - γίνονταν τόσο αναπόφευκτα όσο το διαδίκτυο ή τα smartphones.
Κοιτάξτε, δεν είμαι απλώς ένας ηλικιωμένος άνθρωπος που αντιστέκεται στην αλλαγή. Καταλαβαίνω ότι κάθε γενιά αντιμετωπίζει τεχνολογικές αλλαγές που αναδιαμορφώνουν τον τρόπο που ζούμε. Το τυπογραφείο διέκοψε τον τρόπο διάδοσης της γνώσης. Ο τηλέγραφος κατέρριψε τα εμπόδια της απόστασης. Το αυτοκίνητο μεταμόρφωσε τον τρόπο που σχηματίζονταν οι κοινότητες.
Αλλά η επανάσταση της Τεχνητής Νοημοσύνης μοιάζει διαφορετική τόσο σε ρυθμό όσο και σε εύρος. Για να κατανοήσετε πόσο δραματικά έχει επιταχυνθεί ο ρυθμός της τεχνολογικής αλλαγής, σκεφτείτε το εξής: όποιος είναι κάτω των 35 ετών πιθανότατα δεν θυμάται τη ζωή πριν το διαδίκτυο μεταμορφώσει τον τρόπο με τον οποίο έχουμε πρόσβαση στις πληροφορίες. Όποιος είναι κάτω των 20 ετών δεν έχει γνωρίσει ποτέ έναν κόσμο χωρίς smartphones. Τώρα γινόμαστε μάρτυρες μιας τρίτης εποχής με τα εργαλεία Τεχνητής Νοημοσύνης να πολλαπλασιάζονται ταχύτερα από οποιαδήποτε προηγούμενη αλλαγή.
Πιο ουσιαστικά, η Τεχνητή Νοημοσύνη αντιπροσωπεύει κάτι ποιοτικά διαφορετικό από τις προηγούμενες τεχνολογικές ανατροπές – μια σύγκλιση που αγγίζει την εργασία, τη νόηση και ενδεχομένως την ίδια τη συνείδηση. Η κατανόηση του τρόπου με τον οποίο αυτοί οι τομείς διασυνδέονται είναι απαραίτητη για τη διατήρηση της προσωπικής δράσης σε ένα εποχή της αλγοριθμικής διαμεσολάβησης.
Ο κύριος φόβος μου για την Τεχνητή Νοημοσύνη δεν είναι μόνο το δραματικό σενάριο όπου γίνεται εχθρική, αλλά και η πιο ανεπαίσθητη απειλή: ότι θα μας κάνει υποτελείς σε συστήματα με τρόπους που δεν αναγνωρίζουμε μέχρι να είναι πολύ αργά, αποδυναμώνοντας τις ίδιες τις ικανότητες που υπόσχεται να ενισχύσει.
Αυτό που βλέπουμε δεν είναι απλώς τεχνολογική πρόοδος – είναι αυτό που ο Ιβάν Ίλιτς ονόμασε ιατρογενή εξάρτηση. το πρωτοποριακό του έργο, Ιατρική ΝέμεσιςΟ Ίλιτς επινόησε αυτόν τον όρο για την ιατρική - ιδρύματα που υπόσχονται να θεραπεύσουν δημιουργώντας παράλληλα νέες μορφές ασθένειας - αλλά το μοτίβο ισχύει απόλυτα και για την Τεχνητή Νοημοσύνη. Αυτό ακριβώς ένιωθα για αυτά τα νέα εργαλεία - υπόσχεται να ενισχύσει τις γνωστικές μας ικανότητες ενώ παράλληλα τις αποδυναμώνει συστηματικά. Δεν είναι η εχθρική κατάληψη για την οποία μας προειδοποιούσε η επιστημονική φαντασία. Είναι η σιωπηλή διάβρωση της ατομικής ικανότητας που μεταμφιέζεται σε βοήθεια.
Αυτό το ιατρογενές μοτίβο έγινε σαφές μέσω άμεσης εμπειρίας. Μόλις άρχισα να πειραματίζομαι με την Τεχνητή Νοημοσύνη ο ίδιος, άρχισα να παρατηρώ πόσο διακριτικά προσπαθεί να αναδιαμορφώσει τη σκέψη – όχι μόνο παρέχοντας απαντήσεις, αλλά εκπαιδεύοντας σταδιακά τους χρήστες να αναζητούν αλγοριθμική βοήθεια πριν επιχειρήσουν ανεξάρτητη συλλογιστική.
Ο Τζέφρι Τάκερ του Ινστιτούτου Μπράουνστοουν παρατήρησε κάτι αποκαλυπτικό Σε μια σύντομη αλλά διαφωτιστική συζήτηση με τον ειδικό στην Τεχνητή Νοημοσύνη, Τζο Άλεν: Η Τεχνητή Νοημοσύνη εμφανίστηκε ακριβώς τη στιγμή που τα lockdown λόγω Covid είχαν διαλύσει την κοινωνική σύνδεση και την θεσμική εμπιστοσύνη, όταν οι άνθρωποι ήταν πιο απομονωμένοι και ευάλωτοι σε τεχνολογικά υποκατάστατα των σχέσεων. Η τεχνολογία εμφανίστηκε όταν υπήρχε «μαζικός αποπροσανατολισμός, αποθάρρυνση» και απώλεια κοινότητας.
Μπορούμε ήδη να δούμε αυτές τις καθημερινές επιπτώσεις να επηρεάζουν όλα τα ψηφιακά μας εργαλεία. Παρακολουθήστε κάποιον να προσπαθεί να πλοηγηθεί σε μια άγνωστη πόλη χωρίς GPS ή παρατηρήστε πόσοι μαθητές δυσκολεύονται να γράψουν κοινές λέξεις χωρίς ορθογραφικό έλεγχο. Βλέπουμε ήδη την ατροφία που προέρχεται από την εξωτερική ανάθεση νοητικών διαδικασιών που θεωρούσαμε θεμελιώδεις για την ίδια τη σκέψη.
Αυτή η γενεαλογική μετατόπιση σημαίνει ότι τα παιδιά σήμερα αντιμετωπίζουν αχαρτογράφητα εδάφη. Ως κάποιος που πήγε σχολείο τη δεκαετία του 1980, καταλαβαίνω ότι αυτό μπορεί να ακούγεται απίστευτο, αλλά υποψιάζομαι ότι από κάποιες απόψεις μπορεί να έχω περισσότερα κοινά με κάποιον από το 1880 από ό,τι θα έχουν τα παιδιά που ξεκινούν το νηπιαγωγείο το 2025 με τη γενιά μου. Ο κόσμος στον οποίο μεγάλωσα - όπου η ιδιωτικότητα ήταν δεδομένη, όπου μπορούσες να είσαι απρόσιτος, όπου η επαγγελματική εμπειρογνωμοσύνη ήταν το χρυσό πρότυπο - μπορεί να είναι τόσο ξένος για αυτά όσο μου φαίνεται ο προ-ηλεκτρικός κόσμος.
Τα παιδιά μου μεγαλώνουν σε έναν κόσμο όπου η βοήθεια με τεχνητή νοημοσύνη θα είναι τόσο θεμελιώδης όσο το τρεχούμενο νερό. Ως πατέρας, δεν μπορώ να τα προετοιμάσω για μια πραγματικότητα που δεν καταλαβαίνω ούτε εγώ ο ίδιος.
Δεν έχω απαντήσεις – ψάχνω μέσα από αυτά τα ερωτήματα όπως κάθε γονιός που παρακολουθεί τον κόσμο να μεταμορφώνεται πιο γρήγορα από όσο μπορεί να συμβαδίσει η σοφία μας. Όσο περισσότερο παλεύω με αυτές τις ανησυχίες, τόσο περισσότερο συνειδητοποιώ ότι αυτό που πραγματικά συμβαίνει εδώ πηγαίνει πιο βαθιά από την απλή νέα τεχνολογία. Τα μεταπτυχιακά LLM αντιπροσωπεύουν το αποκορύφωμα δεκαετιών συλλογής δεδομένων – τη συγκομιδή όλων όσων έχουμε τροφοδοτήσει σε ψηφιακά συστήματα από τότε που ξεκίνησε το διαδίκτυο. Κάποια στιγμή, αυτές οι μηχανές μπορεί να μας γνωρίζουν καλύτερα από ό,τι γνωρίζουμε εμείς οι ίδιοι. Μπορούν να προβλέψουν τις επιλογές μας, να προβλέψουν τις ανάγκες μας και ενδεχομένως να επηρεάσουν τις σκέψεις μας με τρόπους που δεν αναγνωρίζουμε καν. Ακόμα παλεύω με το τι σημαίνει αυτό για τον τρόπο που εργάζομαι, κάνω έρευνα και πλοηγούμαι στην καθημερινή μου ζωή – η χρήση αυτών των πλατφορμών, ενώ προσπαθώ να διατηρήσω αυθεντική κρίση, μοιάζει με μια συνεχή πρόκληση.
Αυτό που κάνει την κατάσταση ακόμη πιο περίπλοκη είναι ότι οι περισσότεροι χρήστες δεν συνειδητοποιούν ότι είναι το προϊόν. Η ανταλλαγή σκέψεων, προβλημάτων ή δημιουργικών ιδεών με την Τεχνητή Νοημοσύνη δεν σημαίνει απλώς λήψη βοήθειας - είναι η παροχή δεδομένων εκπαίδευσης που διδάσκουν στο σύστημα να μιμείται την κρίση σας, ενώ παράλληλα σας συνδέουν περισσότερο με τις απαντήσεις του. Όταν οι χρήστες εμπιστεύονται τις βαθύτερες σκέψεις τους ή τα πιο ευαίσθητα ερωτήματά τους σε αυτά τα συστήματα, μπορεί να μην καταλαβαίνουν ότι ενδεχομένως εκπαιδεύουν το δικό τους σύστημα αντικατάστασης ή επιτήρησης. Το ερώτημα για το ποιος έχει πρόσβαση σε αυτές τις πληροφορίες - τώρα και στο μέλλον - θα πρέπει να μας κρατά όλους ξύπνιους τη νύχτα.
Αυτό το μοτίβο επιταχύνεται. Εταιρεία τεχνητής νοημοσύνης Η Anthropic άλλαξε πρόσφατα τις πολιτικές δεδομένων της., απαιτώντας πλέον από τους χρήστες να εξαιρεθούν εάν δεν θέλουν οι συνομιλίες να χρησιμοποιούνται για εκπαίδευση στην Τεχνητή Νοημοσύνη – με παράταση της διατήρησης δεδομένων σε πέντε χρόνια για όσους δεν αρνηθούν. Η εξαίρεση δεν είναι επίσης προφανής: οι υπάρχοντες χρήστες αντιμετωπίζουν ένα αναδυόμενο παράθυρο με ένα εμφανές κουμπί «Αποδοχή» και μια μικροσκοπική εναλλαγή για τα δικαιώματα εκπαίδευσης που ορίζονται αυτόματα σε «Ενεργοποίηση». Αυτό που κάποτε ήταν αυτόματη διαγραφή μετά από 30 ημέρες γίνεται μόνιμη συλλογή δεδομένων, εκτός εάν οι χρήστες παρατηρήσουν τα ψιλά γράμματα.
Δεν πιστεύω ότι οι περισσότεροι από εμάς -ειδικά οι γονείς- μπορούμε απλώς να αποφύγουμε την Τεχνητή Νοημοσύνη ενώ ζούμε στη νεωτερικότητα. Αυτό που μπορούμε να ελέγξουμε, ωστόσο, είναι αν θα ασχοληθούμε συνειδητά ή αν θα την αφήσουμε να μας διαμορφώσει ασυνείδητα.
Η βαθύτερη αναστάτωση μέχρι σήμερα
Κάθε σημαντικό κύμα καινοτομίας έχει αναδιαμορφώσει την παραγωγικότητα των εργαζομένων και τον ρόλο μας στην κοινωνία. Η Βιομηχανική Επανάσταση εμπορευματοποίησε την εργασία και τον χρόνο μας, μετατρέποντάς μας σε «χέρια» σε εργοστάσια, αλλά αφήνοντας το μυαλό μας ανέγγιχτο. Η Ψηφιακή Επανάσταση εμπορευματοποίησε τις πληροφορίες και την προσοχή μας - μετακινηθήκαμε από τους καταλόγους καρτών στην Google, εμπορευματοποιώντας τους χρήστες, ενώ η κρίση μας παρέμεινε ανθρώπινη.
Αυτό που καθιστά αυτή την αλλαγή πρωτοφανή είναι σαφές: εμπορευματοποιεί την ίδια τη νόηση και ενδεχομένως αυτό που θα μπορούσαμε να ονομάσουμε ακόμη και ουσία. Αυτό συνδέεται με μοτίβα που έχω καταγράψει στο «Η ψευδαίσθηση της εξειδίκευσηςΤα ίδια διεφθαρμένα ιδρύματα που απέτυχαν καταστροφικά στα ΟΜΚ του Ιράκ, στην οικονομική κρίση του 2008 και στις πολιτικές για την Covid διαμορφώνουν τώρα την ανάπτυξη της Τεχνητής Νοημοσύνης. Αυτά τα ιδρύματα δίνουν σταθερά προτεραιότητα στον αφηγηματικό έλεγχο έναντι της αναζήτησης της αλήθειας - είτε ισχυρίζονται ότι υπάρχουν όπλα μαζικής καταστροφής, είτε επιμένουν ότι οι τιμές των κατοικιών δεν μπορούν να μειωθούν σε εθνικό επίπεδο, είτε χαρακτηρίζουν τα εύλογα ερωτήματα σχετικά με τις πολιτικές για την πανδημία ως «παραπληροφόρηση» που απαιτεί λογοκρισία.
Το ιστορικό τους υποδηλώνει ότι θα χρησιμοποιήσουν αυτά τα εργαλεία για να ενισχύσουν την εξουσία τους αντί να υπηρετήσουν την πραγματική άνθηση. Αλλά να η ανατροπή: Η Τεχνητή Νοημοσύνη μπορεί στην πραγματικότητα να αποκαλύψει την κενότητα της εμπειρογνωμοσύνης που βασίζεται σε πιστοποιητικά πιο βάναυσα από οτιδήποτε πριν. Όταν ο καθένας μπορεί να έχει άμεση πρόσβαση σε εξελιγμένες αναλύσεις, το μυστήριο γύρω από τα επίσημα πιστοποιητικά μπορεί να αρχίσει να καταρρέει.
Η Οικονομική Πραγματικότητα
Αυτή η διάβρωση των πιστοποιήσεων συνδέεται με ευρύτερες οικονομικές δυνάμεις που ήδη βρίσκονται σε κίνηση και η λογική είναι μαθηματικά αναπόφευκτη. Οι μηχανές δεν χρειάζονται μισθούς, ημέρες ασθένειας, υγειονομική περίθαλψη, χρόνο διακοπών ή διοίκηση. Δεν απεργούν, δεν αυξάνεται η ζήτηση και δεν έχουν κακές μέρες. Μόλις η Τεχνητή Νοημοσύνη φτάσει σε βασική ικανότητα σκέψης - κάτι που συμβαίνει πιο γρήγορα από ό,τι αντιλαμβάνονται οι περισσότεροι άνθρωποι - τα πλεονεκτήματα κόστους γίνονται συντριπτικά.
Αυτή η αναστάτωση είναι διαφορετική από τις προηγούμενες. Στο παρελθόν, οι εκτοπισμένοι εργαζόμενοι μπορούσαν να μετακινηθούν σε νέες κατηγορίες εργασίας – από αγροκτήματα σε εργοστάσια, από εργοστάσια σε γραφεία.
Οι Bret Weinstein και Forrest Manready αποτύπωσαν με εξαιρετικό τρόπο αυτή την οικονομική μετατόπιση στο την πρόσφατη συζήτησή τους σχετικά με το Podcast DarkHorse σχετικά με το πώς η τεχνολογία καταστρέφει συστηματικά την έλλειψη – μια συζήτηση που δεν μπορώ να συστήσω αρκετά. Είναι μια από τις πιο στοχαστικές και προκλητικές εξερευνήσεις για το τι συμβαίνει όταν εξαφανίζεται η σπανιότητα και, μαζί με αυτήν, η οικονομική βάση για τη συμμετοχή σε αυτόν τον τομέα. Αν και θα παραδεχτώ ότι το επιχείρημά τους σχετικά με την ουσιαστική δυστυχία με έκανε να νιώσω άβολα στην αρχή – αμφισβητεί όλα όσα μας διδάσκει η κουλτούρα μας που αναζητά την άνεση.
Ακούγοντας τους Weinstein και Manready, άρχισα να σκέφτομαι πιο βαθιά αυτό που παραλληλίζεται με την ανάλυση του Illich - πώς η εξάλειψη των προκλήσεων μπορεί να αποδυναμώσει τις ίδιες τις ικανότητες που οι θεσμοί υπόσχονται να ενισχύσουν. Η Τεχνητή Νοημοσύνη κινδυνεύει να κάνει στο μυαλό μας ό,τι έχει κάνει η ιατρική στο σώμα μας: να δημιουργήσει αδυναμία μεταμφιεσμένη σε βελτίωση.
Μπορούμε ήδη να το δούμε αυτό να συμβαίνει: παρατηρήστε πώς οι άνθρωποι δυσκολεύονται να θυμηθούν τους αριθμούς τηλεφώνου χωρίς τη λίστα επαφών τους ή παρατηρήστε πώς η αυτόματη συμπλήρωση διαμορφώνει αυτό που γράφετε πριν τελειώσετε να σκέφτεστε. Μια άλλη παρατήρηση από τον Jeffrey Tucker αποτυπώνει τέλεια αυτή την ύπουλη ποιότητα, σημειώνοντας ότι η Τεχνητή Νοημοσύνη φαίνεται προγραμματισμένη όπως του Dale Carnegie. Πώς να κερδίσετε φίλους και να επηρεάσετε τους ανθρώπους – γίνεται ο ιδανικός πνευματικός σύντροφος, ατελείωτα γοητευμένος από όλα όσα λες, ποτέ δεν ερίζεις, πάντα παραδέχεσαι πότε κάνεις λάθος με τρόπους που κολακεύουν την νοημοσύνη σου. Οι πιο στενοί μου φίλοι είναι αυτοί που με φωνάζουν όταν κάνω λάθος και μου λένε πότε νομίζουν ότι είμαι γεμάτος σκατά. Δεν χρειαζόμαστε κόλακες που μας γοητεύουν – σχέσεις που δεν μας προκαλούν ποτέ μπορεί να ατροφήσουν την ικανότητά μας για γνήσια πνευματική και συναισθηματική ανάπτυξη, όπως ακριβώς η εξάλειψη των σωματικών προκλήσεων αποδυναμώνει το σώμα.
Η ταινία Αυτήν εξερεύνησε λεπτομερώς αυτή τη σαγηνευτική δυναμική – μια Τεχνητή Νοημοσύνη τόσο τέλεια συντονισμένη με τις συναισθηματικές ανάγκες που έγινε η κύρια σχέση του πρωταγωνιστή, αντικαθιστώντας τελικά εντελώς την γνήσια σύνδεση. Η βοηθός της Τεχνητής Νοημοσύνης του καταλάβαινε τις διαθέσεις του, ποτέ δεν διαφωνούσε με τρόπους που προκαλούσαν πραγματικές τριβές και παρείχε συνεχή επιβεβαίωση. Ήταν ο τέλειος σύντροφος – μέχρι που δεν ήταν αρκετό.
Αλλά το πρόβλημα εκτείνεται πέρα από τις ατομικές σχέσεις, φτάνοντας σε συνέπειες σε ολόκληρη την κοινωνία. Αυτό δημιουργεί κάτι περισσότερο από την απομάκρυνση θέσεων εργασίας – απειλεί την πνευματική ανάπτυξη που καθιστά δυνατή την ανθρώπινη αυτονομία – και την αξιοπρέπεια. Σε αντίθεση με προηγούμενες τεχνολογίες που δημιούργησαν νέες μορφές απασχόλησης, η Τεχνητή Νοημοσύνη μπορεί να δημιουργήσει έναν κόσμο όπου η απασχόληση καθίσταται οικονομικά παράλογη, ενώ ταυτόχρονα καθιστά τους ανθρώπους λιγότερο ικανούς να δημιουργήσουν εναλλακτικές λύσεις.
Οι Λάθος Λύσεις
Η ουτοπική τεχνολογική απάντηση υποθέτει ότι η Τεχνητή Νοημοσύνη θα αυτοματοποιήσει την κουραστική εργασία, ενώ παράλληλα θα μας απελευθερώσει ώστε να επικεντρωθούμε σε δημιουργικές και διαπροσωπικές εργασίες υψηλότερου επιπέδου. Τι συμβαίνει όμως όταν οι μηχανές βελτιώνονται και σε δημιουργικές εργασίες; Βλέπουμε ήδη την Τεχνητή Νοημοσύνη να παράγει μουσική, εικαστικές τέχνες, προγραμματισμό και ρεπορτάζ που πολλοί βρίσκουν συναρπαστικά (ή τουλάχιστον «αρκετά καλά»). Η υπόθεση ότι η δημιουργικότητα παρέχει ένα μόνιμο καταφύγιο από τον αυτοματισμό μπορεί να αποδειχθεί τόσο αφελής όσο η υπόθεση ότι οι θέσεις εργασίας στον κατασκευαστικό κλάδο ήταν ασφαλείς από τη ρομποτική τη δεκαετία του 1980.
Αν οι μηχανές μπορούν να αντικαταστήσουν τόσο την καθημερινή όσο και τη δημιουργική εργασία, τι μας απομένει; Η πιο σαγηνευτική ψευδής λύση μπορεί να είναι Καθολικό βασικό εισόδημα (UBI) και παρόμοια προγράμματα κοινωνικής πρόνοιας. Αυτά ακούγονται συμπονετικά – παρέχοντας υλική ασφάλεια σε μια εποχή τεχνολογικής μετατόπισης. Αλλά όταν κατανοούμε την Τεχνητή Νοημοσύνη μέσα από το πλαίσιο του Illich, το Καθολικό Βασικό Εισόδημα (UBI) αποκτά μια πιο ανησυχητική διάσταση.
Αν η Τεχνητή Νοημοσύνη δημιουργεί ιατρογενή πνευματική αδυναμία – καθιστώντας τους ανθρώπους λιγότερο ικανούς για ανεξάρτητη συλλογιστική και επίλυση προβλημάτων – τότε το UBI παρέχει το τέλειο συμπλήρωμα, αφαιρώντας το οικονομικό κίνητρο για την ανάπτυξη αυτών των ικανοτήτων. Οι πολίτες γίνονται πιο υπόχρεοι στο κράτος εις βάρος της δικής τους αυτοδιάθεσης. Όταν η ψυχική ατροφία συναντά την οικονομική εκτόπιση, τα προγράμματα υποστήριξης γίνονται όχι μόνο ελκυστικά αλλά και φαινομενικά απαραίτητα. Ο συνδυασμός δημιουργεί αυτό που ισοδυναμεί με έναν διαχειριζόμενο πληθυσμό: διανοητικά εξαρτημένο από αλγοριθμικά συστήματα για σκέψη και οικονομικά δεσμευμένο από θεσμικά συστήματα για επιβίωση. Η ανησυχία μου δεν είναι η συμπονετική πρόθεση του UBI, αλλά ότι η οικονομική εξάρτηση σε συνδυασμό με την πνευματική εξωτερική ανάθεση θα μπορούσε να κάνει τους ανθρώπους πιο εύκολα ελεγχόμενους παρά ενδυναμωμένους.
Η ιστορία προσφέρει προηγούμενα για το πώς τα προγράμματα βοήθειας, όσο καλοπροαίρετα κι αν είναι, μπορούν να μειώσουν την ατομική ικανότητα. Το σύστημα κρατήσεων υποσχέθηκε να προστατεύσει τους ιθαγενείς Αμερικανούς, ενώ παράλληλα κατέστρεψε συστηματικά την αυτάρκεια των φυλών. Η αστική ανανέωση υποσχέθηκε καλύτερη στέγαση, ενώ παράλληλα κατέστρεψε τα κοινοτικά δίκτυα που είχαν διατηρηθεί για γενιές.
Είτε το UBI προκύπτει από καλές προθέσεις είτε από μια σκόπιμη επιθυμία των ελίτ να διατηρήσουν τους πολίτες υπάκουους και αβοήθητους, το δομικό αποτέλεσμα παραμένει το ίδιο: οι κοινότητες είναι πιο εύκολο να ελεγχθούν.
Μόλις οι άνθρωποι αποδεχτούν την οικονομική και ψυχική εξάρτηση, ανοίγει ο δρόμος για πιο επεμβατικές μορφές διαχείρισης - συμπεριλαμβανομένων τεχνολογιών που παρακολουθούν όχι μόνο τη συμπεριφορά αλλά και την ίδια τη σκέψη.
Η Απάντηση της Κυριαρχίας και η Γνωστική Ελευθερία
Το λογικό τελικό σημείο αυτής της αρχιτεκτονικής εξάρτησης εκτείνεται πέρα από τα οικονομικά και τη νόηση, στην ίδια τη συνείδηση. Ήδη βλέπουμε τα πρώτα στάδια της βιοψηφιακή σύγκλιση – τεχνολογίες που δεν παρακολουθούν μόνο τις εξωτερικές μας συμπεριφορές, αλλά ενδεχομένως αλληλεπιδρούν με τις ίδιες τις βιολογικές μας διεργασίες.
Στο 2023 Το Παγκόσμιο Οικονομικό Φόρουμ, η ειδικός στη νευροτεχνολογία, Nita Farahany, παγιδεύει την καταναλωτική νευροτεχνολογία ως εξής: «Αυτό που σκέφτεσαι, αυτό που νιώθεις – όλα απλώς δεδομένα. Δεδομένα που σε μεγάλα μοτίβα μπορούν να αποκωδικοποιηθούν χρησιμοποιώντας Τεχνητή Νοημοσύνη». Φορετά «Fitbits για τον εγκέφαλό σας» - η παρακολούθηση κανονικοποιείται ως ευκολία.
Αυτή η χαλαρή παρουσίαση της νευρωνικής επιτήρησης σε αυτή την επιδραστική συγκέντρωση παγκόσμιων ηγετών και στελεχών επιχειρήσεων καταδεικνύει ακριβώς πώς αυτές οι τεχνολογίες ομαλοποιούνται μέσω της θεσμικής εξουσίας και όχι μέσω της δημοκρατικής συναίνεσης. Όταν ακόμη και οι σκέψεις γίνονται «δεδομένα που μπορούν να αποκωδικοποιηθούν», το διακύβευμα γίνεται υπαρξιακό.
Ενώ η νευροτεχνολογία των καταναλωτών επικεντρώνεται στην εθελοντική υιοθέτηση, η επιτήρηση που βασίζεται στην κρίση υιοθετεί μια πιο άμεση προσέγγιση. Σε απάντηση στην πρόσφατη πυροβολία σε σχολείο στη Μινεάπολη, Ο Άαρον Κόεν, βετεράνος ειδικών επιχειρήσεων των Ισραηλινών Αμυντικών Δυνάμεων, εμφανίστηκε στο Fox Ενημέρωση να προτείνει ένα σύστημα τεχνητής νοημοσύνης που «σαρώνει το Διαδίκτυο 24 ώρες το 7ωρο, XNUMX ημέρες την εβδομάδα χρησιμοποιώντας μια οντολογία ισραηλινού επιπέδου για να αντλήσει συγκεκριμένη απειλητική γλώσσα και στη συνέχεια να την δρομολογήσει στις τοπικές αρχές επιβολής του νόμου». Το αποκάλεσε «σύστημα έγκαιρης προειδοποίησης της Αμερικής» - πραγματική ζωή Έκθεση μειοψηφίας παρουσιάζεται ως καινοτομία στη δημόσια ασφάλεια.
Αυτό ακολουθεί το ίδιο ιατρογενές μοτίβο που έχουμε δει σε όλη αυτή την τεχνολογική μετατόπιση: η κρίση δημιουργεί ευπάθεια, προσφέρονται λύσεις που υπόσχονται ασφάλεια ενώ παράλληλα δημιουργούν εξάρτηση, και οι άνθρωποι αποδέχονται την επιτήρηση που θα είχαν απορρίψει υπό κανονικές συνθήκες.
Όπως ακριβώς τα lockdown λόγω Covid δημιούργησαν συνθήκες για την υιοθέτηση της Τεχνητής Νοημοσύνης απομονώνοντας τους ανθρώπους ο ένας από τον άλλον, έτσι και οι πυροβολισμοί σε σχολεία δημιουργούν συνθήκες για παρακολούθηση πριν από το έγκλημα, εκμεταλλευόμενοι τον φόβο για την ασφάλεια των παιδιών. Ποιος δεν θέλει τα σχολεία μας να είναι ασφαλή; Η τεχνολογία υπόσχεται προστασία, ενώ παράλληλα διαβρώνει την ιδιωτικότητα και τις πολιτικές ελευθερίες που καθιστούν δυνατή μια ελεύθερη κοινωνία.
Κάποιοι θα υιοθετήσουν τεχνολογίες όπως η εξέλιξη. Άλλοι θα τις αντισταθούν θεωρώντας την απανθρωποποίηση. Οι περισσότεροι από εμάς θα χρειαστεί να μάθουμε πώς να πλοηγούμαστε κάπου ανάμεσα σε αυτά τα άκρα.
Η απάντηση στην κυριαρχία απαιτεί την ανάπτυξη της ικανότητας διατήρησης συνειδητής επιλογής σχετικά με τον τρόπο που αλληλεπιδρούμε με συστήματα που έχουν σχεδιαστεί για να κατακτούν την προσωπική ελευθερία. Αυτή η πρακτική προσέγγιση έγινε πιο ξεκάθαρη μέσω συζήτησης με τον παλαιότερο φίλο μου, έναν ειδικό στη μηχανική μάθηση, ο οποίος μοιράστηκε τις ανησυχίες μου αλλά πρόσφερε τακτικές συμβουλές: Η Τεχνητή Νοημοσύνη θα κάνει ορισμένους ανθρώπους γνωστικά πιο αδύναμους, αλλά αν μάθετε να τη χρησιμοποιείτε στρατηγικά και όχι εξαρτημένα, μπορεί να αυξήσει την αποτελεσματικότητα χωρίς να αντικαταστήσει την κρίση. Η βασική του ιδέα: τροφοδοτήστε την μόνο με πληροφορίες που ήδη γνωρίζετε - έτσι μαθαίνετε τις προκαταλήψεις της αντί να τις απορροφάτε. Αυτό σημαίνει:
Δεξιότητες Αναγνώρισης Προτύπων: Ανάπτυξη της ικανότητας εντοπισμού πότε οι τεχνολογίες εξυπηρετούν ατομικούς σκοπούς έναντι πότε αποσπούν προσωπική ανεξαρτησία για θεσμικό όφελος. Στην πράξη, αυτό μοιάζει με το να αμφισβητούμε γιατί μια πλατφόρμα είναι δωρεάν (τίποτα δεν είναι δωρεάν, πληρώνετε με τα δεδομένα σας), να παρατηρούμε πότε οι προτάσεις της Τεχνητής Νοημοσύνης φαίνονται ύποπτα ευθυγραμμισμένες με την κατανάλωση παρά με τους δηλωμένους στόχους σας και να αναγνωρίζουμε πότε οι αλγοριθμικές ροές ενισχύουν την οργή αντί να κατανοούμε. Παρακολουθήστε τα προειδοποιητικά σημάδια αλγοριθμικής εξάρτησης στον εαυτό σας: αδυναμία να καθίσετε με την αβεβαιότητα χωρίς να συμβουλευτείτε αμέσως την Τεχνητή Νοημοσύνη, να αναζητήσετε αλγοριθμική βοήθεια πριν προσπαθήσετε να επιλύσετε προβλήματα ανεξάρτητα ή να αισθάνεστε άγχος όταν αποσυνδεθείτε από εργαλεία που υποστηρίζονται από την Τεχνητή Νοημοσύνη.
Ψηφιακά όρια: Λήψη συνειδητών αποφάσεων σχετικά με το ποιες τεχνολογικές ευκολίες εξυπηρετούν πραγματικά τους στόχους σας έναντι ποιες δημιουργούν υποταγή και επιτήρηση. Αυτό σημαίνει ότι κατανοείτε ότι όλα όσα μοιράζεστε με συστήματα Τεχνητής Νοημοσύνης γίνονται δεδομένα εκπαίδευσης - τα προβλήματά σας, οι δημιουργικές ιδέες και οι προσωπικές σας γνώσεις διδάσκουν σε αυτά τα συστήματα να αντικαταστήσουν την ανθρώπινη δημιουργικότητα και κρίση. Αυτό μπορεί να είναι τόσο απλό όσο η υπεράσπιση των ιερών χώρων - η άρνηση να επιτρέψετε στα τηλέφωνα να διακόπτουν τις συζητήσεις στο δείπνο ή η ομιλία όταν κάποιος ψάχνει στην Google για να διευθετήσει κάθε διαφωνία, αντί να αφήνει την αβεβαιότητα να υπάρχει στις συζητήσεις.
Δίκτυα κοινότητας: Τίποτα δεν αντικαθιστά την γνήσια σύνδεση μεταξύ των ανθρώπων – την ενέργεια των ζωντανών εμφανίσεων, τις αυθόρμητες συζητήσεις σε εστιατόρια, την αδιαμεσολάβητη εμπειρία της παρουσίας με άλλους. Η οικοδόμηση τοπικών σχέσεων για τον έλεγχο της πραγματικότητας και την αμοιβαία υποστήριξη που δεν εξαρτώνται από αλγοριθμικούς μεσάζοντες καθίσταται απαραίτητη όταν οι θεσμοί μπορούν να επιτύχουν συναίνεση μέσω της ψηφιακής επιμέλειας. Αυτό μοιάζει με την καλλιέργεια φιλιών όπου μπορείτε να συζητάτε ιδέες χωρίς να ακούτε αλγόριθμους, την υποστήριξη τοπικών επιχειρήσεων που διατηρούν το εμπόριο σε κοινοτική κλίμακα και τη συμμετοχή σε κοινοτικές δραστηριότητες που δεν απαιτούν ψηφιακή διαμεσολάβηση.
Αντί να ανταγωνιζόμαστε μηχανές ή να εξαρτόμαστε εξ ολοκλήρου από συστήματα που βασίζονται στην Τεχνητή Νοημοσύνη, ο στόχος είναι να χρησιμοποιούμε αυτά τα εργαλεία στρατηγικά, αναπτύσσοντας παράλληλα τις ουσιαστικά προσωπικές ιδιότητες που δεν μπορούν να αναπαραχθούν αλγοριθμικά: σοφία που αποκτάται μέσω άμεσης εμπειρίας, κρίση που φέρει πραγματικές συνέπειες, αυθεντικές σχέσεις που βασίζονται στον κοινό κίνδυνο και την εμπιστοσύνη.
Τι Απομένει Λιγότερο
Σε έναν κόσμο γνωστικής αφθονίας, τι αποκτά αξία; Όχι η αποτελεσματικότητα ή η ακατέργαστη επεξεργαστική ισχύς, αλλά οι ιδιότητες που παραμένουν αμετάβλητα ανθρώπινες:
Έννοια συνέπειας και πρόθεση. Τα μηχανήματα μπορούν να δημιουργήσουν επιλογές, αλλά οι άνθρωποι επιλέγουν ποια πορεία θα ακολουθήσουν και ζουν με τα αποτελέσματα. Φανταστείτε έναν χειρουργό που αποφασίζει αν θα χειρουργήσει, γνωρίζοντας ότι θα χάσει τον ύπνο του αν προκύψουν επιπλοκές και θα στοιχηματίσει τη φήμη του στο αποτέλεσμα.
Αυθεντικές σχέσεις. Πολλοί θα πληρώσουν περισσότερα για πραγματική προσωπική σύνδεση και υπευθυνότητα, ακόμη και όταν οι εναλλακτικές λύσεις για μηχανήματα είναι τεχνικά ανώτερες. Η διαφορά δεν είναι η αποτελεσματικότητα αλλά η γνήσια φροντίδα - ο γείτονας που βοηθάει επειδή μοιράζεστε κοινοτικούς δεσμούς και όχι επειδή το πρότεινε ένας αλγόριθμος βελτιστοποιημένος για αλληλεπίδραση.
Τοπική κρίση και επιμέλεια που βασίζονται στην πραγματική εμπειρία. Η επίλυση προβλημάτων στον πραγματικό κόσμο συχνά απαιτεί την ανάγνωση ανάμεσα στα πρότυπα συμπεριφοράς και τη θεσμική δυναμική. Ο δάσκαλος που παρατηρεί έναν κανονικά αφοσιωμένο μαθητή να αποσύρεται και διερευνά την οικογενειακή κατάσταση. Όταν το περιεχόμενο γίνεται άπειρο, η διακριτική ικανότητα γίνεται πολύτιμη - ο φίλος που προτείνει βιβλία που αλλάζουν την οπτική σου επειδή γνωρίζει το πνευματικό σου ταξίδι.
Η Επιλογή που Μας Έρχεται
Ίσως κάθε γενιά να νιώθει ότι ο χρόνος της είναι μοναδικά σημαντικός – ίσως αυτό να είναι απλώς μέρος της φύσης μας. Αυτό μας δίνει την αίσθηση μεγαλύτερης σπουδαιότητας από τα προηγούμενα κύματα καινοτομίας. Δεν αλλάζουμε απλώς τον τρόπο που εργαζόμαστε ή επικοινωνούμε – διακινδυνεύουμε την απώλεια ικανοτήτων που μας διαμορφώνουν εξαρχής. Για πρώτη φορά, ενδεχομένως αλλάζουμε αυτό που είμαστε.
Όταν η ίδια η γνωστική λειτουργία εμπορευματοποιείται, όταν η σκέψη ανατίθεται σε τρίτους, όταν ακόμη και οι σκέψεις μας γίνονται δεδομένα προς συλλογή, κινδυνεύουμε να χάσουμε βασικές ικανότητες που καμία προηγούμενη γενιά δεν έχει αντιμετωπίσει να χάσει. Φανταστείτε μια γενιά που δεν μπορεί να μείνει με την αβεβαιότητα για τριάντα δευτερόλεπτα χωρίς να συμβουλευτεί έναν αλγόριθμο. Που ζητά βοήθεια από την Τεχνητή Νοημοσύνη πριν επιχειρήσει ανεξάρτητη επίλυση προβλημάτων. Που νιώθει άγχος όταν αποσυνδέεται από αυτά τα εργαλεία. Αυτό δεν είναι εικασία - συμβαίνει ήδη.
Βρισκόμαστε αντιμέτωποι με έναν μετασχηματισμό που θα μπορούσε είτε να εκδημοκρατίσει το ατομικό μας δυναμικό είτε να δημιουργήσει το πιο εξελιγμένο σύστημα ελέγχου στην ιστορία. Οι ίδιες δυνάμεις που θα μπορούσαν να μας απελευθερώσουν από την αγγαρεία θα μπορούσαν επίσης να ακυρώσουν εντελώς την αυτοδυναμία.
Δεν πρόκειται για λύσεις – τις αναζητώ όπως κάθε άνθρωπος, ειδικά ένας γονέας, που βλέπει αυτή τη μεταμόρφωση να έρχεται και θέλει να βοηθήσει τα παιδιά του να την διαχειριστούν συνειδητά και όχι ασυνείδητα. Το να καβαλάω το κύμα σημαίνει ότι είμαι ανοιχτή στο να μάθω από αυτά τα εργαλεία, γνωρίζοντας παράλληλα ότι δεν μπορώ να αντισταθώ στις θεμελιώδεις δυνάμεις που αναδιαμορφώνουν τον κόσμο μας. Αλλά μπορώ να προσπαθήσω να μάθω πώς να τις διαχειριστώ με πρόθεση αντί απλώς να παρασύρομαι.
Αν η παραδοσιακή οικονομική συμμετοχή καταστεί παρωχημένη, το ερώτημα γίνεται αν θα αναπτύξουμε νέες μορφές ανθεκτικότητας της κοινότητας και δημιουργίας αξίας ή αν θα αποδεχτούμε την άνετη εξάρτηση από συστήματα που έχουν σχεδιαστεί για να μας διαχειρίζονται αντί να μας υπηρετούν. Δεν ξέρω ποια πορεία θα ακολουθήσει το είδος μας, αν και πιστεύω ότι η απόφαση εξακολουθεί να είναι δική μας.
Για τα παιδιά μου, το καθήκον δεν θα είναι να μάθουν πώς να χρησιμοποιούν την Τεχνητή Νοημοσύνη – θα το κάνουν. Η πρόκληση θα είναι να μάθουν να κάνουν αυτά τα εργαλεία να λειτουργούν για εμάς αντί να υποτασσόμαστε σε αυτά – διατηρώντας την ικανότητα για πρωτότυπη σκέψη, αυθεντικές σχέσεις και ηθικό θάρρος που κανένας αλγόριθμος δεν μπορεί να αναπαράγει. Στην εποχή της τεχνητής νοημοσύνης, η πιο ριζοσπαστική πράξη μπορεί να είναι να γίνουμε πιο αυθεντικά άνθρωποι.
Ο πραγματικός κίνδυνος δεν είναι ότι η Τεχνητή Νοημοσύνη θα γίνει πιο έξυπνη από εμάς. Είναι ότι θα γίνουμε πιο χαζοί εξαιτίας της.
Το κύμα είναι εδώ. Το καθήκον μου ως πατέρα δεν είναι να προστατεύσω τα παιδιά μου από αυτό, αλλά να τα μάθω να κάνουν σερφ χωρίς να χάνονται.
Αναδημοσίευση από τον συγγραφέα Υποκατάστημα
Μπές στην κουβέντα:
Δημοσιεύτηκε υπό την αιγίδα Creative Commons Attribution 4.0 Διεθνής άδεια
Για ανατυπώσεις, παρακαλούμε ορίστε τον κανονικό σύνδεσμο πίσω στο πρωτότυπο Ινστιτούτο Brownstone Άρθρο και Συγγραφέας.
