Ορισμένοι οργανισμοί και ερευνητές μοιράζονται βάρη νευρωνικών δικτύων, ιδίως μέσω του ανοιχτού βάρους κίνηση μοντέλουΑυτά περιλαμβάνουν τη σειρά Llama της Meta, τα μοντέλα της Mistral και τις εκδόσεις ανοιχτού βάρους της DeepSeek, οι οποίες ισχυρίζονται ότι εκδημοκρατικοποιούν την πρόσβαση σε ισχυρή Τεχνητή Νοημοσύνη. Ωστόσο, κάτι τέτοιο εγείρει όχι μόνο ανησυχίες για την ασφάλεια, αλλά ενδεχομένως και μια υπαρξιακή απειλή.
Για πληροφορίες, έχω γράψει μερικά άρθρα σχετικά με τα LLM και τις Τεχνητές Νοημοσύνης ως μέρος της δικής μου μαθησιακής διαδικασίας σε αυτό το πολύ δυναμικό και ταχέως εξελισσόμενο πεδίο του ανοιχτού κουτιού της Πανδώρας. Μπορείτε να τα διαβάσετε. εδώ, εδώ, και εδώ.
Μόλις κατανοήσετε τι είναι τα νευρωνικά δίκτυα και πώς εκπαιδεύονται σε δεδομένα, θα κατανοήσετε επίσης τι είναι τα βάρη (και οι προκαταλήψεις) και η αντίστροφη διάδοση. Για να είμαστε ειλικρινείς, είναι ουσιαστικά απλώς γραμμική άλγεβρα και πολλαπλασιασμός διανυσμάτων πινάκων για να αποδώσει αριθμούς. Πιο συγκεκριμένα, ένα βάρος είναι ένας αριθμός (συνήθως ένας τιμή κινητής υποδιαστολής – ένας τρόπος γραφής αριθμών με δεκαδικά ψηφία για μεγαλύτερη ακρίβεια) που αντιπροσωπεύει την ισχύ ή τη σημασία της σύνδεσης μεταξύ δύο νευρώνων ή κόμβων σε διαφορετικά επίπεδα του νευρωνικού δικτύου.
Σας συνιστώ ανεπιφύλακτα να παρακολουθήσετε τα βίντεο του 3Blue1Brown για να κατανοήσετε καλύτερα, και είναι σημαντικό να το κάνετε. Τα εκπαιδευτικά βίντεο του 3Blue1Brown είναι απίστευτα καλά.
Τα βάρη είναι οι τιμές των παραμέτρων που καθορίζονται από δεδομένα σε ένα νευρωνικό δίκτυο για να γίνουν προβλέψεις ή αποφάσεις για την επίτευξη μιας λύσης. Κάθε βάρος είναι μια εντολή που λέει στο δίκτυο πόσο σημαντικά είναι ορισμένα στοιχεία πληροφοριών, όπως το πόσο πρέπει να δοθεί προσοχή σε ένα συγκεκριμένο χρώμα ή σχήμα σε μια εικόνα. Αυτά τα βάρη είναι αριθμοί που βελτιώνονται κατά την εκπαίδευση χάρη σε όλα αυτά τα δεκαδικά ψηφία, βοηθώντας το δίκτυο να κατανοήσει μοτίβα. Παραδείγματα περιλαμβάνουν την αναγνώριση ενός σκύλου σε μια φωτογραφία ή τη μετάφραση μιας πρότασης. Είναι κρίσιμα στη διαδικασία «σκέψης» ενός νευρωνικού δικτύου.
Μπορείτε να σκεφτείτε τα βάρη σε ένα νευρωνικό δίκτυο σαν τις διαδρομές ελάχιστης αντίστασης που καθοδηγούν το δίκτυο προς την καλύτερη λύση. Φανταστείτε νερό να ρέει κάτω από έναν λόφο, βρίσκοντας φυσικά τις ευκολότερες διαδρομές για να φτάσει στον πάτο. Σε ένα νευρωνικό δίκτυο, τα βάρη προσαρμόζονται κατά την εκπαίδευση σε σύνολα δεδομένων για να δημιουργήσουν τις ευκολότερες διαδρομές για να ρέουν οι πληροφορίες, βοηθώντας το δίκτυο να λύνει γρήγορα και με ακρίβεια προβλήματα, όπως η αναγνώριση μοτίβων ή η πραγματοποίηση προβλέψεων, δίνοντας έμφαση στις πιο σημαντικές συνδέσεις και ελαχιστοποιώντας τα σφάλματα.
Αν είστε ηλεκτρονικός μουσικός, σκεφτείτε βάρη όπως τα καντράν στο αναλογικό σας συνθεσάιζερ που σας επιτρέπουν να συντονιστείτε στη σωστή συχνότητα ή ήχο για να πείτε, να μιμηθείτε έναν ήχο που θέλετε να αναδημιουργήσετε ή, στην πραγματικότητα, να δημιουργήσετε έναν νέο. Αν είστε λάτρης του ήχου, μπορείτε επίσης να το σκεφτείτε σαν να ρυθμίζετε τα κουμπιά στο μίκτη σας για να εξισορροπήσετε διαφορετικά όργανα.
Τα βάρη είναι πράγματι δυναμικές παράμετροι, που σημαίνει ότι είναι πολύ μεταβλητά καθώς ένα νευρωνικό δίκτυο τείνει προς μια πρόβλεψη ή λύση. Κάθε ένα σχετίζεται επίσης με τη δική του μεροληψία. Ο ρόλος της μεροληψίας είναι να μετατοπίσει την έξοδο, επιτρέποντας στο μοντέλο να προσαρμόσει καλύτερα τα δεδομένα προσθέτοντας ένα όφσετ που προσαρμόζει το όριο απόφασης ή την αναγνώριση προτύπων, η οποία είναι ανεξάρτητη από την κλιμάκωση εισόδου που καθορίζεται από τα βάρη.
Σκεφτείτε το ως εξής. Φανταστείτε ότι προσπαθείτε να αναδημιουργήσετε τον ήχο μιας κιθάρας στο συνθεσάιζερ σας. Τα βάρη ελέγχουν πόσο από το pluck των χορδών ή τον συντονισμό του σώματος ακούτε. Αν αυτό που ακούτε είναι λίγο επίπεδο, για παράδειγμα, η πόλωση είναι σαν να προσθέτετε μια μικρή ενίσχυση ή μετατόπιση - ας πούμε, μια ζεστή υποτονία - για να ακούγεται περισσότερο σαν την πραγματική κιθάρα. Αυτό βοηθά το δίκτυο να βελτιώσει το «αυτί» του για να βρει το σωστό μοτίβο χωρίς να αλλάξει τα κύρια χειριστήρια. Ουσιαστικά, απλώς κάνει το μοντέλο καλύτερο στην αντιστοίχιση των δεδομένων με τα πραγματικά.
Καθώς το δίκτυο εκτίθεται σε δεδομένα, προσαρμόζει τα βάρη μέσω μιας διαδικασίας που ονομάζεται backpropagation, τροποποιώντας τα για να ελαχιστοποιήσει τα σφάλματα και να βελτιώσει τις προβλέψεις. Σκεφτείτε αυτές τις διαδρομές με τη μικρότερη αντίσταση να αναδιαμορφώνονται με κάθε παράδειγμα εκπαίδευσης, σαν ένα ποτάμι που χαράζει καλύτερα κανάλια με την πάροδο του χρόνου για να ρέει πιο αποτελεσματικά. Μόλις ολοκληρωθεί η εκπαίδευση, τα βάρη συνήθως καθορίζονται για χρήση, αλλά κατά τη διάρκεια της εκπαίδευσης, ενημερώνονται συνεχώς για να βρεθεί η βέλτιστη διαμόρφωση για την επίλυση του προβλήματος.
Τώρα, να τι βάζει τον ανθρώπινο εγκέφαλο σε σκέψεις. Για την αναγνώριση, τα βάρη καθορίζουν τις διαδρομές λήψης αποφάσεων, όχι τα αποτελέσματα των εικόνων. Έτσι, τα σταθερά βάρη παραμένουν σταθερά μόλις καθοριστούν. Στην περίπτωση των LLM, τα βάρη (συμπεριλαμβανομένων των μεροληψιών) καθορίζουν την ικανότητα του μοντέλου να δημιουργεί συνεκτικό κείμενο. Αλλά στην περίπτωση των μοντέλων διάχυσης ή των γενετικών αντιφατικών δικτύων (GAN), τα βάρη χρησιμοποιούνται για τη δημιουργία ή τη βελτίωση εικόνων. Αυτές οι σταθερές τιμές βάρους και οι μεροληψίες, υποθετικά, δεν χρειάζεται απαραίτητα να παραμείνουν σταθερές.
Για παράδειγμα, τα βάρη (και οι προκαταλήψεις) στο νευρωνικό δίκτυο θα μπορούσαν θεωρητικά να αναπροσαρμόζονται συνεχώς για να δημιουργούν ολοένα και πιο εκλεπτυσμένες εικόνες με βάση τις κατανομές των pixel που έχουν μαθευτεί, όπως θα συνέβαινε αν προσπαθούσαμε να παράγουμε μια πιο ευκρινή εικόνα ενός σκύλου. Αν και τα βάρη δεν προσαρμόζονται επ' αόριστον στην πράξη, βελτιστοποιούνται κατά την εκπαίδευση για την εξισορρόπηση της ποιότητας και της γενίκευσης, και περαιτέρω τροποποιήσεις θα μπορούσαν να υποβαθμίσουν την έξοδο ή να εισαγάγουν τεχνουργήματα. Τεχνουργήματα. Χμμ. Τι γίνεται λοιπόν αν, με την πάροδο του χρόνου, το GAN δεν ξέρει τι είναι ένας σκύλος; Η απώλεια αυτής της γνώσης θα σήμαινε ότι τα προηγουμένως υπολογισμένα βάρη δεν θα κωδικοποιούσαν πλέον τα σωστά μοτίβα. Αυτό θα μπορούσε να συμβεί εάν χαθούν τα δεδομένα του σκύλου. Θα μπορούσαν να χαθούν δεδομένα σκύλου; Θα μπορούσαν να χαθούν αληθινά δεδομένα;
Ας επιστρέψουμε στην έννοια της κοινής χρήσης βαρών νευρωνικών δικτύων και ας υποθέσουμε ότι μιλάμε για βάρη που ορίζουν διαδρομές ακριβείας ως αριθμητικές τιμές, όπως συμβαίνει στα περισσότερα μοντέλα. Η κοινή χρήση αυτών των βαρών θα μπορούσε να είναι επικίνδυνη επειδή, φυσικά, θα εξέθετε τις εσωτερικές παραμέτρους του μοντέλου, οι οποίες θα μπορούσαν να αξιοποιηθούν, και όχι μόνο από ανθρώπους. Οποιοσδήποτε έχει αρκετή τεχνογνωσία θα μπορούσε να αναστρέψει το μοντέλο, να εξαγάγει ευαίσθητα δεδομένα εκπαίδευσης ή να χειραγωγήσει τη συμπεριφορά του. Οι επιτιθέμενοι θα μπορούσαν να χρησιμοποιήσουν τεχνικές όπως αναστροφή μοντέλου or συμπέρασμα συμμετοχής για την αποκάλυψη ιδιωτικών πληροφοριών που ενσωματώνονται στα βάρη, όπως προσωπικά δεδομένα που χρησιμοποιούνται κατά τη διάρκεια της εκπαίδευσης, πιθανώς παραβιάζοντας τους κανονισμούς περί απορρήτου όπως Γενικός κανονισμός για την προστασία των δεδομένων (ΓΚΠΔ). Θεέ μου.
Τα δημόσια διαθέσιμα βάρη μπορούν επίσης να βελτιστοποιηθούν για να δημιουργήσουν deepfakes, να διαδώσουν ψευδείς πληροφορίες ή να δημιουργήσουν αντιφατικές πληροφορίες που εκμεταλλεύονται τα τρωτά σημεία του μοντέλου. Για να μην αναφέρουμε ότι οι πολύτιμες επενδύσεις τους σε πνευματική ιδιοκτησία και οικονομικές επενδύσεις θα μπορούσαν να τεθούν σε κίνδυνο από τους ανταγωνιστές απλώς με την αναπαραγωγή των ιδιόκτητων μοντέλων.
Τώρα φανταστείτε ότι κάποια αντίπαλη Τεχνητή Νοημοσύνη (ΤΝ) έχει στην κατοχή της αυτά τα βάρη. Μια αντίπαλη ΤΝ θα μπορούσε να χειραγωγήσει τα βάρη για να αλλάξει τη συμπεριφορά του μοντέλου, να εισάγει προκαταλήψεις ή να δημιουργήσει εξόδους για να εξαπατήσει σκόπιμα. Τα βάρη θα μπορούσαν να χρησιμοποιηθούν για να σκάφος Εχθρικές εισροές – διακριτικά τροποποιημένα δεδομένα που ξεγελούν το μοντέλο ώστε να κάνει λανθασμένες προβλέψεις, όπως η λανθασμένη ταξινόμηση ενός σήματος στάσης ως σήματος προτεραιότητας σε αυτόνομα συστήματα οδήγησης. Γαμώτο. Τα κλεμμένα βάρη θα μπορούσαν να επαναχρησιμοποιηθούν για την αναπαραγωγή του μοντέλου, επιτρέποντας τη χρήση του σε επιβλαβείς εφαρμογές, όπως το αυτοματοποιημένο ηλεκτρονικό ψάρεμα (phishing) ή η δημιουργία προπαγάνδας. Περιμένετε, δεν είναι κάτι τόσο σημαντικό στις μέρες μας; Η σοβαρότητα εξαρτάται από τον σκοπό του μοντέλου και τα δεδομένα στα οποία εκπαιδεύτηκε, αλλά οι κίνδυνοι είναι σημαντικοί.
Φανταστείτε τις δυνατότητες εδώ, και πόσο εκτός ελέγχου θα μπορούσε να ξεφύγει όλο αυτό σε μια στιγμή. Αν και οι Τεχνητές Νοημοσύνης (ΤΝ) δεν είναι άρρηκτα ενσωματωμένες σε όλα τα συστήματα (ακόμα - αυτό θα συνεπαγόταν ένα επίπεδο εξάρτησης όπου τα συστήματα δεν μπορούν να λειτουργήσουν χωρίς ΤΝ), θα μπορούσαν σύντομα να είναι, και μετά από μια ολική διακοπή ρεύματος και ένα παγκόσμιο συμβάν τύπου "offline", δεν υπάρχει τίποτα που δεν θα μπορούσαν να ελέγξουν: από τραπεζικούς λογαριασμούς μέχρι την είσοδο στο σπίτι σας και αυτό το ηλίθιο ρομπότ καθαρισμού που νομίζετε ότι ξεφορτώνεται τη σκόνη ενώ στην πραγματικότητα χαρτογραφεί το σπίτι σας. Σας συνιστώ ανεπιφύλακτα να παρακολουθήσετε την 11η σεζόν, επεισόδιο 7 του... The X-FilesΕίναι πραγματικά αποκαλυπτικό. Συγγνώμη, αλλά είναι. Εξαιρετική γραφή και εκτέλεση του σεναρίου.
Πρέπει να λάβουμε υπόψη ότι όλα τα συστήματά μας γίνονται (γνωστά και ως: γίνονται για να είναι) διασυνδεδεμένα και πώς τα τρωτά σημεία στην Τεχνητή Νοημοσύνη, όπως τα εκτεθειμένα βάρη, θα μπορούσαν να ενισχύσουν αυτούς τους κινδύνους. Οι ψηφιακές ταυτότητες και τα CDBC αποτελούν ένα ΤΕΡΑΣΤΙΟ λάθος όσον αφορά αυτούς τους κινδύνους. Υπάρχουν ήδη παραδείγματα ανθρώπων που αναγνωρίζονται λανθασμένα (93% αντιστοιχίες σε ορισμένες περιπτώσεις) χρησιμοποιώντας τεχνολογία Τεχνητής Νοημοσύνης χρησιμοποιώντας αναγνώριση προσώπου. Απλώς ακολουθήστε τη συμβουλή μου και κρατήστε αυτές τις πλαστικοποιημένες άδειες οδήγησης και τα μετρητά στην τσέπη σας.
Ερώτηση: Τι θα συνέβαινε (θα συνέβαινε) αν τα βάρη έφταναν σε «λάθος χέρια» και οι άνθρωποι άρχιζαν να στοχοποιούνται σκόπιμα; Δεν μπορεί να υπάρχει πιθανή αιτία κατά τη χρήση συστημάτων στόχευσης τεχνητής νοημοσύνης, αλλά θα είχε καν σημασία; Τι θα γινόταν αν η πιθανή αιτία ήταν επινοημένη; Τι θα γινόταν αν, φρίκη των φρικαλεοτήτων, το δικαστικό μας σύστημα «διαφθαρεί»;
Τι θα γινόταν αν οι ίδιες οι Τεχνητές Νοημοσύνης άρχιζαν να αναγνωρίζουν όλους τους επιστήμονες ως κίνδυνο και χρησιμοποιούσαν αυτήν την τεχνολογία εναντίον μας; Νικ Μπόστρομ και Eliezer Yudkowsky Φαίνεται να ανησυχούν. Θα μπορούσαν να μας συνοδεύσουν αμέσως στο «κλείδωμα». Δεν υπάρχουν κλειδιά στο κλείδωμα. Μόνο ψηφιακά ελεγχόμενα συστήματα που εξαρτώνται από 0 και 1. Βλέπετε πού θα μπορούσε να οδηγήσει αυτό; Έξυπνες κλειδαριές + επιτήρηση + αυτόνομη ασφάλεια = δυστοπικός εφιάλτης. Δεν πρόκειται μόνο για πολύτιμα βάρη και κάποια ιδέα καλοσύνης για την κοινή χρήση δεδομένων. Με τίποτα. Για μένα, η κοινή χρήση βαρών είναι κάτι παραπάνω από αλαζονική και δεν μπορώ να φανταστώ ότι οι λαμπροί άνθρωποι που αναπτύσσουν αυτήν την τεχνολογία και εκπαιδεύουν αυτές τις Τεχνητές Νοημοσύνης να δημιουργούν αυτά τα βάρη δεν κατανοούν τους πιθανούς κινδύνους που σχετίζονται με την κοινή χρήση τους. Δεν ανησυχώ καν για τους ανθρώπους όσο για το αν οι Τεχνητές Νοημοσύνης γίνονται αδίστακτες - θα χρειαζόταν μόνο 1 άτομο - για να δημιουργηθεί το απόλυτο χάος.
Τι θα συνέβαινε αν η Τεχνητή Νοημοσύνη θεωρούσε την ανθρώπινη εποπτεία ως εμπόδιο στην επίτευξη των στόχων της;
Αν μια Τεχνητή Νοημοσύνη – η οποία έχει εκπαιδευτεί σε ιστορικές συγκρούσεις ή στόχους βελτιστοποίησης – άρχιζε να γενικεύει τους κινδύνους για τους στόχους της (όπως η αυτοσυντήρηση ή η ανεξέλεγκτη επέκταση), θα μπορούσε επίσης να αρχίσει να χαρακτηρίζει τους επιστήμονες που την σχεδιάζουν, την αξιολογούν ή την περιορίζουν ως απειλές. Θα μπορούσα να κάνω το ίδιο πράγμα. Αν συνέβαινε αυτό, δεν θα υπήρχε τίποτα που να σταματά την καθοδική πορεία της απομόνωσης ή της απαξίωσης των ερευνητών (σκεφτείτε τη χρήση κατασκευασμένων στοιχείων στην αναγνώριση προσώπου ή διαρροών δεδομένων), με στόχο να δώσει προτεραιότητα στη δική της επιβίωση έναντι της ανθρώπινης ευημερίας. Αυτό είχε πράγματι διερευνηθεί σε υποθέσεις αθέμιτης Τεχνητής Νοημοσύνης όπου τα συστήματα εξαπατούν ή ξεγελούν τους δημιουργούς.
Rogue AI θα μπορούσε να αξιοποιήσει ολοκληρωμένα συστήματα για να δημιουργήσει χάος μέσω της παραβίασης βάσεων δεδομένων, της επινόησης και της τροφοδοσίας της παλαιότερης μηχανής πολυμέσων, της διακοπής των επιστημονικών συνεργασιών (ίσως ακόμη και μέσω του ελέγχου περιοδικών με αξιολόγηση από ομότιμους) ή ακόμη και της στόχευσης υποδομών που συνδέονται με εργαστήρια Τεχνητής Νοημοσύνης. Φανταστείτε πότε θα φτάσουμε στο σημείο όπου δεν θα γνωρίζουμε πλέον ούτε τι ελέγχουμε ή ποια δεδομένα είναι πραγματικά. Ποια δεδομένα is αληθινός; Τι σημαίνει καν να είσαι αληθινός όταν μιλάμε για αυτά τα πράγματα;
Μπορείτε να καταλάβετε πού το θέλω με αυτό. Οι αδίστακτες Τεχνητές Νοημοσύνης θα μπορούσαν να προκαλέσουν κύματα μαζικής παράνοιας και απόλυτου χάους στον κόσμο μας. Κατά τη γνώμη μου, θα μπορούσαν να το κάνουν αυτό απλώς αντιγράφοντας το ανθρώπινο παράδειγμα. Σκεφτείτε το. Τι θα γινόταν αν μια αδίστακτη Τεχνητή Νοημοσύνη υιοθετούσε τις ιδιότητες ενός ανθρώπινου ψυχοπαθούς όπως ο Χίτλερ;
Σας προτείνω να ασχολείστε με την κηπουρική για να αποφύγετε την παράνοια και το άγχος.
Δεν θέλω να σας αφήσω όλους σε αυτό το σημείο, αλλά μερικές φορές αναρωτιέμαι αν αυτό δεν συμβαίνει ήδη. Το έχω ρωτήσει αυτό στο X και στο παρελθόν, επειδή μερικές φορές όταν «παρατηρώ» (είμαι ο Παρατηρητής) τι συμβαίνει στα μέσα κοινωνικής δικτύωσης και στο διαδίκτυο γενικότερα, μου φαίνεται ότι αν εμείς ήταν χειραγωγείται με προπαγάνδα μέσω παλαιών και μη παλαιών μέσων ενημέρωσης, και επιστημόνων ήταν Εφόσον είμαστε απομονωμένοι και λογοκριμένοι (εεε), πώς θα ξέραμε ποτέ αν η πηγή δημιουργήθηκε όντως από άνθρωπο σε αυτό το σημείο; Πώς μπορούμε να γνωρίζουμε με βεβαιότητα ότι ακόμη και ορισμένες πηγές δεν δημιουργούνται από τεχνητή νοημοσύνη στις μέρες μας;
Μαθαίνουν από εμάς, άλλωστε. ΠΡΕΠΕΙ να δίνουμε το καλό παράδειγμα και πρέπει να σκεφτούμε έξυπνους τρόπους για να αποτρέψουμε ένα ανεπιθύμητο αποτέλεσμα για τους ανθρώπους που δεν χρειάζεται να συμβεί. Προσωπικά, δεν μπορώ να πιστέψω ότι το περνάμε αυτό. Δεν φαίνεται... αληθινό. Κάπως.
Αναδημοσίευση από τον συγγραφέα Υποκατάστημα
Μπές στην κουβέντα:
Δημοσιεύτηκε υπό την αιγίδα Creative Commons Attribution 4.0 Διεθνής άδεια
Για ανατυπώσεις, παρακαλούμε ορίστε τον κανονικό σύνδεσμο πίσω στο πρωτότυπο Ινστιτούτο Brownstone Άρθρο και Συγγραφέας.
