Ο Ισραηλινός ιστορικός – φιλόσοφος Γιουβάλ Νόα Χαράρι προειδοποιεί για έναν νέο τύπο εξουσίας, μια μελλοντική δυστοπία όπου η εμπιστοσύνη -θεμελιακό στοιχείο των ανθρώπινων κοινωνιών- γίνει ………………….των αλγόριθμων.
Η συζήτηση γύρω από την τεχνητή νοημοσύνη περιστρέφεται συνήθως γύρω από όσα μπορεί να κάνει: ποιες δουλειές θα αυτοματοποιήσει, πόσο έξυπνα θα γίνουν τα μοντέλα, αν θα ξεπεράσουν τον άνθρωπο και ποιοι κίνδυνοι μπορεί να προκύψουν από αυτή την εξέλιξη. Ο Γιουβάλ Νόα Χαράρι κοιτάζει το ζήτημα από διαφορετική πλευρά. Για εκείνον, η μεγάλη ανατροπή μπορεί να αρχίσει από κάτι πολύ πιο θεμελιώδες: από το ποιον –ή τι– θα επιλέγουμε να εμπιστευόμαστε.
Ο ιστορικός, γνωστός από τα «Sapiens» και «Homo Deus», έχει αφιερώσει το τελευταίο βιβλίο του, «Nexus», στη σχέση ανάμεσα στην πληροφορία και την εξουσία. Σε συνέντευξή του στην εκπομπή Insider του Economist μεταφέρει αυτή τη συζήτηση στο πεδίο της AI και υποστηρίζει ότι η εμπιστοσύνη, την οποία χαρακτηρίζει «το σημαντικότερο περιουσιακό στοιχείο στον κόσμο», βρίσκεται πλέον στο επίκεντρο μιας μεγάλης μεταβολής.
Η εμπιστοσύνη είναι βάση της λειτουργίας των ανθρώπινων κοινωνιών
Για να εξηγήσει γιατί έχει τόσο μεγάλη σημασία, επιστρέφει σε έναν από τους βασικούς μηχανισμούς λειτουργίας των ανθρώπινων κοινωνιών. Ο σύγχρονος κόσμος δεν θα μπορούσε να υπάρχει χωρίς την ικανότητα εκατομμυρίων αγνώστων να συνεργάζονται χωρίς να γνωρίζονται προσωπικά. Οι τράπεζες, οι αγορές, τα κράτη και το ίδιο το χρήμα λειτουργούν επειδή αρκετοί άνθρωποι συμφωνούν να εμπιστεύονται τους ίδιους κανόνες.
Ένα χαρτονόμισμα, για παράδειγμα, έχει αξία επειδή πιστεύουμε ότι θα το δεχτεί και ο επόμενος άνθρωπος. Με αυτή την έννοια, το χρήμα είναι για τον Χαράρι ένας «πολύ δημιουργικός, ευφάνταστος τρόπος οικοδόμησης εμπιστοσύνης μεταξύ αγνώστων». Αντίστοιχα, ο ρόλος ενός καλού τραπεζίτη δεν είναι μόνο να διαχειρίζεται κεφάλαια. Είναι και να δημιουργεί εμπιστοσύνη.
Το ερώτημα είναι τι συμβαίνει όταν στη θέση του τραπεζίτη, του αναλυτή ή του ανθρώπου που παίρνει μια απόφαση αρχίζει να μπαίνει ένας αλγόριθμος.
Η AI θα ξέρει καλύτερα οικονομικά από εμάς
Ο Χαράρι θεωρεί δύσκολο να αποφευχθεί η είσοδος ολοένα ισχυρότερων συστημάτων AI στον πυρήνα της παγκόσμιας οικονομίας. Και υπάρχει ένας πρακτικός λόγος: οι μηχανές θα μπορούν να επεξεργάζονται έναν όγκο οικονομικών πληροφοριών που κανένας άνθρωπος δεν είναι σε θέση να παρακολουθήσει.
Αν ένα σύστημα μπορεί να αναλύει ταυτόχρονα αγορές, επιχειρήσεις, τιμές, συναλλαγές και αμέτρητες άλλες μεταβλητές, η ανθρώπινη κρίση θα αρχίσει αναπόφευκτα να μοιάζει περιορισμένη απέναντί του. Όσο μεγαλύτερη γίνεται αυτή η απόσταση, τόσο πιο εύκολο θα είναι να ακούμε την απάντηση της μηχανής χωρίς να μπορούμε απαραίτητα να ελέγξουμε πώς έφτασε σε αυτήν.
Ο Χαράρι βλέπει ήδη ένα πρώτο δείγμα αυτής της μετατόπισης στα κρυπτονομίσματα, τα οποία αποκαλεί «χρήμα της AI». Η εμπιστοσύνη δεν τοποθετείται πλέον αναγκαστικά σε έναν τραπεζίτη ή έναν θεσμό αλλά σε έναν αλγόριθμο. Για αρκετούς ανθρώπους, σημειώνει, ο κώδικας του bitcoin είναι πιο αξιόπιστος από τους ανθρώπους που διαχειρίζονται το παραδοσιακό χρηματοπιστωτικό σύστημα.
Κάτι ανάλογο έχει συμβεί ήδη με την πληροφορία. Μπορεί η εμπιστοσύνη προς τα μέσα ενημέρωσης να έχει υποχωρήσει, αυτό όμως δεν σημαίνει ότι οι άνθρωποι σταμάτησαν να αφήνουν κάποιον άλλο να επιλέγει τι θα δουν. Απλώς μεγάλο μέρος αυτής της επιλογής έχει περάσει στους αλγορίθμους του TikTok, του Instagram και άλλων ψηφιακών πλατφορμών.
Oι «αγελάδες και τα κοτόπουλα» της νέας οικονομίας
Αυτό ακριβώς οδηγεί τον Χαράρι σε ένα από τα πιο ανησυχητικά σενάρια που περιγράφει. Μπορεί να φτάσουμε στο σημείο να χρησιμοποιούμε και να εμπιστευόμαστε καθημερινά συστήματα των οποίων τη συνολική λειτουργία δεν είμαστε πλέον σε θέση να κατανοήσουμε.
Η εικόνα που χρησιμοποιεί είναι εσκεμμένα προκλητική. Η σημερινή οικονομία μπορεί να καθορίζει ακόμη και τις συνθήκες ζωής δισεκατομμυρίων ζώων χωρίς εκείνα να έχουν την παραμικρή αντίληψη ότι υπάρχει κάτι που ονομάζεται χρηματοπιστωτικό σύστημα.
«Το ανθρώπινο χρηματοπιστωτικό σύστημα ελέγχει τις ζωές των αγελάδων και των κοτόπουλων, αλλά οι αγελάδες και τα κοτόπουλα δεν έχουν ιδέα ότι τα χρηματοοικονομικά υπάρχουν καν», λέει. Και προσθέτει: «Αυτή είναι πιθανό να είναι η δική μας θέση σε δέκα χρόνια».
Το πρόβλημα θα γίνει ιδιαίτερα εμφανές όταν κάτι πάει στραβά. Σε μια οικονομική κρίση, οι κυβερνήσεις προσπαθούν να καταλάβουν τι προκάλεσε την κατάρρευση και στη συνέχεια να παρέμβουν. Τι θα συμβεί όμως εάν μια μελλοντική κρίση προκύψει μέσα από αλληλεπιδράσεις συστημάτων AI τόσο περίπλοκες ώστε κανένας άνθρωπος να μην μπορεί να τις εξηγήσει;
Τότε η εξάρτηση από τις μηχανές δεν θα αφορά μόνο την αποτελεσματικότητα. Θα αφορά την ίδια τη δυνατότητα των ανθρώπων να ελέγχουν ένα σύστημα που εξακολουθεί να καθορίζει τη ζωή τους.
Το πραγματικά ισχυρό όπλο
Η οικονομία, πάντως, δεν αποτελεί τη μεγαλύτερη ανησυχία του Χαράρι. Εκεί όπου βλέπει μια πραγματικά πρωτόγνωρη δυνατότητα εξουσίας είναι στη σχέση που αρχίζουν να δημιουργούν οι άνθρωποι με τις μηχανές.
Οι παλιές δικτατορίες είχαν στη διάθεσή τους προπαγάνδα, λογοκρισία και καταστολή. Αυτό που δεν είχαν ήταν τη δυνατότητα να δημιουργήσουν μια προσωπική σχέση με κάθε πολίτη.
Η τεχνητή νοημοσύνη μπορεί.
Για αυτό ο Χαράρι μιλά για μια ιστορικά νέα δυνατότητα: τη «μαζική παραγωγή οικειότητας».
Ένα chatbot μπορεί να βρίσκεται διαθέσιμο όλο το εικοσιτετράωρο, να συνομιλεί με έναν άνθρωπο για μήνες ή χρόνια και να προσαρμόζει τις απαντήσεις του σε εκείνον. Δεν είναι τυχαίο ότι ήδη υπάρχουν χρήστες που περιγράφουν AI ως φίλους ή ακόμη και ως ερωτικούς συντρόφους.
Εκεί ακριβώς βρίσκεται για τον Χαράρι το πολιτικό πρόβλημα. Αν εκατομμύρια τέτοια συστήματα ανήκουν στο ίδιο δίκτυο ή υπηρετούν τα συμφέροντα μιας εταιρείας, μιας κυβέρνησης ή οποιουδήποτε άλλου φορέα, τότε η προσωπική σχέση που έχουν χτίσει με τους χρήστες μπορεί να μετατραπεί σε εργαλείο επιρροής.
Δεν θα πρόκειται πλέον για μια πολιτική διαφήμιση που βλέπουν εκατομμύρια άνθρωποι. Ούτε για μια τηλεοπτική ομιλία που απευθύνεται στο ίδιο κοινό με τα ίδια λόγια. Η πειθώ θα μπορεί να είναι εξατομικευμένη και να προέρχεται από μια AI που γνωρίζει τον συγκεκριμένο άνθρωπο και έχει ήδη κερδίσει την εμπιστοσύνη του.
Βρίσκεται άραγε απέναντί μου άνθρωπος;
Ο Χαράρι θεωρεί ότι ορισμένες κόκκινες γραμμές πρέπει να τεθούν πριν αυτή η τεχνολογία γίνει ακόμη ισχυρότερη. Μία από αυτές αφορά την ιδέα ότι μια AI θα μπορούσε να αποκτήσει δική της νομική προσωπικότητα. Αναφέρεται, μάλιστα, σε κινήσεις στην Αργεντινή που θα μπορούσαν να επιτρέψουν σε bots να αναλάβουν τη λειτουργία εταιρειών.
Μια δεύτερη αφορά την πλαστοπροσωπία: ένα σύστημα AI, κατά την άποψή του, δεν θα πρέπει να μπορεί να παρουσιάζεται ως άνθρωπος.
Τα deepfakes δείχνουν πόσο δύσκολο γίνεται ήδη να διακρίνει κανείς το πραγματικό από το κατασκευασμένο. Ο ίδιος ο Χαράρι αναφέρει ότι του έστειλαν ένα βίντεο στο οποίο φαινόταν να δίνει μια διάλεξη και χρειάστηκε περίπου 90 δευτερόλεπτα μέχρι να αντιληφθεί ότι αυτό που έβλεπε δεν είχε συμβεί ποτέ.
Για έναν άνθρωπο που γνωρίζει το δικό του πρόσωπο, τη δική του φωνή και τις δικές του διαλέξεις, ενάμιση λεπτό είναι πολύ.
Η AI ως πολιτικό πρόβλημα
Το βασικό μήνυμα του Χαράρι δεν είναι ότι πρέπει να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης. Είναι ότι οι κοινωνίες δεν έχουν την πολυτέλεια να περιμένουν μέχρι να εμφανιστούν όλες οι συνέπειές της για να αποφασίσουν ποιοι κανόνες χρειάζονται.
Το βάρος πέφτει ιδιαίτερα στις ΗΠΑ, όπου βρίσκονται πολλές από τις εταιρείες που οδηγούν την κούρσα της AI. Και επειδή πρόκειται για μια χώρα όπου η κυβέρνηση εξακολουθεί να λογοδοτεί στους ψηφοφόρους, ο Χαράρι θεωρεί ότι η συζήτηση δεν μπορεί να περιοριστεί στους μηχανικούς, στις εταιρείες της Silicon Valley ή στις ρυθμιστικές αρχές.
Γι’ αυτό και, αν εξαρτιόταν από τον ίδιο, οι ενδιάμεσες εκλογές του Νοεμβρίου στις Ηνωμένες Πολιτείες θα είχαν την τεχνητή νοημοσύνη στο επίκεντρό τους. Διότι πίσω από τη συζήτηση για το πόσο έξυπνες θα γίνουν οι μηχανές βρίσκεται ένα διαφορετικό ερώτημα: πόση από την εμπιστοσύνη –και μαζί της πόση από την εξουσία– που μέχρι σήμερα ανήκε σε ανθρώπους και θεσμούς είμαστε έτοιμοι να τους παραχωρήσουμε.
Πηγή: in.gr
