* Του Νικόλα Καρανικόλα
Βρισκόμαστε στην εποχή μιας πανοπτικής νοημοσύνης. Ενώ σήμερα, μια αδύναμη τεχνητή νοημοσύνη απλά υποστηρίζει τις ανθρώπινες δραστηριότητες ως ένα σύγχρονο εργαλείο, σε πολύ λίγα χρόνια από τώρα, μια πανίσχυρη και πανοπτική τεχνητή νοημοσύνη θα διαμορφώνει τα κοινωνικά μοτίβα συμπεριφοράς αλλά ίσως ακόμα και την ατομική μας σκέψη.
Ισχύει τελικά εκείνη η παλιά ρήση που λέει, «όταν μας κοιτούν προσέχουμε πώς κινούμαστε, όταν όμως μας παρακολουθούν τελικά αλλάζουμε συμπεριφορικά πρότυπα».
Αλλά ας ξεκινήσουμε με την έννοια του πανοπτικού στην σημερινή κοινωνία.
Το πανοπτικό είναι ένα ιδιαίτερο είδος φυλακής που σχεδιάστηκε το 1785 από τον Τζέρεμι Μπένθαμ (Άγγλος κοινωνιολόγος). Έχει σχήμα κυκλικό με έναν ψηλό πύργο ελέγχου στο κέντρο. Οι κρατούμενοι μένουν σε μικρά κελιά γύρω από το εξωτερικό του πύργου, και υπάρχουν δύο παράθυρα στα δωμάτιά τους (μπροστά και πίσω). Ο πύργος έχει την δυνατότητα παρακολούθησης όλων των κελιών σε 24ωρη βάση. Οι κρατούμενοι δεν μπορούν να αντιληφθούν πότε παρακολουθούνται, επομένως πρέπει πάντα να συμπεριφέρονται σε αυστηρά μοτίβα. Η βασική ιδέα είναι ότι οι ίδιοι οι κρατούμενοι γίνονται δεσμώτες του εαυτού τους. Με αυτόν τον τρόπο, οι αρχές διαθέτουν μία απόλυτη εξουσία στους κρατούμενους, ενώ οι κρατούμενοι δεν έχουν καμιάς μορφής ιδιωτικότητα ή ελευθερία. Αυτή η ιδέα της συνεχούς παρακολούθησης και ελέγχου εξακολουθεί να χρησιμοποιείται σήμερα σε κτιριακές δομές όπως κυβερνητικά κτίρια, τράπεζες, σχολεία καθώς και σε δημόσιους χώρους όπως δρόμους και πλατείες στις μητροπόλεις του πλανήτη.
Σήμερα, βιώνουμε την εποχή του απόλυτου τεχνο-πανοπτικού ελέγχου στις σύγχρονες κοινωνίες. Κάμερες, κινητά τηλέφωνα, έξυπνα ρολόγια, δορυφόροι, GPS, διαδίκτυο, αυτοκίνητα, παρακολουθούν την κάθε μας κίνηση. Το κάθε μας κλικ. Και κάθε στιγμή, χρησιμοποιούν τις κινήσεις μας για να αναλύσουν ακόμα περισσότερο την συμπεριφορά μας κατατάσσοντας σε συγκεκριμένα πρότυπα τις επιλογές μας.
Έτσι, εταιρείες όπως το Meta (Facebook, Instagram, κλπ.), η Google, η Apple και άλλες, στοχεύουν στην ύπαρξη μοτίβων συμπεριφορών σε κάθε μας ψηφιακή κίνηση. Ο σκοπός φυσικά είναι το κέρδος. Μερικά εκατομμύρια «clicktoad” παραπάνω. Είναι επιτυχημένο αυτό το σύγχρονο μάρκετινγκ;
Αν σκεφτούμε ότι πρόκειται για εταιρείες αξίας τρισεκατομμυρίων ευρώ, μάλλον ναι. Σήμερα υπάρχουν αλγόριθμοι που προβλέπουν τι θα καταναλώσουμε και μας σπρώχνουν προς την «σωστή» κατεύθυνση πριν καν το αντιληφθούμε. Απλά αναλύοντας δεδομένα εκατομμυρίων άλλων ανθρώπων με κοινά με μας χαρακτηριστικά.
Δυστυχώς, η μεγαλύτερη σύγχρονη απογοήτευση του 21ου αιώνα τείνει να γίνει το διαδίκτυο. Ενώ σχεδιάστηκε ως ένα εργαλείο επικοινωνίας εξελίχθηκε σε μία τεράστια αγορά με τελικά προϊόντα τα προσωπικά μας δεδομένα, τις συμπεριφορές και τις επιλογές μας. Και αν οι ιδιωτικές εταιρείες χρησιμοποιούν τα προσωπικά μας δεδομένα και μας οδηγούν σε μία δυστοπική κοινωνία σε όρους μάρκετινγκ, τι κάνουν οι κυβερνήσεις με τα άπειρα δεδομένα που διαθέτουν;
Δυστυχώς, οι σύγχρονες κοινωνίες είναι πολύ δυσμενέστερες από την Οουργελική φαντασία του «1984» και του Μεγάλου Αδερφού, αφού υπάρχει μια σημαντική διαφορά. Σήμερα δεν επικρατεί στην κοινωνία μας ο τρόμος της παρακολούθησης όπως τον φαντάστηκε ο Όργουελ, αλλά η αδέξια ικανοποίηση μιας πρόσκαιρης κατανάλωσης ή μιας τυχαίας επικοινωνίας. Ίσως αυτό να λειτουργεί πια ως το σύγχρονο όπιο της κοινωνίας μας.
Και τι συμβαίνει όταν αντικαταστήσουμε τον δεσμώτη με μία τεχνητή νοημοσύνη; Όσοι αντιλαμβάνονται τα εργαλεία της τεχνητής νοημοσύνης ως το επόμενο βήμα της τεχνολογικής εξέλιξης πλανώνται πλάνην οικτράν. Η τεχνητή νοημοσύνη είναι το επόμενο τεράστιο άλμα σε έναν νέο κόσμο εντελώς διαφορετικών παραμέτρων. Και όπως σε όλα τα μεγάλα άλματα υπάρχουν και τεράστιοι κίνδυνοι για τις κοινωνίες μας.
Μπορεί ως θετικό παράδειγμα, ένα είδος τεχνητής νοημοσύνης να έχει ήδη τοποθετηθεί στα φανάρια των δρόμων όλων των σύγχρονων μεγαλουπόλεων. Έτσι, τα πρόστιμα βγαίνουν αυτόματα σε όσους παραβάτες περνάνε με κόκκινο. Με αυτό τον τρόπο οδηγούμαστε σε ορθότερη συμπεριφορά και τελικά αυτοπεριοριζόμαστε στις παραβάσεις μας. Δυστυχώς όμως τούτη η τεχνολογία δεν είναι τόσο αθώα. Και οι κίνδυνοι δεν κρύβονται εντός της τεχνητής νοημοσύνης ως εργαλείο, αλλά στους σκοπούς αυτού που διαθέτει την δύναμη να την ελέγχει.
Οι σύγχρονες κυβερνήσεις διαθέτουν ήδη τόνους δεδομένων και έχουν την δυνατότητα να αντιλαμβάνονται μοτίβα συμπεριφορών, πολιτικές επιλογές, διαθέσεις αντιφρονούντων και κινηματικές επιλογές. Συγχρόνως, η πληροφορία μέσα από τα κοινωνικά μέσα, είναι διασπασμένη με τελικό αποτέλεσμα ο όποιος κοινωνικός διάλογος να είναι πρακτικά και ουσιαστικά αδύνατος.
Ήδη, το 2016 ο υπεύθυνος κοινωνικών δικτύων του Ντόναλντ Τραμπ, δήλωσε ότι με εργαλεία τεχνητής νοημοσύνης στο Facebook, απέτρεψε αφροαμερικανούς από το να πάνε να ψηφίσουν, ενώ συγχρόνως έστρεψε πολιτικές επιλογές χιλιάδων ανθρώπων προς την κατεύθυνση που η ομάδα του ήθελε. Μία απλή στοχευμένη πολιτική καμπάνια με όρους σύγχρονου μάρκετινγκ.
Αντίστοιχα στην Ελλάδα, με εργαλείο το TikTok,ο Κυριάκος Μητσοτάκης και το επιτελείο του, σχεδίασε μια στοχευμένη καμπάνια που του επέτρεψε να περάσει τα πολιτικά του μηνύματα στη νεολαία, πιάνοντας στον ύπνο τους πολιτικούς του αντιπάλους. Μάλιστα βραβεύτηκε για αυτό από επιχειρήσεις… μάρκετινγκ. Τυχαίο;
Κλείνοντας, είναι πλέον ξεκάθαρο ότι ζούμε σε μία εποχή με τεράστιες προκλήσεις. Σήμερα, είναι σημαντικότερη από κάθε άλλη φορά μια ριζική αναδόμηση του ψηφιακού μας πολιτισμού. Δυστυχώς σε πολλές περιπτώσεις το σημαντικότερο προϊόν προς πώληση σήμερα, είμαστε εμείς, τα χαρακτηριστικά, τα δεδομένα και οι επιλογές μας. Η τεχνητή νοημοσύνη μπορεί να εξελιχθεί στο σημαντικότερο άλμα ανάπτυξης που είχαμε ποτέ, ή απλά να μας οδηγήσει σε ένα δυστοπικό μέλλον. Δυστυχώς δεν αρκεί η αντίδραση «Άι από δω βρε AI”. Τα ζητήματα που αντιμετωπίζουμε είναι θεμελιώδη.
Ποιος όμως θα το επιλέξει αυτό;
Και κάτω από ποιες αρχές;
Ίσως τελικά το ερώτημα ελευθερία ή ηρεμία να μην είναι τόσο απλοϊκό όσο αρχικά φαίνεται.
* Ο Νικόλας Καρανικόλας είναι καθηγητής του Τμήματος Μηχανικών, Χωροταξίας και Ανάπτυξης του ΑΠΘ
