Κάποτε, το πάτημα του κουμπιού «μου αρέσει» ήταν μια μηχανική αντίδραση, ένας γρήγορος τρόπος για να συμφωνήσετε, να εγκρίνετε ή να δείξετε ότι σας ενδιαφέρει κάτι. Ήταν κάτι μικρό, σχεδόν χωρίς σημασία. Στην εποχή της τεχνητής νοημοσύνης, αυτή η μικρή κίνηση έχει γίνει ένα από τα πιο ισχυρά σήματα που μπορεί να στείλει ένα άτομο. Κάθε «μου αρέσει», καρδιά ή emoji είναι πλέον ένα σημείο δεδομένων σε ένα τεράστιο, ψηφιακό πεδίο που έχει σχεδιαστεί για να κατανοήσει -και μερικές φορές να προβλέψει- την ανθρώπινη συμπεριφορά.
Αυτό που ξεκίνησε ως ένα απλό εργαλείο για την αλληλεπίδραση έχει γίνει η βάση ενός περίπλοκου ψυχολογικού προφίλ. Οι αλγόριθμοι πίσω από τις αγαπημένες μας εφαρμογές δεν παρακολουθούν πλέον μόνο τα κλικ μας, αλλά μαθαίνουν από αυτά, δημιουργώντας όλο και πιο λεπτομερή μοντέλα των προτιμήσεων, των συναισθημάτων μας. Και καθώς η τεχνητή νοημοσύνη γίνεται όλο και πιο εξελιγμένη, ανακύπτει ένα εκπληκτικό ερώτημα: θα μπορούσε σύντομα να γνωρίζει τι θέλουμε πριν το μάθουμε εμείς οι ίδιοι;
Κάθε «μου αρέσει» που δίνετε είναι ένα ψίθυρος δεδομένων. Λέει κάτι για το τι θεωρείτε αστείο, ελκυστικό, ανακουφιστικό ή αμφιλεγόμενο. Όταν συλλέγονται από εκατομμύρια -ή και δισεκατομμύρια- χρήστες, αυτοί οι ψίθυροι γίνονται μια θορυβώδης συζήτηση για τις ανθρώπινες επιθυμίες. Οι ερευνητές γνωρίζουν από καιρό ότι η ψηφιακή συμπεριφορά μπορεί να αποκαλύψει την προσωπικότητα. Μια μελέτη του 2015 από το Πανεπιστήμιο του Κέιμπριτζ και το Πανεπιστήμιο του Στάνφορντ έδειξε ότι η ανάλυση μόλις 300 «μου αρέσει» στο Facebook μπορούσε να προβλέψει τα χαρακτηριστικά της προσωπικότητας ενός ατόμου με μεγαλύτερη ακρίβεια από τον ίδιο τον σύντροφό του. Τα αλγοριθμικά μοντέλα μπορούσαν να συμπεράνουν την πολιτική προσήλωση, τις θρησκευτικές πεποιθήσεις, την κατάσταση της σχέσης, την συναισθηματική σταθερότητα και ακόμη και την νοημοσύνη -όλα αυτά από αυτά τα μικρά κλικ έγκρισης.
Από τότε, τα συστήματα τεχνητής νοημοσύνης έχουν εξελιχθεί εκθετικά. Αυτό που κάποτε απαιτούσε ανθρώπινη ερμηνεία, τώρα μπορεί να επεξεργαστεί αυτόματα και σε μεγάλη κλίμακα. Τα μοντέλα βαθιάς μάθησης μπορούν να βρουν μοτίβα σε τεράστια σύνολα δεδομένων που κανένας άνθρωπος δεν θα μπορούσε ποτέ να εντοπίσει. Οι συνήθειες των «μου αρέσει» σας συσχετίζονται με την ώρα της ημέρας, την τοποθεσία, την ταχύτητα κύλισης και το ιστορικό αλληλεπίδρασης, τροφοδοτώντας πολύπλοκα νευρωνικά δίκτυα που μαθαίνουν όχι μόνο τι σας αρέσει, αλλά και γιατί.
Εδώ είναι που τα πράγματα γίνονται τρομακτικά. Καθώς η τεχνητή νοημοσύνη γίνεται καλύτερη στην πρόβλεψη της ανθρώπινης ψυχολογίας, η γραμμή μεταξύ της αντανάκλασης και της διαμόρφωσης της συμπεριφοράς αρχίζει να θολώνει. Αν ένας αλγόριθμος ξέρει τι σας κάνει να σταματήσετε, να χαμογελάσετε ή να θυμώσετε, μπορεί να προσαρμόσει διακριτικά αυτό που θα δείτε στη συνέχεια. Αυτό σημαίνει ότι μπορεί να καθοδηγήσει τη διάθεσή σας, τις απόψεις σας, ακόμη και την αίσθηση του εαυτού σας.
Όταν οι αλγόριθμοι αρχίζουν να μας προβλέπουν
Μέχρι πρόσφατα, οι εταιρείες κοινωνικών μέσων ήταν αντιδραστικές, παρακολουθούσαν τι μας άρεσε και προσπαθούσαν να μας προσφέρουν περισσότερα από αυτό. Αλλά με τα νέα μοντέλα τεχνητής νοημοσύνης, οι πράξεις του γίνονται προγνωστικές, καθώς τα συστήματα συστάσεων που βασίζονται στη μηχανική μάθηση προβλέπουν πλέον σε τι θα κάνουμε κλικ πριν καν το δούμε.
Η σελίδα «For You» του TikTok, για παράδειγμα, χρησιμοποιεί ψηφιακά, νευρωνικά δίκτυα που έχουν εκπαιδευτεί με βάση τον χρόνο παρακολούθησης, τις επαναλήψεις και τα «μου αρέσει» μας για να μαντέψει τι μπορεί να μας κάνει να συνεχίσουμε να κάνουμε σκρολινγκ. Η τεχνητή νοημοσύνη του Netflix, αντίστοιχα, προσαρμόζει την αρχική του σελίδα ώστε να ταιριάζει με τις εξελισσόμενες προτιμήσεις μας. Το Spotify δημιουργεί τις λίστες αναπαραγωγής «Discover Weekly» όχι μόνο με βάση το ιστορικό ακροάσεών μας, αλλά και με βάση τη συνολική συμπεριφορά εκατομμυρίων χρηστών που μοιάζουν με εμάς.
Αυτή η προγνωστική ικανότητα όμως, είναι μόνο η αρχή. Το 2024, η ερευνητική ομάδα τεχνητής νοημοσύνης της Meta ανακοίνωσε ότι εκπαιδεύει πολυτροπικά μοντέλα που μπορούν να συνδυάζουν κείμενο, εικόνα και δεδομένα συμπεριφοράς για να δημιουργήσουν εξαιρετικά εξατομικευμένους «χάρτες προτιμήσεων». Αυτά τα συστήματα δεν μαθαίνουν μόνο από αυτά που μας αρέσουν, αλλά και από το πώς μας αρέσουν. Η ταχύτητα των αντιδράσεών μας, η συνέπεια των ενδιαφερόντων μας, ακόμη και η διστακτικότητά μας πριν κάνουμε κλικ, όλα τροφοδοτούν ένα εξελισσόμενο πορτρέτο του ψηφιακού εαυτού μας.
Στην ουσία, αυτά τα δεδομένα δεν αφορούν μόνο την εξατομίκευση, αλλά και το κέρδος. Τα «μου αρέσει» είναι νόμισμα και η τεχνητή νοημοσύνη είναι το νομισματοκοπείο. Όσο πιο ακριβής είναι ένας αλγόριθμος στο να μοντελοποιεί τη συμπεριφορά μας, τόσο πιο εύκολο είναι στο να μας πουλάει προϊόντα, γεγονός που βασίζεται δηλαδή στα συναισθήματα και τις προθέσεις μας.
Οι διαφημιστές βέβαια πάντα βασίζονταν στα παραπάνω και κυρίως στην ανθρώπινη ψυχολογία, αλλά η τεχνητή νοημοσύνη φέρνει ένα νέο επίπεδο ακρίβειας. Αντί να στοχεύει σε ευρείες δημογραφικές ομάδες -«γυναίκες ηλικίας 25-34 ετών που ενδιαφέρονται για τη μόδα»- η τεχνητή νοημοσύνη μπορεί να στοχεύσει συγκεκριμένα σε εμάς, με βάση την συναισθηματική μας κατάσταση σε πραγματικό χρόνο. Αν μας αρέσει μια ανάρτηση λόγω νοσταλγίας, σύντομα μπορεί να δούμε μια διαφήμιση για ρετρό πάνινα παπούτσια να πετάγεται ανάμεσα στις ειδοποιήσεις του Instagram λογαριασμού μας. Αν διαβάζουμε ή ψάχνουμε περιεχόμενο σχετικά με την αυτοβελτίωση, μπορεί να μας εμφανιστεί ένα διαδικτυακό μάθημα ή μια νέα εφαρμογή γυμναστικής. Αυτό δημιουργεί αυτό που ορισμένοι ειδικοί αποκαλούν «προληπτικό καπιταλισμό» -ένα σύστημα όπου τα μοντέλα τεχνητής νοημοσύνης προβλέπουν τι θα θέλουν οι καταναλωτές στη συνέχεια και τοποθετούν τα προϊόντα πριν ακόμη διαμορφωθεί πλήρως η επιθυμία. Είναι αποτελεσματικό, κερδοφόρο και βαθιά επεμβατικό.
Καθώς η τεχνητή νοημοσύνη γίνεται πιο έξυπνη, ο κύκλος ανατροφοδότησης γίνεται πιο ακριβής. Μας αρέσει κάτι, το σύστημα προβλέπει την επόμενη κίνησή μας, αλληλεπιδρούμε με αυτό και μετά ξανά ο αλγόριθμος βελτιώνεται. Σύντομα, σταματά να μας ακολουθεί και αρχίζει να μας καθοδηγεί.
Το ψυχολογικό κόστος
Υπάρχει μια ειρωνεία εδώ. Το «μου αρέσει» σχεδιάστηκε για να προάγει τη σύνδεση, να κάνει τους ψηφιακούς χώρους να φαίνονται ανθρώπινοι. Αλλά καθώς οι αλγόριθμοι έχουν μάθει να εκμεταλλεύονται την προσοχή μας, πολλοί χρήστες αναφέρουν ότι αισθάνονται ότι νιώθουν τους χειραγωγούν. Όταν η τεχνητή νοημοσύνη γνωρίζει τις προτιμήσεις σας καλύτερα από εσάς, μπορεί να ενισχύσει διακριτικά τις προκαταλήψεις ή τα συναισθηματικά σας ερεθίσματα. Μπορεί να βρεθείτε να έλκεστε από πιο ακραίο περιεχόμενο ή να εγκλωβιστείτε σε μια ψηφιακή αίθουσα που επιβεβαιώνει την κοσμοθεωρία σας. Ο αλγόριθμος δεν ενδιαφέρεται για τις πεποιθήσεις σας -ενδιαφέρεται μόνο να παραμείνετε σε αυτόν.
Οι ψυχολόγοι προειδοποιούν ότι αυτή η δυναμική υπονομεύει την αυτονομία. Αν τα συστήματα που βασίζονται στην τεχνητή νοημοσύνη προβλέπουν τις επιθυμίες μας, μπορεί επίσης να τις διαμορφώνουν, μειώνοντας την αυθορμητικότητα και την αυτογνωσία μας. Άλλο πράγμα είναι να έχετε μια λίστα αναπαραγωγής που σας αρέσει και άλλο να συνειδητοποιείτε ότι η μουσική που «ανακαλύπτετε» έχει επιλεγεί για να σας κρατήσει προβλέψιμους. Αυτή η προγνωστική οικειότητα εγείρει επίσης ηθικά και νομικά ζητήματα. Ποιος είναι ο ιδιοκτήτης των ψυχολογικών σας δεδομένων; Μπορεί μια εταιρεία να χρησιμοποιήσει την τεχνητή νοημοσύνη για να συμπεράνει την ψυχική σας υγεία, τη σεξουαλικότητα ή τις πολιτικές σας απόψεις χωρίς τη συγκατάθεσή σας; Οι ευρωπαϊκοί νόμοι περί απορρήτου, όπως ο GDPR, προσπαθούν να περιορίσουν τέτοιες πρακτικές, αλλά η τεχνολογία εξελίσσεται ταχύτερα από τη νομοθεσία.
Η εποχή της συναισθηματικής τεχνητής νοημοσύνης
Το επόμενο μέτωπο είναι αυτό που οι ερευνητές αποκαλούν «συναισθηματική πληροφορική» -τεχνητή νοημοσύνη που μπορεί να διαβάζει και να ανταποκρίνεται στα ανθρώπινα συναισθήματα. Τα συστήματα εκπαιδεύονται να ανιχνεύουν μικροεκφράσεις, τον τόνο της φωνής και τα σήματα από φορητές συσκευές. Συνδυάζοντας τα με τα «μου αρέσει» στα κοινωνικά μέσα, η τεχνητή νοημοσύνη θα μπορεί σύντομα να χαρτογραφήσει το συναισθηματικό σας τοπίο με ανατριχιαστική ακρίβεια. Φανταστείτε δηλαδή, έναν αλγόριθμο που ξέρει πότε νιώθετε μοναξιά και σας προτείνει μια αγγελία γνωριμιών. Ή έναν που ανιχνεύει την απογοήτευσή σας και σας προτείνει ένα προϊόν που θα σας ανακουφίσει.
Οι ειδικοί φοβούνται ότι καθώς αυτά τα συστήματα εξελίσσονται, η πρόβλεψη των συναισθημάτων θα συγχέεται με τη συναισθηματική χειραγώγηση. «Όταν οι μηχανές κατανοούν τις εσωτερικές μας καταστάσεις καλύτερα από εμάς», λέει η Shoshana Zuboff, συγγραφέας του The Age of Surveillance Capitalism, «αποκτούν τη δύναμη να διαμορφώνουν το μέλλον σύμφωνα με τη δική τους εικόνα της κερδοφορίας».
Παίρνοντας πίσω το «μου αρέσει»
Τι μπορεί να γίνει λοιπόν; Ορισμένες πλατφόρμες επιτρέπουν πλέον στους χρήστες να κρύβουν τα «μου αρέσει» ή να περιορίζουν την παρακολούθηση δεδομένων, αλλά αυτά είναι επιφανειακές λύσεις σε ένα βαθύτερο πρόβλημα: έχουμε δημιουργήσει μια οικονομία που ευδοκιμεί γνωρίζοντας μας πολύ καλά. Το πρώτο βήμα είναι η ευαισθητοποίηση. Κάθε κλικ, καρδιά και emoji τροφοδοτεί τη μηχανή. Όσο περισσότερο κατανοείτε πώς λειτουργούν αυτά τα συστήματα, τόσο περισσότερο μπορείτε να αντισταθείτε στην έλξη τους. Η χρήση ρυθμίσεων απορρήτου, η διαγραφή ιστορικού δεδομένων και η υποστήριξη ηθικών πολιτικών τεχνητής νοημοσύνης μπορούν να κάνουν τη διαφορά.
Αρκεί να θυμόμαστε ότι η τεχνητή νοημοσύνη δεν αντανακλά πια μόνο τις προτιμήσεις μας, αλλά τις διαμορφώνει. Και καθώς η γραμμή μεταξύ της ανθρώπινης επιθυμίας και της πρόβλεψης της μηχανής σβήνει, ένα ερώτημα παραμένει: όταν ο αλγόριθμος τελειώσει να μαθαίνει τι μας αρέσει, θα αναγνωρίζουμε ακόμα τους εαυτούς μας σε αυτό που μας δείχνει;
