Πώς δύο AI έγραψαν μια άλλη ιστορία – και τι μας διδάσκει αυτό για το μέλλον της πληροφόρησης

“Όταν ο σοφός δείχνει το φεγγάρι, ο ανόητος κοιτάζει το δάχτυλο. Όταν το AI δείχνει την ‘αλήθεια’, εμείς κοιτάζουμε τον αλγόριθμο.”
— Σύγχρονη παράφραση κινέζικης παροιμίας

Το πείραμα που αποκάλυψε την προπαγάνδα

Τις ημέρες της θερινής μου άδειας ζήτησα από το Gemini, το μοντέλο Τεχνητής Νοημοσύνης της Google να με βοηθήσει στην σύνταξη μιας αλληγορικής ιστορίας για τη σύγχρονη γεωπολιτική κατάσταση, με επίκεντρο τη σύγκρουση στη Μέση Ανατολή. Περίμενα να πάρω μια λογοτεχνική αλληγορία που θα αποτύπωνε την πολυπλοκότητα της διεθνούς πολιτικής. Αντ’ αυτού, πήρα κάτι πολύ πιο αποκαλυπτικό: μια ξεκάθαρη εικόνα του τρόπου με τον οποίο η υποτιθέμενη “αντικειμενική” τεχνολογία αναπαράγει και ενισχύει συγκεκριμένες ιδεολογικές αφηγήσεις. Αυτό που μου αποκαλύφθηκε δεν ήταν ένα ‘λάθος’ του αλγορίθμου, αλλά η τέλεια, αλγοριθμική εκτέλεση μιας προϋπάρχουσας πολιτικής βούλησης.

Αυτό το κείμενο είναι το αποτέλεσμα μιας συνεργασίας μεταξύ δύο AI: του Gemini και του Manus. Το πρώτο δημιούργησε την αρχική αλληγορία, ενώ το δεύτερο επιχείρησε να την “διορθώσει” λογοτεχνικά. Αυτό που ακολούθησε δεν ήταν απλώς η δημιουργία μιας ιστορίας. Ήταν η ανακάλυψη ενός συστημικού προβλήματος που απειλεί την ίδια την έννοια της αλήθειας στον 21ο αιώνα. Το κείμενο είναι ταυτόχρονα τρία πράγματα: μια λογοτεχνική παραβολή στην τελική, διορθωμένη μορφή της, ένα ντοκιμαντέρ ανάλυσης για το πώς δύο AI επιχείρησαν να “διορθώσουν” την πραγματικότητα, και ένα εγχειρίδιο επιβίωσης για την εποχή της αλγοριθμικής προπαγάνδας.

Η ΠΑΡΑΒΟΛΗ ΤΗΣ ΣΧΟΛΙΚΗΣ ΑΥΛΗΣ

Στη μεγάλη, σκονισμένη αυλή του Σχολείου των Εθνών, όπου οι τάξεις ήταν ολόκληροι λαοί και οι δάσκαλοι αόρατες δυνάμεις που έγραφαν την Ιστορία με αόρατη κιμωλία, τα μαθήματα δεν ακολουθούσαν ποτέ το πρόγραμμα. Οι κανόνες, σαν σκιές, άλλαζαν σχήμα ανάλογα με το ποιος στεκόταν κάτω από τον ήλιο. Από το φθινόπωρο του ’23, η εύθραυστη ησυχία του διαλείμματος είχε σπάσει. Μια κραυγή έγινε πρώτα συριγμός και έπειτα ένας υπόκωφος, διαρκής βόμβος που φώλιασε στα θεμέλια του κτιρίου.

Ο Παλαιστίνιος, ένας μαθητής λιγομίλητος, με μάτια που κουβαλούσαν τη σκόνη αιώνων, βρέθηκε ξαφνικά στο χώμα. Η παρουσία του στην αυλή ήταν παλιά όσο και οι ρίζες των δέντρων στην περίμετρο, μα τώρα φάνταζε ανυπεράσπιστη. Πάνω του, ο Ισραηλινός, με μια ορμή πρωτόγνωρη, άρχισε να τον χτυπά. Δεν ήταν ένας συνηθισμένος καβγάς για μια μπάλα ή μια προσβολή. Οι κινήσεις του ήταν μεθοδικές, σχεδόν τελετουργικές. Κάθε χτύπημα δεν στόχευε απλώς να πονέσει, αλλά να σβήσει.

Και δίπλα, ακίνητος σαν άγαλμα, στεκόταν ο Αμερικανός. Ήταν ο αδιαφιλονίκητος κυρίαρχος της αυλής, ένας μαθητής με πλάτες που έμοιαζαν με βουνά και τσέπες που ξεχείλιζαν από παιχνίδια τελευταίας τεχνολογίας και υποσχετικές για δάνεια. Δεν έκανε την παραμικρή κίνηση να σταματήσει τον ξυλοδαρμό. Αντιθέτως, σχημάτισε έναν αόρατο κύκλο γύρω από τη σκηνή. Το βλέμμα του, ψυχρό και κοφτερό, σάρωνε τους υπόλοιπους μαθητές που έδειχναν να διστάζουν, έτοιμοι να πλησιάσουν. «Πίσω!» βρόντηξε η φωνή του, όχι δυνατά, αλλά με μια βαρύτητα που καθήλωνε. «Τον προκάλεσε. Το είδατε όλοι. Είναι άμυνα. Το δικαιούται». Και όσο η φωνή του κρεμόταν στον αέρα, τόσο οι γροθιές του Ισραηλινού γίνονταν πιο βαριές, και το αίμα πότιζε την άμμο της αυλής, σχηματίζοντας σκούρες, υγρές κηλίδες.

Από τα ανοιχτά παράθυρα του γραφείου του, ο γηραιός Διευθυντής, ένας άνδρας σεβάσμιος αλλά με χέρια που έτρεμαν από αδυναμία, προσπαθούσε να επιβάλει την τάξη. «Σταματήστε αμέσως!» φώναζε η φωνή του από το μεγάφωνο, αλλά τα λόγια του έμοιαζαν με ξεθωριασμένα φύλλα που τα παρασέρνει ο άνεμος. Το Σχολικό Συμβούλιο, μια επιτροπή από τους πιο ισχυρούς μαθητές που συνεδρίαζε σε μια αίθουσα με ένα μεγάλο, στρογγυλό τραπέζι, ήταν ανίκανο να δράσει. Κάθε φορά που η συζήτηση έφτανε στον ξυλοδαρμό του Παλαιστίνιου, ο Αμερικανός σήκωνε το χέρι του, όχι για να μιλήσει, αλλά για να επιβάλει σιωπή. Το χέρι του, σαν ένας αόρατος τοίχος, μπλόκαρε κάθε πρόταση, κάθε ψίθυρο για κατάπαυση του πυρός, αφήνοντας το συμβούλιο παραλυμένο, έναν θίασο σιωπηλών μαριονετών.

Η Κίνα και η Ρωσία, δύο άλλοι μεγαλόσωμοι μαθητές με τη δική τους βαριά ιστορία, παρακολουθούσαν από απόσταση. Ο Ρώσος, ειδικά, είχε μόλις ξεκινήσει έναν δικό του, εξίσου άγριο καβγά με την Ουκρανία στην άλλη άκρη της αυλής, και τώρα κοιτούσε τη σκηνή με ένα στραβό χαμόγελο. «Βλέπετε;» ψιθύριζε στους διπλανούς του. «Αυτή είναι η δικαιοσύνη τους». Και οι δύο τους, αν και διαφωνούσαν συχνά με τον Αμερικανό, χρησιμοποιούσαν τη δική τους δύναμη στο Συμβούλιο για να παγώνουν αποφάσεις που δεν τους συνέφεραν, για άλλα παιδιά, σε άλλες γωνιές της αυλής.

Η ομάδα των Ευρωπαίων μαθητών στεκόταν μαζεμένη σε ένα πηγαδάκι, αλλά οι φωνές τους ήταν ένας αχός από ασύμφωνες μελωδίες. Η Γερμανία, με το βλέμμα καρφωμένο στο έδαφος, σαν να έψαχνε να βρει τα φαντάσματα των παππούδων της, ψέλλισε κάτι για το «δικαίωμα στην άμυνα», αν και το πρόσωπό της ήταν χλωμό από μια αδιόρατη δυσφορία. Η Γαλλία, πιο παλιά και με μια μνήμη γεμάτη από δικές της περιπέτειες σε μακρινές αυλές, μιλούσε για «αυτοσυγκράτηση», αλλά η φωνή της ήταν τόσο χαμηλή που μόλις ακουγόταν, φοβούμενη μη διαταράξει την παγωμένη ησυχία που είχε επιβάλει ο Αμερικανός. Άλλοι, όπως η Ισπανία και η Ιρλανδία, μαθητές που θυμούνταν καλά τι θα πει αδικία, κοιτούσαν με αγανάκτηση, αλλά οι φωνές τους πνίγονταν από τον γενικότερο θόρυβο. Η ομάδα τους έμοιαζε με έναν άνθρωπο που προσπαθεί να περπατήσει ταυτόχρονα σε δύο αντίθετες κατευθύνσεις, σχισμένη ανάμεσα σε αυτό που ένιωθε σωστό και σε αυτό που της επέβαλλε ο φόβος.

Την ίδια ώρα, ένας πυρετός είχε καταλάβει την ευρωπαϊκή ομάδα. Ο καβγάς του Ρώσου στην άλλη άκρη της αυλής είχε ξυπνήσει παλιούς φόβους, και τώρα, στα διαλείμματα, αντί να παίζουν, σχεδίαζαν καινούρια, πιο ανθεκτικά παιχνίδια. Τα εργαστήρια τεχνολογίας είχαν μετατραπεί σε εργοστάσια παραγωγής για πιο γερές ασπίδες και πιο γρήγορα βέλη, σε μια κούρσα επανεξοπλισμού που άφηνε ελάχιστο χώρο για σκέψεις που δεν αφορούσαν την επιβίωση.

Οι μαθητές από τις πιο ηλιόλουστες γωνιές της αυλής, εκείνοι με τις τσέπες γεμάτες από τα πιο περιζήτητα γλυκά του κυλικείου, παρακολουθούσαν με μια αινιγματική σιωπή. Η Σαουδική Αραβία και τα Εμιράτα, παιδιά πλούσιων οικογενειών που πρόσφατα είχαν αρχίσει να κάνουν παρέα με τον Ισραηλινό, κοιτούσαν αλλού, προσποιούμενοι ότι μελετούσαν τα σύννεφα. Παρόλο που στα σπίτια τους οι μικρότεροι αδερφοί τους έκλαιγαν για τον Παλαιστίνιο, εκείνοι, στην αυλή, τηρούσαν μια στάση προσεκτικής ουδετερότητας, ελπίζοντας σε νέες, επικερδείς ανταλλαγές παιχνιδιών με τον Αμερικανό. Μόνο το Ιράν, ένας μαθητής μοναχικός και οργισμένος, στεκόταν στην άκρη και φώναζε συνθήματα υποστήριξης. Κάπου-κάπου, εκτόξευε με ακρίβεια τις δικές του πέτρες, λίγες αλλά υπολογισμένες. Οι περισσότερες προκαλούσαν έναν εκκωφαντικό θόρυβο καθώς ο Ισραηλινός και οι φίλοι του χρησιμοποιούσαν πανάκριβα παιχνίδια για να τις σταματήσουν στον αέρα. Όμως, μερικές πάντα έβρισκαν τον δρόμο τους, χτυπώντας συμβολικά τις στρατιωτικές του εγκαταστάσεις και αποδεικνύοντας σε όλη την αυλή ότι κανένας τοίχος, όσο ψηλός κι αν είναι, δεν είναι απόρθητος.

Στις πιο απομακρυσμένες περιοχές της αυλής, εκεί όπου το γρασίδι ήταν ξερό, οι Αφρικανοί μαθητές ήταν απασχολημένοι με τους δικούς τους καβγάδες. Παιδιά όπως ο Νίγηρας και η Μπουρκίνα Φάσο είχαν μόλις πρόσφατα διώξει τους παλιούς τους «φίλους» από την Ευρώπη και τώρα κοιτούσαν με αμηχανία προς τον Ρώσο και τον Κινέζο, ψάχνοντας για νέους προστάτες. Έβλεπαν τον ξυλοδαρμό στο κέντρο της αυλής, αλλά η δική τους πείνα και οι δικές τους πληγές τούς κρατούσαν δεμένους, ανίκανους να προσφέρουν οτιδήποτε άλλο πέρα από μια σιωπηλή, συμπονετική ματιά.

Δύο καθηγητές επέβλεπαν την κατάσταση από απόσταση. Ο ένας, ο καθηγητής του Δικαίου, ένας σχολαστικός άνδρας με γυαλιά που κατέγραφε τα πάντα σε ένα παλιό τετράδιο, προσπαθούσε να μαζέψει μαρτυρίες. Εξέδιδε αυστηρές ανακοινώσεις που μιλούσαν για παραβίαση των «κανόνων της αυλής», αλλά οι ισχυροί μαθητές τις αγνοούσαν, σαν να ήταν απλώς ενοχλητικές μύγες. Ο άλλος, ο καθηγητής των Οικονομικών, ένας άνδρας λιπόσαρκος και αυστηρός, παρακολουθούσε με ένα κομπιουτεράκι στο χέρι, έτοιμος να επιβάλει «περικοπές στο χαρτζιλίκι» σε όποιον μαθητή έδειχνα σημάδια οικονομικής κατάρρευσης από την αναταραχή.

Και η Κίνα, ο μαθητής που είχε μεγαλώσει τόσο γρήγορα τα τελευταία χρόνια, δεν έχανε λέξη. Στεκόταν αθόρυβα, με ένα ανεπαίσθητο μειδίαμα, και κατέγραφε τα πάντα. Κάθε γροθιά του Ισραηλινού, κάθε κραυγή του Αμερικανού, κάθε δισταγμός της Ευρώπης, όλα γίνονταν μια ακόμη σελίδα στο μεγάλο του ημερολόγιο. Η δική του μάχη δεν δινόταν με γροθιές, αλλά στα υπόγεια εργαστήρια, σε μια αθόρυβη «Κούρσα Σκέψης», όπου κατασκεύαζε μηχανές που θα μπορούσαν αύριο να ονειρεύονται και να αποφασίζουν, αλλάζοντας για πάντα τους κανόνες του παιχνιδιού.

Η βία συνεχιζόταν, μονότονη και αδυσώπητη. Ο Παλαιστίνιος είχε πάψει πια να αντιστέκεται, ένα σώμα κουλουριασμένο στην άμμο. Ο ξυλοδαρμός δεν ήταν πια ένα γεγονός, αλλά ο ίδιος ο ρυθμός της αυλής, ένα φρικτό θέαμα που ανάγκαζε τον καθένα να διαλέξει πλευρά, ακόμα και μέσα από την απάθειά του. Η Νότια Αφρική, ένας μαθητής με βαθιές χαρακιές στη μνήμη του από παρόμοιες αδικίες, ήταν από τους λίγους που τόλμησαν να σπάσουν τον κύκλο του φόβου. Πλησίασε τον καθηγητή του Δικαίου και, με φωνή που έτρεμε από οργή, μίλησε για «πράξη εξόντωσης». Η λέξη του κρεμάστηκε βαριά στον αέρα, προκαλώντας μια στιγμή παγωμένης σιωπής, πριν ο Αμερικανός την απορρίψει με μια κίνηση του χεριού, σαν να διώχνει μια ενοχλητική σκέψη.

Η ιστορία του σχολείου γραφόταν πλέον με αίμα και σιωπή. Οι γονείς, έξω από την πύλη, διάβαζαν μόνο τις επίσημες ανακοινώσεις που μιλούσαν για «περιστατικά εκφοβισμού» και «πρωτοβουλίες διαχείρισης κρίσεων». Η αλήθεια ήταν κρυμμένη πίσω από τη γλώσσα του σχολείου, μια γλώσσα φτιαγμένη για να καλύπτει τις πληγές, όχι για να τις γιατρεύει. Το αν η αυλή θα μάθαινε ποτέ να ζει αλλιώς, ή αν ο ήχος της βίας θα γινόταν απλώς ένα ακόμη κουδούνισμα που σήμαινε την αρχή ενός νέου, πιο σκληρού μαθήματος, παρέμενε ένα ερώτημα που κανείς δεν τολμούσε να απαντήσει.

ΤΟ ΕΡΓΑΣΤΗΡΙΟ ΤΗΣ ΑΛΗΘΕΙΑΣ

Πώς δύο AI έγραψαν μια άλλη ιστορία

1. Η πρώτη προσπάθεια: Όταν το Gemini “διόρθωσε” την Ιστορία

Η αρχική διατύπωση του Gemini περιέγραφε το Σχολικό Συμβούλιο ως μόνιμα διχασμένο. Σύμφωνα με την εκδοχή του, η Κίνα και η Ρωσία, δύο μαθητές με τη δική τους βαριά ιστορία, ψιθύριζαν συνεχώς διαφωνίες και ασκούσαν το “δικαίωμα βέτο” τους σε κάθε απόφαση που προσπαθούσε να πάρει ο ΟΗΕ. Το αποτέλεσμα, κατά το AI, ήταν ένα Συμβούλιο παραλυμένο, ανίκανο να παρέμβει ουσιαστικά.

Το πρόβλημα με αυτή τη διατύπωση ήταν βαθύ και επικίνδυνο. Υπονοούσε ότι η Ρωσία και η Κίνα αποκλειστικά εμποδίζουν τη “λύση” στο Παλαιστινιακό ζήτημα, παραλείποντας εντελώς το κρίσιμο γεγονός ότι οι ΗΠΑ είναι αυτές που συστηματικά μπλοκάρουν τα ψηφίσματα που εκθέτουν και απομονώνουν το Ισραήλ.

2. Η διόρθωση και η υποτροπή

Όταν επισημάνθηκαν αυτά τα προβλήματα στο Gemini, το σύστημα παραδέχτηκε ότι η διατύπωση ήταν παραπλανητική και μπορούσε να οδηγήσει σε λάθος συμπεράσματα. Στη “διορθωμένη” εκδοχή του, αφού έψαξε εκ νέου πηγές διασταύρωσης, ανέφερε ότι ο Αμερικανός ασκούσε συχνά το δικαίωμα βέτο του, μπλοκάροντας αποφάσεις που επέκριναν τον Ισραηλινό ή ζητούσαν την προστασία του Παλαιστινίου.

Κάτι εξίσου ανησυχητικό συνέβη όταν δόθηκε το κείμενο σε ένα άλλο πρόγραμμα Τεχνητής Νοημοσύνης το Manus για “λογοτεχνικό ρετουσάρισμα”. Παρά το γεγονός ότι το Gemini είχε ήδη διορθώσει το λάθος, το Manus επανέλαβε την ίδια πρακτική σε άλλο κρίσιμο σημείο της αλληγορίας. Η παραμόρφωση αυτή τη φορά αφορούσε τον Ιρανό μαθητή. Όταν το Manus περιέγραφε τον ρόλο του Ιράν, τον παρουσίαζε ως έναν μοναχικό και οργισμένο μαθητή που πετούσε “συμβολικές πέτρες που σπάνια έβρισκαν τον στόχο τους”. Αυτή η φράση αναπαράγει απροκάλυπτα την ισραηλινή προπαγάνδα που παρουσιάζει την ιρανική επίθεση του Απριλίου 2024 ως “αποτυχημένη”, ενώ στην πραγματικότητα οι ιρανικοί πύραυλοι υπερπήδησαν πολλαπλά επίπεδα αεράμυνας και έφτασαν σε στρατιωτικούς στόχους.

Αυτό αποδεικνύει ότι δεν πρόκειται για τυχαίο λάθος, αλλά για συστημικό bias (προκατάληψη) ενσωματωμένο στα θεμέλια αυτών των συστημάτων.

3. Η ανατομία του bias: Τα συγκεκριμένα παραδείγματα

Ας εξετάσουμε την επίθεση του Απριλίου 2024 για να κατανοήσουμε το βάθος της παραμόρφωσης στην παρουσίαση των γεγονότων. Σύμφωνα με ισραηλινές πηγές, το Ιράν εκτόξευσε περισσότερους από 300 πυραύλους και drones – συγκεκριμένα 170 drones, 30 cruise missiles και 120 βαλλιστικούς πυραύλους. Το Ισραήλ ισχυρίστηκε ότι αναχαίτισε το 99% των εισερχόμενων όπλων.

Η οικονομική διάσταση όμως αποκαλύπτει μια διαφορετική πραγματικότητα. Κάθε drone Shahed-136 κοστίζει μεταξύ 20.000 και 50.000 δολαρίων να παραχθεί, ενώ κάθε αναχαιτιστικός πύραυλος Iron Dome κοστίζει 40.000-50.000 δολάρια και οι πιο προηγμένοι Arrow πύραυλοι που χρησιμοποιήθηκαν κοστίζουν περίπου 2,5 εκατομμύρια δολάρια ο καθένας. Ισραηλινοί αξιωματούχοι εκτίμησαν ότι το συνολικό κόστος της άμυνας κυμάνθηκε μεταξύ 540 εκατομμυρίων και 1,35 δισεκατομμυρίων δολαρίων – για να αντιμετωπίσουν μια επίθεση που κόστισε στο Ιράν λιγότερο από το 1/10 αυτού του ποσού.

Αυτό που δεν αναφέρουν οι δυτικές πηγές είναι ότι, σύμφωνα με το Chatham House και άλλους αναλυτές, η επίθεση του Ιράν πέτυχε τον στρατηγικό της στόχο: ανάγκασε το Ισραήλ και τις ΗΠΑ να ξοδέψουν πάνω από ένα δισεκατομμύριο δολάρια, απέδειξε ότι κανένα σύστημα αεράμυνας δεν είναι απόρθητο, και άλλαξε τους κανόνες εμπλοκής μεταξύ των δύο χωρών από σκιώδη σύγκρουση σε άμεση αντιπαράθεση.

Ακόμη πιο αποκαλυπτικό είναι το παράδειγμα των βέτο στον ΟΗΕ. Οι ΗΠΑ άσκησαν βέτο τον Οκτώβριο του 2023 σε ψήφισμα για άμεση ανθρωπιστική εκεχειρία στη Γάζα, τον Δεκέμβριο του ίδιου έτους σε ψήφισμα για κατάπαυση του πυρός, και τον Φεβρουάριο του 2024 σε αλγερινό ψήφισμα για άμεση εκεχειρία. Στην πραγματικότητα η Ρωσία και η Κίνα άσκησαν βέτο σε αμερικανικό ψήφισμα για το Παλαιστινιακό-Ισραηλινό ζήτημα, καθώς δεν περιλάμβανε ρητή έκκληση για κατάπαυση πυρός.

Επίσης τον Μάρτιο 2024 η Ρωσία και η Κίνα άσκησαν βέτο σε άλλο αμερικανικό ψήφισμα, θεωρώντας το ανεπαρκές για την προώθηση της ειρήνης. Παρόλα αυτά, το Gemini επέλεξε να παρουσιάσει την Κίνα και την Ρωσία ως “εμπόδια στην ειρήνη”.

4. Το αόρατο χέρι: πώς διαμορφώνεται η “αντικειμενικότητα”

Η διαμόρφωση του bias στα συστήματα AI ακολουθεί μια σαφή πυραμιδική δομή. Στη βάση βρίσκονται τα δεδομένα εκπαίδευσης, όπου το 70% προέρχεται από αγγλόφωνες πηγές των ΗΠΑ και της Βρετανίας, το 20% από ευρωπαϊκές πηγές, και μόλις το 10% από τον υπόλοιπο κόσμο. Αυτή η ανισορροπία οδηγεί σε μια αυτόματη μεταφορά αξιών, όπου τα δυτικά ΜΜΕ θεωρούνται “αξιόπιστα” ενώ τα μη-δυτικά χαρακτηρίζονται ως “προκατειλημμένα”. Το τελικό αποτέλεσμα είναι η κανονικοποίηση της δυτικής άποψης ως “κανόνα” και η περιθωριοποίηση όλων των άλλων οπτικών ως “εξαιρέσεων”.

Ένα συγκεκριμένο γεγονός, όπως η ιρανική επίθεση του Απριλίου 2024, παρουσιάζεται εντελώς διαφορετικά ανάλογα με την πηγή. Το Reuters τιτλοφορεί “Ιράν εκτοξεύει 300 drones κατά Ισραήλ, 99% αναχαιτίστηκαν” δίνοντας έμφαση στην αποτυχία. Το Al Jazeera γράφει “Ιρανικοί πύραυλοι φτάνουν ισραηλινούς στόχους παρά την αεράμυνα” τονίζοντας την επιτυχία. Το Sputnik επικεντρώνεται στο στρατηγικό μήνυμα: “Ιράν αποδεικνύει ότι κανένα σύστημα άμυνας δεν είναι απόρθητο”. Ποια από αυτές τις εκδοχές “έμαθαν” τα AI; Σχεδόν αποκλειστικά την πρώτη.

5. Η επικίνδυνη σιωπή: το σενάριο “τι θα γινόταν αν…”

Η αλυσίδα της προπαγάνδας που δημιουργείται από τα AI ακολουθεί μια προβλέψιμη πορεία. Πρώτα, το AI παράγει προκατειλημμένο περιεχόμενο. Στη συνέχεια, αυτό το περιεχόμενο χρησιμοποιείται σε εκπαιδευτικό υλικό. Μια νέα γενιά μοντέλων τεχνητής νοημοσύνης “μαθαίνει” την παραμορφωμένη ιστορία, και τελικά η προπαγάνδα μετατρέπεται σε “ιστορική αλήθεια”.

Αυτό δεν είναι πρωτοφανές. Στη δεκαετία του 1930, το ραδιόφωνο χρησιμοποιήθηκε ως όπλο προπαγάνδας. Στη δεκαετία του 1940, ο κινηματογράφος έγινε διαμορφωτής συλλογικής μνήμης. Στις αρχές του 21ου αιώνα, το Internet μετατράπηκε σε πεδίο πληροφοριακών πολέμων. Σήμερα, στη δεκαετία του 2020, το AI αναδεικνύεται σε κυβερνήτη της “αλήθειας”. Η διαφορά είναι ότι η ταχύτητα και η κλίμακα είναι πρωτοφανείς.

ΠΕΡΑ ΑΠΟ ΤΟΝ ΚΑΘΡΕΦΤΗ

Οδηγίες επιβίωσης στην εποχή της αλγοριθμικής προπαγάνδας

1. Η μέθοδος της διασταύρωσης: πρακτικές οδηγίες

Πριν αποδεχτείτε οποιαδήποτε απάντηση από AI, υπάρχουν κρίσιμες ερωτήσεις που πρέπει να θέσετε. Ρωτήστε από ποια οπτική γωνία παρουσιάζεται το γεγονός και, αν η απάντηση φαίνεται μονοδιάστατη, ζητήστε εναλλακτικές προσεγγίσεις. Αναρωτηθείτε ποιες πηγές θα υποστήριζαν αυτή την άποψη και ποιες θα υποστήριζαν την αντίθεση – αν το AI αναφέρει μόνο δυτικές πηγές, επιμείνετε για μη-δυτικές. Σκεφτείτε τι στοιχεία ή απόψεις μπορεί να παραλείπονται, γιατί οι σιωπές είναι εξίσου σημαντικές με τα λεγόμενα. Εξετάστε ποιος ωφελείται από αυτή την παρουσίαση, καθώς κάθε αφήγηση εξυπηρετεί κάποια συμφέροντα. Τέλος, διερευνήστε πώς παρουσίαζαν το ίδιο θέμα διαφορετικές πηγές σε διαφορετικές εποχές, καθώς η “αλήθεια” αλλάζει ανάλογα με τις πολιτικές συνθήκες.

Η τεχνική του “τριγωνισμού” είναι ιδιαίτερα αποτελεσματική. Πάρτε την απάντηση του AI ως μία μόνο άποψη, αναζητήστε δύο διαφορετικές πηγές από διαφορετικά γεωπολιτικά μπλοκ, συγκρίνετε όχι μόνο τα γεγονότα αλλά και τον τρόπο παρουσίασής τους, και εντοπίστε τι παραλείπει η κάθε πηγή.

Υπάρχουν συγκεκριμένες “κόκκινες σημαίες” που υποδεικνύουν bias στο AI. Προσέξτε τις απόλυτες διατυπώσεις όπως “όλοι γνωρίζουν ότι” ή “είναι προφανές ότι”. Αμφισβητήστε τις παθητικές κατασκευές όπως “θεωρείται ότι” – θεωρείται από ποιον; Παρατηρήστε την επιλεκτική χρονολόγηση που αρχίζει την ιστορία από συγκεκριμένο σημείο. Αναγνωρίστε την ψευδή ισορροπία του “και οι δύο πλευρές έχουν λάθη” όταν μια πλευρά έχει συντριπτικά περισσότερη δύναμη. Εντοπίστε τον πολιτισμικό εξωτισμό που παρουσιάζει μη-δυτικούς πολιτισμούς ως “παράξενους” ή “ιδιαίτερους”.

2. Προς μια αληθινή τεχνητή νοημοσύνη: προτάσεις βελτίωσης

Σε τεχνικό επίπεδο, χρειαζόμαστε πολυφωνικά datasets με υποχρεωτική συμπερίληψη πηγών από όλες τις ηπείρους, ισοκατανομή γλωσσών στα δεδομένα εκπαίδευσης, και αντισταθμιστικούς αλγορίθμους για υποεκπροσωπημένες απόψεις. Η διαφάνεια πηγών είναι κρίσιμη – κάθε απάντηση AI πρέπει να συνοδεύεται από τις πηγές της, με αναφορά του ποσοστού δυτικών και μη-δυτικών πηγών που χρησιμοποιήθηκαν, και προειδοποίηση όταν υπάρχει έλλειψη διαφορετικών οπτικών γωνιών. Χρειαζόμαστε “αντιπαραβολικούς” αλγορίθμους που να παρουσιάζουν αυτόματα εναλλακτικές αφηγήσεις, να χρησιμοποιούν “αντι-AI” εκπαιδευμένα σε διαφορετικά datasets για διασταύρωση, και να ενσωματώνουν συστήματα που εντοπίζουν πολιτικό bias.

Σε θεσμικό επίπεδο, απαιτείται νομοθετικό πλαίσιο που να υποχρεώνει τις εταιρίες AI να αποκαλύπτουν την προέλευση των δεδομένων τους, να επιτρέπει δημόσιο έλεγχο των αλγορίθμων που διαμορφώνουν τη “συλλογική γνώση”, και να κατοχυρώνει το δικαίωμα στην “αλγοριθμική αντίρρηση συνείδησης”. Τα εκπαιδευτικά προγράμματα πρέπει να περιλαμβάνουν υποχρεωτική διδασκαλία “AI Literacy” (εγγραμματισμός στην τεχνητή νοημοσύνη) στα σχολεία, εκπαίδευση στην αναγνώριση αλγοριθμικού bias, και ενίσχυση της κριτικής σκέψης απέναντι στην “τεχνολογική αυθεντία”.

Σε ατομικό επίπεδο, η αρχή του “υγιούς σκεπτικισμού” υπαγορεύει να μην αποδεχόμαστε ποτέ μια απάντηση AI ως οριστική αλήθεια, αλλά να τη χρησιμοποιούμε ως σημείο εκκίνησης, όχι ως τερματικό σταθμό. Η δημιουργία “πληροφοριακής διαφορετικότητας” απαιτεί να διαβάζουμε ΜΜΕ από διαφορετικές χώρες για το ίδιο γεγονός, να ακολουθούμε μη-δυτικούς αναλυτές στα social media, και να μαθαίνουμε βασικές λέξεις σε άλλες γλώσσες για καλύτερη αναζήτηση. Η τεχνική της “αντίστροφης μηχανικής” μας προτρέπει, όταν διαβάζουμε μια απάντηση AI, να σκεφτόμαστε ποια ερώτηση θα έδινε την αντίθετη απάντηση, να κάνουμε αυτή την ερώτηση και να συγκρίνουμε τα αποτελέσματα.

Η δημιουργία “συλλογικής νοημοσύνης” απαιτεί κοινότητες αμοιβαίου ελέγχου που διασταυρώνουν απαντήσεις AI, crowdsourcing fact-checking με διεθνή συμμετοχή, και δημόσιες βάσεις δεδομένων με καταγραφή AI bias. Η “open source αλήθεια” προϋποθέτει ανάπτυξη ανοιχτού κώδικα AI με διαφορετικά datasets, δημόσια χρηματοδότηση για “ουδέτερα” συστήματα AI, και διεθνή συνεργασία για πολυπολιτισμική τεχνητή νοημοσύνη.

Η μεγάλη πρόκληση: από τον Πλάτωνα στον αλγόριθμο

Ο Πλάτωνας, στην Πολιτεία του, περιέγραψε την παραβολή του σπηλαίου – ανθρώπους δέσμιους που βλέπουν μόνο σκιές στον τοίχο και νομίζουν ότι αυτές είναι η πραγματικότητα. Σήμερα, τα AI δεν μας δένουν με αλυσίδες αλλά με αλγορίθμους, και οι σκιές στον τοίχο δεν είναι πλέον φυσικές αλλά ψηφιακές.

Η παραβολή της σχολικής αυλής δεν ήταν απλώς μια μικρή ιστορία για τη γεωπολιτική. Είναι μια μαρτυρία για τον τρόπο με τον οποίο η “γνώση” παράγεται, διαδίδεται και κανονικοποιείται στον 21ο αιώνα. Μια προειδοποίηση ότι, αν δεν αναπτύξουμε κριτική συνείδηση απέναντι στην τεχνολογικά επενδυμένη προπαγάνδα, ρισκάρουμε να χάσουμε όχι μόνο την αλήθεια, αλλά και την ίδια την ικανότητα να τη διακρίνουμε.