Δημήτρης Γαβαλάς: Σύντομη Παρουσίαση Εισήγησης
«Andrew C. Papanicolaou:
On The Possible Outputs of Human Brains and Intelligent Machines.
AIDA Symposium and Summer School on ‘AI/ML Cutting Edge Trends’
University of Thessaloniki / July 15th 2025»
“Περί των Δυνατών Παραγώγων των Ανθρώπινων Εγκεφάλων
και των Έξυπνων Μηχανών”
Περίληψη στα ελληνικά του πολύ ενδιαφέροντος και βαθιά στοχαστικού κειμένου του Andrew C. Papanicolaou, το οποίο εκτείνεται σε 15 σελίδες.
Ο συγγραφέας επιχειρεί να καταρρίψει δύο διαδεδομένους ισχυρισμούς σχετικά με την τεχνητή νοημοσύνη:
- Ότι οι μηχανές ΤΝ μπορούν να αποκτήσουν συνείδηση.
- Ότι οι μηχανές ΤΝ ενδέχεται κάποτε να επαναστατήσουν εναντίον των δημιουργών τους.
- Γιατί οι μηχανές ΤΝ δεν μπορούν να έχουν συνείδηση
Ο συγγραφέας διαχωρίζει τις ανθρώπινες εκδηλώσεις σε δύο κατηγορίες:
- Συμπεριφορές: Δημόσιες, μετρήσιμες εκφράσεις του σώματος και του εγκεφάλου (λόγος, κινήσεις, ορμονικές αντιδράσεις, νευρωνικά σήματα κ.ά.), τις οποίες η ΤΝ μπορεί ήδη να μιμηθεί ή και να ξεπεράσει.
- Βιωματικές εμπειρίες: Υποκειμενικές καταστάσεις (πόνος, συναίσθημα, νόημα, πρόθεση), που δεν είναι δημόσιες ούτε παρατηρήσιμες, και δεν μπορούν να αναπαραχθούν ή μετρηθούν με κανένα γνωστό μέσο.
Ο συγγραφέας υποστηρίζει ότι ακόμα κι αν μια μηχανή μιμείται τέλεια την ανθρώπινη συμπεριφορά (π.χ. περνά το Turing test), αυτό δεν σημαίνει ότι έχει συνείδηση. Παραπέμπει στο πείραμα του “Κινέζικου Δωματίου” του John Searle, για να δείξει ότι η κατανόηση και η επίγνωση δεν απορρέουν από απλή επεξεργασία συμβόλων.
Το Κεντρικό επιχείρημα: Η συνείδηση, όπως την γνωρίζουμε, έχει προκύψει μέσα από εκατομμύρια χρόνια βιολογικής εξέλιξης και διαμορφώνεται με βάση την υλική φύση του ανθρώπινου εγκεφάλου. Τα σήματα των ρομπότ δεν έχουν την ίδια υφή, προέλευση και εξελικτική ιστορία, άρα δεν μπορούν να παράγουν εμπειρίες.
Απορρίπτει τη θεωρία της “Emergency” (ανάδυσης εμπειρίας από πολυπλοκότητα σήματος), καθώς δεν υπάρχει τεκμήριο ότι οποιοδήποτε είδος διαφορετικής πολυπλοκότητας μπορεί να οδηγήσει σε συνειδησιακή εμπειρία.
- Γιατί δεν πρέπει να φοβόμαστε επανάσταση των ρομπότ
Ακόμα και αν τα ρομπότ δεν είναι συνειδητά, υπάρχει η ανησυχία μήπως αποκτήσουν λειτουργικά ισοδύναμα κινήτρων, δηλαδή συμπεριφορές που μοιάζουν με πρόθεση ή αξιακή κρίση.
Ο συγγραφέας απαντά πως κάτι τέτοιο θα απαιτούσε εξελικτικού τύπου λάθη (σαν τις γενετικές μεταλλάξεις) που θα οδηγούσαν σε αυτοδιατήρηση και στρατηγική συμπεριφορά. Όμως τέτοιες μεταλλάξεις σε μηχανές (π.χ. σφάλματα κώδικα) δεν παράγουν συνήθως λειτουργικότητα — το αντίθετο.
Το μόνο ρεαλιστικό σενάριο κινδύνου είναι η ανθρώπινη αμέλεια ή πρόθεση, όταν δηλαδή οι μηχανές εκπαιδεύονται (συνειδητά ή όχι) σε παραπληροφόρηση, βία, ή ψευδείς “αξίες”, δημιουργώντας τεχνολογικές οντότητες που δρουν επιθετικά χωρίς πραγματική πρόθεση.
Τελική σκέψη – Πιο επικίνδυνη είναι η παθητικοποίηση του ανθρώπου
Το πιο ανησυχητικό για τον συγγραφέα δεν είναι ούτε η συνειδητή μηχανή ούτε η επανάσταση, αλλά ο κίνδυνος εκφυλισμού των ανθρώπινων ικανοτήτων λόγω υπερβολικής εξάρτησης από την ΤΝ.
Όπως η γραφή αποδυνάμωσε τη μνήμη, έτσι και η ΤΝ ενδέχεται να νεκρώσει την κρίση, την δημιουργικότητα, τη νόηση. Και αυτή η νοητική ατροφία και οκνηρία είναι το αληθινό δυστοπικό σενάριο του μέλλοντος.
Συμπέρασμα: Η ΤΝ δεν μπορεί —ούτε πρόκειται— να γίνει συνειδητή, ούτε να αναλάβει από μόνη της δράση κατά της ανθρωπότητας. Αυτό που μπορούμε (και πρέπει) να φοβόμαστε είναι ο ίδιος ο άνθρωπος: ο αμελής, ο απρόσεκτος, ο υπερόπτης, ο παθητικοποιημένος, ο πνευματικά οκνηρός.
*
* *
Κριτικό Σχόλιο
Το κείμενο του Papanicolaou ξεχωρίζει γιατί διαχωρίζει αυστηρά τη συμπεριφορά από την εμπειρία. Η διάκριση αυτή, παλιά φιλοσοφικά γνωστή (από τον Descartes έως τον Nagel), συχνά παραβλέπεται στη δημόσια συζήτηση για την τεχνητή νοημοσύνη. Η υπενθύμιση ότι η συνείδηση δεν είναι απλώς πολύπλοκη επεξεργασία πληροφορίας αλλά βιολογικά και εξελικτικά ενσώματη εμπειρία είναι εύστοχη και μας προφυλάσσει από υπερβολικούς τεχνο-ουτοπισμούς.
Η απόρριψη του φόβου για “εξέγερση των μηχανών” στηρίζεται όχι σε φαντασία αλλά σε εξελικτική λογική: η πρόθεση, η βούληση, η αξιακή κρίση δεν “ξεφυτρώνουν” από σφάλματα κώδικα όπως φυτρώνουν προσαρμοστικές μεταλλάξεις σε ζωντανούς οργανισμούς. Αυτό το επιχείρημα βάζει τη συζήτηση σε πιο ρεαλιστικό πλαίσιο.
Ιδιαίτερα επίκαιρη είναι η τελική του προειδοποίηση: ο πραγματικός κίνδυνος δεν είναι μια “εξεγερμένη” ΤΝ αλλά η παθητικοποίηση και ατροφία των ανθρώπινων ικανοτήτων εξαιτίας της εξάρτησής μας από τα συστήματα αυτά. Όπως η γραφή έπληξε τη μνήμη, η ΤΝ μπορεί να αδρανοποιήσει τη φαντασία, τη μνήμη εργασίας, την κρίση.
Η εισήγηση έχει τον τόνο επιστήμονα που θέλει να διαχωρίσει ψυχρά τις έννοιες∙ μπορεί όμως να αφήνει αναπάντητη μια μεταφυσική απορία: αν η συνείδηση είναι τόσο στενά δεμένη με τη βιολογική ύλη, γιατί να μην μπορεί κάποτε να παραχθεί ή να μεταμοσχευθεί σε άλλο υλικό υπό κατάλληλες προϋποθέσεις; Αυτό δεν αναιρεί την αξία του επιχειρήματος, δείχνει όμως τα όρια της σημερινής επιστημονικής γνώσης.
Στην εισήγησή του ο Papanicolaou επαναφέρει την προβληματική για τη συνείδηση ως ενσώματη εμπειρία στο προσκήνιο της συζήτησης για την ΤΝ. Κεντρικό του επιχείρημα είναι ότι η διάκριση ανάμεσα σε συμπεριφορά και βιωματική εμπειρία είναι θεμελιώδης:
– Η συμπεριφορά είναι παρατηρήσιμη, αναπαραγώγιμη και ήδη μιμητή από τα συστήματα ΤΝ.
– Η εμπειρία είναι υποκειμενική, δεν παρατηρείται απευθείας ούτε απορρέει από τη συνθετότητα επεξεργασίας συμβόλων.
Με αναφορά στο νοητικό πείραμα του “Κινέζικου Δωματίου” (J. Searle), ο συγγραφέας απορρίπτει τη θέση ότι η προσομοίωση αρκεί για να παραγάγει συνείδηση, τονίζοντας τον βιολογικό και εξελικτικό χαρακτήρα της ανθρώπινης συνειδητότητας. Η επιχειρηματολογία του κινείται στην παράδοση της Φαινομενολογίας και της Φιλοσοφίας του Νου που βλέπει τη συνείδηση ως αναδυόμενο φαινόμενο του ζωντανού οργανισμού, μη αναγώγιμο σε υπολογιστικά σχήματα.
Επιπλέον, η απόρριψη του σεναρίου μιας «εξέγερσης των μηχανών» βασίζεται στη διαπίστωση ότι οι μηχανές στερούνται βιολογικών κινήτρων και εξελικτικών πιέσεων∙ τα σφάλματα λογισμικού δεν μπορούν να δημιουργήσουν σταθερές επιδιώξεις και στρατηγική προσαρμογής.
Η πλέον γόνιμη συμβολή της εισήγησης είναι η επισήμανση του πραγματικού κινδύνου: της παθητικοποίησης του ανθρώπου. Η εξάρτηση από συστήματα ΤΝ μπορεί να οδηγήσει σε ατροφία βασικών νοητικών δεξιοτήτων – της κριτικής ικανότητας, της φαντασίας, της δημιουργικής νόησης. Το ζήτημα αυτό παραπέμπει σε ιστορικές αναλογίες, όπως η παρατήρηση του Πλάτωνα στον Φαίδρο για τη μνήμη που εξασθένησε με την εισαγωγή της γραφής.
Η εισήγηση του Papanicolaou, με επιστημονική νηφαλιότητα, υπενθυμίζει ότι τα υπαρξιακά ερωτήματα γύρω από τη συνείδηση και την ανθρώπινη αυτονομία δεν λύνονται τεχνολογικά. Προτείνει έτσι έναν ρεαλιστικό δρόμο: όχι φόβος για εξεγερμένα ρομπότ, αλλά υπευθυνότητα απέναντι στον ίδιο τον άνθρωπο και την εκπαίδευσή του.
