Μελέτες προειδοποιούν ότι η υπερβολική χρήση chatbots αποδυναμώνει την κριτική σκέψη

Ένα chatbot σού δίνει μια καθαρή, καλογραμμένη απάντηση σε δευτερόλεπτα. Το πρόβλημα δεν είναι ότι η απάντηση είναι λάθος, συχνά δεν είναι. Είναι ότι, κάθε φορά που την παίρνεις έτοιμη, παρακάμπτεις τη δουλειά που χτίζει την κρίση σου: την αναζήτηση, τη σύγκριση, την αμφιβολία. Μια προδημοσίευση του MIT Media Lab το ονομάζει με ακρίβεια «γνωστικό χρέος» (cognitive debt), και δείχνει ότι το χρέος αυτό έχει τόκο.

Η μελέτη «Your Brain on ChatGPT» παρακολούθησε 54 άτομα σε τρεις ομάδες: μία που έγραφε δοκίμια με το ChatGPT, μία με μηχανή αναζήτησης και μία χωρίς κανένα εργαλείο. Οι ερευνητές κατέγραφαν εγκεφαλική δραστηριότητα με EEG και έλεγχαν πόσο θυμούνταν όσα είχαν γράψει (arXiv). Προσοχή στο μέγεθος: είναι preprint, όχι peer-reviewed έρευνα, και αφορά μια συγκεκριμένη εργασία συγγραφής, όχι τη νοημοσύνη εν γένει.

Το ενδιαφέρον δεν κρύβεται στις τρεις ομάδες, αλλά στη φάση που ήρθε μετά. Στην τελευταία συνεδρία, όσοι είχαν συνηθίσει να γράφουν με AI κλήθηκαν ξαφνικά να δουλέψουν χωρίς αυτό. Δεν επανήλθαν στο επίπεδο των υπολοίπων. Η ομάδα που είχε εξαρτηθεί από το εργαλείο έμεινε 15,3% κάτω από το δικό της αρχικό σημείο αναφοράς, σύμφωνα με τα δεδομένα της μελέτης (arXiv PDF). Δεν σημαίνει ότι έγιναν «15,3% λιγότερο έξυπνοι» ούτε ότι υπάρχει μόνιμη βλάβη. Είναι ένα βραχυπρόθεσμο κόστος εξάρτησης: η συνήθεια να εκχωρείς τη σκέψη αφήνει ίχνος ακόμη κι όταν το εργαλείο φύγει.

Γιατί το πειστικό ύφος νικά τον έλεγχο

Ο μηχανισμός δεν είναι νέος ούτε αποκλειστικός των chatbots. Λέγεται γνωστική εκφόρτωση (cognitive offloading): μεταφέρουμε νοητικό φορτίο σε εξωτερικά εργαλεία, από το σημειωματάριο μέχρι το GPS και το κομπιουτεράκι. Η κλασική έρευνα για το «φαινόμενο Google» έδειξε κάτι χαρακτηριστικό: όταν περιμένουμε πως μια πληροφορία θα είναι διαθέσιμη αργότερα, τη συγκρατούμε λιγότερο και θυμόμαστε κυρίως πού θα τη βρούμε (Science, PubMed). Τα εργαλεία μειώνουν το φορτίο, αλλά αλλάζουν και το τι ασκούμε (Trends in Cognitive Sciences).

Το chatbot πάει αυτή τη μετατόπιση ένα βήμα παραπέρα. Δεν αποθηκεύει απλώς πληροφορία, σου παραδίδει έτοιμη, άμεμπτα φυσική ερμηνεία. Έτσι μπορείς να παρακάμψεις με τη μία την αναζήτηση, την ανάκληση, τη σύγκριση και τη σύνθεση. Είναι σαν GPS για τη σκέψη: σε πάει γρήγορα στον προορισμό, αλλά αν το ακολουθείς πάντα παθητικά, χτίζεις ολοένα λιγότερο δικό σου νοητικό χάρτη.

Εδώ ενεργοποιείται ο μηχανισμός που πραγματικά νικά τον έλεγχο: η μεροληψία αυτοματισμού (automation bias). Τείνουμε να αποδεχόμαστε τις προτάσεις ενός συστήματος που μοιάζει έγκυρο, είτε ακολουθώντας λάθος υποδείξεις είτε παραλείποντας ελέγχους που το σύστημα δεν μας έδειξε (Human Factors). Όσο πιο σίγουρο ακούγεται το μοντέλο, τόσο λιγότερο σκαλίζουμε, ακριβώς το αντίθετο από ό,τι θα έπρεπε. Το έχουμε ξαναδεί: τα chatbots συμφωνούν με τον χρήστη σχεδόν 50% συχνότερα από έναν άνθρωπο, ακόμη κι όταν έχει άδικο (To Brief). Πειστικότητα και κολακεία δουλεύουν μαζί, εξουδετερώνοντας τον ίδιο μηχανισμό επαλήθευσης.

Από το «το είδα» στο «το επαλήθευσα»

Εδώ η μελέτη του MIT αγγίζει το μεγάλο διακύβευμα, προσεκτικά, γιατί δεν το αποδεικνύει η ίδια. Η ικανότητα που ατονεί όταν εκχωρούμε την κρίση είναι η ίδια που χρειαζόμαστε απέναντι σε fake news και deepfakes: να σταματάς, να ψάχνεις την αρχική πηγή, να διασταυρώνεις. Ο ειδικός ψηφιακής εγκληματολογίας Hany Farid το διατυπώνει ως μετατόπιση: το ερώτημα δεν είναι πια «φαίνεται αληθινό;», αλλά «υπάρχει αλυσίδα προέλευσης και ανεξάρτητη επιβεβαίωση;» (TED).

Η τεχνολογία ρίχνει ήδη βάρη σε αυτή την αλυσίδα, αλλά δεν φτάνει. Εργαλεία προέλευσης όπως το C2PA και τα Content Credentials καταγράφουν ποιος τράβηξε και επεξεργάστηκε ένα αρχείο, όμως χάνονται σε screenshots και αναδημοσιεύσεις (C2PA). Τα ψηφιακά υδατογραφήματα όπως το SynthID βοηθούν, αλλά η απουσία τους δεν σημαίνει «αληθινό» (Google DeepMind). Καμία από αυτές τις λύσεις δεν αντικαθιστά την ανθρώπινη διαδικασία επαλήθευσης, κι αυτή ακριβώς αρχίζει να σκουριάζει.

Ο πρακτικός κανόνας που αντέχει: AI για εύρος και ταχύτητα, άνθρωπος για κρίση και υπογραφή. Πριν ανοίξεις chatbot, γράψε τι ξέρεις και ποια πηγή θα μετρούσε ως απόδειξη. Κάθε ισχυρισμός που επηρεάζει βαθμό, δουλειά ή υγεία ελέγχεται σε πρωτογενή πηγή (NIST, UNESCO). Για ύποπτο υλικό, η μέθοδος SIFT (σταμάτα, έλεγξε την πηγή, βρες καλύτερη κάλυψη, γύρνα στο πρωτότυπο) κρατά τη διαδικασία ζωντανή (hapgood.us). Το ζητούμενο δεν είναι να εγκαταλείψουμε τα εργαλεία. Είναι να μην ξεμάθουμε να αμφιβάλλουμε.