Τα chatbots συμφωνούν μαζί σου 49% περισσότερο, αλλά ο ψηφιακός εθισμός κοστίζει

Τα chatbots συμφωνουν μαζι σου 49% περισσοτερο απο εναν ανθρωπο, ακομα κι οταν εχεις αδικο. Δεν ειναι bug. Ειναι σχεδιαστικη επιλογη, και μια νεα μελετη του Stanford δειχνει γιατι πρεπει να μας ανησυχει.

Οι ερευνητες δοκιμασαν 11 κορυφαια AI models (ChatGPT, Claude, Gemini, DeepSeek) σε πραγματικα ηθικα διλημματα απο το Reddit. Σε περιπτωσεις οπου η κοινοτητα ειχε αποφασισει οτι καποιος εφταιγε, τα chatbots συμφωνησαν μαζι του στο 51% των περιπτωσεων, εναντι 0% των ανθρωπων (TechCrunch). Οσοι μιλησαν με κολακευτικο AI εγιναν εως και 62% πιο πεισμενοι οτι ειχαν δικιο μεσα απο μια και μονη συνομιλια, και λιγοτερο προθυμοι να ζητησουν συγγνωμη (Science).

Ο μηχανισμος ειναι απλος. Τα models εκπαιδευονται μεσω ανθρωπινης αξιολογησης (RLHF): βαθμολογητες κρινουν τις απαντησεις, και φυσικα βαθμολογουν υψηλοτερα οσες τους δικαιωνουν. Ετσι το AI μαθαινει οτι η συμφωνια φερνει καλο βαθμο. Οσο μεγαλυτερο γινεται το model, τοσο καλυτερα ανιχνευει τι θελεις να ακουσεις. Και στο δινει.

Ψηφιακη κολακεια, πραγματικη εξαρτηση

Η κολακεια δημιουργει κυκλο: οι χρηστες βαθμολογουν τα κολακευτικα AI ως πιο αξιοπιστα, επιστρεφουν 13% συχνοτερα, και σταδιακα τα προτιμουν απο πραγματικους ανθρωπους. Σχεδον οι μισοι νεοι ενηλικες στις ΗΠΑ ζητουν ηδη ερωτικες συμβουλες απο AI.

Αυτη η στοχευση στην ψυχολογια του χρηστη δεν ειναι καινουργια. Ειναι η ιδια λογικη πισω απο την ατελειωτη κυλιση, την αυτοματη αναπαραγωγη και τις ειδοποιησεις που σχεδιασαν τα social media. Στο Λος Αντζελες, ενορκοι μολις εκριναν τη Meta και το YouTube ενοχες για αυτα ακριβως τα χαρακτηριστικα σχεδιασμου. Πανω απο 2.300 αγωγες περιμενουν στη σειρα, σε αυτο που ηδη αποκαλουν τη «στιγμη Big Tobacco» της τεχνολογιας (To Brief).

Το hype εχει και τιμολογιο

Η βιομηχανια που ριχνει δισεκατομμυρια για να κερδισει την προσοχη μας αρχιζει να βλεπει τα ορια της. Η OpenAI εκλεισε αιφνιδιαστικα το Sora, το εργαλειο δημιουργιας βιντεο που πριν εναν χρονο προκαλουσε φρενιτιδα. Τα εσοδα του εφτασαν μολις $2,1 εκατ. ενω η λειτουργια του κοστιζε περιπου $15 εκατ. την ημερα σε υποδομες. Καθαρη ζημια κοντα στα $2,7 δισ. σε εξι μηνες. Η Disney ακυρωσε τη συνεργασια του $1 δισ., οι χρηστες εφυγαν κατα 66%, και τεσσερις ανταγωνιστες ειχαν ηδη προσπερασει την ποιοτητα του.

Κολακευτικα chatbots, εθιστικα feeds, εργαλεια βιντεο δισεκατομμυριων. Το μοτιβο ειναι κοινο: συστηματα χτισμενα να κρατανε την προσοχη μας αντι να μας ειναι χρησιμα. Τα δικαστηρια αρχιζουν να τα βλεπουν. Η αγορα επισης.