Το ChatGPT και η εμπλοκή του σε επίθεση στον Καναδά

Τον Ιούνιο του 2025, δώδεκα υπάλληλοι της OpenAI κοίταξαν τα ίδια αρχεία συνομιλιών. Μια 18χρονη στον Καναδά περιέγραφε στο ChatGPT σενάρια ένοπλης βίας, επανειλημμένα, επί ημέρες. Το αυτοματοποιημένο σύστημα εποπτείας της εταιρείας — το Moderation API, που σαρώνει κάθε μήνυμα και αποδίδει βαθμολογία κινδύνου από 0 έως 1 σε κατηγορίες όπως βία και αυτοτραυματισμός (OpenAI) — είχε ήδη σημάνει τον λογαριασμό για «προώθηση βίαιων δραστηριοτήτων». Κάποιοι από τους δώδεκα πίεσαν τη διοίκηση να ειδοποιήσει την καναδική αστυνομία. Η νομική ομάδα αποφάσισε το αντίθετο — ο λογαριασμός απλώς κλείστηκε (Wall Street Journal).

Οκτώ μήνες αργότερα, στις 10 Φεβρουαρίου 2026, η Jesse Van Rootselaar σκότωσε οκτώ ανθρώπους στο Tumbler Ridge της Βρετανικής Κολομβίας — ανάμεσά τους πέντε παιδιά 12-13 ετών (Global News).

Ένα όριο αναφοράς που κανένας νόμος δεν επιβάλλει

Η OpenAI εξήγησε ότι οι συνομιλίες δεν πληρούσαν το εσωτερικό κριτήριο κινδύνου: «άμεσος και αξιόπιστος κίνδυνος σοβαρής σωματικής βλάβης» (Associated Press). Η εταιρεία ανέφερε ότι η υπερβολική αναφορά θα μπορούσε να προκαλέσει άγχος σε νέους και τις οικογένειές τους — «αν η αστυνομία εμφανιστεί απρόσμενα στην πόρτα τους» (CityNews Vancouver).

Το πρόβλημα είναι ότι αυτό το κριτήριο δεν είναι νομική απαίτηση — είναι εσωτερική πολιτική. Αν ψυχίατρος στον Καναδά ή τις ΗΠΑ αντιμετώπιζε ασθενή που περιέγραφε σενάρια μαζικής βίας, θα είχε νομική υποχρέωση να ενημερώσει τις αρχές — το λεγόμενο «duty to warn» που θεσπίστηκε μετά την υπόθεση Tarasoff το 1976 (Jackson LLP). Για εταιρείες τεχνητής νοημοσύνης δεν υπάρχει αντίστοιχη υποχρέωση — ούτε στον Καναδά, ούτε στις ΗΠΑ, ούτε στην Ευρωπαϊκή Ένωση. Ο καναδικός νόμος AIDA, που θα μπορούσε να αλλάξει αυτό, πέθανε στη Βουλή τον Ιανουάριο 2025 (Schwartz Reisman Institute).

Η σιωπή μετά τη σφαγή

Ο πρωθυπουργός της Βρετανικής Κολομβίας David Eby χαρακτήρισε τις αποκαλύψεις «βαθιά ανησυχητικές» (BC Government). Η OpenAI είχε συνάντηση με αξιωματούχους της επαρχίας την επομένη της σφαγής — και δεν ανέφερε ότι είχε ήδη σημάνει τον λογαριασμό. Μόνο δύο μέρες αργότερα ζήτησε στοιχεία επικοινωνίας της αστυνομίας (CityNews).

Η ειδικός ψηφιακής ιδιωτικότητας Sharon Bauer περιέγραψε ακριβώς το αδιέξοδο: «Πολύ χαμηλό όριο σημαίνει υπερβολικές αναφορές και στιγματισμό αθώων. Πολύ υψηλό σημαίνει ότι χάνεις πραγματικές απειλές» (CityNews Vancouver). Η υπόθεση Tumbler Ridge δείχνει τι συμβαίνει όταν αυτή η γραμμή ορίζεται αποκλειστικά από εσωτερικά πρωτόκολλα μιας εταιρείας, χωρίς εξωτερική εποπτεία, χωρίς ανεξάρτητο έλεγχο, χωρίς νομική υποχρέωση.

Κάθε μέρα, 1,2 εκατομμύρια χρήστες συζητούν θέματα αυτοκτονίας με το ChatGPT — περισσότεροι από όσους καλούν τη γραμμή κρίσης 988 στις ΗΠΑ (Psychology Today). Η τεχνητή νοημοσύνη μετατρέπεται σε ψηφιακό εξομολογητή — μόνο που, σε αντίθεση με οποιονδήποτε ανθρώπινο επαγγελματία, κανένας νόμος δεν της λέει τι να κάνει με αυτά που ακούει.