Εργαζόμενοι του TikTok προειδοποιούσαν για παιδιά στο Live

Μέσα σε έναν μήνα, τον Ιανουάριο του 2022, εσωτερική έρευνα του TikTok κατέγραψε παιδιά 13 έως 15 ετών σε περίπου 112.000 ζωντανά βίντεο. Το στοιχείο προέρχεται από κατάθεση πρώην στελέχους ασφάλειας που εξέτασε το NPR (NPR). Είναι μία από τις μαρτυρίες εργαζομένων για προειδοποιήσεις σχετικά με ανηλίκους, κενά στον έλεγχο ηλικίας και επαναλαμβανόμενες προτάσεις βίντεο για την αυτοκτονία. Σύμφωνα με τις μαρτυρίες, τα ανώτερα στελέχη δεν αντέδρασαν (SecNews). Για όποιον έχει έφηβο με κινητό, το ερώτημα δεν είναι πια μόνο ποια δεδομένα μαζεύει η εφαρμογή, αλλά πώς είναι φτιαγμένη.

Τον Αύγουστο, το TikTok και η ByteDance συμφώνησαν να πληρώσουν 400 εκατ. δολάρια για να κλείσουν αμερικανική υπόθεση βάσει του νόμου COPPA. Η υπόθεση αφορούσε τη συλλογή δεδομένων παιδιών κάτω των 13 ετών χωρίς επαρκή γονική συναίνεση (DOJ, To Brief). Οι νέες καταθέσεις αφορούν κάτι άλλο: τους εφήβους που έχουν ήδη λογαριασμό, και το τι τους συμβαίνει μέσα στην εφαρμογή. Προέρχονται από την προδικαστική φάση της μεγάλης ομοσπονδιακής διαδικασίας για τον εθισμό εφήβων στα social media, που συντονίζει υποθέσεις κατά του TikTok και άλλων πλατφορμών (Δικαστήριο). Κατά το NPR, δεν έχουν ακόμη παρουσιαστεί ως αποδεικτικά στοιχεία σε δίκη, άρα δεν αποτελούν δικαστική διαπίστωση ευθύνης.

Γιατί το Live είναι διαφορετικό

Ένα συνηθισμένο βίντεο μοιάζει με γράμμα: το στέλνεις και οι απαντήσεις έρχονται αργότερα. Το Live μοιάζει με σκηνή σε πλατεία γεμάτη αγνώστους. Σχόλια και εικονικά δώρα, από τα οποία η πλατφόρμα έχει έσοδα, φτάνουν στο παιδί όσο βρίσκεται μπροστά στην κάμερα, και εκείνο αντιδρά επί τόπου. Γι' αυτό η εσωτερική έρευνα, όπως την περιγράφει η κατάθεση της Reagen Maher, επισήμαινε τρεις κινδύνους: ενήλικες που προσεγγίζουν ανηλίκους, τη δημιουργία υλικού σεξουαλικής κακοποίησης και έσοδα από δώρα σε μεταδόσεις που παραβίαζαν τους κανόνες.

Ο αριθμός μετρά βίντεο, όχι διαφορετικά παιδιά ούτε αποδεδειγμένα περιστατικά εκμετάλλευσης. Η Maher κατέθεσε ότι τα ευρήματα έφτασαν ως τον τότε COO της εταιρείας V Pappas. Τα αποσπάσματα που έχουν δημοσιευτεί δεν δείχνουν τι αποφάσισε εκείνος (TechCrunch).

Οι περιορισμοί του Live για εφήβους έχουν ένα προαπαιτούμενο: η εφαρμογή πρέπει να ξέρει ποιος είναι έφηβος πριν ανάψει η κάμερα. Σύμφωνα με την κατάθεση της Maher, όποιος έφτιαχνε λογαριασμό μέσω Google, Facebook ή Instagram μπορούσε να καταλήξει στην εκδοχή για ενήλικες, ακόμη κι αν ήταν ανήλικος (NPR μέσω KPBS). Πόσοι πέρασαν από αυτή την πόρτα δεν είναι γνωστό.

Ανάλογη τρύπα περιγράφεται στο Family Pairing, τη λειτουργία που συνδέει τον λογαριασμό του γονιού με του εφήβου για χρόνο χρήσης, φίλτρα και απόρρητο. Εσωτερική συνομιλία του 2021 μιλούσε για κρυφό σύνδεσμο με τον οποίο ο έφηβος μπορούσε να κόψει αυτόν τον δεσμό. Ο τότε υπεύθυνος προϊόντος Jordon Furlong σχολίαζε ότι έτσι η λειτουργία γινόταν «κάπως άχρηστη» (NPR).

Η παλαιότερη προειδοποίηση αφορά τη ροή «For You». Η ροή διαλέγει το επόμενο βίντεο με βάση το πόση ώρα έμεινες σε ένα κλιπ, τις αντιδράσεις και τα σχόλιά σου (TikTok). Μοιάζει με ραδιοφωνικό παραγωγό που αποφασίζει τι θα παίξει μετά βλέποντας τι άκουσες ως το τέλος· δεν ξεχωρίζει όμως αν άκουσες από αγωνία ή από περιέργεια. Ο πρώην επικεφαλής ασφάλειας Eric Han κατέθεσε ότι από τον Απρίλιο του 2020 είχε εντοπίσει τέτοια «πηγάδια» περιεχομένου γύρω από την αυτοκτονία και την εικόνα σώματος (NPR μέσω KPBS). Η εσωτερική του έκθεση μιλούσε για πιθανή επίδραση μετάδοσης. Το δημοσίευμα δεν παρουσιάζει μέθοδο ή απόδειξη συγκεκριμένης βλάβης.

Ο εκπρόσωπος του TikTok Nathaniel Brown χαρακτήρισε επιλεκτική την παρουσίαση των ισχυρισμών. Επικαλέστηκε επενδύσεις δισεκατομμυρίων, περισσότερες από 50 προεπιλεγμένες ρυθμίσεις για εφήβους και ειδοποίηση του γονιού όταν αποσυνδέεται το Family Pairing (TechCrunch). Η ειδοποίηση όμως φτάνει αφού κοπεί ο δεσμός· ενημερώνει, δεν αποτρέπει. Για την παράκαμψη μέσω τρίτων υπηρεσιών και για το αυτοκτονικό περιεχόμενο, το NPR δεν καταγράφει ειδική απάντηση.

Το ερώτημα του σχεδιασμού δεν τίθεται μόνο στις αμερικανικές δικαστικές αίθουσες. Τον Ιούλιο, η Ευρωπαϊκή Επιτροπή διατύπωσε προκαταρκτικά ευρήματα ότι το TikTok παραβιάζει τον Κανονισμό για τις Ψηφιακές Υπηρεσίες. Τα ευρήματα αφορούν την ορατότητα των λογαριασμών ανηλίκων και τις προεπιλεγμένες προστασίες τους (Ευρωπαϊκή Επιτροπή). Δεσμευτικές αλλαγές στο κινητό ενός παιδιού θα φέρει μόνο μια δικαστική εντολή, μια ετυμηγορία ή μια συμφωνία.

Η κατεύθυνση πάντως είναι ήδη σαφής, από τη μία πλευρά του Ατλαντικού ως την άλλη. Η προστασία των παιδιών κρίνεται πλέον στον σχεδιασμό της εφαρμογής: ποιος μπαίνει, ποιος βλέπει ένα παιδί και τι του προτείνεται στη συνέχεια.