Πιο συγκεκριμένα λοιπόν, ο πρωθυπουργός της Ισπανίας, Πέδρο Σάντσεθ, κατηγόρησε τις πλατφόρμες ότι επιτρέπουν τη δημιουργία παράνομου περιεχομένου και τόνισε ότι «η ατιμωρησία των γιγάντων πρέπει να σταματήσει», ενώ η χώρα προχωρά παράλληλα σε απαγόρευση χρήσης κοινωνικών δικτύων για ανήλικους κάτω των 16 ετών.

Σημειώνεται ότι η έρευνα επικεντρώνεται στο CSAM (Child Sexual Abuse Material), το οποίο πλέον δεν περιορίζεται σε πραγματικές φωτογραφίες, αλλά περιλαμβάνει και περιεχόμενο δημιουργημένο από AI (Deepfakes). Οι κοινωνικές πλατφόρμες συχνά υποστηρίζουν ότι τα φίλτρα τους εντοπίζουν γνωστό παράνομο υλικό, όμως η τεχνητή νοημοσύνη παράγει νέα, μοναδικά δεδομένα σε δευτερόλεπτα, τα οποία τα υπάρχοντα συστήματα δυσκολεύονται να αναγνωρίσουν.

Ο Σάντσεθ σημειώνει ότι οι αλγόριθμοι των X, Meta και TikTok όχι μόνο αποτυγχάνουν να αποτρέψουν τη διάδοση του υλικού, αλλά σε ορισμένες περιπτώσεις το προωθούν μέσω των μηχανισμών συστάσεων (recommendation engines).

Επισημαίνεται ότι η ισπανική εισαγγελία θα στηριχθεί στην Digital Services Act (DSA) της Ευρωπαϊκής Ένωσης για τις ψηφιακές υπηρεσίες. Σε περίπτωση που διαπιστωθεί συστηματική αποτυχία στην προστασία των ανηλίκων, οι εταιρείες αντιμετωπίζουν πρόστιμα έως και 6% του παγκόσμιου κύκλου εργασιών τους.

Η Μαδρίτη απαιτεί από τους τεχνολογικούς «γίγαντες» να δώσουν στους ερευνητές πρόσβαση στα «μαύρα κουτιά» των αλγορίθμων τους, ώστε να διαπιστωθεί αν το παράνομο υλικό δημιουργείται ή διακινείται μέσω εργαλείων που παρέχουν οι ίδιες οι πλατφόρμες, όπως ενσωματωμένα AI image generators του Meta.