Η υπόθεση που σόκαρε τη διεθνή κοινή γνώμη έλαβε χώρα στην Ισπανία, σε ένα χωριό που ποτέ δεν είχε απασχολήσει το διεθνή τύπο. Το Σεπτέμβριο του 2023, το Almendralejo στην Εξτρεμαδούρα της Ισπανίας έγινε παγκοσμίως γνωστό εξαιτίας μίας «έκρηξης» deepfake γυμνών φωτογραφιών ανήλικων κοριτσιών, που κυκλοφορούσαν στα κινητά εκατοντάδων κατοίκων του χωριού.
Όπως αποδείχθηκε, συμμαθητές των θυμάτων είχαν χρησιμοποιήσει φωτογραφίες τους από τα social media και μία εφαρμογή τεχνητής νοημοσύνης για να δημιουργήσουν ψεύτικες γυμνές φωτογραφίες.
H πρώτη σελίδα του Clothoff που καλεί τους χρήστες να «γδύσουν οποιαδήποτε φωτογραφία με deepfake AI» δωρεάν
Η εφαρμογή που χρησιμοποίησαν ονομάζεται Clothoff και αποτελεί μία από τις πιο γνωστές εφαρμογές deepfake πορνό στον κόσμο.
Καθώς η νομοθεσία για την αντιμετώπιση εγκλημάτων που διαπράττονται με χρήση τεχνητής νοημοσύνης είναι ακόμα στα σπάργανα, φορείς που θέλησαν να βάλουν τέλος στη δημιουργία τέτοιου περιεχομένου «κυνήγησαν το χρήμα».
Φωτογραφία που «γδύθηκε» από το Clothoff μέσα σε λίγα δευτερόλεπτα
Όπως αποδείχθηκε, η Clothoff είναι μέρος ενός εξεζητημένου και εκτεταμένου δικτύου δικτύου εφαρμογών AI που χρησιμοποιούνται για τη δημιουργία deepfake porn με θύματα εκατομμύρια ανυποψίαστους πολίτες.
Κίνηση και engagement στις πιο δημοφιλείς deepfake ιστοσελίδες, πηγή: Bellingcat
Οι «κερκόπορτες» των mainstream ιστοσελίδων
«Clothoff, DrawNudes, Nudify και Undress επιτρέπουν στους χρήστες να “γδύνουν” φωτογραφίες οποιασδήποτε γυναίκας, δημιουργώντας μη συναινετικές εικόνες τους. Με αυτόν τον τρόπο, έχουν συγκεντρώσει δεκάδες εκατομμύρια επισκέψεις σε ιστότοπους τους τελευταίους τέσσερις μήνες. Στις δεκάδες ομάδες Telegram που βρήκαμε να έχουν δημιουργηθεί από αυτούς τους ιστότοπους, μερικές είχαν έως και 800.000 ακόλουθους» γράφει η έκθεση του Bellingcat, του ανεξάρτητου οργανισμού ερευνών με χρήση ανοιχτών πηγών, που δημοσιεύτηκε στα τέλη Φεβρουαρίου.
Η έρευνα του Bellingcat απέδειξε ότι οι τέσσερις εφαρμογές ανήκουν στο ίδιο δίκτυο και χρησιμοποιούν τις ίδιες μεθόδους για να συγκεντρώνουν χρήματα από τους χρήστες που θέλουν να αποκτήσουν πρόσβαση στα εργαλεία τους χωρίς να αποκαλύπτεται η ταυτότητά τους.
«Οι Clothoff και DrawNudes συλλέγουν πληρωμές μέσω ιστοσελίδων τρίτων που δεν είναι παραδοσιακοί επεξεργαστές πληρωμών, αποκρύπτοντας την πραγματική φύση των συναλλαγών και παραβιάζοντας τους όρους των ιστοσελίδων» εξηγεί η έρευνα.
«Πιο συγκεκριμένα, χρησιμοποίησαν πολλούς ιστότοπους που σχετίζονται με παιχνίδια, μεταξύ αυτών έναν λιγότερο γνωστό ιστότοπο που ονομάζεται Skinsback και τη δημοφιλή αγορά τυχερών παιχνιδιών G2A. Σε αυτές τις περιπτώσεις, προσποιούνται ότι πωλούν και ανταλλάσσουν περιεχόμενο που σχετίζεται με βιντεοπαιχνίδια, αλλά, στην πραγματικότητα, λαμβάνουν πληρωμές για «κέρματα» που μπορούν να εξαργυρωθούν για να δημιουργηθούν πορνογραφικά deepfakes.»
Το 98% των deepfake online video αφορούν σε πορνογραφικό υλικό, πηγή: State of Deepfakes
Ενώ οι συναλλαγές μέσω Skinsback γίνονταν με αγορά περιεχομένου gaming, οι συναλλαγές στο G2A αφορούν πραγματικά χρήματα.
Η Clothoff διαθέτει 24/7 τους λεγόμενους «ντίλερ» ή πωλητές για συνομιλίες με άτομα που επιθυμούν να αγοράσουν token για να δημιουργήσουν πορνογραφικά deepfakes. Οι ντίλερ κατευθύνουν τους υποψήφιους πελάτες σε μυστικές πληρωμές μέσω της G2A. Συγκεκριμένα τους παροτρύνουν να αγοράσουν gaming keys από λογαριασμό μεταπωλητή στη G2A με τη δέσμευση ότι τα keys ανταλλάσσονται με κέρματα στον λογαριασμό τους στο Clothoff. Επίσης παρέχουν συνδέσμους για λογαριασμούς που δεν διαφημίζονται δημόσια.
Τα deepfake porn βίντεο σημείωσαν αύξηση 550% από το 2019 έως το 2023, πηγή: State of Deepfakes
Μεταξύ των επιλογών είναι και η πληρωμή με κρυπτονομίσματα.
«Η διαδικασία είναι αρκετά περίπλοκη, με μια ποικιλία διαφορετικών επιλογών πληρωμής ανάλογα με τη διεύθυνση IP του επισκέπτη και την χώρα προέλευσης… Με την αποκέντρωση των συστημάτων πληρωμών, η διαδρομή των χρημάτων είναι καλά κρυμμένη και παρέχει πολλαπλά επίπεδα προστασίας τόσο από τις εταιρείες διεκπεραίωσης πληρωμών των οποίων τους Όρους Παροχής Υπηρεσιών παραβιάζουν όσο και από τις αρχές» αναφέρει η έκθεση.
Μετά τη δημοσίευση της έρευνας του Bellingcat τόσο η G2A όσο και η Skinsback έκλεισαν τους επίμαχους λογαριασμούς.
Αύξηση 550% στα deepfake πορνό
Οι έρευνες τόσο του Bellingcat όσο και της βρετανικής εφημερίδας Guardian έδειξαν ότι τα πλοκάμια του δικτύου φτάνουν σε πολλές διαφορετικές χώρες του πλανήτη: Λευκορωσία, Ρωσία, Ισπανία, ΗΠΑ, Αυστραλία είναι μερικές από αυτές.
Οι εφαρμογές αυτές πραγματοποιούν χιλιάδες πωλήσεις κάθε μέρα με δόλωμα την ευκολία της χρήσης και το πολύ χαμηλό κόστος των εργαλείων που προσφέρουν.
Η έρευνα του Guardian έδειξε ότι με 30 στερλίνες μπορεί κάποιος να δημιουργήσει 25 deepfake φωτογραφίες.
Η έρευνα του Bellingcat κατέγραψε ότι μόλις ένας από τους δεκάδες λογαριασμούς του δικτύου πραγματοποίησε περίπου 200 πωλήσεις για μη συναινετικές φωτογραφίες στη διάρκεια μίας εβδομάδας.
Η Clothoff ζητά να προσλάβει περισσότερους «ντίλερ» για να ανταποκρίνεται στην αυξημένη ζήτηση.
Σύμφωνα με την περσινή έκθεση State of Deepfakes, η deepfake πορνογραφία εξαπλασιάστηκε τα τελευταία τέσσερα χρόνια.
Η τεχνολογία της τεχνητής νοημοσύνης προχωρά τόσο γρήγορα, που πλέον απαιτούνται λιγότερο από 25 λεπτά και ελάχιστα ευρώ για να δημιουργήσει κάποιος deepfake πορνογραφικό βίντεο διάρκειας 60 δευτερολέπτων με χρήση μόνο μίας καθαρής εικόνας προσώπου.
Το δίκτυο των Clothoff, DrawNudes, Nudify και Undress είναι η κορυφή του παγόβουνου. Η έρευνα του State of Deepfakes έδειξε ότι υπάρχουν πάνω από 40 τέτοια εργαλεία, που απευθύνονται σε ένα ευρύ φάσμα χρηστών. Αυτά τα εργαλεία συγκεντρώνουν συνολικά 10 εκατομμύρια μηνιαίες αναζητήσεις, υπογραμμίζοντας το εκτεταμένο ενδιαφέρον και τη ζήτηση για φιλικές προς το χρήστη λύσεις deepfake.
«Στις δέκα κορυφαίες ιστοσελίδες που παρέχουν αποκλειστικά deepfake πορνογραφία, οι μηνιαίες προβολές βίντεο ανέρχονται σε 34.836.914. Αυτός ο σημαντικός αριθμός παρέχει μια ξεκάθαρη εικόνα για την εκτεταμένη κατανάλωση και τη διάδοση πορνογραφικού υλικού που δημιουργείται από deepfake» αναφέρει η έκθεση του State of Deepfakes.
--.GR