Η τεχνητή νοημοσύνη καθιστά τρομακτικά εύκολη τη μετατροπή συνηθισμένων εικόνων σε ρεαλιστικά γυμνά, προκαλώντας ένα κύμα ψεύτικων εικόνων γυναικών και εφήβων.
Όταν η Γκάμπι Μπελ έμαθε ότι κυκλοφόρησε μια γυμνή φωτογραφία της στο διαδίκτυο, πάγωσε. Η 26χρονη influencer του YouTube δεν είχε ποζάρει ποτέ για την εικόνα που την έδειχνε να στέκεται ολόγυμνη σε ένα χωράφι. Ήξερε ότι ήταν ψεύτικη.
Αλλά όταν η Μπελ έστειλε μήνυμα σε συνάδελφό της ζητώντας βοήθεια για την αφαίρεση της εικόνας, της είπε ότι υπήρχαν σχεδόν 100 ψεύτικες φωτογραφίες διάσπαρτες στο διαδίκτυο, κυρίως σε ιστότοπους γνωστούς για τη φιλοξενία πορνό που παράγεται από τεχνητή νοημοσύνη. Τις κατέβασαν τον Ιούλιο, λέει η Μπελ, αλλά νέες εικόνες που την απεικόνιζαν σε γραφικές σεξουαλικές καταστάσεις είχαν ήδη εμφανιστεί.
«Ένιωσα άτυχη και παραβιασμένη», είπε η Mπελ σε μια συνέντευξη. «Αυτά τα ιδιωτικά σημεία δεν προορίζονται για να τα δει ο κόσμος γιατί δεν έχω συναινέσει σε κάτι τέτοιο. Οπότε είναι πραγματικά περίεργο να με κάνει κάποιος εικόνες».
Η τεχνητή νοημοσύνη πυροδοτεί μια άνευ προηγουμένου έκρηξη φέτος στις ψεύτικες πορνογραφικές εικόνες και βίντεο. Με την αύξηση φθηνών και εύχρηστων εργαλείων τεχνητής νοημοσύνης, επιτήδειοι μπορούν να «ξεγυμνώσουν» ανθρώπους σε φωτογραφίες — αναλύοντας πώς θα έμοιαζε το σώμα τους γυμνό και φτιάχνοντας μια νέα εικόνα — ή να αλλάξουν απρόσκοπτα ένα πρόσωπο σε πορνογραφικό βίντεο.
Στους 10 κορυφαίους ιστότοπους που φιλοξενούν φωτογραφίες πορνό που δημιουργούνται από τεχνητή νοημοσύνη, τα ψεύτικα γυμνά έχουν αυξηθεί κατά περισσότερο από 290 τοις εκατό από το 2018, σύμφωνα με την Ζενεβιέβ Όου, αναλύτρια του κλάδου. Αυτοί οι ιστότοποι παρουσιάζουν διασημότητες και πολιτικές προσωπικότητες όπως η Δημοκρατική πολιτικός Αλεξάντρια Οκάσιο-Κορτέζ, μαζί με συνηθισμένα έφηβα κορίτσια, για να υποκινήσουν τη ντροπή, να εκβιάσουν για χρήματα ή να ζουν ιδιωτικές φαντασιώσεις.
Τα θύματα έχουν μικρή προσφυγή. Δεν υπάρχει ομοσπονδιακός νόμος που να διέπει το deepfake πορνό, και μόνο λίγες πολιτείες έχουν θεσπίσει κανονισμούς. Το εκτελεστικό διάταγμα τεχνητής νοημοσύνης του Προέδρου Μπάιντεν που εκδόθηκε τη Δευτέρα συνιστά, αλλά δεν απαιτεί από τις εταιρείες να επισημαίνουν φωτογραφίες, βίντεο και ήχο που δημιουργούνται από τεχνητή νοημοσύνη για να υποδεικνύουν εργασία που δημιουργείται από υπολογιστή.
Εν τω μεταξύ, νομικοί μελετητές προειδοποιούν ότι οι ψεύτικες εικόνες με τεχνητή νοημοσύνη ενδέχεται να μην εμπίπτουν στην προστασία πνευματικών δικαιωμάτων για προσωπικές ομοιότητες, επειδή αντλούνται από σύνολα δεδομένων που μαζεύονται από εκατομμύρια εικόνες. «Αυτό είναι ξεκάθαρα ένα πολύ σοβαρό πρόβλημα», είπε η Τίφανι Λι, καθηγήτρια νομικής στο Πανεπιστήμιο του Σαν Φρανσίσκο.
Η εμφάνιση των εικόνων τεχνητής νοημοσύνης ενέχει ιδιαίτερο κίνδυνο για τις γυναίκες και τους εφήβους, πολλοί από τους οποίους δεν είναι προετοιμασμένοι για κάτι τέτοιο. Μια μελέτη του 2019 από την Sensity AI, μια εταιρεία που παρακολουθεί τα deepfakes, διαπίστωσε ότι το 96 τοις εκατό των deepfake εικόνων είναι πορνογραφία και το 99 τοις εκατό αυτών των φωτογραφιών αφορούν σε γυναίκες.
«Τώρα στοχεύει πολύ τα κορίτσια», είπε η Σόφι Μάντοκς, ερευνήτρια και υπέρμαχος ψηφιακών δικαιωμάτων στο Πανεπιστήμιο της Πενσυλβάνια. «Νεαρά κορίτσια και γυναίκες που δεν είναι στη δημοσιότητα».
«Κοίτα, μαμά. Τι μου έχουν κάνει;»
Στις 17 Σεπτεμβρίου, η Μίριαμ Αλ Αντίμπ Μεντρίνι επέστρεφε στο σπίτι της στη νότια Ισπανία από ένα ταξίδι, όταν βρήκε τη 14χρονη κόρη της στενοχωρημένη. Η κόρη της έδειξε μια γυμνή φωτογραφία της.
«Κοίτα μαμά. Τι μου έχουν κάνει;» Η Αλ Αντίμπ Μεντρίνι θυμάται την κόρη της να λέει.
Δεν είχε ποζάρει ποτέ γυμνή. Ωστόσο, μια ομάδα αγοριών της περιοχής είχε πάρει ντυμένες φωτογραφίες από τα προφίλ των μέσων κοινωνικής δικτύωσης αρκετών κοριτσιών στην πόλη τους και χρησιμοποίησε μια εφαρμογή AI «nudifier» για να δημιουργήσει τις γυμνές φωτογραφίες, σύμφωνα με την αστυνομία.
Η εφαρμογή είναι ένα από τα πολλά εργαλεία τεχνητής νοημοσύνης που χρησιμοποιούν πραγματικές εικόνες για τη δημιουργία γυμνών φωτογραφιών, οι οποίες έχουν κατακλύσει το Διαδίκτυο τους τελευταίους μήνες. Με την ανάλυση εκατομμυρίων εικόνων, το λογισμικό τεχνητής νοημοσύνης μπορεί να προβλέψει καλύτερα πώς ένα σώμα θα φαίνεται γυμνό και να αντικαταστήσει ένα πρόσωπο σε ένα πορνογραφικό βίντεο, δήλωσε ο Γκανγκ Γουάνγκ, ειδικός στην τεχνητή νοημοσύνη στο Πανεπιστήμιο του Ιλινόις στην Urbana-Champaign.
Αν και πολλές εφαρμογές δημιουργίας εικόνων τεχνητής νοημοσύνης εμποδίζουν τους χρήστες να δημιουργήσουν πορνογραφικό υλικό, το λογισμικό ανοιχτού κώδικα, όπως το Stable Diffusion, δημοσιοποιεί τον κώδικά του, επιτρέποντας στους ερασιτέχνες προγραμματιστές να προσαρμόσουν την τεχνολογία — συχνά για κακόβουλους σκοπούς.
Μόλις αυτές οι εφαρμογές γίνουν δημόσιες, χρησιμοποιούν προγράμματα που ενθαρρύνουν τους χρήστες να μοιράζονται αυτές τις φωτογραφίες που δημιουργούνται από AI στα μέσα κοινωνικής δικτύωσης με αντάλλαγμα μετρητά, είπε η Όου.
Όταν η Όου εξέτασε τους 10 κορυφαίους ιστότοπους που φιλοξενούν ψεύτικες εικόνες πορνό, διαπίστωσε ότι περισσότερες από 415.000 είχαν ανέβει φέτος, συγκεντρώνοντας σχεδόν 90 εκατομμύρια προβολές.
Τα πορνό βίντεο που δημιουργούνται από τεχνητή νοημοσύνη έχουν επίσης πλημμυρίσει το Διαδίκτυο. Αφού έψαξε τους 40 πιο δημοφιλείς ιστότοπους για πλαστά βίντεο, η Όοου διαπίστωσε ότι είχαν προστεθεί περισσότερα από 143.000 βίντεο το 2023 — αριθμός που ξεπερνά όλα τα νέα βίντεο από το 2016 έως το 2022. Τα ψεύτικα βίντεο έχουν λάβει περισσότερες από 4,2 δισεκατομμύρια προβολές, όπως διαπίστωσε η Όου.
Το Ομοσπονδιακό Γραφείο Ερευνών προειδοποίησε τον Ιούνιο για αύξηση του σεξουαλικού εκβιασμού από απατεώνες που απαιτούσαν πληρωμή ή φωτογραφίες με αντάλλαγμα τη μη διανομή σεξουαλικών εικόνων. Αν και δεν είναι σαφές το ποσοστό αυτών των εικόνων που δημιουργούνται από AI, η πρακτική επεκτείνεται. Από τον Σεπτέμβριο, πάνω από 26.800 άνθρωποι έχουν πέσει θύματα εκστρατειών «εκβιασμού», σημειώνοντας αύξηση 149 τοις εκατό από το 2019, ανέφερε το FBI στην The Post.
«Δεν είσαι ασφαλής ως γυναίκα»
Ελλείψει ομοσπονδιακών νόμων, τουλάχιστον εννέα πολιτείες στις ΗΠΑ έχουν εγκρίνει νομοθεσία που στοχεύει τα deepfakes. Αλλά αυτοί οι νόμοι ποικίλλουν ως προς το εύρος: Σε ορισμένες πολιτείες τα θύματα μπορούν να ασκήσουν ποινικές διώξεις, ενώ άλλες επιτρέπουν μόνο αστικές αγωγές — αν και μπορεί να είναι δύσκολο να εξακριβωθεί ποιον να μηνύσουν.
Η Γκάμπι Μπελ, η influencer στο YouTube, είπε ότι έμαθε ότι υπήρχαν σχεδόν 100 ψεύτικες φωτογραφίες της στο διαδίκτυο, κυρίως σε ιστότοπους γνωστούς για τη φιλοξενία πορνό που παράγεται από τεχνητή νοημοσύνη.
Η ώθηση για τη ρύθμιση των εικόνων και των βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη συχνά αποσκοπεί στην αποτροπή της μαζικής διανομής, αντιμετωπίζοντας τις ανησυχίες σχετικά με τις παρεμβολές στις εκλογές, δήλωσε ο Σαμ Γκρέγκορι εκτελεστικός διευθυντής της τεχνολογικής οργάνωσης Witness υπέρ των ανθρωπίνων δικαιωμάτων.
Αλλά αυτοί οι κανόνες ελάχιστα καλύπτουν το πρόβλημα του deepfake πορνό, όπου οι εικόνες που μοιράζονται σε μικρές ομάδες μπορούν να προκαλέσουν όλεθρο στη ζωή ενός ατόμου, πρόσθεσε ο Γκρέγκορι.
Η Μπελ, δεν είναι ακόμα βέβαιη πόσες deepfake φωτογραφίες της είναι δημόσιες και είπε ότι απαιτούνται αυστηρότεροι κανόνες για την αντιμετώπιση της εμπειρίας της.
«Δεν είσαι ασφαλής ως γυναίκα», είπε.
