Η ραγδαία εξάπλωση του AI-generated περιεχομένου τα τελευταία χρόνια έχει δημιουργήσει μια νέα πρόκληση: τον διαχωρισμό του από τα κείμενα που έχουν γραφτεί από ανθρώπους. Στην Ελλάδα, εργαλεία όπως το ChatGPT χρησιμοποιούνται ευρέως για τη δημιουργία περιεχομένου, οδηγώντας συχνά σε εμφανή λάθη κατά την επιμέλεια, όπου παραμένουν μέσα στο τελικό κείμενο χαρακτηριστικές φράσεις της AI (όπως «Θέλεις να το προσαρμόσω σε πιο δημοσιογραφικό ύφος;»).
Το αόρατο υδατογράφημα του ChatGPT και ο νόμος EU AI Act
Για να αντιμετωπιστεί αυτό το φαινόμενο, και με αφορμή το νέο ευρωπαϊκό νομικό πλαίσιο, η OpenAI ανακοίνωσε επίσημα ότι θα προσθέσει υδατογράφημα (watermark) στα κείμενα που παράγει.
Συγκεκριμένα, βάσει των επιταγών του EU AI Act, οι πάροχοι υπηρεσιών τεχνητής νοημοσύνης υποχρεούνται να καθιστούν το παραγόμενο περιεχόμενο εύκολα αναγνωρίσιμο. Ως εκ τούτου, μέσα στις επόμενες εβδομάδες, το ChatGPT θα ενσωματώσει ένα αόρατο υδατογράφημα στα κείμενα του ChatGPT και του Codex για όλους τους χρήστες στην Ευρώπη. Αντίθετα, για τους εταιρικούς πελάτες που χρησιμοποιούν το API της πλατφόρμας, το υδατογράφημα θα είναι απενεργοποιημένο από προεπιλογή.
Πώς λειτουργεί η τεχνολογία Text Grain
Η τεχνολογία watermarking της OpenAI ονομάζεται Text Grain και λειτουργεί προσθέτοντας ένα στατιστικό σήμα (ένα κρυφό μοτίβο) στην επιλογή των λέξεων που κάνει το μοντέλο. Αν και στις εσωτερικές δοκιμές της εταιρείας το Text Grain ισοφάρισε ή και ξεπέρασε τις επιδόσεις αντίστοιχων προσεγγίσεων (όπως το SynthID), η ίδια η OpenAI προειδοποιεί ότι η τεχνολογία απέχει πολύ από το να είναι αλάνθαστη στην καθημερινή χρήση.
Οι σημαντικοί περιορισμοί στην ανίχνευση
Στην πράξη, τα εργαλεία ανίχνευσης αντιμετωπίζουν συγκεκριμένους τεχνικούς περιορισμούς που δεν εγγυώνται την απόλυτη ταυτοποίηση:
- Λάθος αναγνωρίσεις (False Positives/Negatives): Οι ανιχνευτές μπορούν να υποδείξουν εσφαλμένα ότι ένα ανθρώπινο κείμενο είναι γραμμένο από AI, ή αντίστροφα, να μην εντοπίσουν το υδατογράφημα όταν αυτό υπάρχει πραγματικά.
- Μέγεθος και επεξεργασία: Στα πολύ μικρά κείμενα η ανίχνευση είναι σχεδόν αδύνατη. Επιπλέον, εάν ο χρήστης επεξεργαστεί έντονα (human editing) το παραγόμενο κείμενο, το στατιστικό σήμα του υδατογραφήματος αποδυναμώνεται δραματικά.
- Έλλειψη ταυτοποίησης: Το υδατογράφημα δεν δημιουργεί καθεστώς «ιδιοκτησίας». Δεν μπορεί να συνδέσει το κείμενο με συγκεκριμένο χρήστη ή οργανισμό, ούτε πιστοποιεί την εγκυρότητα των όσων γράφονται.
Ουσιαστικά, το Text Grain μπορεί να αποδείξει ότι ένα σύστημα της OpenAI παρήγαγε ή επεξεργάστηκε ένα τμήμα του κειμένου, αλλά δεν μπορεί να μετρήσει τη δημιουργικότητα, την κρίση ή τη συνολική συμβολή του ανθρώπου σε αυτό. Αντίστοιχα, καθίσταται σαφές πως η απουσία υδατογραφήματος δεν εγγυάται πλέον ότι ένα κείμενο έχει γραφτεί αποκλειστικά από άνθρωπο.
