Τον περασμένο Οκτώβριο, η KPMG, μια από τις τέσσερεις μεγάλες λογιστικές εταιρείες στον κόσμο, δημοσίευσε μια μελέτη σχετικά με την τεχνητή νοημοσύνη με τίτλο «Total Experience: Redefining Excellence in the Age of Agentic AI». Στην μελέτη αναλύονται οι τρόποι που οι εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για να δώσουν στους καταναλωτές αυτό που θέλουν.
Η τεχνητή νοημοσύνη παρέχει παραισθήσεις, ψεύτικες πληροφορίες και παράλογες απαντήσεις
Όσο καλές απαντήσεις δίνει η τεχνητή νοημοσύνη σε μια ευρεία γκάμα θεμάτων, τόσο έχει την τάση να έχει παραισθήσεις. Παραισθήσεις έχουμε όταν η τεχνητή νοημοσύνη αποτυγχάνει να βρει την σωστή απάντηση και έτσι αρχίζει να κατασκευάζει δικές της πληροφορίες ή να δίνει κατασκευασμένες απαντήσεις που δεν βγάζουν νόημα, ούτε στηρίζονται στα δεδομένα που έχουν χρησιμοποιηθεί για την εκπαίδευση των μοντέλων.
Σε αντίθεση με τους ανθρώπους που οι παραισθήσεις συμβαίνουν για άλλους λόγους, τα μοντέλα τεχνητής νοημοσύνης έχουν διαφορετικούς λόγους για αυτές. Η τεχνητή νοημοσύνη υπολογίζει κάθε λέξη που χρησιμοποιεί με βάση την στατιστική, που σημαίνει πως τις περισσότερες φορές επιλέγει την ευχέρεια αντί την ακρίβεια των λεγόμενων της. Κατά την εκπαίδευση τα δεδομένα μπορεί να είναι ελλιπή, ξεπερασμένα ή λανθασμένα, κάτι που σημαίνει πως η τεχνητή νοημοσύνη προσπαθεί να μαντέψει ποια λέξη να χρησιμοποιήσει για να συμπληρώσει τα κενά.
Η περίπτωση της KPMG
Όπως καταλαβαίνετε, η μελέτη της KPMG γράφτηκε με την βοήθεια της τεχνητής νοημοσύνης και σε αυτή βρέθηκαν πολλά ψεύδη και κατασκευασμένα σημεία. Από τις 45 παραπομπές της έκθεσης, οι 40 ήταν ψευδείς, αστήρικτες ή έδειχναν προς λανθασμένη πηγή. Την έρευνα πάνω στη μελέτη έκανε η εταιρεία GPZero που ονόμασε το φαινόμενο vibe citing, προφανώς ειρωνευόμενη τον όρο vibe coding.
Σύμφωνα με την GPTZero, πάνω από τα μισά στοιχεία που παραθέτει η έκθεση είναι ψευδή και αστήρικτα ή έχουν κάνει χρήση λάθος πηγής. Δεν είναι η μόνη φορά που συμβαίνει κάτι τέτοιο, καθώς σε μεγάλους οργανισμούς, όπου η τεχνητή νοημοσύνη έχει μπει για τα καλά στην δημιουργία κειμένου, έχουμε παρόμοια περιστατικά.
Ορισμένες από τις αναφορές οργανισμών στην έκθεση της KPMG, όπως η UBS, Ελβετικούς Ομοσπονδιακούς Σιδηροδρόμους και άλλους, οι πηγές που είχε η μελέτη ήταν είτε ψεύτικες, είτε δεν έλεγαν αυτά που αναφέρονταν στην έκθεση.
Ένα ακόμα τρανταχτό παράδειγμα είναι η αναφορά στην Sara της Emirates. Σύμφωνα με την μελέτη, η Sara είναι ένα chatbot τεχνητής νοημοσύνης που αναλαμβάνει τις αλλαγές στις κρατήσεις των πελατών. Όμως, η Sara είναι απλά ένα ρομπότ-βοηθός που κυκλοφόρησε η εταιρεία το 2023 και δεν έχει καμία σχέση με τις κρατήσεις των πελατών, ούτε έχει πρόσβαση σε αυτές.
Μέσα στην έκθεση βλέπουμε διάφορες ανακρίβειες και ψεύδη, που δείχνουν το μέγεθος των παραισθήσεων που εμφανίζουν τα συστήματα τεχνητής νοημοσύνης. Η κατάσταση ήταν τόσο ακραία, που η KPMG αναγκάστηκε να αποσύρει την έκθεσή της και ήδη πραγματοποιεί έρευνες για το τι έχει συμβεί, σύμφωνα με τους Financial Times.
Ένα ακόμα πρόβλημα με της παραισθήσεις της τεχνητής νοημοσύνης στη συγγραφή κειμένων
Εδώ έρχεται ένα ακόμα μεγάλο πρόβλημα που φέρνει η τεχνητή νοημοσύνη. Σύμφωνα με την KPMG, η εταιρεία αντιμετωπίζει πολύ σοβαρά την ακρίβεια των δεδομένων. Σε τόσο μεγάλους ελεγκτικούς οργανισμούς άλλωστε, η ακρίβεια των δεδομένων είναι υψίστης σημασίας.
Η εταιρεία δήλωσε πως απαιτεί από το προσωπικό της να ακολουθεί τις κατευθυντήριες γραμμές της, για την υπεύθυνη χρήση της τεχνητής νοημοσύνης, που σημαίνει πως οι εργαζόμενοι θα πρέπει να ελέγχουν τα κείμενα που παράγει για την ορθότητά τους. Από ότι φαίνεται όμως, όπως συμβαίνει σχεδόν πάντα, κανείς δεν έλεγξε τίποτα και απλά δημοσίευσαν την έρευνα όπως βγήκε από την τεχνητή νοημοσύνη.
Στην περίπτωση των πολύ μεγάλων κειμένων με διαφορετικές πηγές μάλιστα, πολλές φορές ο χρόνος που απαιτείται για τον έλεγχο τον πληροφοριών, είναι αρκετά μεγαλύτερος από το να γράψει ένας άνθρωπος το κείμενο μόνος του και αυτό είναι αντίθετο με αυτό που προωθούν όλες οι εταιρείες τεχνολογίας.
Μην ξεχνάμε βέβαια και την περίπτωση της Deloitte, που αναγκάστηκε να επιστρέψει την αμοιβή της στην κυβέρνηση της Αυστραλίας, όταν μια έκθεση που πληρώθηκε με χρήματα φορολογούμενων, ήταν παραγμένη πλήρως από τεχνητή νοημοσύνη.
Εδώ και καιρό οι ειδικοί, όπως και εμείς, προειδοποιούμε πως οι ψευδαισθήσεις της τεχνητής νοημοσύνης είναι ένα πολύ μεγάλο πρόβλημα, που μπορεί να δημιουργήσει πολύ πιο σοβαρά προβλήματα, ιδιαίτερα σε οργανισμού που η ακρίβεια είναι το κλειδί. Η υπόθεση της KPMG ήρθε τώρα να αποδείξει τους ισχυρισμούς.
