Μελέτη για την τεχνητή νοημοσύνη αποσύρεται γιατί είχε πολλές παραισθήσεις

Τον περασμένο Οκτώβριο, η KPMG, μια από τις τέσσερεις μεγάλες λογιστικές εταιρείες στον κόσμο, δημοσίευσε μια μελέτη σχετικά με την τεχνητή νοημοσύνη με τίτλο «Total Experience: Redefining Excellence in the Age of Agentic AI». Στην μελέτη αναλύονται οι τρόποι που οι εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για να δώσουν στους καταναλωτές αυτό που θέλουν.

Η τεχνητή νοημοσύνη παρέχει παραισθήσεις, ψεύτικες πληροφορίες και παράλογες απαντήσεις
Όσο καλές απαντήσεις δίνει η τεχνητή νοημοσύνη σε μια ευρεία γκάμα θεμάτων, τόσο έχει την τάση να έχει παραισθήσεις. Παραισθήσεις έχουμε όταν η τεχνητή νοημοσύνη αποτυγχάνει να βρει την σωστή απάντηση και έτσι αρχίζει να κατασκευάζει δικές της πληροφορίες ή να δίνει κατασκευασμένες απαντήσεις που δεν βγάζουν νόημα, ούτε στηρίζονται στα δεδομένα που έχουν χρησιμοποιηθεί για την εκπαίδευση των μοντέλων.

Σε αντίθεση με τους ανθρώπους που οι παραισθήσεις συμβαίνουν για άλλους λόγους, τα μοντέλα τεχνητής νοημοσύνης έχουν διαφορετικούς λόγους για αυτές. Η τεχνητή νοημοσύνη υπολογίζει κάθε λέξη που χρησιμοποιεί με βάση την στατιστική, που σημαίνει πως τις περισσότερες φορές επιλέγει την ευχέρεια αντί την ακρίβεια των λεγόμενων της. Κατά την εκπαίδευση τα δεδομένα μπορεί να είναι ελλιπή, ξεπερασμένα ή λανθασμένα, κάτι που σημαίνει πως η τεχνητή νοημοσύνη προσπαθεί να μαντέψει ποια λέξη να χρησιμοποιήσει για να συμπληρώσει τα κενά.

Η περίπτωση της KPMG
Όπως καταλαβαίνετε, η μελέτη της KPMG γράφτηκε με την βοήθεια της τεχνητής νοημοσύνης και σε αυτή βρέθηκαν πολλά ψεύδη και κατασκευασμένα σημεία. Από τις 45 παραπομπές της έκθεσης, οι 40 ήταν ψευδείς, αστήρικτες ή έδειχναν προς λανθασμένη πηγή. Την έρευνα πάνω στη μελέτη έκανε η εταιρεία GPZero που ονόμασε το φαινόμενο vibe citing, προφανώς ειρωνευόμενη τον όρο vibe coding.

Σύμφωνα με την GPTZero, πάνω από τα μισά στοιχεία που παραθέτει η έκθεση είναι ψευδή και αστήρικτα ή έχουν κάνει χρήση λάθος πηγής. Δεν είναι η μόνη φορά που συμβαίνει κάτι τέτοιο, καθώς σε μεγάλους οργανισμούς, όπου η τεχνητή νοημοσύνη έχει μπει για τα καλά στην δημιουργία κειμένου, έχουμε παρόμοια περιστατικά.

Ορισμένες από τις αναφορές οργανισμών στην έκθεση της KPMG, όπως η UBS, Ελβετικούς Ομοσπονδιακούς Σιδηροδρόμους και άλλους, οι πηγές που είχε η μελέτη ήταν είτε ψεύτικες, είτε δεν έλεγαν αυτά που αναφέρονταν στην έκθεση.

Ένα ακόμα τρανταχτό παράδειγμα είναι η αναφορά στην Sara της Emirates. Σύμφωνα με την μελέτη, η Sara είναι ένα chatbot τεχνητής νοημοσύνης που αναλαμβάνει τις αλλαγές στις κρατήσεις των πελατών. Όμως, η Sara είναι απλά ένα ρομπότ-βοηθός που κυκλοφόρησε η εταιρεία το 2023 και δεν έχει καμία σχέση με τις κρατήσεις των πελατών, ούτε έχει πρόσβαση σε αυτές.

Μέσα στην έκθεση βλέπουμε διάφορες ανακρίβειες και ψεύδη, που δείχνουν το μέγεθος των παραισθήσεων που εμφανίζουν τα συστήματα τεχνητής νοημοσύνης. Η κατάσταση ήταν τόσο ακραία, που η KPMG αναγκάστηκε να αποσύρει την έκθεσή της και ήδη πραγματοποιεί έρευνες για το τι έχει συμβεί, σύμφωνα με τους Financial Times.

Ένα ακόμα πρόβλημα με της παραισθήσεις της τεχνητής νοημοσύνης στη συγγραφή κειμένων
Εδώ έρχεται ένα ακόμα μεγάλο πρόβλημα που φέρνει η τεχνητή νοημοσύνη. Σύμφωνα με την KPMG, η εταιρεία αντιμετωπίζει πολύ σοβαρά την ακρίβεια των δεδομένων. Σε τόσο μεγάλους ελεγκτικούς οργανισμούς άλλωστε, η ακρίβεια των δεδομένων είναι υψίστης σημασίας.

Η εταιρεία δήλωσε πως απαιτεί από το προσωπικό της να ακολουθεί τις κατευθυντήριες γραμμές της, για την υπεύθυνη χρήση της τεχνητής νοημοσύνης, που σημαίνει πως οι εργαζόμενοι θα πρέπει να ελέγχουν τα κείμενα που παράγει για την ορθότητά τους. Από ότι φαίνεται όμως, όπως συμβαίνει σχεδόν πάντα, κανείς δεν έλεγξε τίποτα και απλά δημοσίευσαν την έρευνα όπως βγήκε από την τεχνητή νοημοσύνη.

Στην περίπτωση των πολύ μεγάλων κειμένων με διαφορετικές πηγές μάλιστα, πολλές φορές ο χρόνος που απαιτείται για τον έλεγχο τον πληροφοριών, είναι αρκετά μεγαλύτερος από το να γράψει ένας άνθρωπος το κείμενο μόνος του και αυτό είναι αντίθετο με αυτό που προωθούν όλες οι εταιρείες τεχνολογίας.

Μην ξεχνάμε βέβαια και την περίπτωση της Deloitte, που αναγκάστηκε να επιστρέψει την αμοιβή της στην κυβέρνηση της Αυστραλίας, όταν μια έκθεση που πληρώθηκε με χρήματα φορολογούμενων, ήταν παραγμένη πλήρως από τεχνητή νοημοσύνη.

Εδώ και καιρό οι ειδικοί, όπως και εμείς, προειδοποιούμε πως οι ψευδαισθήσεις της τεχνητής νοημοσύνης είναι ένα πολύ μεγάλο πρόβλημα, που μπορεί να δημιουργήσει πολύ πιο σοβαρά προβλήματα, ιδιαίτερα σε οργανισμού που η ακρίβεια είναι το κλειδί. Η υπόθεση της KPMG ήρθε τώρα να αποδείξει τους ισχυρισμούς.

ΠΗΓΗ

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Leave a reply

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Βραβευμένη και Κορυφαία Ηλιακή Full Ασύρματη (με μπαταρία) Ai Κάμερα Reolink Solar Floodlight… Γιατί με την ασφάλεια ΔΕΝ παίζεις (βίντεο)

Κάνε δικά σου τα κορυφαία προϊόντα Reolink σε Τιμές Black Friday  Με την ασφάλεια του σπιτιού σου ή του επαγγελματικού σου χώρου δεν παίζεις. Και...

Υποχρεωτική ενημέρωση για το GTA 6 στο PS5: Τι πρέπει να εγκαταστήσετε πριν τα μεσάνυχτα

Λίγες ώρες πριν ανοίξουν οι πύλες της Vice City, Sony και Rockstar Games κλειδώνουν την εκκίνηση του παιχνιδιού πίσω από το νέο firmware 14.23,...

Huawei Osta O1 Pro: Αποκαλύφθηκαν επίσημα design και χρώματα

Η Huawei συνεχίζει να προετοιμάζει το έδαφος για την είσοδο της νέας της υπο-μάρκας Osta στην αγορά των smartphones, αποκαλύπτοντας περισσότερες πληροφορίες για μία...

Δωρεάν γίνεται το AI agent της Google, που μετονομάζεται από Spark σε Tasks

Το AI agent της Google στο Gemini, που οργανώνει το ημερολόγιο και εντοπίζει στα email επαναλαμβανόμενες χρεώσεις που ίσως δεν χρειάζονται, γίνεται δωρεάν, όμως...

Google Wallet για iPhone: Κυκλοφόρησε, αλλά χωρίς ανέπαφες πληρωμές

Η Google κυκλοφόρησε το Google Wallet για iOS, προς το παρόν μόνο για χρήστες στις ΗΠΑ. Η εφαρμογή στο iPhone δεν υποστηρίζει πληρωμές με...

ΤΕΛΕΥΤΑΙΕΣ ΠΡΟΣΦΟΡΕΣ

Βραβευμένη και Κορυφαία Ηλιακή Full Ασύρματη (με μπαταρία) Ai Κάμερα Reolink Solar Floodlight… Γιατί με την ασφάλεια ΔΕΝ παίζεις (βίντεο)

Κάνε δικά σου τα κορυφαία προϊόντα Reolink σε Τιμές Black Friday  Με την ασφάλεια του σπιτιού σου ή του επαγγελματικού σου χώρου δεν παίζεις. Και...

Σε “Πάει” σε γαλαξίες και σε άλλα μέρη απ’ το δωμάτιό σου! Καίει 1,5W και Δουλεύει ακόμα και με power bank. Στα 28€ ΚΟΜΠΛΕ…...

Ήρθε από Κίνα και ίσως είναι το απόλυτο μικρό, οικονομικό USB mini φωτιστικό νυκτός για παιδικό δωμάτιο — και όχι μόνο! Σήμερα τσεκάρουμε μαζί το...

Ninkear MBOX18 Review: Mini PC Τσέπης 15W με Intel Core 3 304, NPU 15 TOPS, Πραγματική Thunderbolt 4 (40Gbps) + GIVEAWAY!

Χρόνια τώρα φωνάζω για τα mini PC και για τις λύσεις που δίνουν στην καθημερινότητα. Ποτέ όμως μέχρι σήμερα δεν σας είχα κάνει ένα...

Μιλάνε Ελληνικά κι αλλες165 ΓΛΩΣΣΕΣ.. Τραβάνε Βίντεο και πολλά άλλα Στα 43€ ΚΟΜΠΛΕ… E12 AI Camera Headset

Άνοιξε καλά τα αυτιά σου, γιατί αυτό που βλέπεις εδώ σήμερα μόνο απλά ακουστικά δεν είναι! Τι κάνουν; Τραβάνε βίντεο 1080p και φωτογραφίες, μεταφράζουν προφορικό...

Ήρθε PRO Έκδοση του BEST SELLER Smartwatch με Offline Maps, Chat GPT και πολλά άλλα! Zeblaze Stratos 4 Pro…. ΣΤΑ 70€ ΚΟΜΠΛΕ!!!

Έρχεται με οθονάρα AMOLED 1.43 ιντσών, αυτόνομο GPS, rugged ανθεκτική κατασκευή 5ATM και... όπα, όπα! Θα μου πεις εύλογα: «Ρε συ Παναγιώτη, αυτά μας...