Μια ομάδα ερευνητών από το Πανεπιστημίο Cornell στη Νέα Υόρκη, το Ινστιτούτο Τεχνολογίας του Ισραήλ και την εταιρία Intuit κατασκεύασε έναν νέο ιό, ο οποίος μπορεί να εξαπλώνεται μόνος του χρησιμοποιώντας γενετική τεχνητή νοημοσύνη. Πρόκειται για ένα “worm”, το οποίο θέλει να προειδοποιήσει για τις κυβερνοεπιθέσεις που ενδέχεται να δούμε στο άμεσο μέλλον.
Περνώντας σε λεπτομέρειες, ο ιός μπορεί να επιτίθεται σε λογισμικά διαχείρισης e-mails με ΑΙ λειτουργίες για να αποσπάσει ευαίσθητες πληροφορίες και να στείλει spam μυνήματα για να μολύνει στη συνέχεια και άλλα συστήματα.
Στο πείραμά τους, το οποίο έλαβε χώρα σε ελεγχόμενο περιβάλλον, οι ερευνητές στόχευσαν AI βοηθούς ηλεκτρονικού ταχυδρομείου που αξιοποιούσαν το GPT-4 της OpenAI, το Gemini Pro της Google και ένα μεγάλο γλωσσικό μοντέλο ανοιχτού κώδικα που ονομάζεται LLaVA. Η ομάδα χρησιμοποίησε ένα λεγόμενο ‘adversarial self-replicating prompt’, το οποίο αναγκάζει ένα AI μοντέλο να εξάγει ένα ακόμη promt στην απάντησή του. Αυτό πυροδοτεί μια αλυσιδωτή αντίδραση εξόδων που μπορεί να μολύνει αυτούς τους AI βοηθούς και έτσι να αντλήσει ευαίσθητες πληροφορίες. Με τον τρόπο αυτό κινδυνεύουν ονόματα, αριθμοί τηλεφώνου, αριθμοί πιστωτικών καρτών και οτιδήποτε άλλο θεωρείται εμπιστευτικό. Πρακτικά, οι βοηθοί τεχνητής νοημοσύνης μπορούν εύκολα να πειστούν να δώσουν όλες τις πληροφορίες του χρήστη, ανεξάρτητα από τα προστατευτικά μέτρα που μπορεί να υπάρχουν.
Μάλιστα, το εν λόγω worm μπορεί να μεταδοθεί από μόνο του και σε άλλα μηχανήματα και η ομάδα κατάφερε ακόμη και να το ενσωματώσει σε μια εικόνα, η οποία μπορούσε να μολύνει αυτόματα περαιτέρω παραλήπτες.
Μιλώντας στο μέσο Wired, ο συν-συγγραφέας της έρευνας, Ben Nassi, τόνισε:
“Ουσιαστικά σημαίνει ότι τώρα έχετε τη δυνατότητα να διεξάγετε ή να εκτελείτε ένα νέο είδος κυβερνοεπίθεσης που δεν έχει παρατηρηθεί ποτέ ξανά στο παρελθόν.”
Φυσικά, η ομάδα διαβίβασε τα ευρήματά της στην OpenAI και την Google για να βοηθήσει να γίνουν τα συστήματά τους “πιο ανθεκτικά”, αλλά όπως και να ‘χει είναι αναμφισβήτητο ότι η τεχνητή νοημοσύνη θα αλλάξει το τοπίο της κυβερνοασφάλειας, είτε προς το καλύτερο είτε προς το χειρότερο.
Η επιστημονική έρευνα ονομάζεται ‘ComPromptMized: Unleashing Zero-click Worms that Target GenAI-Powered Applications’ και μπορείτε να την βρείτε πατώντας εδώ.
