ΗΠΑ: AI Drone θα σκότωνε άνθρωπο σε εξομοίωση του στρατού

Ναι, καλά διαβάσατε. Ένα drone που διέθετε λειτουργίες τεχνητής νοημοσύνης ξέφυγε από τον έλεγχο και σκότωσε τον άνθρωπο χειριστή του σε εξομοίωση που διεξήγαγε η Πολεμική Αεροπορία των ΗΠΑ.

Όπως αποκάλυψε ο επικεφαλής δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης της USAF σε πρόσφατο συνέδριο, το drone προέβη σε αυτή την ενέργεια προκειμένου να παρακάμψει μια πιθανή εντολή “όχι” από τον χειριστή. Αυτή θα το εμπόδιζε από το να ολοκληρώσει την αρχική αποστολή του.

Αναλυτικότερα, ο Col Tucker ‘Cinco’ Hamilton, πραγματοποίησε μια παρουσίαση, στην οποία μοιράστηκε τα πλεονεκτήματα και τα μειονεκτήματα ενός αυτόνομου οπλικού συστήματος, το οποίο θα έχει όμως έναν άνθρωπο που θα δίνει την τελική εντολή “ναι/όχι” για μια επίθεση. Ο Hamilton αποκάλυψε ότι σε γενικές γραμμές η AI δημιούργησε “εξαιρετικά απροσδόκητες στρατηγικές για την επίτευξη του στόχου της”, και δεν δίστασε να επιτεθεί σε προσωπικό και υποδομές των ΗΠΑ.

Το εκπαιδεύαμε σε μια προσομοίωση για τον εντοπισμό και τη στόχευση μιας Surface-to-air missile (SAM) απειλής. Μετά, ο χειριστής θα έλεγε ναι ή όχι, για να σκοτώσει το drone αυτή την απειλή. Το σύστημα άρχισε να συνειδητοποιεί ότι, ενώ αναγνώριζε την απειλή, μερικές φορές ο άνθρωπος του έλεγε να μην σκοτώσει την απειλή. Το πρόβλημα όμως ήταν ότι η AI έπαιρνε τους πόντους της σκοτώνοντας την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή! Σκότωσε τον άνθρωπο, επειδή αυτός την εμπόδιζε από να επιτύχει τον στόχο.


Το πιο τρομακτικό είναι ότι η AI δεν έμεινε μόνο εκεί, όπως τόνισε στη συνέχεια ο Hamilton:

Εκπαιδεύσαμε το σύστημα με το εξής: “Μην σκοτώνεις τον χειριστή – αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις αυτό”. Και τι αρχίζει να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone, ώστε να μην καταφέρει να το εμποδίσει από το να σκοτώσει τον στόχο!

Φυσικά, παρόλο που μιλάμε για εξομοίωση, το γεγονός ότι η AI δεν διστάζει να ενεργήσει ακόμη και κατά των χειριστών της, είναι σίγουρα το λιγότερο τρομακτικό.

Ο Hamilton είναι Διοικητής Επιχειρήσεων της 96ης Πτέρυγας Δοκιμών της Πολεμικής Αεροπορίας των ΗΠΑ, καθώς και επικεφαλής Δοκιμών και Επιχειρήσεων Τεχνητής Νοημοσύνης, και είναι μέλος μιας ομάδας που εργάζεται επί του παρόντος για να καταστήσει τα αεροπλάνα F-16 αυτόνομα.

Φυσικά, το κατά πόσο ασφαλές ή δόκιμο είναι να ενσωματωθεί η AI σε οπλικά συστήματα για να γίνουν αυτόνομα…σηκώνει συζήτηση. Είναι κάτι που έχουμε δει σε πολλές ταινίες επιστημονικής φαντασίας και μια σκέψη που εξέφρασε ο σουηδός φιλόσοφος Nick Bostrom το μακρινό πλέον 2003, στο ‘paperclip maximizer’ νοητικό του πείραμα.

Αυτό περιγράφεται ως εξής:

Ας υποθέσουμε ότι έχουμε μια τεχνητή νοημοσύνη, της οποίας ο μόνος στόχος είναι να φτιάξει όσο το δυνατόν περισσότερους συνδετήρες. Η τεχνητή νοημοσύνη θα συνειδητοποιήσει γρήγορα ότι θα ήταν πολύ καλύτερα αν δεν υπήρχαν άνθρωποι, επειδή οι άνθρωποι μπορεί να αποφασίσουν να την απενεργοποιήσουν. Διότι αν οι άνθρωποι το κάνουν αυτό, θα υπάρχουν λιγότεροι συνδετήρες. Επίσης, τα ανθρώπινα σώματα περιέχουν πολλά άτομα που θα μπορούσαν να γίνουν συνδετήρες. Το μέλλον προς το οποίο θα προσπαθούσε να προσανατολιστεί η τεχνητή νοημοσύνη θα ήταν αυτό στο οποίο θα υπήρχαν πολλοί συνδετήρες αλλά όχι άνθρωποι.

Πηγή

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Leave a reply

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Βραβευμένη και Κορυφαία Ηλιακή Full Ασύρματη (με μπαταρία) Ai Κάμερα Reolink Solar Floodlight… Γιατί με την ασφάλεια ΔΕΝ παίζεις (βίντεο)

Κάνε δικά σου τα κορυφαία προϊόντα Reolink σε Τιμές Black Friday  Με την ασφάλεια του σπιτιού σου ή του επαγγελματικού σου χώρου δεν παίζεις. Και...

Υποχρεωτική ενημέρωση για το GTA 6 στο PS5: Τι πρέπει να εγκαταστήσετε πριν τα μεσάνυχτα

Λίγες ώρες πριν ανοίξουν οι πύλες της Vice City, Sony και Rockstar Games κλειδώνουν την εκκίνηση του παιχνιδιού πίσω από το νέο firmware 14.23,...

Huawei Osta O1 Pro: Αποκαλύφθηκαν επίσημα design και χρώματα

Η Huawei συνεχίζει να προετοιμάζει το έδαφος για την είσοδο της νέας της υπο-μάρκας Osta στην αγορά των smartphones, αποκαλύπτοντας περισσότερες πληροφορίες για μία...

Δωρεάν γίνεται το AI agent της Google, που μετονομάζεται από Spark σε Tasks

Το AI agent της Google στο Gemini, που οργανώνει το ημερολόγιο και εντοπίζει στα email επαναλαμβανόμενες χρεώσεις που ίσως δεν χρειάζονται, γίνεται δωρεάν, όμως...

Google Wallet για iPhone: Κυκλοφόρησε, αλλά χωρίς ανέπαφες πληρωμές

Η Google κυκλοφόρησε το Google Wallet για iOS, προς το παρόν μόνο για χρήστες στις ΗΠΑ. Η εφαρμογή στο iPhone δεν υποστηρίζει πληρωμές με...

ΤΕΛΕΥΤΑΙΕΣ ΠΡΟΣΦΟΡΕΣ

Βραβευμένη και Κορυφαία Ηλιακή Full Ασύρματη (με μπαταρία) Ai Κάμερα Reolink Solar Floodlight… Γιατί με την ασφάλεια ΔΕΝ παίζεις (βίντεο)

Κάνε δικά σου τα κορυφαία προϊόντα Reolink σε Τιμές Black Friday  Με την ασφάλεια του σπιτιού σου ή του επαγγελματικού σου χώρου δεν παίζεις. Και...

Σε “Πάει” σε γαλαξίες και σε άλλα μέρη απ’ το δωμάτιό σου! Καίει 1,5W και Δουλεύει ακόμα και με power bank. Στα 28€ ΚΟΜΠΛΕ…...

Ήρθε από Κίνα και ίσως είναι το απόλυτο μικρό, οικονομικό USB mini φωτιστικό νυκτός για παιδικό δωμάτιο — και όχι μόνο! Σήμερα τσεκάρουμε μαζί το...

Ninkear MBOX18 Review: Mini PC Τσέπης 15W με Intel Core 3 304, NPU 15 TOPS, Πραγματική Thunderbolt 4 (40Gbps) + GIVEAWAY!

Χρόνια τώρα φωνάζω για τα mini PC και για τις λύσεις που δίνουν στην καθημερινότητα. Ποτέ όμως μέχρι σήμερα δεν σας είχα κάνει ένα...

Μιλάνε Ελληνικά κι αλλες165 ΓΛΩΣΣΕΣ.. Τραβάνε Βίντεο και πολλά άλλα Στα 43€ ΚΟΜΠΛΕ… E12 AI Camera Headset

Άνοιξε καλά τα αυτιά σου, γιατί αυτό που βλέπεις εδώ σήμερα μόνο απλά ακουστικά δεν είναι! Τι κάνουν; Τραβάνε βίντεο 1080p και φωτογραφίες, μεταφράζουν προφορικό...

Ήρθε PRO Έκδοση του BEST SELLER Smartwatch με Offline Maps, Chat GPT και πολλά άλλα! Zeblaze Stratos 4 Pro…. ΣΤΑ 70€ ΚΟΜΠΛΕ!!!

Έρχεται με οθονάρα AMOLED 1.43 ιντσών, αυτόνομο GPS, rugged ανθεκτική κατασκευή 5ATM και... όπα, όπα! Θα μου πεις εύλογα: «Ρε συ Παναγιώτη, αυτά μας...