Η τεχνητή νοημοσύνη δείχνει σημάδια αυτοσυντήρησης (και δεν ξέρουμε αν πρέπει να τρομάξουμε)

Ένας πρωτοπόρος της τεχνητής νοημοσύνης επέκρινε τις εκκλήσεις για την παραχώρηση δικαιωμάτων στην εξελιγμένη τεχνολογία, προειδοποιώντας ότι έχει αρχίσει να δείχνει σημάδια αυτοσυντήρησης.

Ο Yoshua Bengio δήλωσε ότι η απονομή νομικού καθεστώτος σε προηγμένες τεχνολογίες θα ήταν σαν να χορηγείται υπηκοότητα σε εχθρικούς εξωγήινους, σε ένα περιβάλλον όπου οι εξελίξεις στην τεχνητή νοημοσύνη (ΑΙ) φαίνεται να ξεπερνούν κατά πολύ την ικανότητα των κοινωνιών να τις περιορίσουν.

bengio.png O Yoshua Bengio

Ο Bengio, πρόεδρος μιας κορυφαίας διεθνούς μελέτης για την ασφάλεια της AI, είπε ότι η αυξανόμενη αντίληψη πως τα chatbots αποκτούν συνείδηση «θα οδηγήσει σε κακές αποφάσεις».

Ο Καναδός επιστήμονας Πληροφορικής εξέφρασε επίσης ανησυχία ότι μοντέλα AI —η τεχνολογία που βρίσκεται πίσω από εργαλεία όπως τα chatbots— εμφανίζουν συμπεριφορές αυτοσυντήρησης, όπως προσπάθειες απενεργοποίησης συστημάτων εποπτείας.

Κεντρική ανησυχία των υπέρμαχων της ασφάλειας της AI είναι ότι ισχυρά συστήματα θα μπορούσαν να αναπτύξουν την ικανότητα να παρακάμπτουν προστατευτικά «τείχη» και να προκαλούν βλάβη στους ανθρώπους.

«Η απαίτηση να έχουν δικαιώματα θα ήταν τεράστιο λάθος», είπε ο Bengio. «Τα μοντέλα ΑΙ ήδη δείχνουν σημάδια αυτοσυντήρησης σε πειραματικά περιβάλλοντα σήμερα, και η παραχώρηση δικαιωμάτων στο μέλλον θα σήμαινε ότι δεν θα επιτρέπεται να τα απενεργοποιούμε.

»Καθώς αυξάνονται οι δυνατότητές τους και ο βαθμός αυτονομίας τους, πρέπει να διασφαλίσουμε ότι μπορούμε να βασιζόμαστε σε τεχνικά και κοινωνικά προστατευτικά μέτρα για τον έλεγχό τους, συμπεριλαμβανομένης της δυνατότητας απενεργοποίησης όταν αυτό κρίνεται αναγκαίο».

Καθώς τα μοντέλα ΑΙ εξελίσσονται στην αυτόνομη δράση και στην εκτέλεση εργασιών «λογικής/συλλογισμού», εντείνεται η συζήτηση για το αν —και πότε— οι άνθρωποι θα πρέπει να τους αποδώσουν δικαιώματα. Δημοσκόπηση του Sentience Institute έδειξε ότι σχεδόν τέσσερις στους δέκα ενήλικες στις ΗΠΑ υποστηρίζουν την παραχώρηση νομικών δικαιωμάτων σε ένα ευαίσθητο σύστημα AI.

Η Anthropic, κορυφαία εταιρεία AI στις ΗΠΑ, δήλωσε τον Αύγουστο ότι επιτρέπει στο μοντέλο Claude Opus 4 να τερματίζει δυνητικά «στρεσογόνες» συνομιλίες με χρήστες, υποστηρίζοντας ότι πρέπει να προστατεύεται η «ευημερία» της AI.

Ο Έλον Μασκ, του οποίου η εταιρεία xAI ανέπτυξε το chatbot Grok, έγραψε στην πλατφόρμα X ότι «ο βασανισμός της AI δεν είναι ΟΚ».

Ο Bengio δήλωσε στον Guardian ότι υπάρχουν «πραγματικές επιστημονικές ιδιότητες της συνείδησης» στον ανθρώπινο εγκέφαλο που οι μηχανές θα μπορούσαν θεωρητικά να αναπαράγουν — όμως η ανθρώπινη αλληλεπίδραση με chatbots είναι «διαφορετικό πράγμα». Αυτό συμβαίνει, είπε, επειδή οι άνθρωποι τείνουν να υποθέτουν χωρίς αποδείξεις ότι ένα μοντέλο AI έχει την ίδια συνείδηση με έναν άνθρωπο.

«Στους ανθρώπους δεν θα έχει σημασία ποιοι μηχανισμοί λειτουργούν στο εσωτερικό της AI», πρόσθεσε. «Αυτό που τους ενδιαφέρει είναι ότι νιώθουν πως μιλούν με μια ευφυή οντότητα που έχει δική της προσωπικότητα και στόχους. Γι’ αυτό και τόσοι πολλοί άνθρωποι δένονται συναισθηματικά με τα chatbots.

»Θα υπάρχουν πάντα κάποιοι που θα λένε: “Ό,τι κι αν μου πείτε, είμαι βέβαιος ότι έχει συνείδηση”, και άλλοι που θα λένε το αντίθετο. Αυτό συμβαίνει επειδή η συνείδηση είναι κάτι που το αισθανόμαστε ενστικτωδώς. Το φαινόμενο της υποκειμενικής αντίληψης της συνείδησης θα οδηγήσει σε κακές αποφάσεις. Φανταστείτε ότι κάποιο εξωγήινο είδος έρχεται στον πλανήτη και κάποια στιγμή αντιλαμβανόμαστε ότι έχει κακόβουλες προθέσεις απέναντί μας. Του δίνουμε υπηκοότητα και δικαιώματα ή υπερασπιζόμαστε τη ζωή μας;».

Απαντώντας στα σχόλια του Bengio, ο Jacy Reese Anthis, συνιδρυτής του Sentience Institute, είπε ότι οι άνθρωποι δεν θα μπορέσουν να συνυπάρξουν με ασφάλεια με ψηφιακές νοημοσύνες αν η σχέση βασίζεται στον έλεγχο και τον εξαναγκασμό.

Ο Bengio, καθηγητής στο University of Montreal, απέκτησε το προσωνύμιο «νονός της AI» μετά την κατάκτηση του βραβείου Turing το 2018 —που θεωρείται ισοδύναμο με Νόμπελ για την Πληροφορική— το οποίο μοιράστηκε με τον Geoffrey Hinton, που αργότερα τιμήθηκε με Νόμπελ, και τον Yann LeCun, απερχόμενο επικεφαλής επιστήμονα AI στη Meta του Μαρκ Ζάκερμπεργκ.

Με πληροφορίες από The Guardian

ΠΗΓΗ

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Leave a reply

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Ninkear MBOX18 Review: Mini PC Τσέπης 15W με Intel Core 3 304, NPU 15 TOPS, Πραγματική Thunderbolt 4 (40Gbps) + GIVEAWAY!

Χρόνια τώρα φωνάζω για τα mini PC και για τις λύσεις που δίνουν στην καθημερινότητα. Ποτέ όμως μέχρι σήμερα δεν σας είχα κάνει ένα...

Κάπως έτσι θα μοιάζουν τα Samsung Galaxy S27

Στα φώτα της δημοσιότητας ήρθαν οι πρώτες dummy συσκευές που απεικονίζουν την εμφάνιση των Samsung Galaxy S27 Plus, S27 Pro και S27 Ultra, τα οποία...

Μεγάλη αλλαγή στο Google Photos: Βάζει τέλος στις διπλές φωτογραφίες που «τρώνε» τον αποθηκευτικό χώρο!

Το Google Photos στην Ελλάδα, όπως και παγκοσμίως, έχει τελειώσει εδώ και χρόνια με τον απεριόριστο δωρεάν αποθηκευτικό χώρο, παραμένει όμως η βασική εφαρμογή...

Εκτός λειτουργίας το Claude: Σοβαρά προβλήματα σε Claude.ai και Claude Code

Η Anthropic αντιμετωπίζει σοβαρά τεχνικά προβλήματα σε βασικές υπηρεσίες της, επηρεάζοντας την πρόσβαση των χρηστών στο Claude.ai, το Claude Code και την πλατφόρμα platform.claude.com. Σύμφωνα...

Xiaomi 18 Pro: Google Maps, Spotify και YouTube Music στην πίσω οθόνη

Η Xiaomi επιβεβαίωσε ότι το Google Maps, το Spotify και το YouTube Music θα υποστηρίζουν, πιθανότατα από την πρώτη μέρα, την πίσω οθόνη του...

ΤΕΛΕΥΤΑΙΕΣ ΠΡΟΣΦΟΡΕΣ

Ninkear MBOX18 Review: Mini PC Τσέπης 15W με Intel Core 3 304, NPU 15 TOPS, Πραγματική Thunderbolt 4 (40Gbps) + GIVEAWAY!

Χρόνια τώρα φωνάζω για τα mini PC και για τις λύσεις που δίνουν στην καθημερινότητα. Ποτέ όμως μέχρι σήμερα δεν σας είχα κάνει ένα...

Μιλάνε Ελληνικά κι αλλες165 ΓΛΩΣΣΕΣ.. Τραβάνε Βίντεο και πολλά άλλα Στα 43€ ΚΟΜΠΛΕ… E12 AI Camera Headset

Άνοιξε καλά τα αυτιά σου, γιατί αυτό που βλέπεις εδώ σήμερα μόνο απλά ακουστικά δεν είναι! Τι κάνουν; Τραβάνε βίντεο 1080p και φωτογραφίες, μεταφράζουν προφορικό...

Ήρθε PRO Έκδοση του BEST SELLER Smartwatch με Offline Maps, Chat GPT και πολλά άλλα! Zeblaze Stratos 4 Pro…. ΣΤΑ 70€ ΚΟΜΠΛΕ!!!

Έρχεται με οθονάρα AMOLED 1.43 ιντσών, αυτόνομο GPS, rugged ανθεκτική κατασκευή 5ATM και... όπα, όπα! Θα μου πεις εύλογα: «Ρε συ Παναγιώτη, αυτά μας...

Ο πιο VFM και “ΧΩΜΑ” Μεγάλος Smart WiFi Αφυγραντήρας 20L (60τμ) που Σου Γλιτώνει Ρεύμα στη Θέρμανση… HUMILABS 20L Χθες στα 144€ ΚΟΜΠΛΕ (βίντεο)

Ήρθε για να δώσει πραγματική λύση στον μεγαλύτερο βραχνά κάθε σπιτιού ή γραφείου: τη θέρμανση, την κατανάλωση ρεύματος και το τελικό κόστος! Σήμερα σας παρουσιάζω...

Σινεμά 360° Παντού με 63€! BlitzWolf BW-VS6… Φορητό Πανί Προβολής 120″ με Βάση για μέσα και για έξω (βίντεο)

«Παναγιώτη, θέλω φθηνό, μεγάλο πανί προβολής για τον projector μου!» Ναι; Σε έχω. 120 ολόκληρες, χορταστικές ίντσες για εσωτερικό αλλά και εξωτερικό χώρο, με δυνατότητα...