Μετάβαση στο περιεχόμενο
34.1 C
Athens
Δευτέρα, 9 Ιουνίου 2025

Η OpenAI παίρνει μέτρα για να αντιμετωπίσει ισχυρότερες Al του μέλλοντος

Μέσα στους τελευταίους μήνες η τεχνητή νοημοσύνη έχει γίνει πρώτο θέμα συζήτησης παγκοσμίως, με τις εντυπωσιακές δυνατότητες των γλωσσικών μοντέλων όπως το ChatGPT, αλλά και των δημιουργικών εργαλείων όπως το Midjourney να εντυπωσιάζουν. Ταυτόχρονα, όμως, πολλοί έχουν κρούσει τον κώδωνα του κινδύνου, επισημαίνοντας πως η ανάπτυξη της εν λόγω τεχνολογίας με ραγδαίους ρυθμούς μπορεί να οδηγήσει σε ανεξέλεγκτες καταστάσεις.
Όπως φαίνεται, το φόβο αυτό συμμερίζεται και η OpenAI, η ερευνητική εταιρία που ευθύνεται για το GPT και το DALL-E, δύο από τα δημοφιλέστερα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται σήμερα. Για το λόγο αυτό, η εταιρία ανακοίνωσε την ίδρυση μιας νέα ομάδας που θα ασχολείται αποκλειστικά με τη διαχείριση των κινδύνων που ελλοχεύουν από τις ακόμη πιο ισχυρές AI του μέλλοντος.Πρακτικά, στόχος της OpenAI είναι να «δαμάσει» τις υπερ-ευφυείς AI του μέλλοντος που ενδεχομένως θα μπορούσαν να γίνουν ανεξέλεγκτες, πριν αυτό να συμβεί όντως και να είναι αργά.
Η επίσημη ανακοίνωση στην ιστοσελίδα της OpenAI τονίζει:
Επί του παρόντος, δεν έχουμε λύση για την καθοδήγηση ή τον έλεγχο μιας δυνητικά υπερ-ευφυούς τεχνητής νοημοσύνης και την αποτροπή της από το να αποστατήσει. Οι τρέχουσες τεχνικές μας για την ευθυγράμμιση της AI, όπως η ενισχυτική μάθηση από τo ανθρώπινo feedback, βασίζονται στην ικανότητα των ανθρώπων να επιβλέπουν την AI. Αλλά οι άνθρωποι δεν θα είναι σε θέση να επιβλέπουν αξιόπιστα συστήματα πολύ πιο έξυπνα από εμάς, και έτσι οι τρέχουσες τεχνικές ευθυγράμμισης δεν θα μπορούν να κλιμακωθούν στην υπερ-νοημοσύνη. Χρειαζόμαστε νέες επιστημονικές και τεχνικές ανακαλύψεις.
Ο στόχος μας είναι να δημιουργήσουμε έναν ερευνητή αυτοματοποιημένης ευθυγράμμισης περίπου ανθρώπινου επιπέδου. Στη συνέχεια μπορούμε να χρησιμοποιήσουμε τεράστιες ποσότητες υπολογιστών για να κλιμακώσουμε τις προσπάθειές μας και να ευθυγραμμίσουμε επαναληπτικά την υπερ-νοημοσύνη.

Επικεφαλής της νέας ομάδας θα είναι οι Ilya Sutskever και Jan Leik, με την OpenAI να τονίζει πως θα αφιερώσει το 20% της υπολογιστικής ισχύος που διαθέτει επί του παρόντος για αυτή την πρωτοβουλία.

ΠΗΓΗ

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Leave a reply

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Xiaomi Redmi Pad 2: Το value-for-money tablet με οθόνη 11″

H Xiaomi είναι γνωστή στον κλάδο των smartphone ως μία από τις εταιρείες που προσπαθεί να περιορίσει τον ανταγωνισμό όχι μόνο μειώνοντας τις τιμές,...

Samsung Galaxy Z Flip7 & Galaxy Z Fold7: Έρχονται τον επόμενο μήνα – Τι περιμένουμε

Τα Samsung Galaxy Z Flip7 και Galaxy Z Fold7 θα παρουσιαστούν τον επόμενο μήνα, τον Ιούλιο, σε μια εκδήλωση Galaxy Unpacked στη Νέα Υόρκη. Η...

To “ΑΠΟΛΥΤΟ”…. ΝΟΜΙΜΟ Ηλεκτρικό Ποδήλατο; Η Χρυσή Τομή… Κάνει τα ΠΑΝΤΑ… Στα 707€ ΚΟΜΠΛΕ!!! PVY Z20 Pro EVO

Είναι Πανέμορφο, ποιοτικό, πανάλαφρο, πρακτικό, αναδιπλούμενο, "ΝΟΜΙΜΟ" και ΒΑΣΕΙ απόλυτης λογικής ίσως η χρυσή τομή κι όχι μόνο ότι "σοφότερο" μπορείς να επιλέξεις, αλλά...

Το “ΜΙΚΡΟΤΕΡΟ” Ραδιόφωνο Παγκόσμιας ΛΗΨΗΣ… ΠΑΓΚΟΣΜΙΩΣ!? Στα 28€ ΚΟΜΠΛΕ!!! SI4732 με 2 Κεραίες…

Στο εξωτερικό γίνεται χαμός με αυτό το μικρό θαυματάκι και μάλιστα έχει στηθεί και ομάδα αναβάθμισης λογισμικού στο Github. Είναι μια αγορά που έκανα χωρίς...

Η υπερηχητική ΑΙ είναι εδώ

Τα επόμενα 2-3 χρόνια οι υπηρεσίες γραμματειακής υποστήριξης και τα τηλεφωνικά κέντρα θα αντικατασταθούν από υπολογιστές, υποστήριξε στο πρόσφατο φεστιβάλ τεχνολογίας «Παναθήναια» ο γκουρού...

ΤΕΛΕΥΤΑΙΕΣ ΠΡΟΣΦΟΡΕΣ

To “ΑΠΟΛΥΤΟ”…. ΝΟΜΙΜΟ Ηλεκτρικό Ποδήλατο; Η Χρυσή Τομή… Κάνει τα ΠΑΝΤΑ… Στα 707€ ΚΟΜΠΛΕ!!! PVY Z20 Pro EVO

Είναι Πανέμορφο, ποιοτικό, πανάλαφρο, πρακτικό, αναδιπλούμενο, "ΝΟΜΙΜΟ" και ΒΑΣΕΙ απόλυτης λογικής ίσως η χρυσή τομή κι όχι μόνο ότι "σοφότερο" μπορείς να επιλέξεις, αλλά...

Το “ΜΙΚΡΟΤΕΡΟ” Ραδιόφωνο Παγκόσμιας ΛΗΨΗΣ… ΠΑΓΚΟΣΜΙΩΣ!? Στα 28€ ΚΟΜΠΛΕ!!! SI4732 με 2 Κεραίες…

Στο εξωτερικό γίνεται χαμός με αυτό το μικρό θαυματάκι και μάλιστα έχει στηθεί και ομάδα αναβάθμισης λογισμικού στο Github. Είναι μια αγορά που έκανα χωρίς...

ΠΡΕΠΕΙ να ΥΠΑΡΧΕΙ σε κάθε Σπίτι… & ΜΕ 83€ ΚΟΜΠΛΕ;;; ΜΠΟΡΕΙ… Το πιο VFM Spot Cleaner ΥΓΡΩΝ & ΣΤΕΡΕΩΝ Teendow C5

Πραγματικά μετά την "συμβίωση" μαζί του όχι μόνο της δικής μου μου οικογένειας και σπιτιού αλλά και της αδερφής μου το συμπέρασμα είναι ένα... Είναι...

“Διαστημικό” BT Ηχείο Σε Διαστημική τιμή από Ελλάδα… 18,44€ ΚΟΜΠΛΕ… και το 2 ΔΩΡΟ του Project 15 Εβδομάδες, 15 ΔΩΡΑ για εσάς!

Απίθανη τιμή πραγματικά "διαστημική ποιότητα" για την τιμή του που ρίχνει σαγόνια χωρίς ο ήχος του να σε αφήνει αδιάφορο... Είναι όμορφο, ποιοτικό, τσάμπα κι...

3η Γενιά και ΝΕΟ BEST SELLER… Google Certified Xiaomi mi Box S 3d Gen, O Νέος “Βασιλιάς” και “λόγο τιμής” Στα 55€ ΚΟΜΠΛΕ

Αν θέλεις να κάνεις την παλιά χαζή σου τηλεόραση Smart, ή να μετατρέψεις το παλιό ξεχασμένο πεταμένο σου μόνιτορ την Super smart TV, ή...