Μετάβαση στο περιεχόμενο
29.4 C
Athens
Παρασκευή, 20 Ιουνίου 2025

Η OpenAI παίρνει μέτρα για να αντιμετωπίσει ισχυρότερες Al του μέλλοντος

Μέσα στους τελευταίους μήνες η τεχνητή νοημοσύνη έχει γίνει πρώτο θέμα συζήτησης παγκοσμίως, με τις εντυπωσιακές δυνατότητες των γλωσσικών μοντέλων όπως το ChatGPT, αλλά και των δημιουργικών εργαλείων όπως το Midjourney να εντυπωσιάζουν. Ταυτόχρονα, όμως, πολλοί έχουν κρούσει τον κώδωνα του κινδύνου, επισημαίνοντας πως η ανάπτυξη της εν λόγω τεχνολογίας με ραγδαίους ρυθμούς μπορεί να οδηγήσει σε ανεξέλεγκτες καταστάσεις.
Όπως φαίνεται, το φόβο αυτό συμμερίζεται και η OpenAI, η ερευνητική εταιρία που ευθύνεται για το GPT και το DALL-E, δύο από τα δημοφιλέστερα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται σήμερα. Για το λόγο αυτό, η εταιρία ανακοίνωσε την ίδρυση μιας νέα ομάδας που θα ασχολείται αποκλειστικά με τη διαχείριση των κινδύνων που ελλοχεύουν από τις ακόμη πιο ισχυρές AI του μέλλοντος.Πρακτικά, στόχος της OpenAI είναι να «δαμάσει» τις υπερ-ευφυείς AI του μέλλοντος που ενδεχομένως θα μπορούσαν να γίνουν ανεξέλεγκτες, πριν αυτό να συμβεί όντως και να είναι αργά.
Η επίσημη ανακοίνωση στην ιστοσελίδα της OpenAI τονίζει:
Επί του παρόντος, δεν έχουμε λύση για την καθοδήγηση ή τον έλεγχο μιας δυνητικά υπερ-ευφυούς τεχνητής νοημοσύνης και την αποτροπή της από το να αποστατήσει. Οι τρέχουσες τεχνικές μας για την ευθυγράμμιση της AI, όπως η ενισχυτική μάθηση από τo ανθρώπινo feedback, βασίζονται στην ικανότητα των ανθρώπων να επιβλέπουν την AI. Αλλά οι άνθρωποι δεν θα είναι σε θέση να επιβλέπουν αξιόπιστα συστήματα πολύ πιο έξυπνα από εμάς, και έτσι οι τρέχουσες τεχνικές ευθυγράμμισης δεν θα μπορούν να κλιμακωθούν στην υπερ-νοημοσύνη. Χρειαζόμαστε νέες επιστημονικές και τεχνικές ανακαλύψεις.
Ο στόχος μας είναι να δημιουργήσουμε έναν ερευνητή αυτοματοποιημένης ευθυγράμμισης περίπου ανθρώπινου επιπέδου. Στη συνέχεια μπορούμε να χρησιμοποιήσουμε τεράστιες ποσότητες υπολογιστών για να κλιμακώσουμε τις προσπάθειές μας και να ευθυγραμμίσουμε επαναληπτικά την υπερ-νοημοσύνη.

Επικεφαλής της νέας ομάδας θα είναι οι Ilya Sutskever και Jan Leik, με την OpenAI να τονίζει πως θα αφιερώσει το 20% της υπολογιστικής ισχύος που διαθέτει επί του παρόντος για αυτή την πρωτοβουλία.

ΠΗΓΗ

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Leave a reply

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Τρέμουν Σαγόνια!!! Με -20° C για… “ΠΛΑΚΑ” Δικό σου ΧΘΕΣ… Στα 156€ ΚΟΜΠΛΕ!!! Mudiro 35lt Refrigerator με BT και….

Δεν θα πω πολλά εδώ γιατί θα ακούσεις πολλά στο βίντεο... είναι ένα εξαιρετικό προϊόν που το κάνει ακόμη καλύτερο η τιμή που το...

Η Apple φέρνει διπλή εστίαση με λέιζερ στα iPhone!

Όλοι έχουμε ανοίξει γρήγορα την κάμερα του κινητού μας για να προλάβουμε τη στιγμή και το αποτέλεσμα ήταν τελικά μια θολή φωτογραφία. Αν όμως...

Αν έχετε θέμα με το YouTube στο κινητό σας, δεν είστε οι μόνοι – Τι πρέπει να κάνετε

Τεχνικά προβλήματα έκαναν την εμφάνισή τους στην εφαρμογή YouTube για κινητά, με αρκετούς χρήστες να αναφέρουν δυσλειτουργίες τόσο σε Android όσο και σε iOS. Το θέμα μπορεί να μην...

O νέος τρόπος για πιο εύκολη διαχείριση των καρτελών του Chrome σε ομάδες

Το Chrome πειραματίζεται με την ταξινόμηση των μενού για το άνοιγμα συνδέσμων σε νέες καρτέλες τα τελευταία δύο χρόνια. Πλέον το Chrome προσφέρει ένα...

Google Maps: Μεγάλη ενημέρωση στην Ευρώπη για τη λήψη βιώσιμων επιλογών μεταφοράς

Με νέες ενημερώσεις στους Χάρτες, η Google κάνει πιο εύκολη από ποτέ τη λήψη βιώσιμων επιλογών μεταφοράς σε όλη την Ευρώπη, είτε σχεδιάζετε ένα...

ΤΕΛΕΥΤΑΙΕΣ ΠΡΟΣΦΟΡΕΣ

Τρέμουν Σαγόνια!!! Με -20° C για… “ΠΛΑΚΑ” Δικό σου ΧΘΕΣ… Στα 156€ ΚΟΜΠΛΕ!!! Mudiro 35lt Refrigerator με BT και….

Δεν θα πω πολλά εδώ γιατί θα ακούσεις πολλά στο βίντεο... είναι ένα εξαιρετικό προϊόν που το κάνει ακόμη καλύτερο η τιμή που το...

Εσείς Ai… Εμείς Qi και μάλιστα 2 και VEGER… Ασύρματη φόρτιση στα 28€ από Ελλάδα και Giveaway

Άλλο ένα πολύ καλό προϊόν από την πάντα αξιόλογη Veger. Άλλη μια εξaiρετική προσφορά από το kimstore.gr Άλλο ένα Giveaway άλλο ένα δώρο για εσάς... και...

Σε “Ταξιδεύει” σε πάνω από 150 ΧΩΡΕΣ… Με GaN 100W, Στα 24€ ΚΟΜΠΛΕ… Blitzwolf TA2 5 σε1 Universal Travel Adapter

Ο τίτλος είναι αλήθεια μεταφορικός... όμως αλήθεια μπορεί να ταξιδέψει μαζί σου σε πάνω από 150 χώρες και μάλιστα να φροντίσει για σένα κρατώντας...

Το “καλύτερο” SUP (Stand Up Paddle) ΤΕΡΑΣ 3,5 Μέτρων… που ΜΠΟΡΕΙΣ να έχεις “Λόγω ΤΙΜΗΣ”… Στα 129€ ΚΟΜΠΛΕ (Βίντεο)

Ένα πραγματικά ονειρικό για πολλούς και πολλές από εμάς SUP που παρακαλούσαμε να βρούμε σε μια τιμή που να είναι τόσο καλή που να...

Τα πιο “ΤΣΑΜΠΑ” 280Hz… Σε 27άρα Gaming Οθόνη… Στα 144€ Κομπλέ… KTC H27E22P… “Αθάνατη” και με πολλά…

Άλλη μια από της πολυδοκιμασμένες κι αθάνατες KTC έφτασε στα χέρια μου και για ακόμη μια φορά με άφησε έκπληκτο με τις δυνατότητες την...