Ερευνητές χάκαραν το OpenAI με εργαλείο Τεχνητής Νοημοσύνης της Anthropic
Για να επιτύχει τον στόχο της, η τριμελής ομάδα χρησιμοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse
Κάνε κλικ και δες περισσότερο emakedonia.gr στην αναζήτηση της Google
Πρόσθεσέ το στην Google- Newsroom
Ερευνητές της νεοφυούς εταιρείας κυβερνοασφάλειας Hacktron AI απέκτησαν πρόσβαση σε λογαριασμούς ChatGPT εργαζομένων της OpenAI χρησιμοποιώντας ένα μοντέλο Τεχνητής Νοημοσύνης (TN, AI) της Anthropic, σύμφωνα με μήνυμα που δημοσιεύτηκε σήμερα στον ιστότοπο αυτής της start-up.
Η παρείσφρηση, η οποία πραγματοποιήθηκε στα τέλη Ιουλίου και την οποία επιβεβαίωσε στο Γαλλικό Πρακτορείο η OpenAI, έγινε στο πλαίσιο μιας άσκησης από την ίδια την εταιρεία για τον εντοπισμό τρωτών σημείων στα συστήματά της με τη βοήθεια εξωτερικών ειδικών πληροφορικής.
Για να επιτύχει τον στόχο της, η τριμελής ομάδα χρησιμοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse, η οποία χρησιμοποιείται από την OpenAI.
Το Discourse δίνει στους εργαζομένους τη δυνατότητα να συνδέονται στους λογαριασμούς τους ChatGPT ή Codex, το AI της OpenAI για προγραμματισμό.
Μέσω αυτής της μεθόδου, οι ερευνητές κατάφεραν να αποκτήσουν πρόσβαση σε πολλούς από αυτούς τους λογαριασμούς.
Στον βαθμό που ο χρήστης μπορεί να δώσει άδεια στο ChatGPT ή το Codex να χρησιμοποιούν πολλές εφαρμογές ή αρχεία, «το εύρος αυτών στα οποία θα μπορούσαμε θεωρητικά να έχουμε πρόσβαση είναι τεράστιο», εξήγησε η τριμελής ομάδα.
Ανέφερε το GitHub (πλατφόρμα αποθήκευσης προγραμμάτων), το Slack (μια πλατφόρμα ανταλλαγής μηνυμάτων για επιχειρήσεις) και τα emails.
Η περιγραφή της δουλειάς της ομάδας Hacktron AI υπογραμμίζει τη ραγδαία πρόοδο μοντέλων Τεχνητής Νοημοσύνης.
Τα μέλη της ομάδας ξεκίνησαν την προσπάθεια παρείσφρησης με τη βοήθεια του Claude Opus 4.8, ενός μοντέλου που κυκλοφόρησε τον Μάιο η Anthropic. Αλλά αυτό το AI «δυσκολεύτηκε» να βρει ένα σημείο εισόδου μέσω του Discourse.
Συμπτωματικά, η Anthropic κυκλοφόρησε ένα νέο μοντέλο, το Opus 5, την ίδια ημέρα. Αυτό το νέο μοντέλο AI κατάφερε να βρει το κενό ασφαλείας «μέσα σε τρεις ώρες», ανέφεραν αυτοί οι ειδικοί σε θέματα πληροφορικής.
Η ομάδα ειδοποίησε γρήγορα την OpenAI, η οποία διόρθωσε τα κενά ασφαλείας, σύμφωνα με έναν εκπρόσωπο.
«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τις παρατηρήσεις τους», δήλωσε στο Γαλλικό Πρακτορείο.
Αυτή η άσκηση επιβεβαιώνει τις αυξανόμενες δυνατότητες της Τεχνητής Νοημοσύνης σε θέματα κυβερνοασφάλειας.
Στις αρχές Απριλίου, η Anthropic επέλεξε να μην κυκλοφορήσει ευρέως στην αγορά το μοντέλο Mythos, θεωρώντας το πολύ επικίνδυνο για την κυβερνοασφάλεια.
Περιόρισε την πρόσβαση σε μερικές εταιρείες και οργανισμούς, ώστε να μπορούν να το χρησιμοποιήσουν για να εντοπίσουν και να διορθώσουν τα κενά ασφαλείας στο λογισμικό τους.
Η Anthropic κυκλοφόρησε μια περιορισμένη έκδοση του Mythos, το Fable, τον Ιούνιο. Λίγες μέρες αργότερα, η κυβέρνηση των ΗΠΑ ανέστειλε το Fable, επικαλούμενη κίνδυνο εθνικής ασφάλειας, πριν τελικά το εγκρίνει δύο εβδομάδες αργότερα.
Κάνε κλικ και δες περισσότερο emakedonia.gr στην αναζήτηση της Google
Πρόσθεσέ το στην GoogleΔιαβάστε περισσότερα
-
Εκτός ορίων η τεχνητή νοημοσύνη - Αποκαλύψεις της OpenAI φέρνουν στο φως την «προβληματική» συμπεριφορά των bots
Οι αποκαλύψεις εντάσσονται σε μια νέα προσέγγιση εκ μέρους της OpenAI με στόχο να επικοινωνεί πιο ανοικτά τέτοια προβλήματα
-
ΕΕ: Η ΕΕ αυξάνει το επίπεδο συναγερμού της αποστολής της στην Ερυθρά Θάλασσα, μετά τις επιθέσεις των Χούθι
Κάγια Κάλας: «Απαράδεκτες οι επιθέσεις κατά της Σαουδικής Αραβίας που υπονομεύουν την παγκόσμια οικονομία»
-
Ένταση στη Θέουτα: Χιλιάδες μετανάστες στους δρόμους για να προλάβουν μια θέση σε νέο καταυλισμό (βίντεο)
Επεμβάσεις της αστυνομίας με δακρυγόνα - Καταγγελίες για αυξημένη εγκληματικότητα και ανησυχία για τη δημόσια υγεία στον ισπανικό θύλακα
-
Σουηδία: Το Ίδρυμα Νόμπελ αυξάνει το χρηματικό ποσό των βραβείων - 1,2 εκατομμύρια δολάρια για κάθε κατηγορία
Οι νικητές των φετινών βραβείων Φυσικής, Χημείας, Ειρήνης, Λογοτεχνίας, Οικονομικών και Ιατρικής ή Φυσιολογίας θα ανακοινωθούν από τις 5 έως τις 12 Οκτωβρίου