Ερευνητές χάκαραν το OpenAI με εργαλείο Τεχνητής Νοημοσύνης της Anthropic
Για να επιτύχει τον στόχο της, η τριμελής ομάδα χρησιμοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse
Κάνε κλικ και δες περισσότερο emakedonia.gr στην αναζήτηση της Google
Πρόσθεσέ το στην Google- Newsroom
Ερευνητές της νεοφυούς εταιρείας κυβερνοασφάλειας Hacktron AI απέκτησαν πρόσβαση σε λογαριασμούς ChatGPT εργαζομένων της OpenAI χρησιμοποιώντας ένα μοντέλο Τεχνητής Νοημοσύνης (TN, AI) της Anthropic, σύμφωνα με μήνυμα που δημοσιεύτηκε σήμερα στον ιστότοπο αυτής της start-up.
Η παρείσφρηση, η οποία πραγματοποιήθηκε στα τέλη Ιουλίου και την οποία επιβεβαίωσε στο Γαλλικό Πρακτορείο η OpenAI, έγινε στο πλαίσιο μιας άσκησης από την ίδια την εταιρεία για τον εντοπισμό τρωτών σημείων στα συστήματά της με τη βοήθεια εξωτερικών ειδικών πληροφορικής.
Για να επιτύχει τον στόχο της, η τριμελής ομάδα χρησιμοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse, η οποία χρησιμοποιείται από την OpenAI.
Το Discourse δίνει στους εργαζομένους τη δυνατότητα να συνδέονται στους λογαριασμούς τους ChatGPT ή Codex, το AI της OpenAI για προγραμματισμό.
Μέσω αυτής της μεθόδου, οι ερευνητές κατάφεραν να αποκτήσουν πρόσβαση σε πολλούς από αυτούς τους λογαριασμούς.
Στον βαθμό που ο χρήστης μπορεί να δώσει άδεια στο ChatGPT ή το Codex να χρησιμοποιούν πολλές εφαρμογές ή αρχεία, «το εύρος αυτών στα οποία θα μπορούσαμε θεωρητικά να έχουμε πρόσβαση είναι τεράστιο», εξήγησε η τριμελής ομάδα.
Ανέφερε το GitHub (πλατφόρμα αποθήκευσης προγραμμάτων), το Slack (μια πλατφόρμα ανταλλαγής μηνυμάτων για επιχειρήσεις) και τα emails.
Η περιγραφή της δουλειάς της ομάδας Hacktron AI υπογραμμίζει τη ραγδαία πρόοδο μοντέλων Τεχνητής Νοημοσύνης.
Τα μέλη της ομάδας ξεκίνησαν την προσπάθεια παρείσφρησης με τη βοήθεια του Claude Opus 4.8, ενός μοντέλου που κυκλοφόρησε τον Μάιο η Anthropic. Αλλά αυτό το AI «δυσκολεύτηκε» να βρει ένα σημείο εισόδου μέσω του Discourse.
Συμπτωματικά, η Anthropic κυκλοφόρησε ένα νέο μοντέλο, το Opus 5, την ίδια ημέρα. Αυτό το νέο μοντέλο AI κατάφερε να βρει το κενό ασφαλείας «μέσα σε τρεις ώρες», ανέφεραν αυτοί οι ειδικοί σε θέματα πληροφορικής.
Η ομάδα ειδοποίησε γρήγορα την OpenAI, η οποία διόρθωσε τα κενά ασφαλείας, σύμφωνα με έναν εκπρόσωπο.
«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τις παρατηρήσεις τους», δήλωσε στο Γαλλικό Πρακτορείο.
Αυτή η άσκηση επιβεβαιώνει τις αυξανόμενες δυνατότητες της Τεχνητής Νοημοσύνης σε θέματα κυβερνοασφάλειας.
Στις αρχές Απριλίου, η Anthropic επέλεξε να μην κυκλοφορήσει ευρέως στην αγορά το μοντέλο Mythos, θεωρώντας το πολύ επικίνδυνο για την κυβερνοασφάλεια.
Περιόρισε την πρόσβαση σε μερικές εταιρείες και οργανισμούς, ώστε να μπορούν να το χρησιμοποιήσουν για να εντοπίσουν και να διορθώσουν τα κενά ασφαλείας στο λογισμικό τους.
Η Anthropic κυκλοφόρησε μια περιορισμένη έκδοση του Mythos, το Fable, τον Ιούνιο. Λίγες μέρες αργότερα, η κυβέρνηση των ΗΠΑ ανέστειλε το Fable, επικαλούμενη κίνδυνο εθνικής ασφάλειας, πριν τελικά το εγκρίνει δύο εβδομάδες αργότερα.
Κάνε κλικ και δες περισσότερο emakedonia.gr στην αναζήτηση της Google
Πρόσθεσέ το στην GoogleΔιαβάστε περισσότερα
-
Εκτός ορίων η τεχνητή νοημοσύνη - Αποκαλύψεις της OpenAI φέρνουν στο φως την «προβληματική» συμπεριφορά των bots
Οι αποκαλύψεις εντάσσονται σε μια νέα προσέγγιση εκ μέρους της OpenAI με στόχο να επικοινωνεί πιο ανοικτά τέτοια προβλήματα
-
Ένοπλη επίθεση στην Κρακοβία με έξι νεκρούς και 15 τραυματίες
Ο Πολωνός πρωθυπουργός την χαρακτήρισε «τρομοκρατική» ενέργεια
-
Πολωνία: «Ακροδεξιό το κίνητρο της μαζικής πυροβόλησης στην Κρακοβία» δηλώνει το Υπουργείο Εσωτερικών
Έξι νεκροί και 15 τραυματίες από την αιματηρή επίθεση
-
Τρίτη τηλεφωνική επικοινωνία Ερντογάν - Τραμπ: Στο επίκεντρο διμερείς σχέσεις, Ιράν και Ουκρανία
Ο Τούρκος πρόεδρος υπογράμμισε την ανάγκη διπλωματικής επίλυσης των εντάσεων και εξέφρασε την πεποίθηση για ενίσχυση της τουρκοαμερικανικής συνεργασίας