Κάνε κλικ και δες περισσότερο emakedonia.gr στην αναζήτηση της Google
Πρόσθεσέ το στην Google- Newsroom
«Δεν χρειάζεται να είσαι στρατηγός για να αντιληφθείς ότι όταν δέχεσαι επίθεση με δέσμη λέιζερ δεν απαντάς με σπαθί»: με τη φράση αυτή ο ταξίαρχος Γρηγόρης Γκουτζέλης, διευθυντής κυβερνοάμυνας στο ΓΕΕΘΑ, συμπύκνωσε σήμερα, μιλώντας στο «Aristotle Innovation Forum», τις προκλήσεις που δημιουργεί η χρήση της Τεχνητής Νοημοσύνης (ΤΝ) στις κυβερνοεπιθέσεις. «Με αυτό εννοώ ότι αν δεχόμαστε επίθεση με δυνατότητες υποστηριζόμενες από ΤΝ, πρέπει να υπερασπιζόμαστε τα συστήματά μας επίσης με ΤΝ. Ετσι υιοθετούμε εργαλεία και δυνατότητες, στα οποία η ΤΝ είναι σημαντική. Αυτό δεν σημαίνει ότι αποκλείουμε τον ανθρώπινο παράγοντα, αντιθέτως χρειαζόμαστε "τον άνθρωπο στο βρόχο". Όταν η ΤΝ προτείνει τρόπους αντιμετώπισης μιας επίθεσης, θα αξιολογήσουμε τη συμβουλή της και, αφού λάβει εξουσιοδότηση από ανθρώπους ειδικούς, θα αποφασίσουμε αν θα προχωρήσουμε γρήγορα στον τρόπο απόκρισης» επισήμανε ο κ.Γκουτζελής και πρόσθεσε ότι το ΓΕΕΘΑ είναι σε στενή συνεργασία με όλους τους φορείς κυβερνοασφάλειας στο εθνικό σύστημα, όπως η αρμόδια Εθνική Αρχή, αλλά και με τους Ευρωπαίους εταίρους και γενικά τις συμμαχικές δυνάμεις, ώστε να κοινοποιεί δείκτες παραβίασης και άλλες χρήσιμες πληροφορίες.
Σε ερώτημα του συντονιστή της συζήτησης, καθηγητή Παναγιώτη Κατσαρού, σε σχέση με το πώς περιπλέκει η ΤΝ την απόδοση ευθύνης για κυβερνοεπιθέσεις, δεδομένου ότι οι αλγόριθμοι μπορούν να μιμούνται στυλ κώδικα και τακτικές άλλων ομάδων, λειτουργώντας σαν ψηφιακό προπέτασμα καπνού, ο κ.Γκουτζέλης απάντησε ότι το πρόβλημα αυτό πράγματι υφίσταται, δεν έχει λυθεί και δεν γνωρίζει πότε θα αντιμετωπιστεί. «Ολόκληρο το ΝΑΤΟ αντιμετωπίζει το ζήτημα της απόδοσης (ευθύνης). Είναι πολύ δύσκολο να πεις ποιος έκανε μια (κυβερνο)επίθεση. Και τώρα με την αυτόνομη ΤΝ (...) γίνεται ακόμη δυσκολότερη (...) Αυτό που πιστεύω είναι ότι δεν μπορούμε πλέον να αναμένουμε 100% βεβαιότητα, για να ενεργοποιήσουμε τους κανόνες εμπλοκής. Με υψηλή πιθανότητα -χρησιμοποιώντας δείκτες, κίνητρα, ικανότητες και υποδομές- μπορούμε να (...)είμαστε έτοιμοι ν' αντιδράσουμε σε μια επίθεση (...)» κατέληξε ο ταξίαρχος.
Α.Συμεωνίδης: Λιγότερο από το 50% του παραγόμενου με ΤΝ κώδικα ελέγχεται επαρκώς
Η ΤΝ χρησιμοποιείται ολοένα περισσότερο για συγγραφή και έλεγχο κώδικα. Πώς επαληθεύουμε την ασφάλεια λογισμικού που παράγεται ολοένα και περισσότερο από νευρωνικά δίκτυα, αντί από ανθρώπινο κώδικα; ήταν το ερώτημα του κ.Κατσαρού προς τον καθηγητή του Τμήματος Ηλεκτρολόγων Μηχανικών και Μηχανικών Ηλεκτρονικών Υπολογιστών του ΑΠΘ, Ανδρέα Συμεωνίδη. «Είναι πλέον πολύ εύκολο να δημιουργείς πρωτότυπα, να αναπτύσσεις κώδικα και να παράγεις ένα μικρής κλίμακας σύστημα λογισμικού σε μερικές ώρες χρησιμοποιώντας ΤΝ, ωστόσο ο κώδικας αυτός πρέπει να ελέγχεται συνεχώς. Πάνω από το 90% των εταιρειών του Fortune-100 έχουν αγκαλιάσει την ανάπτυξη λογισμικού με ΤΝ, και όλες λένε ότι πρέπει να ελέγχεις τον κώδικα κάθε φορά, προτού τον βγάλεις στην παραγωγή. Ωστόσο, παραδέχονται επίσης ότι λιγότερο από το 50% του παραγόμενου κώδικα ελέγχεται κατάλληλα» απάντησε ο καθηγητής.
Όπως είπε, ακόμα και αν χρησιμοποιείς κώδικα που παράγεται από το πιο ισχυρό γλωσσικό μοντέλο, αυτό το μοντέλο δεν γνωρίζει τι μορφή μπορεί να έχει μια νέα επίθεση «ημέρας μηδέν»: «Κώδικας που παράχθηκε από ένα μοντέλο εκπαιδευμένο με δεδομένα τριών μηνών πριν, δεν μπορεί να καλύψει όλες τις τρέχουσες ευπάθειες. Χρειαζόμαστε επιπλέον εργαλεία και προστατευτικά μέτρα» τόνισε. Ως προς τα προγράμματα σπουδών στα πανεπιστήμια, είπε ότι η κυβερνοασφάλεια δεν είναι μόνο η τέχνη της επίθεσης με ΤΝ: «Είναι η γνώση αρχιτεκτονικών υπολογιστών, δικτύων, επικοινωνιών, και ανθρώπινων δεξιοτήτων. Χρειαζόμαστε λοιπόν προγράμματα που εστιάζουν στα θεμέλια, που είναι διεπιστημονικά, πρακτικά και σφαιρικά» σημείωσε.
Π.Βασιλικός: Το μονοπάτι μέσα στον θόρυβο και το πραγματικό νόμισμα στην κυβερνοάμυνα
Τις προκλήσεις νέας γενιάς, που αντιμετωπίζουν τα Κέντρα Λειτουργιών Ασφάλειας (SOC), περιέγραψε ο Πέτρος Βασιλικός, σύμβουλος κυβερνοασφάλειας (CBS.LAN). «Ένα σύγχρονο SOC λαμβάνει σήματα από τελικά σημεία, διακομιστές, συλλέκτες γεγονότων και ροών που είναι διασκορπισμένοι σε ολόκληρη την υποδομή (του δικτύου). Έχουμε υπερβολικά πολλά δεδομένα κατακερματισμένα σε υπερβολικά πολλά εργαλεία, και ο επιτιθέμενος χρειάζεται μόνο ένα μονοπάτι μέσα από όλον αυτόν τον "θόρυβο". Η αμυντική ΤΝ γίνεται επίπεδο αφαίρεσης (πολυπλοκότητας) με τρεις τρόπους: πρώτον, αντί να δείχνει στον αναλυτή 40 ξεχωριστές ειδοποιήσεις, ένα εργαλείο ΤΝ μπορεί να παρέχει αφήγηση με αποδείξεις (π.χ., ο τάδε χρήστης συνδέθηκε από ασυνήθιστη τοποθεσία και προσπαθεί να αγγίξει ευαίσθητα δεδομένα, μοτίβο που έχουμε ξανεαδί σε επίθεση)» εξήγησε.
Δεύτερον, η ΤΝ δίνει προτεραιότητα στον χρόνο. «Ο χρόνος στην κυβερνοάμυνα είναι το πραγματικό νόμισμα. Η έκθεση απειλών της "CrowdStrike" για το 2026 αναφέρει ότι ο μέσος χρόνος διείσδυσης είναι περίπου 29 λεπτά, με τον ταχύτερο που καταγράφηκε να μετριέται σε δευτερόλεπτα. Η χειροκίνητη αντιμετώπιση λοιπόν δεν αρκεί» συμπλήρωσε ο κ.Βασιλικός. Και τρίτον, η αμυντική ΤΝ αναβαθμίζει το επίπεδο εργασίας του αναλυτή. Ένας καλός βοηθός ΤΝ μπορεί να συγκεντρώνει/συσχετίζει στοιχεία, να αξιολογεί την αξιοπιστία και να προτείνει ενέργειες απόκρισης, οδηγώντας τον άνθρωπο στη λήψη απόφασης για τη διαχείριση του συμβάντος» είπε. Κατά τον κ.Βασιλικό, ο αγώνας είναι πλέον ΤΝ αμυνόμενων εναντίον ΤΝ επιτιθέμενων κι εγκληματικής οικονομίας. «Οι οργανισμοί που θα κερδίσουν θα είναι αυτοί με σαφή τηλεμετρία, ισχυρούς ελέγχους ταυτότητας, δοκιμασμένα playbooks, ανθρώπινη εποπτεία και το θάρρος να αυτοματοποιήσουν την αντιμετώπιση, όπου ο κίνδυνος είναι καλά κατανοητός» εκτίμησε.
Πρόσθεσε πως η ΤΝ δεν αλλάζει μόνο την τεχνολογία στο SOC, αλλά και τη διαδρομή καριέρας μέσα σε αυτό. Παραδοσιακά, ένας αναλυτής επιπέδου 1 μάθαινε διαβάζοντας logs, ελέγχοντας ειδοποιήσεις και χτίζοντας αναγνώριση μοτίβων σταδιακά. Η ΤΝ αναλαμβάνει τώρα μέρος των συγκεκριμένων εργασιών. «Αυτό δεν σημαίνει ότι ο junior αναλυτής δεν χρειάζεται πλέον (...) Οι αναλυτές του μέλλοντος δεν θα μετριούνται από το πόσες ειδοποιήσεις επιλύουν στη βάρδιά τους, αλλά από το πόσο καλά μπορούν να αμφισβητούν την ΤΝ (...)και να παίρνουν σωστές αποφάσεις υπό πίεση» κατέληξε ο κ.Βασιλικός.
H.Weber: Μήπως χρειαζόμαστε μια κρίση;
Οι ρυθμιστικές αρχές προσπαθούν να θεσπίσουν κανόνες για την ΤΝ. Ωστόσο, η πολιτική κινείται με γραφειοκρατικό ρυθμό και ενίοτε πνίγει την καινοτομία, ενώ η ΤΝ κινείται εκθετικά. Ποιες είναι οι μεγαλύτερες προκλήσεις συμμόρφωσης που αντιμετωπίζουν σήμερα οι οργανισμοί; Κατά την ερευνήτρια Χάνα Σόφι Βέμπερ (Hannah Sophie Weber), υποψήφια διδάκτορα στο Πανεπιστήμιο της Οξφόρδης, οι οργανισμοί αντιμετωπίζουν τρεις βασικές προκλήσεις. Η πρώτη είναι η νομική αβεβαιότητα. «Τα ρυθμιστικά πλαίσια εξελίσσονται ακόμα, και οι εταιρείες καλούνται να καινοτομήσουν ενώ αυτά τα πλαίσια δεν έχουν ακόμα διαμορφωθεί πλήρως. Επιπλέον, η διττής χρήσης ΤΝ θολώνει τα όρια μεταξύ αμιγώς πολιτικών και στρατιωτικών εφαρμογών, δυσκολεύοντας τη ρύθμιση. Αυτό δημιουργεί ιδιαίτερη αβεβαιότητα για νεοσύστατες εταιρείες και startups» εξήγησε.
Η δεύτερη πρόκληση είναι πως ακόμη και εντός της ΕΕ, τα εθνικά ρυθμιστικά πλαίσια διαφέρουν ουσιαστικά μεταξύ τους. Για οργανισμούς που δραστηριοποιούνται σε διαφορετικές αγορές -πχ, ταυτόχρονα στην ΕΕ, τις ΗΠΑ, την Κίνα- με πολύ διαφορετικές προσεγγίσεις στη ρύθμιση, χρειάζεται μεγάλη νομική ομάδα απλώς για να έχεις επισκόπηση. «Κι η τρίτη πρόκληση, που πιστεύω ότι δεν συζητείται αρκετά, είναι η συμμόρφωση με αυτοδιακηρυγμένες δεοντολογικές δεσμεύσεις. Μεγάλες εταιρείες ΤΝ όπως οι "Anthropic" και "OpenAI", απουσία διεθνώς δεσμευτικής νομοθεσίας, αναπτύσσουν το δικό τους πλαίσιο, πράγμα αξιοσημείωτο γιατί πρόκειται για άγριους ανταγωνιστές που επιλέγουν να συνεργαστούν σε θέματα κυβερνοασφάλειας. Αυτό από μόνο του μπορεί να ενισχύσει τη συλλογική ανθεκτικότητα. Ωστόσο, πρέπει να μην ξεχνάμε ότι αυτές οι μεγάλες εταιρείες διαθέτουν σημαντικούς πόρους και πρόσβαση στη χάραξη πολιτικής, κάτι που χρειάζεται προσεκτική διαχείριση» είπε. Συμπλήρωσε πως η συνεργασία δημόσιου- ιδιωτικού τομέα είναι πολύ σημαντική, γιατί οι περισσότεροι φορείς χάραξης πολιτικής δεν έχουν τεχνολογική κατάρτιση, οπότε χρειάζονται άνθρωποι που γνωρίζουν πώς λειτουργούν τα συστήματα. «Είναι επίσης σημαντικό να μην μιλάμε πάντα με τους ίδιους μεγάλους παίκτες και να επενδύουμε επίσης σε μικρομεσαίες επιχειρήσεις και εγχώριες κοινοπραξίες» πρότεινε.
Διερωτήθηκε δε τι γίνεται αν αυτό που χρειαζόμαστε δεν είναι στην πραγματικότητα ακόμα ένα πλαίσιο πολιτικής, αλλά μια κρίση ΤΝ. «Ας κοιτάξουμε στην ιστορία: το 2007 η Εσθονία δέχτηκε μια από τις πρώτες και μεγαλύτερες επιθέσεις DDoS, που αποδόθηκε ευρέως στη Ρωσική Ομοσπονδία. Βραχυπρόθεσμα είχε έντονα αρνητικές επιπτώσεις -αφού «έπεσαν» κυβερνητικά συστήματα κ.λπ- αλλά η μακροπρόθεσμη επίδραση ήταν ότι αναδείχθηκε σε παγκόσμια υπερδύναμη κυβερνοασφάλειας. «Το μάθημα: μια κρίση, αν αντιμετωπιστεί σωστά και συλλογικά, μπορεί να οδηγήσει σε θεμελιώδη αλλαγή και μακροπρόθεσμες επενδύσεις. Φυσικά καμία κρίση δεν είναι επιθυμητή. Το μήνυμα είναι να μάθουμε από εκείνα τα λάθη και να κατευθύνουμε τις επενδύσεις τώρα, χωρίς να περιμένουμε την κρίσ» κατέληξε.
Γρ. Τσουμάκας: Η εκπαίδευση του μποξέρ και γιατί όποιος χτίζει συστήματα πρέπει να ξέρει και να τα «σπάει»
Την εκτίμηση ότι, για να έχουμε πραγματικά ασφαλή ΤΝ, χρειάζεται μια προσέγγιση άμυνας σε βάθος, η οποία να αγγίζει ολόκληρο τον κύκλο ζωής των συστημάτων, διατύπωσε ο Γρηγόρης Τσουμάκας, καθηγητής Μηχανικής Μάθησης και Ανακάλυψης Γνώσης στο Τμήμα Πληροφορικής του ΑΠΘ. Η προσέγγιση αυτή πρέπει να ξεκινά από τα δεδομένα: «πρέπει να ασφαλίσουμε τα δεδομένα και την αλυσίδα εφοδιασμού δεδομένων με αυστηρούς κανόνες πρόσβασης, μηχανισμούς ακεραιότητας όπως κρυπτογραφική επαλήθευση, συστήματα έκδοσης για επαναφορά σε καθαρή κατάσταση και τεχνικές εξυγίανσης για εξωτερικά δεδομένα. Δεύτερον, στο στάδιο της εκπαίδευσης (των μοντέλων ΤΝ) πρέπει να αγκαλιάσουμε τη λεγόμενη adversarial εκπαίδευση, δηλαδή τη σκόπιμη έκθεση του μοντέλου σε απειλές κατά την εκπαίδευση ώστε να μπορεί να τις χειριστεί κατά την ανάπτυξη, ακριβώς όπως ένας μποξέρ εκπαιδεύεται εκτιθέμενος σε χτυπήματα. Και τρίτον, «στο στάδιο της εξαγωγής συμπερασμάτων, όπου υπάρχουν τα μεγαλύτερα προβλήματα, πρέπει να δημιουργήσουμε προστατευτικά μέτρα που ελέγχουν τόσο τις εισόδους (inputs) όσο και τις εξόδους (outputs) δεδομένων. Και όταν προσθέτουμε πράκτορες ΤΝ με αυτονομία, οι κίνδυνοι κλιμακώνονται εκθετικά, εκεί χρειαζόμαστε απαραιτήτως άνθρωπο στο βρόχο» τόνισε.
Πρόσθεσε πως τα πανεπιστήμια χρειάζεται, πρώτον, να ενσωματώσουν τη δεοντολογία και την ασφάλεια σε ολόκληρο το πρόγραμμα σπουδών, όχι ως μεμονωμένο μάθημα, αλλά ως στοιχείο που διατρέχει όλα τα μαθήματα. «Κανένας/καμία απόφοιτος δεν πρέπει να γνωρίζει πώς να χτίζει ένα σύστημα ΤΝ, χωρίς να γνωρίζει πώς να το "σπάσει"» είπε χαρακτηριστικά. Δεύτερον, στην έρευνα, οι μεγάλες εταιρείες πολλές φορές υιοθετούν τη φιλοσοφία «κινήσου γρήγορα και σπάσε πράγματα», βάζοντας την ασφάλεια σε χαμηλότερη προτεραιότητα. «Αυτό είναι ένα κενό, που τα ακαδημαϊκά ιδρύματα μπορούν θαυμάσια να καλύψουν, πχ με ανάπτυξη μεθόδων άμυνας ΤΝ και benchmarks ασφάλειας ΤΝ» σημείωσε και συμπλήρωσε πως, τρίτον, η έρευνα σε αυτά τα αντικείμενα χρειάζεται χρηματοδότηση. «Πρέπει όλοι μαζί να πιέζουμε για περισσότερη χρηματοδότηση από εθνικές κυβερνήσεις και την ΕΕ» κατέληξε.
Κ.Γεωργακόπουλος: Όταν έχεις την ίδια τεχνολογία με τον αμυνόμενο, αλλά δεν τηρείς κανέναν νόμο
Κατά τον Κώστα Γεωργακόπουλο, τέλος, Chief Information Security Officer (CISO) στη Pfizer, η ΤΝ θέτει στους επαγγελματίες ασφάλειας παγκοσμίως μεγάλες προκλήσεις και έχει δώσει πλεονέκτημα στους κακόβουλους φορείς που χρησιμοποιούν την ίδια ακριβώς τεχνολογία, με τη βασική διαφορά ότι αυτοί δεν έχουν νόμους να τηρήσουν. Ερωτηθείς για τις δεξιότητες που χρειάζεται να αποκτήσουν οι νέοι άνθρωποι, εξέφρασε την πεποίθηση ότι είναι ζωτικής σημασίας για τη νέα γενιά «να συνεχίσει να πειραματίζεται: να ανοίγει εικονικές μηχανές στο σπίτι, να κατεβάζει λογισμικό ανοιχτού κώδικα με προσοχή, και πραγματικά να παίζει -με διάθεση μάθησης- κατανοώντας πώς λειτουργούν τα συστήματα. «Οι φοιτητές/τριες που έχουν πρακτική εμπειρία και παίζουν με δυνατότητες αυτόματης ΤΝ θα γίνουν ανεκτίμητοι. (Στη Pfizer) αναζητούμε φιλοπερίεργα άτομα, που θέλουν να πειραματιστούν και να μάθουν» υπογράμμισε.
Κάνε κλικ και δες περισσότερο emakedonia.gr στην αναζήτηση της Google
Πρόσθεσέ το στην Google
