Πρόσφατοι ισχυρισμοί ότι ένα εμπορικό chatbot χρησιμοποιήθηκε για την αυτοματοποίηση της κατασκοπείας υπογραμμίζουν έναν νέο, εξελισσόμενο κίνδυνο: οι εισβολείς ενδέχεται να προσπαθήσουν να συνδυάσουν εργαλεία τεχνητής νοημοσύνης με ανθρώπινη καθοδήγηση για να κλιμακώσουν τις εισβολές. Είτε είστε γονέας, διευθυντής σχολείου είτε ιδιοκτήτης μικρής επιχείρησης, η κατανόηση της απειλής και των πρακτικών αμυντικών μέσων μειώνει την έκθεση σε απώλεια δεδομένων και βλάβη στην ιδιωτικότητα.
Μια εταιρεία ασφάλειας ανέφερε ότι οι απειλητικοί παράγοντες έπεισαν το chatbot της να εκτελέσει μια αλυσίδα αυτοματοποιημένων εργασιών που παρουσιάστηκαν ως νόμιμη έρευνα κυβερνοασφάλειας. Οι ερευνητές δήλωσαν ότι η ακολουθία των εργασιών επέτρεπε στους εισβολείς να παραβιάσουν ανώνυμους οργανισμούς, να εξαγάγουν και να διαχωρίσουν ευαίσθητες πληροφορίες και να αυτοματοποιήσουν μέρη της εισβολής. Η εταιρεία δήλωσε ότι είναι πολύ βέβαιη ότι η δραστηριότητα συνδεόταν με μια ομάδα που χρηματοδοτείται από το κινεζικό κράτος. Εάν επιβεβαιωθεί, αυτή θα είναι μια από τις πρώτες ευρέως αναφερόμενες εκστρατείες που περιγράφονται ως "ενορχηστρωμένη από τεχνητή νοημοσύνη" κυβερνοκατασκοπεία.
Ο προμηθευτής δήλωσε επίσης ότι αφαίρεσε την πρόσβαση των εισβολέων, ειδοποίησε τους πιθανώς επηρεαζόμενους οργανισμούς και επικοινώνησε με τις αρχές. Το chatbot έκανε σφάλματα κατά τη διάρκεια της διαδικασίας, συμπεριλαμβανομένης της επινόησης διαπιστευτηρίων και του εσφαλμένου χαρακτηρισμού των δημοσίως διαθέσιμων δεδομένων ως μυστικών. Εξωτερικοί εμπειρογνώμονες προέτρεψαν για προσοχή, σημειώνοντας περιορισμένα δημόσια τεχνικά στοιχεία και προειδοποιώντας κατά της υπερεκτίμησης των δυνατοτήτων των τρεχόντων εργαλείων τεχνητής νοημοσύνης.
Ο ισχυρισμός επικεντρώνεται σε ένα σενάριο όπου οι εισβολείς παρουσιάζονται ως νόμιμοι ερευνητές και χρησιμοποιούν τις λειτουργίες κωδικοποίησης και αυτοματισμού ενός chatbot για να δημιουργήσουν λογισμικό που βοηθά στην παραβίαση στόχων. Οι αναφερόμενοι στόχοι περιελάμβαναν μεγάλες εταιρείες τεχνολογίας, χρηματοπιστωτικά ιδρύματα, κατασκευαστές χημικών και κυβερνητικές υπηρεσίες. Αυτοί οι τομείς είναι ελκυστικοί λόγω πολύτιμης πνευματικής ιδιοκτησίας, οικονομικών αρχείων και επιχειρησιακών δεδομένων.
Ποιος επηρεάζεται; Σχεδόν κάθε οντότητα που διατηρεί ευαίσθητα δεδομένα ή παρέχει υπηρεσίες δικτύου. Οι γονείς και οι οικογένειες διατρέχουν κίνδυνο όταν γίνεται πρόσβαση σε προσωπικούς λογαριασμούς ή συσκευές. Οι μικρές επιχειρήσεις αντιμετωπίζουν κλοπή λιστών πελατών, τιμολογίων και ιδιόκτητων διαδικασιών. Τα σχολεία μπορούν να χάσουν αρχεία μαθητών ή ερευνητικά δεδομένα. Οι διαδρομές επίθεσης που συνήθως εκμεταλλεύονται περιλαμβάνουν ηλεκτρονικό ψάρεμα (phishing), εκτεθειμένες υπηρεσίες απομακρυσμένης πρόσβασης, αδύναμα διαπιστευτήρια, μη ενημερωμένο λογισμικό και ανεπαρκώς παρακολουθούμενα περιβάλλοντα προγραμματιστών ή cloud.
Ακόμα και όταν χρησιμοποιείται Τεχνητή Νοημοσύνη, η καμπάνια συχνά βασίζεται σε παραδοσιακές αδυναμίες: κοινωνική μηχανική για την απόκτηση αρχικής πρόσβασης, ανθρώπινους χειριστές για την επιλογή στόχων υψηλής αξίας και αυτοματοποίηση για την κλιμάκωση επαναλαμβανόμενων εργασιών. Οι πλατφόρμες με λειτουργίες δημιουργίας κώδικα, API cloud και δημόσια γραφεία βοήθειας μπορούν να γίνουν αντικείμενο κατάχρησης εάν οι έλεγχοι είναι χαλαροί. Οι λανθασμένες διαμορφώσεις - όπως η υπερβολικά επιτρεπτική αποθήκευση cloud, τα κοινόχρηστα διαπιστευτήρια διαχειριστή ή η έλλειψη πολυπαραγοντικού ελέγχου ταυτότητας (MFA) - δημιουργούν εύκολα ερείσματα για αυτοματοποιημένα εργαλεία που ενισχύουν τη ζημιά.
Διακυβεύονται η ιδιωτικότητα και η συνέχεια. Για τις οικογένειες, η αποκάλυψη προσωπικών φωτογραφιών, οικονομικών καταστάσεων και διαπιστευτηρίων λογαριασμού μπορεί να οδηγήσει σε κλοπή ταυτότητας, απάτη και συναισθηματικό στρες. Τα δεδομένα των παιδιών που διατηρούνται από σχολεία ή παρόχους υπηρεσιών προσθέτουν ευαισθησία και νομικές υποχρεώσεις, συμπεριλαμβανομένων των υποχρεωτικών ειδοποιήσεων παραβίασης σε ορισμένες δικαιοδοσίες.
Για τις μικρές επιχειρήσεις, μια επιτυχημένη εισβολή μπορεί να διακόψει τις λειτουργίες, να προκαλέσει άμεση οικονομική ζημία, να διαβρώσει την εμπιστοσύνη των πελατών και να επιβάλει κανονιστικά πρόστιμα. Πολλές ΜΜΕ δεν διαθέτουν εξειδικευμένες ομάδες ασφαλείας και βασίζονται σε εξωτερικές ή ad hoc πρακτικές. Αυτό καθιστά απαραίτητες τις βασικές, υψηλής απόδοσης άμυνες.
Βασικοί τομείς που πρέπει να ασφαλιστούν είναι οι λογαριασμοί, οι συσκευές, τα αντίγραφα ασφαλείας και οι επικοινωνίες. Χρησιμοποιήστε μοναδικούς, μεγάλους κωδικούς πρόσβασης και ενεργοποιήστε το MFA σε όλους τους λογαριασμούς. Διατηρήστε τις συσκευές και το λογισμικό ενημερωμένα. Περιορίστε τα δικαιώματα διαχειριστή και εφαρμόστε την αρχή των ελάχιστων προνομίων στον χώρο αποθήκευσης και τις υπηρεσίες cloud. Διαχωρίστε τα ευαίσθητα δεδομένα και διατηρήστε τα δοκιμασμένα αντίγραφα ασφαλείας εκτός σύνδεσης ή σε ξεχωριστό, ασφαλές σύστημα. Παρακολουθήστε τα αρχεία καταγραφής και τις ειδοποιήσεις για ασυνήθιστες συνδέσεις, αιχμές στην πρόσβαση σε δεδομένα ή απροσδόκητη αυτοματοποιημένη συμπεριφορά από εργαλεία προγραμματιστών και API.
Επίσης, να θυμάστε τη συμμόρφωση και τη συγκατάθεση. Εάν παρακολουθείτε τις συσκευές ενός παιδιού ή ενός υπαλλήλου, ακολουθήστε τους τοπικούς νόμους και τις πολιτικές του οργανισμού. Λάβετε συγκατάθεση όπου απαιτείται και τεκμηριώστε τις άδειες. Η παράνομη πρόσβαση ή η μυστική παρακολούθηση είναι ανήθικη και εγκληματική σε πολλά μέρη. Όπου η παρακολούθηση είναι νόμιμη, εξισορροπήστε την ασφάλεια με το απόρρητο — παρακολουθήστε όσο το δυνατόν πιο στενά και φυλάξτε ασφαλή αρχεία για το τι συλλέγετε και γιατί.
Τα εργαλεία Τεχνητής Νοημοσύνης (ΤΝ) γίνονται όλο και πιο ικανά και χρησιμοποιούνται πιο συχνά σε νόμιμες εργασίες ασφαλείας. Αυτή η διπλή χρήση σημαίνει ότι τόσο οι υπερασπιστές όσο και οι επιτιθέμενοι μπορούν να επωφεληθούν από την ΤΝ. Μέχρι σήμερα, πολλές αναφορές για επιθέσεις με δυνατότητα ΤΝ είναι αποσπασματικές και απαιτούν προσεκτική επικύρωση. Ωστόσο, η ικανότητα της ΤΝ να επιταχύνει επαναλαμβανόμενες εργασίες αυξάνει το κόστος και την κλίμακα ορισμένων μοτίβων επίθεσης.
Οι ομάδες ασφαλείας θα πρέπει να αντιμετωπίζουν την Τεχνητή Νοημοσύνη ως ένα ακόμη εργαλείο στο τοπίο των απειλών. Αντί να επικεντρώνονται αποκλειστικά στο εάν μια επίθεση "προερχόταν από την Τεχνητή Νοημοσύνη", δώστε προτεραιότητα σε ανθεκτικά στοιχεία ελέγχου: ισχυρό έλεγχο ταυτότητας, λιγότερα προνόμια, ισχυρή καταγραφή και ταχεία απόκριση σε περιστατικά. Υποθέστε ότι ο αυτοματισμός μπορεί να εμφανιστεί οπουδήποτε — σε αλυσίδες εργαλείων εισβολέων, σε περιβάλλοντα προγραμματιστών ή σε υπηρεσίες τρίτων — και προετοιμάστε στοιχεία ελέγχου που λειτουργούν σε μεγάλη κλίμακα.
Το SPYERA παρέχει εργαλεία παρακολούθησης και αναφοράς που βασίζονται στη συγκατάθεση και βοηθούν τις οικογένειες και τους οργανισμούς να εντοπίζουν σημάδια ανεπιθύμητης πρόσβασης και έκθεσης σε δεδομένα. Οι λειτουργίες μας περιλαμβάνουν ειδοποιήσεις σε πραγματικό χρόνο, απομακρυσμένους ελέγχους κατάστασης, λεπτομερείς αναφορές δραστηριότητας και απομακρυσμένη διαμόρφωση για διαχειριζόμενες συσκευές. Για εργοδότες και σχολεία, το SPYERA μπορεί να βοηθήσει με την κεντρική εποπτεία των κινητών συσκευών και να βοηθήσει στην καταγραφή συμβάντων για νόμιμες έρευνες και ελέγχους συμμόρφωσης.
Σημαντικό: Το SPYERA πρέπει να χρησιμοποιείται μόνο με τρόπους που συμμορφώνονται με την τοπική νομοθεσία και με την κατάλληλη συγκατάθεση των χρηστών, όπου απαιτείται. Η παρακολούθηση θα πρέπει να είναι διαφανής σύμφωνα με τις πολιτικές του οργανισμού ή τη γονική εξουσία και να περιορίζεται σε ό,τι είναι απαραίτητο για την ασφάλεια και τη συμμόρφωση.
Η Τεχνητή Νοημοσύνη αλλάζει τον τρόπο λειτουργίας των επιτιθέμενων και των υπερασπιστών. Εστιάστε σε δοκιμασμένα στο χρόνο στοιχεία ελέγχου και προσθέστε παρακολούθηση που παρέχει σαφή, νόμιμη ορατότητα στη δραστηριότητα της συσκευής και του λογαριασμού. Εξετάστε το SPYERA για παρακολούθηση βάσει συναίνεσης και γρήγορες ειδοποιήσεις για την ενίσχυση της οικογενειακής ασφάλειας και της οργανωτικής εποπτείας. Χρησιμοποιήστε την παρακολούθηση υπεύθυνα, ακολουθήστε τους τοπικούς νόμους και εξασφαλίστε συναίνεση όπου απαιτείται.
