Τα deepfakes της τεχνητής νοημοσύνης είναι ολοένα και πιο ικανά να δημιουργούν πειστικά βίντεο και ήχο πραγματικών ανθρώπων. Αυτή η δύναμη μπορεί να βλάψει τη φήμη, να παραπλανήσει τους θεατές και να υπονομεύσει την εμπιστοσύνη σε σχολεία, σπίτια και επιχειρήσεις.
Η γεννήτρια βίντεο Sora της OpenAI έγινε viral επειδή παρήγαγε υπερρεαλιστικά κλιπ. Η εταιρεία παραδέχτηκε ότι η Sora είχε παραγάγει ασεβές υλικό που αφορούσε τον εκλιπόντα ακτιβιστή για τα πολιτικά δικαιώματα Μάρτιν Λούθερ Κινγκ Τζούνιορ. Ανοιχτή Τεχνητή Νοημοσύνη δήλωσε ότι θα σταματήσει προσωρινά τη δημοσίευση εικόνων του Δρ. Κινγκ, ενισχύοντας παράλληλα την προστασία των ιστορικών προσωπικοτήτων. Ωστόσο, οι χρήστες συνέχισαν να δημιουργούν και να κοινοποιούν deepfakes άλλων δημόσιων και ιστορικών προσωπικοτήτων. Οι οικογένειες αποβιωσάντων δημόσιων προσωπικοτήτων ζήτησαν δημόσια από πλατφόρμες και χρήστες να σταματήσουν να κοινοποιούν βίντεο αγαπημένων τους προσώπων, τα οποία έχουν χειραγωγηθεί από τεχνητή νοημοσύνη. Η εταιρεία έχει δηλώσει ότι θα δέχεται αιτήματα από εξουσιοδοτημένους εκπροσώπους ή ιδιοκτήτες κληρονομιών για τον αποκλεισμό της χρήσης ομοιοτήτων και αναφέρει ότι διαθέτει πολλαπλά επίπεδα προστασίας και συνεχή διάλογο με τα ενδιαφερόμενα μέρη.
Η γενετική τεχνητή νοημοσύνη (generative AI) έχει εξελιχθεί ραγδαία. Νέα εργαλεία που απευθύνονται σε καταναλωτές μπορούν να συνθέσουν βίντεο, ήχο και εικόνες. Αυτό καταργεί τα τεχνικά εμπόδια που κάποτε περιόριζαν τα deepfakes σε ειδικούς. Ως αποτέλεσμα, οποιοσδήποτε διαθέτει ένα smartphone και μια εφαρμογή μπορεί να δημιουργήσει πειστικά κλιπ που περιλαμβάνουν αναγνωρίσιμα άτομα.
Ποιος επηρεάζεται; Οι οικογένειες, τα σχολεία, οι εργοδότες και οι μικροί οργανισμοί διατρέχουν όλοι κίνδυνο. Οι γονείς και οι έφηβοι μπορούν να στοχοποιηθούν για εκφοβισμό, βλάβη της φήμης ή παραβίαση της ιδιωτικής ζωής. Τα σχολεία ενδέχεται να δουν χειραγωγημένα κλιπ που διαταράσσουν τη μάθηση ή βλάπτουν τη φήμη των μαθητών. Οι εργοδότες μπορούν να αντιμετωπίσουν κρίσεις επωνυμίας εάν η ηγεσία ή το προσωπικό απεικονίζονται σε παραποιημένες σκηνές, και οι ΜΜΕ διατρέχουν κίνδυνο απάτης, εκβιασμού ή ψευδούς παρουσίασης στο μάρκετινγκ και τις επικοινωνίες.
Συνήθεις τρόποι επίθεσης περιλαμβάνουν χειραγωγημένες αναρτήσεις στα μέσα κοινωνικής δικτύωσης, παραποιημένες ηχογραφήσεις σε τάξεις ή χώρους εργασίας και πλαστοπροσωπίες που δημιουργούνται από τεχνητή νοημοσύνη και χρησιμοποιούνται για απάτες. Οι κακόβουλοι δράστες μπορεί να συνδυάσουν τα deepfakes με την κοινωνική μηχανική. Για παράδειγμα, ένας υπάλληλος θα μπορούσε να λάβει ένα φωνητικό απόσπασμα που φαίνεται να προέρχεται από έναν διευθυντή που ζητά ευαίσθητα δεδομένα ή μεταφορές. Ενώ οι πιο ακραίες περιπτώσεις προσελκύουν πρωτοσέλιδα, οι πιο συνηθισμένες βλάβες είναι συναισθηματικές ή αφορούν τη φήμη: αλλοιωμένες ομιλίες, ψευδείς εγκρίσεις ή κατασκευασμένες αλληλεπιδράσεις που κοινοποιούνται ευρέως στο διαδίκτυο.
Τυπικές λανθασμένες διαμορφώσεις και αδύνατα σημεία περιλαμβάνουν χαλαρή διαχείριση περιεχομένου, ασαφείς πολιτικές για τα συνθετικά μέσα και χαμηλή παιδεία στα μέσα ενημέρωσης μεταξύ των χρηστών. Οι πλατφόρμες ενδέχεται να βασίζονται σε αντιδραστικές αφαιρέσεις παρά σε προληπτική ανίχνευση. Δεν έχουν όλα τα δημόσια πρόσωπα εκπροσώπους της περιουσίας τους που μπορούν να ζητήσουν προστασία, δημιουργώντας άνισες δικλείδες ασφαλείας. Τέλος, πολλοί οργανισμοί δεν διαθέτουν σχέδια αντιμετώπισης περιστατικών για περιστατικά συνθετικών μέσων. Αντιδρούν αργά όταν εμφανίζεται χειραγωγημένο περιεχόμενο.
Για τις οικογένειες, τα deepfakes μπορούν να διαβρώσουν την εμπιστοσύνη και να προκαλέσουν πραγματική συναισθηματική βλάβη. Τα παιδιά και οι έφηβοι είναι ιδιαίτερα ευάλωτοι σε deepfakes που δημιουργούνται από συνομηλίκους και σε διαδικτυακή ντροπή. Ένα χειραγωγημένο κλιπ μπορεί να επηρεάσει τις σχέσεις και τη σχολική φοίτηση ενός νέου. Οι γονείς πρέπει να συνδυάσουν την ψηφιακή εποπτεία με την εκπαίδευση για να οικοδομήσουν ανθεκτικότητα και να αποτρέψουν τη βλάβη.
Οι μικρές επιχειρήσεις συχνά λειτουργούν χωρίς μεγάλες ομάδες επικοινωνίας ή νομικούς προϋπολογισμούς. Ένα μόνο χειραγωγημένο κλιπ που μοιάζει με ιδιοκτήτη ή υπάλληλο επιχείρησης μπορεί να προκαλέσει ζημιά στη φήμη ή να επιτρέψει την απάτη. Για παράδειγμα, μια deepfake δημοσίευση ενός ιδιοκτήτη επιχείρησης που υποστηρίζει ένα προϊόν ή δίνει εντολή στο προσωπικό να ακολουθεί παράνομες πληρωμές μπορεί να παραπλανήσει τους πελάτες και τους συνεργάτες. Επομένως, οι ΜΜΕ πρέπει να δώσουν προτεραιότητα στην ανίχνευση, την παρακολούθηση και τα σαφή σχέδια αντίδρασης.
Η υγιεινή των συσκευών και των εφαρμογών μειώνει την έκθεση. Διατηρήστε το λογισμικό ενημερωμένο. Χρησιμοποιήστε αξιόπιστα καταστήματα εφαρμογών και περιορίστε τις εγκαταστάσεις σε αξιόπιστες πηγές. Για λογαριασμούς, ενεργοποιήστε τον έλεγχο ταυτότητας πολλαπλών παραγόντων και ελέγξτε τα δικαιώματα για εφαρμογές που έχουν πρόσβαση στην κάμερα, το μικρόφωνο ή τα αποθηκευμένα μέσα. Η έκθεση σε δεδομένα αυξάνει τον κίνδυνο: οι δημόσια διαθέσιμες φωτογραφίες, ομιλίες και ήχος διευκολύνουν τη σύνθεση πειστικών πλαστών. Εξετάστε το ενδεχόμενο περιορισμού της δημόσιας κοινής χρήσης αρχειακού ήχου και βίντεο ευαίσθητων μελών της οικογένειας όταν το απόρρητο αποτελεί ανησυχία.
Νομικές υπενθυμίσεις και υπενθυμίσεις συναίνεσης: η συναίνεση και οι τοπικοί νόμοι έχουν σημασία. Εάν επιβεβαιωθεί ότι μια εφαρμογή επιτρέπει την τεχνητή ανάσταση αποθανόντων, οι ιδιοκτήτες κληρονομιών και οι εξουσιοδοτημένοι εκπρόσωποι θα πρέπει να ασκούν τους διαθέσιμους ελέγχους. Για τα ζώντα άτομα, πολλές δικαιοδοσίες περιορίζουν την εμπορική χρήση ομοιοτήτων χωρίς άδεια. Να ακολουθείτε πάντα τους τοπικούς κανονισμούς και να ζητάτε νομική συμβουλή όταν είναι απαραίτητο. Τα μέτρα παρακολούθησης και άμυνας πρέπει επίσης να συμμορφώνονται με τους νόμους περί απορρήτου και να απαιτούν συναίνεση όπου απαιτείται.
Η ιογενής εξάπλωση εύχρηστων εργαλείων deepfake δείχνει μια μετατόπιση: η παραγωγή δεν αποτελεί πλέον το εμπόδιο. Η ταχεία υιοθέτηση από τους καταναλωτές ξεπερνά τις διασφαλίσεις των πλατφορμών. Αυτό έχει επιταχύνει τις συζητήσεις σχετικά με τη συναίνεση, τα δικαιώματα των κληρονομιών και το ποιος αξίζει προστασία από την συνθετική ανάσταση.
Οι ειδικοί σημειώνουν ότι τα μέτρα που βασίζονται σε πολιτικές, τα τεχνικά και τα κοινωνικά μέτρα πρέπει να λειτουργούν από κοινού. Τα τεχνικά φίλτρα μπορούν να επιβραδύνουν την κακή χρήση, αλλά η εκπαίδευση και η νομική σαφήνεια δημιουργούν βιώσιμες προστασίες. Οι πλατφόρμες που υπόσχονται προστασία για πρόσωπα υψηλού προφίλ εγείρουν ερωτήματα σχετικά με την ίση μεταχείριση για άτομα με λιγότερη δημοσιότητα. Οι οργανισμοί θα πρέπει να σχεδιάζουν για αναπόφευκτα περιστατικά αντί να υποθέτουν ότι δεν θα στοχοποιηθούν.
Το SPYERA παρέχει λειτουργίες παρακολούθησης και ειδοποίησης για να βοηθήσει τις οικογένειες και τους οργανισμούς να παραμένουν ενήμερες για ύποπτη δραστηριότητα σε εποπτευόμενες συσκευές. Τα εργαλεία μας μπορούν να βοηθήσουν στον εντοπισμό ασυνήθιστων αρχείων πολυμέσων, στην παρακολούθηση εγκαταστάσεων εφαρμογών και στη δημιουργία ειδοποιήσεων για νέες ηχογραφήσεις ή μεταφορές μεγάλων αρχείων. Οι λειτουργίες αναφοράς του SPYERA παρέχουν αρχεία καταγραφής με χρονική σήμανση που βοηθούν στη διατήρηση αποδεικτικών στοιχείων για καταργήσεις ή έρευνες.
Τονίζουμε τη νόμιμη και βασισμένη στη συγκατάθεση χρήση. SPYERA θα πρέπει να χρησιμοποιείται σύμφωνα με την τοπική νομοθεσία και την πολιτική του οργανισμού. Για τους γονείς, αυτό σημαίνει ενημέρωση των ανηλίκων όπου απαιτείται και τήρηση των τοπικών κανόνων συναίνεσης. Για τους εργοδότες, αυτό σημαίνει σαφείς πολιτικές και διαφανείς γνωστοποιήσεις κατά την παρακολούθηση συσκευών που ανήκουν σε εταιρείες.
Τα deepfakes με τεχνητή νοημοσύνη αποτελούν μια αυξανόμενη πραγματικότητα. Η προετοιμασία σημαίνει συνδυασμό εκπαίδευσης, ισχυρής υγιεινής συσκευών και σαφών σχεδίων απόκρισης. Το SPYERA προσφέρει εργαλεία που βοηθούν στην ανίχνευση ύποπτων μέσων, στη διατήρηση της εποπτείας των εποπτευόμενων συσκευών και στη διατήρηση αποδεικτικών στοιχείων — τα οποία χρησιμοποιούνται πάντα ηθικά και σύμφωνα με το νόμο. Μάθετε πώς το SPYERA μπορεί να βοηθήσει την οικογένεια ή τον οργανισμό σας να βελτιώσει την ψηφιακή ασφάλεια και την ετοιμότητα για συμβάντα.
