Штучний інтелект дедалі більше здатний створювати переконливі відео та аудіо реальних людей. Ця здатність може зашкодити репутації, ввести глядачів в оману та підірвати довіру до шкіл, домівок та бізнесу.
Відеогенератор Sora від OpenAI став вірусним через створення гіперреалістичних кліпів. Компанія визнала, що Sora створив неповажний матеріал, пов'язаний з покійним лідером руху за громадянські права Мартіном Лютером Кінгом-молодшим. OpenAI заявила, що призупинить публікацію зображень доктора Кінга, одночасно посилюючи захист історичних постатей. Однак користувачі продовжували створювати та поширювати діпфейки інших публічних та історичних осіб. Родини померлих публічних діячів публічно звернулися до платформ та користувачів із проханням припинити поширення відео їхніх близьких, оброблених за допомогою штучного інтелекту. Компанія заявила, що прийматиме запити від уповноважених представників або власників майна щодо блокування використання зображень, і стверджує, що має кілька рівнів захисту та постійний діалог із зацікавленими сторонами.
Генеративний штучний інтелект розвивається стрімкими темпами. Нові інструменти, орієнтовані на споживача, можуть синтезувати відео, аудіо та зображення. Це усуває технічні бар'єри, які колись обмежували можливості дипфейків спеціалістами. В результаті, будь-хто зі смартфоном і додатком може створювати переконливі кліпи з відомими людьми.
Хто постраждав? Сім'ї, школи, роботодавці та невеликі організації – всі вони під загрозою. Батьки та підлітки можуть стати мішенню для цькування, порушення репутації або порушення конфіденційності. Школи можуть бачити маніпульовані кліпи, які порушують навчання або шкодять репутації учнів. Роботодавці можуть зіткнутися з кризою бренду, якщо керівництво або персонал зображені у сфальсифікованих сценах, а малі та середні підприємства ризикують стати жертвами шахрайства, вимагання або перекручування інформації в маркетингу та комунікаціях.
Звичайні шляхи атак включають маніпульовані публікації в соціальних мережах, підроблені записи в класі або на робочому місці, а також згенеровані штучним інтелектом імітації, що використовуються для шахрайства. Зловмисники можуть поєднувати глибокі фейки із соціальною інженерією. Наприклад, співробітник може отримати голосовий запис, який, схоже, належить менеджеру, який запитує конфіденційні дані або передачу. Хоча найекстремальніші випадки потрапляють у заголовки газет, більш поширена шкода є емоційною або репутаційною: змінені промови, неправдиві рекомендації або сфабриковані взаємодії, що широко поширюються в Інтернеті.
Типові неправильні конфігурації та слабкі місця включають недбалу модерацію контенту, нечітку політику щодо синтетичних медіа та низьку медіаграмотність серед користувачів. Платформи можуть покладатися на реактивне видалення, а не на проактивне виявлення. Не всі публічні особи мають представників спадщини, які можуть вимагати захисту, що створює нерівномірні гарантії. Нарешті, багато організацій не мають планів реагування на інциденти, пов'язані із синтетичними медіа; вони повільно реагують на появу маніпульованого контенту.
Для сімей діпфейки можуть підірвати довіру та завдати реальної емоційної шкоди. Діти та підлітки особливо вразливі до діпфейків, створених однолітками, та онлайн-сраму. Маніпульований кліп може вплинути на стосунки та навчання молодої людини. Батькам необхідно поєднувати цифровий нагляд з освітою, щоб розвинути стійкість та запобігти шкоді.
Малий бізнес часто працює без великих команд комунікацій або юридичних бюджетів. Один маніпульований кліп, що зображує власника бізнесу або співробітника, може призвести до репутаційної шкоди або призвести до шахрайства. Наприклад, діпфейк власника бізнесу, який схвалює продукт або доручає персоналу відстежувати незаконні платежі, може ввести в оману клієнтів та партнерів. Тому малий та середній бізнес повинен пріоритезувати виявлення, моніторинг та чіткі плани реагування.
Гігієна пристроїв і програм зменшує ризики. Оновлюйте програмне забезпечення. Використовуйте авторитетні магазини програм і обмежуйте встановлення перевіреними джерелами. Для облікових записів увімкніть багатофакторну автентифікацію та перевірте дозволи програм, які мають доступ до камери, мікрофона або збережених медіафайлів. Розкриття даних підвищує ризик: загальнодоступні фотографії, промови та аудіо полегшують синтез переконливих фейків. Розгляньте можливість обмеження публічного обміну архівними аудіо- та відеозаписами чутливих членів сім'ї, коли це стосується конфіденційності.
Юридичні нагадування та нагадування про згоду: згода та місцеві закони мають значення. Якщо підтвердиться, що додаток дозволяє штучне воскресіння померлих людей, власники спадщини та уповноважені представники повинні скористатися доступними засобами контролю. Для живих осіб багато юрисдикцій обмежують комерційне використання зображень без дозволу. Завжди дотримуйтесь місцевих правил та звертайтеся за юридичною консультацією, коли це необхідно. Моніторинг та захисні заходи також повинні відповідати законам про конфіденційність та вимагати згоди, де це передбачено.
Вірусне поширення простих у використанні інструментів для діпфейків демонструє зміну: виробництво більше не є вузьким місцем. Швидке впровадження споживачами випереджає захисні заходи платформи. Це прискорило дебати щодо згоди, прав спадкоємців та того, хто заслуговує на захист від штучного воскресіння.
Експерти зазначають, що політичні, технічні та соціальні заходи повинні працювати разом. Технічні фільтри можуть уповільнити зловживання, але освіта та правова ясність створюють довготривалий захист. Платформи, що обіцяють захист відомим особам, викликають питання щодо рівного ставлення до менш публічних осіб. Організаціям слід планувати неминучі інциденти, а не припускати, що вони не стануть мішенню.
SPYERA надає функції моніторингу та сповіщень, щоб допомогти сім'ям та організаціям бути в курсі підозрілої активності на контрольованих пристроях. Наші інструменти можуть допомогти виявляти незвичайні медіафайли, відстежувати встановлення програм та генерувати сповіщення про нові записи або передачу великих файлів. Функції звітності SPYERA надають журнали з мітками часу, які допомагають зберігати докази для видалення або розслідування.
Ми наголошуємо на законному використанні та використанні за згодою. SPYERA слід використовувати відповідно до місцевого законодавства та політики організації. Для батьків це означає інформування неповнолітніх, де це необхідно, та дотримання місцевих правил отримання згоди. Для роботодавців це означає чітку політику та прозоре розкриття інформації під час моніторингу пристроїв, що належать компанії.
ШІ-дипфейки стають дедалі більш поширеною реальністю. Підготовка означає поєднання навчання, суворої гігієни пристроїв та чітких планів реагування. SPYERA пропонує інструменти, що допомагають виявляти підозрілі медіафайли, контролювати контрольовані пристрої та зберігати докази — завжди використовуються етично та відповідно до закону. Дізнайтеся, як SPYERA може допомогти вашій родині чи організації покращити цифрову безпеку та готовність до інцидентів.
