Искусственный интеллект (ИИ) всё чаще использует дипфейки для создания убедительных видео и аудио с реальными людьми. Эта способность может нанести вред репутации, ввести зрителей в заблуждение и подорвать доверие к школам, домам и компаниям.
Видеогенератор Sora от OpenAI стал вирусным благодаря созданию гиперреалистичных клипов. Компания признала, что Sora создал оскорбительные материалы с участием покойного борца за гражданские права Мартина Лютера Кинга-младшего. OpenAI Компания заявила, что приостановит публикацию изображений доктора Кинга, одновременно усилив защиту исторических личностей. Тем не менее, пользователи продолжали создавать и распространять дипфейки, изображающие других публичных и исторических личностей. Семьи умерших публичных деятелей публично обратились к платформам и пользователям с просьбой прекратить публикацию обработанных искусственным интеллектом видеороликов с их близкими. Компания заявила, что будет принимать запросы от уполномоченных представителей или владельцев наследства о блокировке использования изображений, и заявила, что использует многоуровневую защиту и постоянно ведёт диалог с заинтересованными сторонами.
Генеративный искусственный интеллект стремительно развивается. Новые инструменты, ориентированные на потребителя, способны синтезировать видео, аудио и изображения. Это устраняет технические барьеры, которые раньше ограничивали возможности создания дипфейков только специалистами. В результате любой, у кого есть смартфон и приложение, может создавать убедительные клипы с узнаваемыми лицами.
Кто страдает? Риску подвержены семьи, школы, работодатели и небольшие организации. Родители и подростки могут стать жертвами травли, нанесения ущерба репутации или вторжения в личную жизнь. В школах могут появляться смонтированные видеоролики, которые мешают обучению или вредят репутации учащихся. Работодатели могут столкнуться с кризисом бренда, если руководство или сотрудники будут изображены в фальсифицированных сценах, а предприятия малого и среднего бизнеса рискуют столкнуться с мошенничеством, вымогательством или искажением информации в маркетинге и коммуникациях.
Распространенные способы атак включают манипуляцию публикациями в социальных сетях, поддельные записи занятий в классе или на рабочем месте, а также имитацию действий других лиц с помощью искусственного интеллекта, используемую для мошенничества. Злоумышленники могут сочетать дипфейки с социальной инженерией. Например, сотрудник может получить голосовую запись, которая выглядит как голос руководителя, запрашивающего конфиденциальные данные или переводы. Хотя самые крайние случаи привлекают внимание прессы, более распространенный вред наносит эмоциональный или репутационный ущерб: искаженные речи, ложные рекомендации или сфабрикованные взаимодействия, широко распространяемые в интернете.
Типичные ошибки конфигурации и слабые места включают в себя недостаточную модерацию контента, неясные политики в отношении синтетических медиа и низкую медиаграмотность пользователей. Платформы могут полагаться на реактивное удаление, а не на превентивное обнаружение. Не у всех публичных лиц есть представители, которые могут запросить защиту, что приводит к неравномерности мер защиты. Наконец, у многих организаций отсутствуют планы реагирования на инциденты, связанные с синтетическими медиа; они медленно реагируют на появление сфальсифицированного контента.
В семьях дипфейки могут подорвать доверие и причинить реальный эмоциональный вред. Дети и подростки особенно уязвимы к дипфейкам, создаваемым сверстниками, и онлайн-позору. Смонтированный ролик может повлиять на отношения и учёбу подростка. Родителям необходимо сочетать цифровой контроль с обучением, чтобы повысить устойчивость и предотвратить вред.
Малый бизнес часто обходится без крупных отделов коммуникаций и бюджетов на юридические услуги. Один-единственный смонтированный ролик, имитирующий владельца или сотрудника компании, может нанести ущерб репутации или стать причиной мошенничества. Например, фейк, где владелец компании рекламирует продукт или отдаёт распоряжение сотрудникам отслеживать незаконные платежи, может ввести в заблуждение клиентов и партнёров. Поэтому малым и средним предприятиям необходимо уделять первоочередное внимание выявлению, мониторингу и чётким планам реагирования.
Гигиена устройств и приложений снижает риск заражения. Регулярно обновляйте ПО. Используйте проверенные магазины приложений и устанавливайте их только из доверенных источников. Включите многофакторную аутентификацию для учётных записей и проверьте разрешения приложений, которые могут получить доступ к камере, микрофону или сохранённым медиафайлам. Риск заражения данных увеличивается: общедоступные фотографии, речи и аудиозаписи упрощают создание убедительных фейков. Если конфиденциальность важна, рассмотрите возможность ограничения публичного распространения архивных аудио- и видеозаписей членов семьи.
Напоминания о правовых аспектах и согласии: согласие и местное законодательство имеют значение. Если подтвердится, что приложение позволяет синтетическое воскрешение умерших, владельцы наследства и уполномоченные представители должны использовать доступные средства контроля. Для ныне живущих людей во многих юрисдикциях запрещено коммерческое использование изображений без разрешения. Всегда соблюдайте местные правила и при необходимости обращайтесь за юридической консультацией. Меры мониторинга и защиты также должны соответствовать законам о конфиденциальности и требовать согласия, если это требуется.
Вирусное распространение простых в использовании инструментов для создания дипфейков демонстрирует перемены: производство больше не является узким местом. Быстрое внедрение среди потребителей опережает платформенные гарантии. Это обострило споры о согласии, правах наследников и о том, кто заслуживает защиты от синтетического воскрешения.
Эксперты отмечают, что политические, технические и социальные меры должны быть согласованы. Технические фильтры могут замедлить злоупотребления, но просвещение и правовая ясность обеспечивают надежную защиту. Платформы, обещающие защиту известным личностям, поднимают вопросы о равном обращении с менее публичными лицами. Организациям следует планировать неизбежные инциденты, а не полагаться на то, что они не станут объектом преследований.
SPYERA предоставляет функции мониторинга и оповещения, помогающие семьям и организациям быть в курсе подозрительной активности на контролируемых устройствах. Наши инструменты помогают выявлять необычные медиафайлы, отслеживать установки приложений и генерировать оповещения о новых записях или передаче больших файлов. Функции отчётности SPYERA предоставляют журналы с метками времени, которые помогают сохранять доказательства для удаления или расследования.
Мы подчеркиваем законное использование, основанное на согласии. SPYERA должны использоваться в соответствии с местным законодательством и политикой организации. Для родителей это означает информирование несовершеннолетних в случае необходимости и соблюдение местных правил получения согласия. Для работодателей это означает чёткие правила и прозрачное раскрытие информации при мониторинге устройств, принадлежащих компании.
Дипфейки с использованием искусственного интеллекта становятся всё более растущей реальностью. Чтобы быть готовым, необходимо сочетать обучение, строгую гигиену устройств и чёткие планы реагирования. SPYERA предлагает инструменты для обнаружения подозрительных медиафайлов, контроля за контролируемыми устройствами и сохранения доказательств, всегда применяемые этично и в соответствии с законом. Узнайте, как SPYERA может помочь вашей семье или организации повысить цифровую безопасность и готовность к инцидентам.
