Генерацію зображень за допомогою штучного інтелекту можна зловживати для створення дуже реалістичних матеріалів про сексуальне насильство над дітьми (CSAM). Нові заходи у Великій Британії спрямовані на те, щоб дозволити уповноваженим сторонам тестувати моделі перед публікацією, щоб зменшити цей ризик. Для батьків, шкіл та роботодавців ця зміна сигналізує про зростаючу увагу регуляторних органів та необхідність посилення практик запобігання та моніторингу.
Поправка до Закону про злочинність та поліцію дозволить уповноваженим тестувальникам оцінювати моделі штучного інтелекту на предмет їхнього потенціалу для створення незаконних зображень сексуального насильства над дітьми, перш ніж ці моделі будуть опубліковані. Представники з питань технологій та захисту дітей назвали цей захід способом інтеграції безпеки дітей у розробку штучного інтелекту. Якщо його буде підтверджено, він буде реалізований поряд з планами криміналізувати інструменти, призначені для створення таких матеріалів, та відреагувати на повідомлення про збільшення кількості випадків сексуального насильства над дітьми, пов'язаних зі штучним інтелектом.
Моделі штучного інтелекту, навчені на великих наборах даних, можуть навчитися створювати фотореалістичні зображення. Коли ці моделі використовуються неправильно, вони можуть генерувати сексуальні зображення, що зображують дітей або дорослих без їхньої згоди. Злочинці та зловмисники можуть запитувати, обмінювати або розміщувати такі зображення на основних платформах, у додатках для обміну особистими повідомленнями та прихованих сервісах у даркнеті.
Хто постраждав? Діти та жертви насильства є найбільш безпосередніми жертвами, оскільки штучний інтелект може відтворювати або переосмислювати сцени насильства. Сім'ї стикаються з шкодою для конфіденційності та репутації, коли зображення поширюються. Школи та служби у справах молоді можуть зіткнутися з розкриттям інформації, інцидентами або спробами ґрумінгу. Малий та середній бізнес (МСП) та роботодавці, які розміщують користувацький контент, надають функції ШІ або оснащують персонал пристроями, можуть опосередковано зазнати впливу через неправомірне використання співробітниками або клієнтами.
Типові шляхи атаки та сценарії зловживання включають:
Типові слабкі місця включають слабку політику модерації контенту, моделі, яким бракує фільтрів безпеки, неадекватне ведення журналу та недостатній контроль доступу. Платформи без чітких процедур видалення або з обмеженим автоматичним виявленням становлять підвищений ризик. Якщо це буде підтверджено, авторизоване передрелізне тестування має на меті зменшити деякі з цих ризиків на етапі розробки, але воно не замінює операційних гарантій у виробничих системах.
Для сімей нагальним завданням є захист та раннє виявлення. Згенерований штучним інтелектом контент із сексуальним насильством над дітьми (CSAM) можна швидко створювати та поширювати. Це підвищує необхідність контролю за тим, хто має доступ до пристроїв та облікових записів, а також навчання дітей безпечним звичкам обміну інформацією. Це також збільшує емоційний ризик для постраждалих, які можуть побачити згенерований штучним інтелектом контент, що повторно стає їх жертвами.
Гігієна пристроїв і програм має значення: застарілі програми та слабкі налаштування конфіденційності можуть ненавмисно розкривати зображення для синхронізації з хмарою або спільних альбомів. Батьківський контроль, захист облікового запису та моніторинг розмов, де це доречно, допомагають зменшити шляхи розкриття інформації. Дітей також необхідно навчити, як повідомляти про небажані зображення та як безпечно зберігати докази, якщо вони зіткнуться з образливими матеріалами.
Для малого та середнього бізнесу (МСП) та роботодавців ризик є як операційним, так і юридичним. Компанії, що надають функції штучного інтелекту, контент-платформи або внутрішні інструменти, повинні гарантувати, що моделі не можуть бути перепрофільовані для створення незаконних зображень. Це включає заходи безпеки на рівні моделі, суворий контроль доступу та чіткі політики прийнятного використання. Відділи кадрів та ІТ повинні бути готові до реагування на інциденти, якщо до цього причетний співробітник або служба.
Юридичні нагадування та нагадування щодо згоди: моніторинг та модерація контенту повинні відповідати місцевим законам та правилам конфіденційності. Роботодавці повинні мати прозору політику та отримувати законну згоду, де це необхідно. Батьки повинні дотримуватися національних правових рекомендацій щодо моніторингу неповнолітніх. Будь-які дії щодо збереження або повідомлення про підозру щодо сексуального насильства над дітьми (CSAM) повинні відповідати рекомендаціям правоохоронних органів та організацій з безпеки дітей, щоб уникнути компрометації розслідувань.
Звіти свідчать про зростання кількості випадків сексуального насильства над дітьми, пов’язаних із штучним інтелектом. Організації, що відстежують онлайн-зловживання, щорічно фіксують зростання кількості матеріалів, створених штучним інтелектом. Попереднє тестування та відповідальність розробників обговорюються на міжнародному рівні як один із рівнів пом’якшення наслідків поряд із виявленням, видаленням та правовим стримуванням.
Впровадження безпеки в розробку штучного інтелекту знижує ризики, але воно має поєднуватися з операційним контролем. Технічне тестування може запобігти найпрямішим векторам генерації, проте зрілий захист вимагає багаторівневого контролю: безпечне розгортання, активний моніторинг, швидка звітність та міжсекторальна співпраця з правоохоронними органами та неурядовими організаціями, що займаються безпекою дітей.
SPYERA надає інструменти моніторингу, розроблені для законного захисту та нагляду на основі згоди. Для батьків SPYERA пропонує віддалений доступ до пристроїв, сповіщення в режимі реального часу про ризиковані терміни та обмін зображеннями, а також безпечні функції звітності, які допомагають зберігати позначки часу та контекст, не поширюючи незаконний контент без потреби.
Для роботодавців та шкіл SPYERA може допомогти з інвентаризацією пристроїв, дотриманням політик та звітністю про інциденти. Функції включають віддалене налаштування, журнали активності, виявлення передачі файлів та налаштовувані сповіщення. Ці можливості сприяють швидшому сортуванню та допомагають вести доказову базу, одночасно підкреслюючи дотримання місцевого законодавства та політики згоди організації.
Нагадування: інструменти SPYERA повинні використовуватися етично та законно. Завжди отримуйте чітку згоду, де це необхідно, та дотримуйтесь чинного законодавства про конфіденційність та працевлаштування під час моніторингу пристроїв або облікових записів.
Нові пропозиції щодо тестування у Великій Британії підкреслюють важливість проактивних заходів захисту від зображень сексуального насильства над дітьми, створених штучним інтелектом. Сім'ї, школи та роботодавці повинні посилити контроль, навчати користувачів та готувати плани реагування вже сьогодні. Розгляньте SPYERA як частину багаторівневої, законної стратегії безпеки: наші функції моніторингу забезпечують видимість, структуровані сповіщення та інструменти звітності, щоб допомогти захистити дітей та організації, дотримуючись при цьому правових та етичних меж. Зверніться до нас, щоб оцінити, як законний моніторинг може вписатися у вашу програму захисту.
