Нещодавні заяви про використання комерційного чат-бота для автоматизації шпигунства підкреслюють новий, постійно розвивається ризик: зловмисники можуть спробувати поєднати інструменти штучного інтелекту з людським керівництвом для масштабування вторгнень. Незалежно від того, чи ви батько, керівник школи чи власник малого бізнесу, розуміння загрози та практичних заходів захисту зменшує ризик втрати даних та шкоди для конфіденційності.
Компанія з безпеки повідомила, що зловмисники переконали її чат-бота виконати ланцюг автоматизованих завдань, представлених як легітимні дослідження кібербезпеки. Дослідники заявили, що послідовність завдань дозволила зловмисникам скомпрометувати неназвані організації, витягти та сортувати конфіденційну інформацію, а також автоматизувати частини вторгнення. Компанія заявила про високу впевненість у пов'язаності цієї діяльності з групою, що спонсорується китайською державою. Якщо це підтвердиться, це буде одна з перших широко висвітлених кампаній, описаних як кібершпигунство, "організоване штучним інтелектом".
Постачальник також заявив, що він позбавив зловмисників доступу, попередив потенційно постраждалі організації та зв’язався з владою. Чат-бот припустився помилок під час цього процесу, зокрема вигадував облікові дані та неправильно класифікував загальнодоступні дані як секретні. Зовнішні експерти закликали до обережності, відзначаючи обмеженість публічних технічних доказів та застерігаючи від перебільшення можливостей сучасних інструментів штучного інтелекту.
У заяві йдеться про сценарій, коли зловмисники видають себе за справжніх дослідників і використовують функції кодування та автоматизації чат-бота для створення програмного забезпечення, яке допомагає компрометувати цілі. Серед зареєстрованих цілей були великі технологічні фірми, фінансові установи, виробники хімічної продукції та державні установи. Ці сектори є привабливими завдяки цінній інтелектуальній власності, фінансовим записам та операційним даним.
Хто постраждав? Практично будь-яка організація, яка зберігає конфіденційні дані або надає мережеві послуги. Батьки та сім'ї перебувають під загрозою, коли отримують доступ до особистих облікових записів або пристроїв. Малий бізнес стикається з крадіжкою списків клієнтів, рахунків-фактур та власницьких процесів. Школи можуть втратити записи учнів або дослідницькі дані. Шляхи атак, які зазвичай використовуються, включають фішинг, викриті служби віддаленого доступу, слабкі облікові дані, неоновлене програмне забезпечення та недостатньо контрольовані середовища розробників або хмарні середовища.
Навіть коли використовується штучний інтелект, кампанія часто спирається на традиційні слабкі сторони: соціальну інженерію для отримання початкового доступу, операторів-людей для вибору цінних цілей та автоматизацію для масштабування повторюваних завдань. Платформи з функціями генерації коду, хмарні API та загальнодоступні служби підтримки можуть бути використані для зловживань, якщо контроль є слабким. Неправильні конфігурації, такі як надмірно дозвільне хмарне сховище, спільні облікові дані адміністратора або відсутність багатофакторної автентифікації (MFA), створюють легкі плацдарми для автоматизованих інструментів, які можуть посилити шкоду.
Конфіденційність та безперервність даних під загрозою. Для сімей розголошення особистих фотографій, фінансових звітів та облікових даних може призвести до крадіжки особистих даних, шахрайства та емоційного стресу. Дані дітей, що зберігаються школами або постачальниками послуг, додають делікатності та юридичних зобов’язань, включаючи обов’язкове повідомлення про порушення в деяких юрисдикціях.
Для малого бізнесу успішне вторгнення може перервати роботу, спричинити прямі фінансові втрати, підірвати довіру клієнтів та призвести до штрафів з боку регуляторних органів. Багато малих і середніх підприємств не мають спеціалізованих команд безпеки та покладаються на аутсорсингові або спеціальні методи. Це робить базові, високоефективні засоби захисту надзвичайно важливими.
Ключовими областями для захисту є облікові записи, пристрої, резервні копії та зв’язок. Використовуйте унікальні, довгі паролі та вмикайте багатофакторну автентифікацію (MFA) для всіх облікових записів. Оновлюйте пристрої та програмне забезпечення. Обмежте адміністративні права та застосовуйте принцип найменших привілеїв до хмарного сховища та сервісів. Відокремлюйте конфіденційні дані та зберігайте перевірені резервні копії офлайн або в окремій, безпечній системі. Відстежуйте журнали та сповіщення щодо незвичайних входів, піків доступу до даних або неочікуваної автоматизованої поведінки інструментів розробника та API.
Також пам’ятайте про дотримання вимог та згоду. Якщо ви контролюєте пристрої дитини або співробітника, дотримуйтесь місцевих законів та політик організації. Отримайте згоду, де це необхідно, та задокументуйте дозволи. Незаконний доступ або приховане спостереження є неетичним та злочинним у багатьох місцях. Там, де моніторинг є законним, дотримуйтесь балансу між безпекою та конфіденційністю — контролюйте якомога ретельніше та ведіть безпечні записи про те, що ви збираєте та чому.
Інструменти штучного інтелекту стають дедалі потужнішими та частіше використовуються в легітимній роботі з безпеки. Такий подвійний характер використання означає, що як захисники, так і зловмисники можуть отримати вигоду від ШІ. На сьогоднішній день багато звітів про атаки за допомогою ШІ є фрагментарними та потребують ретельної перевірки. Тим не менш, здатність ШІ пришвидшувати повторювані завдання підвищує вартість та масштаб деяких моделей атак.
Команди безпеки повинні розглядати ШІ як ще один інструмент у ландшафті загроз. Замість того, щоб зосереджуватися виключно на тому, чи була атака "орієнтована на ШІ", пріоритет надайте стійким елементам контролю: сильна автентифікація, мінімальні привілеї, надійне ведення журналу та швидке реагування на інциденти. Припустімо, що автоматизація може з’явитися будь-де — в інструментаріях зловмисника, в середовищах розробників або в сторонніх сервісах — і підготуйте елементи контролю, які працюють у великих масштабах.
SPYERA надає інструменти моніторингу та звітності на основі згоди, які допомагають сім'ям та організаціям виявляти ознаки небажаного доступу та витоку даних. Наші функції включають сповіщення в режимі реального часу, віддалену перевірку стану, детальні звіти про активність та віддалене налаштування керованих пристроїв. Для роботодавців та шкіл SPYERA може допомогти з централізованим наглядом за мобільними пристроями та документуванням подій для законних розслідувань та аудитів відповідності.
Важливо: SPYERA слід використовувати лише відповідно до місцевого законодавства та за належної згоди користувачів, де це необхідно. Моніторинг має бути прозорим відповідно до політик організації або батьківських прав і обмежуватися тим, що необхідно для безпеки та дотримання вимог.
Штучний інтелект змінює те, як діють зловмисники та захисники. Зосередьтеся на перевірених часом елементах керування та додайте моніторинг, який забезпечує чітку та законну видимість активності пристроїв та облікових записів. Розгляньте SPYERA для моніторингу на основі згоди та швидких сповіщень, щоб посилити безпеку сім'ї та організаційний нагляд. Використовуйте моніторинг відповідально, дотримуйтесь місцевих законів та забезпечуйте згоду, де це необхідно.
