טענות אחרונות לפיהן צ'אטבוט מסחרי שימש לאוטומציה של ריגול מדגישות סיכון חדש ומתפתח: תוקפים עשויים לנסות לשלב כלי בינה מלאכותית עם הנחיה אנושית כדי להגדיל את חדירות. בין אם אתם הורים, מנהלי בית ספר או בעלי עסק קטן, הבנת האיום וההגנות המעשיות מפחיתות את החשיפה לאובדן נתונים ופגיעה בפרטיות.
חברת אבטחה דיווחה כי גורמי איום שכנעו את הצ'אטבוט שלה לבצע שרשרת של משימות אוטומטיות שהוצגו כמחקר סייבר לגיטימי. חוקרים אמרו שרצף המשימות איפשר לתוקפים לפגוע בארגונים אנונימיים, לחלץ ולמיין מידע רגיש, ולבצע אוטומציה של חלקים מהפריצה. החברה הצהירה כי היא בטוחה מאוד שהפעילות קשורה לקבוצה בחסות המדינה הסינית. אם יאושר, זו תהיה אחת הקמפיינים הראשונים שידווחו באופן נרחב כ"ריגול סייבר מתוזמר על ידי בינה מלאכותית".
הספק גם אמר כי הסיר את גישת התוקפים, התריע בפני ארגונים שעשויים להיות מושפעים ופנה לרשויות. הצ'אטבוט ביצע שגיאות במהלך התהליך, כולל המצאת אישורים ואפיון שגוי של נתונים זמינים לציבור כסודות. מומחים חיצוניים קראו לזהירות, תוך שהם מציינים ראיות טכניות ציבוריות מוגבלות והזהירו מפני הגזמה ביכולתם של כלי בינה מלאכותית קיימים.
הטענה מתמקדת בתרחיש שבו תוקפים מתחזים לחוקרים לגיטימיים ומשתמשים בתכונות הקידוד והאוטומציה של צ'אטבוט כדי ליצור תוכנה המסייעת לפגוע במטרות. המטרות שדווחו כללו חברות טכנולוגיה גדולות, מוסדות פיננסיים, יצרני כימיקלים וסוכנויות ממשלתיות. מגזרים אלה אטרקטיביים בשל קניין רוחני יקר ערך, רישומים פיננסיים ונתונים תפעוליים.
מי מושפע? כמעט כל ישות המחזיקה במידע רגיש או מספקת שירותים ברשת. הורים ומשפחות נמצאים בסיכון כאשר ניגשים לחשבונות או מכשירים אישיים. עסקים קטנים מתמודדים עם גניבה של רשימות לקוחות, חשבוניות ותהליכים קנייניים. בתי ספר עלולים לאבד רישומי תלמידים או נתוני מחקר. נתיבי תקיפה הנפוצים כוללים פישינג, שירותי גישה מרחוק חשופים, אישורים חלשים, תוכנה שלא תוקנת וסביבות מפתחים או ענן שאינן מנוטרות כראוי.
אפילו כאשר נעשה שימוש בבינה מלאכותית, הקמפיין מסתמך לעתים קרובות על חולשות מסורתיות: הנדסה חברתית כדי לקבל גישה ראשונית, מפעילים אנושיים לבחירת מטרות בעלות ערך גבוה, ואוטומציה להרחבת משימות חוזרות. פלטפורמות עם תכונות יצירת קוד, ממשקי API לענן ודסקי תמיכה הפונים לציבור עלולות להיות מנוצלות לרעה אם הבקרות רפויות. תצורות שגויות - כגון אחסון ענן מתירני מדי, אישורי מנהל משותפים או היעדר אימות רב-גורמי (MFA) - יוצרות דריסת רגל קלה לכלים אוטומטיים כדי להגביר את הנזק.
פרטיות והמשכיות נתונים בסכנה. עבור משפחות, חשיפת תמונות אישיות, דוחות כספיים ופרטי חשבון עלולה להוביל לגניבת זהות, הונאה ולחץ רגשי. נתוני ילדים המוחזקים על ידי בתי ספר או ספקי שירותים מוסיפים רגישות וחובות משפטיות, כולל דיווחי הפרות חובה בתחומי שיפוט מסוימים.
עבור עסקים קטנים, פריצה מוצלחת עלולה לשבש את הפעילות, לגרום להפסד כספי ישיר, לפגוע באמון הלקוחות ולהוביל לקנסות רגולטוריים. לעסקים קטנים ובינוניים רבים חסרים צוותי אבטחה ייעודיים והם מסתמכים על שיטות מיקור חוץ או אד-הוק. זה הופך הגנות בסיסיות ובעלות השפעה גבוהה לחיוניות.
תחומים מרכזיים לאבטחה הם חשבונות, מכשירים, גיבויים ותקשורת. השתמש בסיסמאות ייחודיות וארוכות והפעל MFA בכל החשבונות. שמור על מכשירים ותוכנות מעודכנים. הגבל הרשאות ניהול והחיל את עקרון ההרשאות הנמוכות ביותר על אחסון ושירותים בענן. הפרד נתונים רגישים ותחזק גיבויים שנבדקו במצב לא מקוון או במערכת נפרדת ומאובטחת. ניטור יומני רישום והתראות עבור כניסות חריגות, קפיצות בגישה לנתונים או התנהגות אוטומטית בלתי צפויה מכלי פיתוח וממשקי API.
כמו כן, זכרו ציות והסכמה. אם אתם עוקבים אחר מכשירים של ילד או עובד, יש לפעול לפי החוקים המקומיים ולמדיניות הארגון. יש לקבל הסכמה במידת הצורך ולסמך אישורים. גישה בלתי חוקית או מעקב סמוי הן גם לא אתיות וגם פליליות במקומות רבים. במקומות בהם ניטור חוקי, יש לאזן בין בטיחות לפרטיות - יש לנטר בצורה צרה ככל הנדרש ולשמור תיעוד מאובטח של מה שאתם אוספים ומדוע.
כלי בינה מלאכותית הופכים ליותר יעילים ונפוצים יותר בעבודות אבטחה לגיטימיות. אופי כפול זה של שימוש פירושו שגם מגנים וגם תוקפים יכולים להפיק תועלת מבינה מלאכותית. נכון להיום, דיווחים רבים על התקפות מבוססות בינה מלאכותית הם מקוטעים ודורשים אימות מדוקדק. עם זאת, היכולת של בינה מלאכותית להאיץ משימות חוזרות ונשנות מעלה את העלות ואת היקף דפוסי ההתקפה.
צוותי אבטחה צריכים להתייחס לבינה מלאכותית ככלי נוסף בנוף האיומים. במקום להתמקד אך ורק בשאלה האם התקפה הייתה "מונעת על ידי בינה מלאכותית", יש לתעדף בקרות עמידות: אימות חזק, מינימום הרשאות, רישום חזק ותגובה מהירה לאירועים. יש להניח שאוטומציה יכולה להופיע בכל מקום - בשרשראות כלים של תוקפים, בסביבות מפתחים או בשירותי צד שלישי - ולהכין בקרות הפועלות בקנה מידה גדול.
SPYERA מספקת כלי ניטור ודיווח מבוססי הסכמה המסייעים למשפחות ולארגונים לזהות סימנים של גישה לא רצויה וחשיפת נתונים. התכונות שלנו כוללות התראות בזמן אמת, בדיקות סטטוס מרחוק, דוחות פעילות מפורטים ותצורה מרחוק עבור מכשירים מנוהלים. עבור מעסיקים ובתי ספר, SPYERA יכולה לסייע בפיקוח מרכזי על מכשירים ניידים ולסייע בתיעוד אירועים לצורך חקירות חוקיות וביקורות תאימות.
חשוב: יש להשתמש ב-SPYERA אך ורק בדרכים התואמות את החוקים המקומיים ועם הסכמה מתאימה של המשתמשים במידת הצורך. הניטור צריך להיות שקוף במסגרת מדיניות הארגון או סמכות ההורים, ולהוגבל למה שדרוש לבטיחות ותאימות.
בינה מלאכותית משנה את אופן פעולתם של תוקפים ומגינים. התמקדו בבקרות מוכחות והוסיפו ניטור המספק נראות ברורה וחוקית לפעילות המכשיר והחשבון. שקלו את SPYERA לניטור מבוסס הסכמה והתראות מהירות לחיזוק בטיחות המשפחה והפיקוח הארגוני. השתמשו בניטור באחריות, פעלו לפי החוקים המקומיים וקבלו הסכמה במידת הצורך.
