يمكن إساءة استخدام توليد صور الذكاء الاصطناعي لإنشاء مواد اعتداء جنسي على الأطفال (CSAM) واقعية للغاية. تهدف الإجراءات البريطانية الجديدة إلى السماح للأطراف المرخصة باختبار النماذج قبل نشرها للحد من هذا الخطر. بالنسبة للآباء والمدارس وأصحاب العمل، يشير هذا التغيير إلى تزايد الاهتمام التنظيمي والحاجة إلى ممارسات وقائية ورصدية أقوى.
سيسمح تعديلٌ على مشروع قانون الجريمة والشرطة للمختبرين المُصرّح لهم بتقييم نماذج الذكاء الاصطناعي لاحتمالية إنتاجها صورًا غير قانونية لاعتداءات جنسية على الأطفال قبل نشرها علنًا. ووصف مسؤولو التكنولوجيا والحماية هذا الإجراء بأنه وسيلةٌ لدمج سلامة الأطفال في تطوير الذكاء الاصطناعي. وفي حال إقراره، سيُقرّ بالتزامن مع خططٍ لتجريم الأدوات المُصممة لإنتاج مثل هذه المواد، وسيُتابع التقارير التي تُفيد بتزايد حوادث الاعتداء الجنسي على الأطفال المرتبطة بالذكاء الاصطناعي.
يمكن لنماذج الذكاء الاصطناعي المُدرَّبة على مجموعات بيانات ضخمة أن تتعلم إنتاج صور واقعية. عند إساءة استخدام هذه النماذج، يُمكنها إنتاج صور جنسية تُظهر أطفالًا أو بالغين غير راضين. قد يطلب المجرمون والجهات الفاعلة غير المشروعة هذه الصور أو يتاجرون بها أو يستضيفونها عبر المنصات الرئيسية وتطبيقات المراسلة الخاصة والخدمات المخفية على الإنترنت المظلم.
من المتأثر؟ يُعدّ الأطفال والناجون من الإساءة الضحايا الأكثر تضررًا، إذ يُمكن للذكاء الاصطناعي إعادة تمثيل أو تخيّل مشاهد الإساءة. وتتعرّض العائلات لانتهاكات تتعلق بالخصوصية والسمعة عند تداول الصور. وقد تشهد المدارس وخدمات الشباب حالات إفصاح أو حوادث أو محاولات استدراج. كما يُمكن أن تتعرّض الشركات الصغيرة والمتوسطة وأصحاب العمل الذين يستضيفون محتوى المستخدمين، أو يُوفّرون ميزات الذكاء الاصطناعي، أو يُجهّزون أجهزةً لموظفيهم، بشكلٍ غير مباشر من خلال إساءة استخدام الموظفين أو العملاء.
تتضمن مسارات الهجوم الشائعة وسيناريوهات إساءة الاستخدام ما يلي:
تشمل نقاط الضعف الشائعة سياساتٍ متراخيةً لإدارة المحتوى، ونماذج تفتقر إلى فلاتر أمان، وتسجيلًا غير كافٍ، وضوابط وصول غير كافية. تُعدّ المنصات التي لا تتبع إجراءات إزالة واضحة أو التي تفتقر إلى الكشف الآلي، أكثر عرضة للمخاطر. في حال تأكيد ذلك، يهدف الاختبار المُصرّح به قبل الإصدار إلى الحد من بعض هذه المخاطر في مرحلة التطوير، ولكنه لا يُغني عن الضمانات التشغيلية في أنظمة الإنتاج.
بالنسبة للعائلات، يتمثل الاهتمام المُلِحّ بالحماية والكشف المُبكر. يُمكن إنتاج مواد الاعتداء الجنسي على الأطفال المُولّدة بالذكاء الاصطناعي ومشاركتها بسرعة. هذا يُعزز الحاجة إلى التحكّم في من يمكنه الوصول إلى الأجهزة والحسابات، وتعليم الأطفال عادات المشاركة الآمنة. كما يُزيد من الخطر النفسي على الناجين الذين قد يشاهدون محتوى مُولّدًا بالذكاء الاصطناعي يُؤذيهم مُجددًا.
نظافة الأجهزة والتطبيقات أمر بالغ الأهمية: قد تؤدي التطبيقات القديمة وإعدادات الخصوصية الضعيفة إلى تعريض الصور للمزامنة السحابية أو الألبومات المشتركة دون قصد. تساعد أدوات الرقابة الأبوية وحماية الحساب ومراقبة المحادثات، عند الاقتضاء، على تقليل فرص التعرض. يجب أيضًا تعليم الأطفال كيفية الإبلاغ عن الصور غير المرغوب فيها وكيفية الحفاظ على الأدلة بأمان في حال مواجهتهم لمواد مسيئة.
بالنسبة للشركات الصغيرة والمتوسطة وأصحاب العمل، فإن المخاطر تشغيلية وقانونية. ينبغي على الشركات التي توفر ميزات الذكاء الاصطناعي أو منصات المحتوى أو الأدوات الداخلية ضمان عدم إمكانية إعادة استخدام النماذج لتوليد صور غير قانونية. ويشمل ذلك ضمانات على مستوى النماذج، وضوابط صارمة للوصول، وسياسات واضحة للاستخدام المقبول. وينبغي أن تكون فرق الموارد البشرية وتكنولوجيا المعلومات مستعدة للاستجابة للحوادث في حال تورط موظف أو خدمة.
تذكيرات قانونية وموافقة: يجب أن تتوافق مراقبة المحتوى وتعديله مع القوانين المحلية وقواعد الخصوصية. ينبغي على أصحاب العمل وضع سياسات شفافة والحصول على موافقة قانونية عند الاقتضاء. يجب على الآباء اتباع الإرشادات القانونية المحلية لمراقبة القاصرين. يجب أن تتبع أي إجراءات للحفاظ على مواد الاعتداء الجنسي على الأطفال المشتبه بها أو الإبلاغ عنها إرشادات جهات إنفاذ القانون ومنظمات سلامة الطفل لتجنب المساس بالتحقيقات.
تشير التقارير إلى تزايد حوادث الاعتداء الجنسي على الأطفال المرتبطة بالذكاء الاصطناعي. وقد سجلت المنظمات التي تراقب الإساءة عبر الإنترنت زيادات سنوية في المواد المُولّدة بالذكاء الاصطناعي. ويجري حاليًا مناقشة الاختبار قبل النشر ومساءلة المطورين دوليًا كأحد وسائل التخفيف، إلى جانب الكشف والإزالة والردع القانوني.
يُقلل دمج السلامة في تطوير الذكاء الاصطناعي من المخاطر، ولكن يجب أن يقترن بالضوابط التشغيلية. يُمكن للاختبارات التقنية منع انتشار التهديدات المباشرة، إلا أن الدفاعات المتطورة تتطلب ضوابط متعددة الطبقات: النشر الآمن، والمراقبة النشطة، والإبلاغ السريع، والتعاون بين القطاعات مع جهات إنفاذ القانون والمنظمات غير الحكومية المعنية بسلامة الأطفال.
يوفر SPYERA أدوات مراقبة مصممة للحماية والرقابة القانونية القائمة على الموافقة. وللآباء، يوفر SPYERA إمكانية رؤية الأجهزة عن بُعد، وتنبيهات فورية للمصطلحات الخطرة ومشاركة الصور، وميزات إبلاغ آمنة تساعد في الحفاظ على الطوابع الزمنية والسياق دون مشاركة محتوى غير قانوني دون داعٍ.
بالنسبة لأصحاب العمل والمدارس، يُساعد نظام SPYERA في جرد الأجهزة، وتطبيق السياسات، وسير عمل الإبلاغ عن الحوادث. تشمل الميزات التهيئة عن بُعد، وسجلات الأنشطة، واكتشاف نقل الملفات، والتنبيهات القابلة للتكوين. تدعم هذه الإمكانيات فرزًا أسرع، وتساعد في الحفاظ على مسارات الأدلة، مع التركيز على الامتثال للقانون المحلي وسياسات موافقة المؤسسة.
تذكير: يجب استخدام أدوات SPYERA بشكل أخلاقي وقانوني. احصل دائمًا على موافقة صريحة عند الاقتضاء، واتّبع قوانين الخصوصية والتوظيف المعمول بها عند مراقبة الأجهزة أو الحسابات.
تُسلّط مقترحات الاختبار الجديدة في المملكة المتحدة الضوء على أهمية وضع ضمانات استباقية ضد صور الاعتداء الجنسي على الأطفال المُولّدة بالذكاء الاصطناعي. ينبغي على العائلات والمدارس وأصحاب العمل تشديد الضوابط، وتوعية المستخدمين، وإعداد خطط استجابة من الآن فصاعدًا. فكّر في SPYERA كجزء من استراتيجية سلامة قانونية متعددة الطبقات: توفر ميزات المراقبة لدينا رؤية واضحة، وتنبيهات مُنظّمة، وأدوات إبلاغ للمساعدة في حماية الأطفال والمؤسسات مع مراعاة الحدود القانونية والأخلاقية. تواصل معنا لتقييم مدى ملاءمة المراقبة القانونية لبرنامج الحماية الخاص بك.
