تتزايد قدرة تقنيات التزييف العميق المدعومة بالذكاء الاصطناعي على إنتاج مقاطع فيديو وصوت مقنعة لأشخاص حقيقيين. هذه القدرة قد تضر بالسمعة، وتضلل المشاهدين، وتزعزع الثقة في المدارس والمنازل والشركات.
انتشر مُولّد الفيديو "سورا" من شركة OpenAI على نطاق واسع لإنتاجه مقاطع فيديو فائقة الواقعية. وأقرّت الشركة بأن "سورا" أنتج موادًا مسيئة تتعلق بزعيم الحقوق المدنية الراحل مارتن لوثر كينغ جونيور. أوبن إيه آي أعلنت الشركة أنها ستوقف نشر صور الدكتور كينغ مؤقتًا مع تعزيز حماية الشخصيات التاريخية. ومع ذلك، استمر المستخدمون في إنشاء ومشاركة مقاطع فيديو مزيفة لشخصيات عامة وتاريخية أخرى. وطالبت عائلات الشخصيات العامة المتوفية المنصات والمستخدمين علنًا بالتوقف عن مشاركة مقاطع فيديو مُعدّلة بالذكاء الاصطناعي لأحبائهم. وأشارت الشركة إلى أنها ستقبل طلبات من الممثلين المُعتمدين أو مُلّاك التركات لمنع استخدام الصور المُشابهة، وتُؤكد أنها تُوفر مستويات متعددة من الحماية وتُجري حوارًا مُستمرًا مع الجهات المعنية.
شهد الذكاء الاصطناعي التوليدي تطورًا سريعًا. فبات بإمكان الأدوات الجديدة الموجهة للمستهلكين توليف مقاطع الفيديو والصوت والصور. وهذا يُزيل العوائق التقنية التي كانت في السابق تقتصر على المتخصصين في التزييف العميق. ونتيجةً لذلك، أصبح بإمكان أي شخص لديه هاتف ذكي وتطبيق إنتاج مقاطع فيديو مقنعة تُظهر أشخاصًا معروفين.
من المتأثر؟ الأسر والمدارس وأصحاب العمل والمؤسسات الصغيرة جميعها معرضة للخطر. قد يتعرض الآباء والمراهقون للتنمر، أو تشويه السمعة، أو انتهاك الخصوصية. قد تشاهد المدارس مقاطع فيديو مُتلاعب بها تُعطل التعلم أو تُسيء إلى سمعة الطلاب. قد يواجه أصحاب العمل أزمات في هويتهم التجارية إذا تم تصوير القيادة أو الموظفين في مشاهد مُزيفة، وتتعرض الشركات الصغيرة والمتوسطة لخطر الاحتيال أو الابتزاز أو التضليل في التسويق والاتصالات.
تشمل مسارات الهجوم الشائعة منشوراتٍ مُتلاعبًا بها على مواقع التواصل الاجتماعي، وتسجيلاتٍ مُزيّفة من الفصول الدراسية أو أماكن العمل، وانتحال شخصياتٍ مُولّدة بالذكاء الاصطناعي تُستخدم في عمليات الاحتيال. قد يدمج المُخربون التزييف العميق مع الهندسة الاجتماعية. على سبيل المثال، قد يتلقى موظفٌ مقطعًا صوتيًا يبدو أنه من مديره يطلب بياناتٍ حساسة أو تحويلات. في حين أن الحالات الأكثر تطرفًا تتصدر عناوين الصحف، فإن الأضرار الأكثر شيوعًا تكون عاطفية أو مُتعلقة بالسمعة: خطاباتٌ مُعدّلة، أو تأييداتٌ زائفة، أو تفاعلاتٌ مُفبركة تُنشر على نطاقٍ واسع عبر الإنترنت.
تشمل الأخطاء الشائعة في الإعدادات ونقاط الضعف تراخي إدارة المحتوى، وسياسات غير واضحة بشأن الوسائط المُصنّعة، وضعف الوعي الإعلامي لدى المستخدمين. قد تعتمد المنصات على عمليات الإزالة التفاعلية بدلاً من الكشف الاستباقي. لا يمتلك جميع الشخصيات العامة ممثلين عن ممتلكاتهم يمكنهم طلب الحماية، مما يُؤدي إلى تفاوت في الضمانات. وأخيرًا، تفتقر العديد من المؤسسات إلى خطط استجابة لحوادث الوسائط المُصنّعة؛ إذ تتفاعل ببطء عند ظهور محتوى مُتلاعب به.
بالنسبة للعائلات، قد تُقوّض مقاطع الفيديو المُزيّفة ثقة الآخرين وتُسبب لهم أذىً نفسيًا حقيقيًا. الأطفال والمراهقون أكثر عُرضةً لمقاطع الفيديو المُزيّفة التي يُنتجها أقرانهم والتشهير بهم عبر الإنترنت. قد يؤثر مقطع فيديو مُعدّل على علاقات الشاب وتحصيله الدراسي. على الآباء دمج الإشراف الرقمي مع التعليم لتعزيز المرونة ومنع الضرر.
غالبًا ما تعمل الشركات الصغيرة دون فرق اتصال كبيرة أو ميزانيات قانونية. مقطع فيديو مُتلاعب به يُظهر صاحب عمل أو موظفًا قد يُلحق ضررًا بسمعتها أو يُمهد الطريق للاحتيال. على سبيل المثال، قد يُضلل مقطع فيديو مُزيف لصاحب عمل يُروج لمنتج أو يُوجه الموظفين لمتابعة مدفوعات غير مشروعة العملاء والشركاء. لذلك، يجب على الشركات الصغيرة والمتوسطة إعطاء الأولوية للكشف والمراقبة ووضع خطط استجابة واضحة.
نظافة الأجهزة والتطبيقات تقلل من التعرض. حافظ على تحديث البرامج باستمرار. استخدم متاجر تطبيقات موثوقة، واقتصر عمليات التثبيت على مصادر موثوقة. بالنسبة للحسابات، فعّل المصادقة متعددة العوامل وراجع أذونات التطبيقات التي يمكنها الوصول إلى الكاميرا أو الميكروفون أو الوسائط المخزنة. يزيد كشف البيانات من المخاطر: فالصور والخطابات والتسجيلات الصوتية المتاحة للعامة تُسهّل تزييف المعلومات المزيفة. فكّر في الحد من مشاركة التسجيلات الصوتية والفيديوهات الأرشيفية لأفراد العائلة ذوي الحساسية العالية عندما تكون الخصوصية مصدر قلق.
تذكيرات قانونية وموافقة: الموافقة والقوانين المحلية مهمة. في حال التأكد من أن التطبيق يسمح بإحياء الموتى اصطناعيًا، يجب على مالكي التركات والممثلين المعتمدين تطبيق الضوابط المتاحة. بالنسبة للأفراد الأحياء، تُقيّد العديد من الولايات القضائية الاستخدام التجاري للصور دون إذن. يُرجى اتباع اللوائح المحلية دائمًا وطلب المشورة القانونية عند الضرورة. يجب أن تتوافق إجراءات المراقبة والحماية أيضًا مع قوانين الخصوصية، وأن تشترط الحصول على الموافقة عند الضرورة.
يُظهر الانتشار السريع لأدوات التزييف العميق سهلة الاستخدام تحولاً: لم يعد الإنتاج هو العائق. فالتبني السريع من قِبَل المستهلكين يتجاوز ضمانات المنصات. وقد أدى ذلك إلى تسريع النقاشات حول الموافقة، وحقوق التركات، ومن يستحق الحماية من الإحياء الاصطناعي.
يشير الخبراء إلى ضرورة تضافر التدابير السياساتية والتقنية والاجتماعية. فالمرشحات التقنية قد تُبطئ إساءة الاستخدام، لكن التثقيف والوضوح القانوني يُوفران حمايةً دائمة. وتُثير المنصات التي تَعِدُ بحماية الشخصيات البارزة تساؤلاتٍ حول المساواة في معاملة الأفراد الأقل شهرة. وينبغي على المؤسسات التخطيط للحوادث الحتمية بدلاً من افتراض أنها لن تُستهدف.
يوفر SPYERA ميزات مراقبة وتنبيه لمساعدة العائلات والمؤسسات على البقاء على اطلاع دائم بالأنشطة المشبوهة على الأجهزة الخاضعة للإشراف. تساعد أدواتنا في تحديد ملفات الوسائط غير المألوفة، وتتبّع تثبيتات التطبيقات، وإصدار تنبيهات للتسجيلات الجديدة أو عمليات نقل الملفات الكبيرة. توفر ميزات الإبلاغ في SPYERA سجلات مؤرخة تساعد في حفظ الأدلة لعمليات الإزالة أو التحقيقات.
نحن نؤكد على الاستخدام القانوني والمبني على الموافقة. SPYERA يجب استخدامه بما يتوافق مع القانون المحلي وسياسة المؤسسة. بالنسبة للآباء، يعني ذلك إبلاغ القاصرين عند الاقتضاء واتباع قواعد الموافقة المحلية. بالنسبة لأصحاب العمل، يعني ذلك سياسات واضحة وإفصاحات شفافة عند مراقبة الأجهزة المملوكة للشركة.
أصبحت عمليات التزييف العميق باستخدام الذكاء الاصطناعي واقعًا متزايدًا. يتطلب الاستعداد الجيد الجمع بين التثقيف، ودقة إجراءات السلامة على الأجهزة، وخطط استجابة واضحة. يوفر SPYERA أدوات تساعد في اكتشاف الوسائط المشبوهة، والحفاظ على الرقابة على الأجهزة الخاضعة للإشراف، وحفظ الأدلة - مع مراعاة الأخلاقيات والقانون. تعرّف على كيفية مساعدة SPYERA لعائلتك أو مؤسستك على تحسين السلامة الرقمية والاستعداد للحوادث.
