الذكاء الاصطناعي -كيف تخدع تقنية التزييف العميق التعرف على الوجوه

Admin المساهمات : 334 تاريخ التسجيل : 03/09/2016

يعد استخدام المراقبة بالفيديو لتحديد هوية الأشخاص أمرًا مثيرًا للجدل. ربما سيكون عفا عليها الزمن قريبا. لأن التعرف على الوجوه سهل التلاعب به.

بدأ كل شيء مع اثنين من علماء الكمبيوتر من شركة McAfee لأمن تكنولوجيا المعلومات لخداع الذكاء الاصطناعي في سيارة. لقد خدعوا نظام مساعدة السائق في التفكير في أنه تم إنشاء ممر إضافي عند تقاطع.

في الواقع ، كانت هناك علامة توقف هناك. على طريق تبلغ سرعته القصوى 35 ميلاً في الساعة ، قاموا أيضًا بخداع نظام المساعدة إلى سرعة مسموح بها تبلغ 85 ميلاً.

طرق التلاعب بالذكاء الاصطناعي

من أجل خداع نظام مساعدة السائق باستخدام برنامج التعرف على الأنماط ، أجرى علماء الكمبيوتر فقط تلاعبات بسيطة على إشارات المرور التي تم إعدادها. "لقد جربنا كاميرا ويب لجعل نظام التعرف على الصور يخطئ في تصنيف إشارة المرور" ، حسب تقرير راج ساماني ، كبير العلماء في شركة مكافي.

يمكنك أن ترى كيف تعمل المراقبة بالفيديو هنا:

لذا فقد طوروا أساليب هجومية للتلاعب بالذكاء الاصطناعي لأنظمة التعرف على الصور. النتيجة: بسبب التعرف غير الصحيح على الصور ، تسارعت سيارة اختبارية إلى 85 ميلاً على طريق بسرعة قصوى تبلغ 35 ميلاً.

التعلم العميق

واحدة من هذه المناطق كانت تسمى deepfakes. على سبيل المثال ، يتلاعب برنامج الذكاء الاصطناعي بمقاطع الفيديو مع المشاهير ويسمح لهم بقول أشياء لم ينطقوا بها من قبل.

تتم مزامنة حركات الشفاه مع الكلمات والجمل الأساسية. يتم أيضًا التلاعب بتعبيرات الوجه والإيماءات على وجه التحديد. وفجأة ظهر شريط فيديو يقول فيه الرئيس الأمريكي السابق باراك أوباما أشياء لم يكن أحد يتوقعها منه.

لم يقلها ابدا لقد تم فرضه عليه ، وهو مزيف عميق. بفضل عمل Samani وزملائه ، يمكن الآن تحديد وإثبات مثل هذه التزويرات في الفيديو بشكل أفضل.

الذكاء الاصطناعي -كيف تخدع تقنية التزييف العميق التعرف على الوجوه Deepfakes-102~384x216?cb=1559128090559

الشبكات العصبية للتلاعب

يستخدمون طرق التعلم الآلي لهذا الغرض. الأنظمة تتعلم بشكل مستقل. لهذا الغرض ، طور الباحثون شبكة عصبية عميقة من أربع طبقات تعمل على مبادئ مشابهة لتلك الموجودة في الدماغ البشري.

يحلل وحدات البكسل للصور الفردية في مقطع فيديو ويحسب الاحتمالية التي تم بها معالجة وحدات البكسل الفردية. هذا يجعل من الممكن أيضًا حساب الاحتمالية الإجمالية لما إذا كان الفيديو مزيفًا أم لا.

يريد الباحثون الأمنيون استخدام هذا النهج المنهجي لتطوير أداة تحليل لاستخدامها في الطب الشرعي. ومع ذلك ، فإن هذا العمل هو مجرد بداية.

تم تجهيز نظام التعرف على الوجه ببضع بكسلات فقط
لكنهم توصلوا بالفعل إلى نتيجة: يمكن بسهولة مهاجمة خوارزميات تصنيف صورة أو نمط في صورة باستخدام أساليب التعلم الآلي.

كانت تغييرات قليلة في صورة بطريق كافية ، وحولت الشبكة العصبية البطريق إلى مقلاة. إذا تلاعب المهاجمون الآن بنظام التعرف على الوجه باستخدام صور إدخال متغيرة ، فلن يعد بإمكان نظام التعرف على الوجه التعرف على الأشخاص في فيديو المراقبة.

إما أن يصبح أعمى أو يثبت هوية مزيفة للأشخاص الذين تم تصويرهم. بعد ذلك لم يعد من الممكن استخدامه للمراقبة الشاملة بالفيديو. لأنه مع إجراءات المراقبة هذه من المهم استخدام التعرف على الوجه لاصطياد الأفراد من عدد كبير من المارة.

الصور التي تم التلاعب بها كمشكلة لعمليات البحث

على سبيل المثال ، تتم مقارنة الصور من كاميرا المراقبة بالصور من قاعدة البيانات المطلوبة. إذا تعرف التعرف على الوجه على الشخص المطلوب أن يكون مطلوبًا بهذه الطريقة ، فإنه يطلق ناقوس الخطر ويتم إرسال دورية شرطة.

ومع ذلك ، إذا تم خداع التعرف على الوجوه عمدًا عن طريق التلاعب بالصور ، فإن احتمال عدم إمكانية حساب ما إذا كان الوجه الذي تم تصويره بواسطة الكاميرا مع تخزين الوجه في قاعدة البيانات المطلوبة بشكل صحيح.

السباق بين الأمن السيبراني والجريمة الإلكترونية

إما أن تكون هناك إنذارات خاطئة أو يصبح التعرف على الوجوه أعمى تمامًا. هناك بالفعل طرق للتعلم الآلي "صلبة" تمامًا ضد الهجمات ذات المدخلات المتلاعب بها. ولكن يجب نقل طرق التقسية هذه إلى الأنواع المعنية من تطبيق التعرف على الأنماط وتكييفها معها.

يقول راج سماني:

اقتباس :: "نحن نتعامل مع سباق بين الأمن السيبراني والجرائم الإلكترونية". لم يتقرر بعد من سيخسر في حالة التعرف على الوجوه.