المركز العراقي للإعلام الرقمي يحذر من انتشار المحتوى المزيف

حذّر المركز العراقي للإعلام الرقمي (DMC) من انتشار المحتوى المزيف في العراق من خلال تقنيات الذكاء الاصطناعي.

وأشار المركز إلى أنه "لا ينبغي الإفراط في الثقة بأدوات الكشف عن التزييف العميق، لأن هذه الأدوات لاتزال تواجه تحديات كبيرة قد تقلل من فعاليتها في البيئات الرقمية سريعة التطور".

وذكر المركز في بيان له أن "الأبحاث والتجارب العملية الموثوقة أشارت إلى أن هذه الأدوات يمكن خداعها من خلال ما يسمى الهجمات العدائية، وهي تقنيات تعتمد على تعديلات دقيقة لا يمكن للعين البشرية إدراكها، ولكنها كافية للتلاعب بنتائج الفحوصات، حيث تمكن باحثون من جامعات مرموقة من تحقيق معدلات خداع تزيد عن 99% في بعض الحالات".

المركز، أعرب عن شكره لجهود هيئة الإعلام والاتصالات العراقية "في السيطرة على الفضاء الرقمي، خاصة في مواجهة الحسابات الوهمية والمحتوى المضلل".

وقال المركز العراقي للإعلام الرقمي إن "المسألة لا تقتصر على الجانب الفني فحسب، بل تتعلق بوضع داخلي مهم، حيث شهد العراق انتشاراً كبيراً للمحتوى المزيف على المنصات، بهدف التأثير على الرأي العام وتشويه الحقائق".

وأشار إلى أنه "تم رصد لقطات فيديو وصور مزيفة، تم تداولها بهدف التضليل والتأثير على الأحداث السياسية والاجتماعية في العراق".

وأوضح أن "هذا التهديد هو جزء من سباق تقني مستمر بين منتجي المحتوى المزيف ومن يسعون للكشف عنه. فكلما طورت أدوات الكشف تقنيات جديدة للكشف عن التلاعب، يعمل مطورو أنظمة التزييف على تحسين نماذجهم لتجاوز تلك التقنيات، في شكل سباق رقمي لا هوادة فيه".

بحسب المركز، "أحد أبرز العوامل التي تحد من فعالية أدوات الكشف هو نقص بيانات التدريب، حيث غالباً ما يتم تدريب هذه الأدوات على بيانات متجانسة، مما يؤدي إلى تدهور أدائها عندما تواجه حالات لم يتم تدريبها عليها. وقد أظهرت الأبحاث أن دقة العديد من أدوات الكشف لا تتجاوز 69% في السيناريوهات الحقيقية".

ولفت الى أن "بعض أساليب الخداع لا تتطلب تقنيات معقدة، بل مجرد تعديلات بسيطة مثل إضافة ضوضاء أو إعادة تسجيل صوت مزيف عبر مكبر صوت وإعادة تسجيله بميكروفون، أو حذف البيانات الوصفية من الملفات، وهي حيل بسيطة ولكنها فعالة في تشويه أدوات التحليل الصوتي أو البصري".

وأضاف أنه "لا يمكن مواجهة التزييف العميق بالاعتماد على التكنولوجيا وحدها، بل يتطلب ذلك تعزيز التفكير النقدي، والتعليم الإعلامي، والتحقق الدقيق من المصادر، حتى لا يقع الناس ضحية لهذا النوع الخطير من التضليل".