- INCPAA | الهيئة الوطنية لمراقبة الإنتاج السمعي البصري والفني

الفصل الثالث

جغرافيا المخاطر الرقمية الكبرى

عندما يصبح الذكاء الاصطناعي سلاحاً

3.1
سلاح “التزييف العميق” (Deepfake): اغتيال الحقيقة

انتقلنا من مرحلة “الشك في النص” إلى مرحلة “تزييف الدليل الحسي”. برمجيات اليوم قادرة على إنتاج مقاطع فيديو وصوت يصعب تمييزها عن الواقع، مما يضرب مفهوم “التوثيق” في الصميم.

🚨 ظاهرة “الاستنساخ الصوتي” (Voice Cloning) على يوتوب وفيسبوك:

استغلال بصمات صوتية لمسؤولين لترويج قرارات وهمية.
فبركة تصريحات لعلماء دين أو فنانين لخدمة أجندات “البوز” (Buzz).
الترويج لعمليات احتيال مالي بصوت شخصيات موثوقة.

3.2
الحرب المعرفية: التلاعب بالرأي العام

الذكاء الاصطناعي قادر على إدارة “جيوش إلكترونية” تخلق “إجماعاً مزيفاً” (Astroturfing)، وتوجيه النقاشات الوطنية عبر آلاف الحسابات الوهمية التي تتفاعل بذكاء لتصنيع “تريندات” معادية.

🛑

الجرائم الجنسية الرقمية

استهداف النساء عبر تطبيقات “التعرية الرقمية” (Nudify) لتركيب وجوههن على أجساد عارية بغرض الابتزاز والتشهير. هذه ليست مجرد “تحرش” بل اغتيال رمزي.

🛡️

الأمن القومي والوحدة الترابية

رصد محتويات (PsyOps) تستهدف السيادة الوطنية، عبر فبركة فيديوهات لاضطرابات أمنية وهمية، أو تزييف الحقائق حول قضية الصحراء المغربية.

⚠️ الخطر الأكبر: “العدمية المعلوماتية”

إذا لم تُنظّم هذه التقنيات، سيصبح المواطن عاجزاً عن التمييز بين الحقيقة والخيال.

النتيجة: فقدان الثقة الكامل في الإعلام والمؤسسات الرسمية.

الفصل الثالث: جغرافيا المخاطر الرقمية – من “التزييف العميق” إلى “الحرب المعرفية”

3.1. سلاح “التزييف العميق” (Deepfake): اغتيال الحقيقة

يمثل التزييف العميق أخطر تمظهرات الذكاء الاصطناعي التوليدي، حيث انتقلنا من مرحلة “الشك في النص” إلى مرحلة “تزييف الدليل الحسي”. يمكن اليوم، ببرمجيات مفتوحة المصدر، إنتاج مقاطع فيديو وصوت يصعب تمييزها عن الواقع. رصدت الهيئة تنامياً لظاهرة “الاستنساخ الصوتي” (Voice Cloning) على منصات (YouTube و Facebook)، حيث يتم استغلال بصمات صوتية لشخصيات عامة ومسؤولين لترويج تصريحات مفبركة، أو للاحتيال المالي، مما يهدد بانهيار منظومة “الثقة الرقمية”.

3.2. التلاعب بالرأي العام: “الحرب المعرفية” (Cognitive Warfare)

لم يعد التهديد يقتصر على “الجيوش الإلكترونية” التقليدية (الذباب الإلكتروني)، بل انتقل إلى “التضليل المؤتمت”. الذكاء الاصطناعي قادر اليوم على إدارة آلاف الحسابات الوهمية التي تتفاعل بذكاء (وليس مجرد نسخ/لصق) لخلق “إجماع مزيف” (Astroturfing). يتم توظيف هذه التقنيات في:

صناعة “تريندات” وهمية لشيطنة المغرب أو استهداف مؤسساته.
نشر “الشائعات الذكية” التي تدمج وقائع حقيقية بأخرى مفبركة لتضليل المواطن.

3.3. العنف الرقمي المبني على النوع (Digital Gender-Based Violence)

يشكل الذكاء الاصطناعي تهديداً وجودياً لسلامة النساء في الفضاء الرقمي. يتم استخدام تطبيقات “التعرية الرقمية” (Nudify Apps) لقرصنة صور نساء مغربيات من حساباتهن العامة وتركيبها على أجساد عارية بغرض الابتزاز الجنسي (Sextortion) والتشهير. هذه الممارسات ليست مجرد “تحرش”، بل هي جرائم كاملة الأركان تهدف للاغتيال الرمزي للمرأة وتدمير الأسر.

3.4. الأمن القومي والوحدة الترابية

في سياق إقليمي متوتر، تم رصد محتويات مولدة بالذكاء الاصطناعي تستهدف السيادة الوطنية، من خلال:

فبركة فيديوهات لـ “اضطرابات أمنية” وهمية في الأقاليم الجنوبية.
توليد تصريحات دبلوماسية كاذبة لخلق أزمات مع دول الجوار. هذا النوع من الهجمات يندرج ضمن “العمليات النفسية” (PsyOps) التي تهدف لضرب الروح المعنوية للجبهة الداخلية.

3.5. خطر “العدمية المعلوماتية” (Information Nihilism)

الخطر الاستراتيجي الأكبر ليس هو “تصديق الكذب”، بل هو “عدم تصديق الحقيقة”. إذا غرق الفضاء الرقمي بالمحتوى المزيف، سيصل المواطن إلى حالة من الشك المطلق في كل ما يرى ويسمع، مما يضرب مصداقية الإعلام الرسمي والمؤسسات، ويخلق بيئة خصبة للفوضى.