دور الذكاء الاصطناعي في الأنظمة التنظيمية: موازنة الفرص والمخاطر في مجال الأمن

نُظِّمت ندوة بعنوان "دور الذكاء الاصطناعي في الأمن: موازنة حدود التكنولوجيا والمسؤولية الإنسانية" من قِبَل شركة TRENDS للأبحاث والاستشارات عبر مكتبها الافتراضي في ألمانيا. أُقيمت هذه الفعالية بالتزامن مع معرض فرانكفورت للكتاب السابع والسبعين 2025. شارك فيها خبراء من مجالات الأمن والدفاع والاستخبارات ومكافحة الإرهاب، مُسلِّطين الضوء على التحديات المزدوجة التي يُشكِّلها دمج الذكاء الاصطناعي في أنظمة الأمن.

أشار الدكتور محمد عبد الله العلي، الرئيس التنفيذي لشركة تريندز للأبحاث والاستشارات، إلى أن الذكاء الاصطناعي يُحدث تحولاً في الأمن الوطني والدولي. فهو يُسهم في مكافحة الإرهاب، وضمان الأمن السيبراني، والتنبؤ بالجرائم، ومراقبة الحدود، وتطوير الاستراتيجيات العسكرية. ومع ذلك، حذّر من مخاطر مثل "الذكاء الاصطناعي العكسي"، حيث يُمكن التلاعب بالأنظمة الذكية لخداعها، مما يُهدد أنظمة الطوارئ وأرواح البشر.

أكد يان سان بيير، الرئيس التنفيذي لشركة موزيكون ومستشار مكافحة الإرهاب في برلين، على الدور المحوري للذكاء الاصطناعي في مكافحة الإرهاب. فبينما يوفر قدرات تحليلية متقدمة، فإنه ينطوي أيضًا على مخاطر إساءة استخدامه. فطبيعته المزدوجة تعني أنه قد يعزز الأمن أو يُمكّن المجرمين. لذا، فإن الإشراف البشري المستمر ضروري لإدارة هذه المخاطر بفعالية.

تستغل الجماعات المتطرفة أدوات الذكاء الاصطناعي لأغراض الدعاية والتجنيد والهجمات والعمليات السيبرانية. تُمكّن هذه الأدوات من التأثير السريع على الرأي العام وتنفيذ عمليات رقمية معقدة تتجاوز قدرات المراقبة التقليدية. أوضح بيير أن الإرهابيين يستخدمون الذكاء الاصطناعي لشن هجمات رقمية، مثل برامج الفدية والتصيد الاحتيالي، أثناء تحليل البنية التحتية لشن هجمات ميدانية.

سلط مصطفى العمار، من الاتحاد الديمقراطي المسيحي الألماني، الضوء على دعم الذكاء الاصطناعي للإجراءات الأمنية والقضائية. فهو يُسرّع الإجراءات ويُحلل البيانات بكفاءة، ولكنه ينطوي على مخاطر مثل التزييف العميق والتضليل الإعلامي الذي قد يُزعزع استقرار الرأي العام. وشدد على أهمية بناء أنظمة أمن رقمي حديثة لتبادل المعلومات بشكل آمن على المستويين الوطني والأوروبي.

صرّح الدكتور جاسم محمد من المركز الأوروبي لدراسات مكافحة الإرهاب والاستخبارات (ECCI) بأنّ الذكاء الاصطناعي أساسيٌّ في العمل الاستخباراتي لتحليل البيانات الضخمة بسرعة. ومع ذلك، يتعيّن على البشر اتخاذ القرارات النهائية نظرًا لافتقار الذكاء الاصطناعي إلى الفهم الأخلاقي. ويُشكّل الاعتماد المفرط على الذكاء الاصطناعي مخاطر جسيمة نظرًا لاحتمالية حدوث تحيزات ناتجة عن عدم توازن البيانات.

ضمان الاستخدام المسؤول للذكاء الاصطناعي

حذّر الدكتور محمد من الإفراط في الثقة بنتائج الأنظمة الآلية وإساءة استخدامها، مما يؤدي إلى نشر معلومات مضللة. وتُثار تساؤلات قانونية وأخلاقية حول استخدام الذكاء الاصطناعي، مما يتطلب رقابة صارمة. ودعا إلى وضع قيود واضحة على استخدام الذكاء الاصطناعي، مع وجود هيئات رقابية تُنظّم الوصول إلى التقنيات الحساسة، مع تعزيز التعاون الدولي لحماية القيم الديمقراطية.

تستخدم الأجهزة الأمنية الذكاء الاصطناعي لجمع المعلومات المفتوحة ومكافحة التضليل بفعالية. فهو يُسهم في تحليل البيانات، وتتبّع الأنشطة المالية، ومراقبة المحتوى المتطرف على الإنترنت. ورغم فوائده، يبقى العامل البشري محوريًا في صنع القرار، مع ضرورة التدريب المستمر على الأخلاقيات، والتفكير النقدي، والشفافية، والمساءلة.

شددت الندوة على ضرورة الاستخدام المسؤول للذكاء الاصطناعي في القطاعات الأمنية، مع مواجهة تهديداته المحتملة من خلال الرقابة البشرية المستمرة والاعتبارات الأخلاقية. واتفق المشاركون على وضع أطر قانونية لتنظيم تقنيات الذكاء الاصطناعي، بما يضمن توافقها مع القيم الديمقراطية عالميًا دون المساس بمعايير السلامة أو الخصوصية.

With inputs from WAM