٤ خطوات لاستخدام الذكاء الاصطناعي بصورة آمنة

يمكن أن يؤدي اعتماد تطبيقات الذكاء الاصطناعي غير المرخصة إلى مشكلات كبيرة تتعلق بالأمن السيبراني، وفقاً لأناند أوسوال، نائب الرئيس الأول والمدير العام لأمن الشبكات في شركة بالو ألتو نتوركس. تشمل هذه المخاطر تسرب البيانات وتهديدات البرامج الضارة لأن المؤسسات غالباً ما تفتقر إلى الرؤية حول من يستخدم هذه التطبيقات وما هي المعلومات الحساسة التي يصلون إليها. يمكن أن يؤدي هذا النقص في الرقابة إلى انتهاكات للامتثال التنظيمي، والكشف عن البيانات الحساسة، وسرقة الملكية الفكرية، وتعطيل العمليات، والخسائر المالية.

فهم تدفق البيانات

أحد التحديات الرئيسية التي تواجه فرق تكنولوجيا المعلومات هو صعوبة الاستجابة السريعة لحوادث الأمن السيبراني التي تنطوي على تطبيقات غير مرخصة. يجب على المؤسسات مراقبة استخدام أدوات الذكاء الاصطناعي التوليدية التابعة لجهات خارجية وفهم المخاطر المحددة المرتبطة بكل واحدة منها. ومن خلال معرفة جميع جوانب تدفق البيانات داخل المؤسسة وخارجها، يمكن لفرق تكنولوجيا المعلومات اكتشاف الخروقات الأمنية ومعالجتها بسرعة.

على سبيل المثال، قد تستخدم فرق التسويق تطبيقات غير مرخصة تعتمد على الذكاء الاصطناعي لإنشاء صور ومقاطع فيديو. إذا تم تحميل تفاصيل المنتج الحساسة على هذه التطبيقات وتم تسريبها لاحقاً، فقد يكون الأمر كارثياً. وبالمثل، فإن مديري المشاريع الذين يستخدمون تطبيقات الذكاء الاصطناعي لتدوين الملاحظات لنصوص الاجتماعات يخاطرون بكشف المناقشات المالية السرية قبل الإعلانات الرسمية.

تنفيذ تدابير الرقابة

تحتاج فرق تكنولوجيا المعلومات إلى القدرة على اتخاذ قرارات مستنيرة بشأن حظر أو تقييد الوصول إلى تطبيقات الذكاء الاصطناعي التابعة لجهات خارجية. ويمكن القيام بذلك على مستوى التطبيق أو من خلال الضوابط القائمة على المخاطر. على سبيل المثال، قد تمنع إحدى المؤسسات جميع الموظفين من الوصول إلى أدوات تحسين الترميز ولكنها تسمح للمطورين بالوصول فقط بعد قيام فرق الأمن السيبراني بفحص هذه الأدوات للتأكد من سلامتها.

يواجه المطورون الذين يستخدمون الروبوتات المساعدة الافتراضية وخدمات تحسين الترميز أيضاً مخاطر إذا كانت التطبيقات غير الآمنة توفر نصوصاً ضارة. تسلط هذه الأمثلة الضوء على كيف أن الاستخدام حسن النية للذكاء الاصطناعي التوليدي يمكن أن يؤدي عن غير قصد إلى زيادة المخاطر التنظيمية.

ضمان الأمن السيبراني

لحماية البيانات التنظيمية من سوء الاستخدام والسرقة، يجب على فرق تكنولوجيا المعلومات التأكد من عدم تسرب المعلومات الحساسة من خلال هذه التطبيقات. وهذا أمر بالغ الأهمية بالنسبة للمؤسسات الخاضعة لقوانين التنظيم أو سيادة البيانات. يمكن أن تؤدي مراقبة البيانات المرسلة إلى تطبيقات الذكاء الاصطناعي التوليدية وتنفيذ الضوابط الفنية إلى منع كشف المعلومات الحساسة مثل معلومات التعريف الشخصية أو الملكية الفكرية.

وشدد أناند أوسوال على أنه في حين أن أدوات الذكاء الاصطناعي هذه يمكن أن تعزز الإنتاجية، فإن اعتمادها غير الآمن يشكل مخاطر جسيمة. وقد يؤدي حظر استخدامها بالكامل إلى الحد من المزايا التنافسية، لذا يتعين على الشركات التركيز على تمكين الاستخدام الآمن بدلاً من ذلك.

منع التهديدات

إن التطور السريع وإدخال العديد من أدوات الذكاء الاصطناعي التوليدية في السوق يعني أنها قد تحتوي على نقاط ضعف أو أنها مبنية على نماذج معيبة. تساعد مراقبة تدفق البيانات من هذه التطبيقات والتحكم فيها في تحديد أي نشاط ضار أو مشبوه. تعتبر هذه الممارسة ضرورية للتخفيف من التهديدات المحتملة المخفية داخل هذه الأدوات.

في الختام، يجب على المؤسسات تحقيق التوازن بين فوائد الذكاء الاصطناعي التوليدي والمخاطر المرتبطة به من خلال تنفيذ تدابير مراقبة وتحكم قوية. سيساعد ضمان الاستخدام الآمن في الحفاظ على الإنتاجية دون المساس بالأمن السيبراني.