باحثون أميركيون يحذّرون من توظيف نظم الذكاء الاصطناعي المدنية في المجالات العسكرية

مخاطر استخدام نظم الذكاء الاصطناعي المدنية في المجالات العسكرية

تحذيرات من علماء الذكاء الاصطناعي

يرغب عدد متزايد من شركات الذكاء الاصطناعي في وادي السيليكون في ممارسة الأعمال التجارية مع الجيش، مدعين أن الوقت والجهد اللذين بذلوهما في تدريب الشبكات العصبية الكبيرة على كميات هائلة من البيانات يمكن أن يوفرا للجيش قدرات جديدة.

إلا أن دراسة صدرت من مجموعة من علماء الذكاء الاصطناعي البارزين تزعم أن أدوات الذكاء الاصطناعي ثنائية الاستخدام يمكن أن تزيد من احتمالات أن يصبح المدنيون الأبرياء أهدافاً بسبب البيانات السيئة، كما أن هذه الأدوات يمكن أن يستغلها الخصوم بسهولة.

المخاطر الكامنة في نماذج الأساس التجارية

في الدراسة التي نشرتها مجموعة "إيه آي ناو" AI Now، يشير مؤلفوها إلى الاهتمام المتزايد بنماذج الذكاء الاصطناعي التجارية، التي تسمى أحياناً نماذج الأساس، للأغراض العسكرية، وخصوصاً للاستخبارات والمراقبة ورصد الأهداف والاستطلاع.

ويقول الباحثون إن هذه النماذج تشكّل مخاطر "لا يمكن تقديرها" على المدنيين، خصوصاً عندما يتم تدريبها على كميات كبيرة من البيانات المتاحة للجمهور، والتي غالباً ما تتضمن البيانات الشخصية.

مخاطر البيانات غير الدقيقة وتطبيقاتها في المجال العسكري

تكمن المشكلة في كيفية تدريب هذه النماذج، حيث تُدرب على بيانات غير دقيقة، مما يؤدي إلى نتائج إيجابية كاذبة، والتي يمكن أن تكون قاتلة في السياقات العسكرية.

بعض الجيوش، مثل جيش إسرائيل، يستخدم بالفعل من خلال برامجه "Where's Daddy" و "Lavender" نماذج الأساس التي تستخلص الأنماط لتجميع قوائم الأهداف، مما يساهم في تطبيع هذه الأدوات للاستهداف في الحرب.

المخاطر الأمنية والاستراتيجية

يزعم مؤلفو الدراسة أن اعتماد هذه النماذج من قِبل وزارة الدفاع من شأنه أيضاً أن يُدخل نقاط ضعف في العمليات، حيث يمكن التلاعب بالبيانات المتاحة للجمهور أو التلاعب بها من قبل الخصوم، مما يؤدي إلى هجمات التسميم، والتي تضمن ظهور نماذج خبيثة في مجموعات البيانات على نطاق الويب.

توصيات لتعزيز الأمن القومي

يشير المؤلفون إلى أن توسيع نطاق قوانين الخصوصية الأمريكية لتغطية البيانات الشخصية بشكل أكثر فاعلية قد يكون مفيداً للغاية في الحد من الوصول المعادي إلى نوع البيانات الشخصية التي تُستخدم لتدريب نماذج اللغة الكبيرة.

أهمية تعزيز الوعي بالمخاطر

تُسلط هذه الدراسة الضوء على أهمية تعزيز الوعي بالمخاطر الكامنة في استخدام نماذج الذكاء الاصطناعي التجارية في المجالات العسكرية، وضرورة تطوير إطار أخلاقي وتشريعي أكثر صرامة للحماية من هذه المخاطر.