من يضع حدود الذكاء الاصطناعي؟
حكم قضائي أمريكي يعيد خلاف البنتاغون وAnthropic إلى الواجهة؛ القضية لم تعد تتعلق بقدرة الذكاء الاصطناعي، بل بمن يملك حق تحديد ما يجوز له أن يفعله عندما يدخل الحرب والأمن القومي
إعداد وتحليل | إدارة الإعلام الاستراتيجي – وكالة BETH
دخل الذكاء الاصطناعي مرحلة جديدة من الصراع؛ لم يعد الخلاف حول من يملك النموذج الأقوى، بل من يملك سلطة وضع حدوده.
فقد أكدت محكمة استئناف في واشنطن، الجمعة، قرار استبعاد شركة Anthropic من التعامل مع البنتاغون، بعد خلاف بدأ عندما رفضت الشركة السماح باستخدام نموذجها Claude بلا قيود في بعض التطبيقات العسكرية.
وتقول Anthropic إن اعتراضها لم يكن على الاستخدام العسكري عمومًا؛ بل على مجالين محددين: القتل الذاتي بالكامل من دون قرار بشري، والمراقبة الجماعية الداخلية، معتبرة أن التقنية الحالية لا ينبغي أن تُستخدم فيهما بلا ضوابط.
لكن القضية أكبر من نزاع تعاقدي بين شركة ووزارة دفاع.
من يملك القرار؟
هنا يظهر السؤال الأول:
إذا اشترت دولة نظامًا للذكاء الاصطناعي لأغراض عسكرية، فهل تبقى للشركة المنتجة سلطة أخلاقية وتقنية على طريقة استخدامه؟
الدولة تقول، عمليًا، إن القرارات العسكرية من اختصاصها.
والشركة تقول إن بيع التقنية لا يعني التخلي عن مسؤوليتها عن بعض استخداماتها.
وبين الموقفين تبدأ منطقة لم يحسم القانون حدودها بعد.
السلاح الذي يرفض بعض الأوامر
للمرة الأولى تقريبًا، نقترب من عصر تستطيع فيه شركة تقنية أن تقول لأقوى المؤسسات العسكرية:
يمكنكم استخدام نموذجنا هنا، ولكن ليس هناك.
وهذا يغير العلاقة التقليدية بين الدولة والمورد.
فالشركة لم تعد تبيع طائرة أو رادارًا فقط؛ إنها تبيع عقلًا رقميًا يتطور باستمرار، وتستطيع تحديثه أو تقييده أو مراقبة استخدامه.
وهنا يتحول استقلال القرار العسكري نفسه إلى قضية تقنية.
المفارقة الأكبر
المثير أن Anthropic نشرت هذا الشهر تقريرًا قالت فيه إنها رصدت استخدام Claude، بالمخالفة لسياساتها، في أنشطة مرتبطة بتطوير الأسلحة والاستهداف وجمع المعلومات والمشتريات العسكرية لدى جهات في الصين وروسيا واليمن، ثم حظرت الحسابات وعززت أدوات المنع. كما أظهرت اختبارات الشركة أن النماذج المتقدمة أصبحت قادرة في بعض المهام العسكرية والاستخباراتية على أداء أعمال كانت تحتاج سابقًا إلى خبراء متخصصين.
وهنا تظهر المفارقة:
الدولة تريد استخدام الذكاء الاصطناعي بسلطة أوسع، بينما تحاول الشركة تقييد الاستخدام؛ وفي الوقت نفسه يحاول مستخدمون آخرون تجاوز القيود أصلًا.
أي أن وضع الحدود شيء، والقدرة على فرضها شيء آخر.
المعركة المقبلة: السيادة
وهذه ربما الزاوية الأهم.
فالدول التي تعتمد على نماذج تجارية خارجية في الدفاع والأمن ستواجه مستقبلًا سؤالًا لم يكن مطروحًا بهذه الحدة:
هل يمكن أن تكون لديك سيادة عسكرية كاملة إذا كان جزء من قرارك التقني تحكمه شركة خاصة؟
ومن هنا قد يتجه العالم أكثر نحو نماذج سيادية للذكاء الاصطناعي، وبنية محلية للحوسبة والبيانات، واتفاقات تحدد مسبقًا من يملك سلطة التحديث والتعطيل ووضع القيود.
والإنسان أين؟
وسط النقاش القانوني والتقني يبقى السؤال الأشد حساسية:
إذا أصبح النظام قادرًا على اكتشاف الهدف، وتحليله، وترتيب الأولويات، واقتراح القرار خلال ثوانٍ، ففي أي لحظة تحديدًا يجب أن يبقى الإنسان صاحب الكلمة الأخيرة؟
هذه ليست قضية تقنية فقط.
إنها قضية مسؤولية.
لأن الخطأ الذي يرتكبه الإنسان يمكن تحديد صاحبه.
أما عندما يتوزع القرار بين جندي، ونموذج، ومطور، وشركة، ووزارة دفاع؛ يصبح السؤال أصعب:
من يتحمل النتيجة؟
قراءة BETH
الخلاف بين البنتاغون وAnthropic قد يبدو أمريكيًا، لكنه يفتح ملفًا سيواجه العالم كله.
فالمرحلة الأولى من الذكاء الاصطناعي كانت سباقًا على من يبني النموذج الأقوى.
أما المرحلة التي تبدأ الآن، فهي أصعب:
من يقرر متى يستخدم؟
ومن يستطيع أن يقول له: لا؟