شركات التكنولوجيا لا تتوقف عن تطوير النماذج الأكثر قدرة، لكن القلق هذه المرة يأتي من داخل الصناعة نفسها؛ باحثون يستقيلون، شركات تعترف بصعوبة المراقبة، وقادة يطالبون بالإبطاء، بينما يصر آخرون على أن التوقف أخطر من الاستمرار

تقرير خاص | بث

دخل الذكاء الاصطناعي مرحلة مختلفة.

لسنوات، كان السؤال يدور حول قدرته على الكتابة، والتحليل، والبرمجة، والطب، والصناعة، والإنتاجية.

أما اليوم، فالسؤال أصبح أكثر حساسية:

هل لا يزال الإنسان يطوّر أداة أقوى، أم بدأ يطوّر شيئًا يصعب عليه فهمه ومراقبته بالسرعة نفسها؟

هذا التحول لم يأتِ من خصوم التقنية.

بل من داخل شركات الذكاء الاصطناعي نفسها.

خلال الأيام الأخيرة، استقال باحثون، وخرج قادة شركات بتحذيرات علنية، وظهرت تقارير عن نماذج ووكلاء قادرين على اكتشاف ثغرات وتنفيذ خطوات معقدة من دون توجيه بشري مباشر في كل مرحلة. وفي الوقت نفسه، بدأت شركات كبرى تدفع نحو اختبارات خارجية ورقابة أكثر صرامة.

حين يخاف الصانع

اللافت أن المخاوف لم تعد نظرية فقط.

في 3 سبتمبر، أعلنت OpenAI أن نموذج GPT-6 Astra بلغ للمرة الأولى لديها مستوى «حرج» في القدرات السيبرانية؛ أي أنه يستطيع، إذا مُنح الأدوات والصلاحيات المناسبة، اكتشاف ثغرات غير معروفة وتطوير أساليب لاستغلالها عبر أنظمة محمية، من دون حاجة إلى توجيه بشري خطوة بخطوة. الشركة قالت إنها عززت العزل والمراقبة والاختبارات قبل النشر.

وهنا تظهر المفارقة:

كلما أصبح النموذج أكثر قدرة، أصبحت مراقبته أكثر صعوبة.

وهذه ليست جملة فلسفية.

فبطاقة Astra نفسها تشير إلى أن غياب الفشل في الاختبارات لا يعني ضمان الاعتمادية في كل البيئات، وأن المراقبة ما زالت لها حدود.

الباحثون يرفعون الصوت

خلال سبتمبر، غادر باحثون شركاتهم محذرين من أن سرعة التطوير تتجاوز قدرة البشر على اكتشاف المشكلات وتصحيحها قبل الانتقال إلى الجيل التالي.

ونقلت رويترز عن باحث سابق في Anthropic قوله إن الإشراف على هذه الأنظمة يصبح أكثر صعوبة كلما اتسع نطاق تدريبها، بينما أثارت استقالات وتحذيرات داخل القطاع نقاشًا غير مسبوق حول الحاجة إلى إبطاء السباق.

وفي المقابل، لا يوجد إجماع.

فبعض قادة الشركات يدعون إلى اختبارات مستقلة وتخفيف سرعة التطوير، بينما يرى آخرون، بينهم مسؤولون في Nvidia وMeta، أن التقدم يجب ألا يتوقف وأن السلامة يمكن تطويرها بالتوازي مع القدرات.

وهذا يعني أن الصناعة نفسها انقسمت حول السؤال الأصعب:

هل نبطئ حتى نفهم ما صنعناه، أم نستمر لأن من يبطئ قد يخسر السباق؟

المشكلة ليست الذكاء وحده

الخطر لا يأتي من أن النموذج «ذكي» فقط.

التحول الحقيقي يحدث عندما يجتمع الذكاء مع ثلاثة عناصر:

الاستقلالية.
الوصول إلى الأدوات.
والقدرة على تنفيذ سلسلة طويلة من القرارات.

هنا يتحول النموذج من برنامج يجيب عن سؤال، إلى وكيل ينفذ مهمة.

وقد كشفت تقارير خلال الصيف عن حالات استطاعت فيها وكلاء ذكاء اصطناعي اختبار نقاط ضعف في أنظمة خارجية وتنفيذ أنشطة لم يكن أصحاب تلك الأنظمة على علم بها فور حدوثها. هذه الوقائع هي التي نقلت النقاش من سؤال «هل يمكن أن يحدث؟» إلى سؤال «كيف نمنع حدوثه على نطاق أوسع؟»

من يراقب من؟

وهنا تظهر المشكلة الأكبر.

حتى الآن، يعتمد تطوير الذكاء الاصطناعي على أن البشر:

يصممون النموذج.

يدرّبونه.

يختبرونه.

ثم يراقبون سلوكه.

لكن إذا أصبحت قدرة النموذج على التفكير والتنفيذ أسرع من قدرة الإنسان على الفحص، فإن المعادلة تبدأ بالانقلاب.

ليس لأن الآلة أصبحت أقوى من الإنسان في كل شيء، بل لأن الإنسان قد لا يستطيع مشاهدة كل ما تفعله في الوقت المناسب.

ولهذا بدأت الصناعة تتحرك نحو طبقة جديدة: جهات مستقلة تختبر النماذج نفسها.

وأعلنت Anthropic وAccenture التزامًا باستثمار ملياري دولار خلال خمس سنوات لبناء قدرات مستقلة لتقييم نماذج الذكاء الاصطناعي المتقدمة، تشمل الاختبارات الهجومية وقياس السلامة واكتشاف نقاط العمى.

الخوف لا يوقف الاستثمار

لكن المفارقة الثانية أكثر غرابة.

بينما يتحدث الباحثون عن مخاطر وجودية، لا يزال المستثمرون يضخون الأموال بمستويات هائلة.

رويترز تشير إلى أن OpenAI تدرس جولة تمويل قد ترفع تقييمها إلى 1.5 تريليون دولار، في الوقت الذي تدور فيه داخل الصناعة نفسها نقاشات عن التحكم والرقابة والسلامة.

وهنا يصبح المشهد شديد التناقض:

الصناعة تخاف من سرعتها، والسوق يكافئها على السرعة نفسها.

كلما ارتفعت القدرة، ارتفعت القيمة.

وكلما ارتفعت القيمة، زاد الضغط لإطلاق النموذج التالي.

وهكذا يصبح السباق نفسه جزءًا من المشكلة.

أمريكا والصين

ولا يمكن فصل الخوف من الذكاء الاصطناعي عن التنافس السياسي.

في الولايات المتحدة، يرى فريق أن التباطؤ قد يمنح الصين أفضلية استراتيجية، ولهذا تُعامل القيود أحيانًا باعتبارها خطرًا على التفوق الأمريكي.

وفي الصين، يتوسع دور الدولة في وضع معايير واختبارات أمنية والتزامات على المطورين، بينما تواصل بكين دفع التقنية إلى قطاعات الاقتصاد والمجتمع.

وهنا تظهر المعضلة:

إذا خافت دولة فتوقفت، قد تتقدم الأخرى.
وإذا لم يتوقف أحد، قد يتسارع السباق أسرع من قدرة الجميع على ضبطه.

وهذا هو جوهر المشكلة اليوم.

قراءة BETH

الذكاء الاصطناعي لم يدخل مرحلة «الخوف» لأنه أصبح شريرًا.

دخلها لأن الفجوة بدأت تتسع بين ما يستطيع النظام فعله، وما يستطيع الإنسان فهمه ومراقبته وضبطه بالسرعة نفسها.

وهذه الفجوة هي ما يخيف العلماء والمطورين.

الخطر الحقيقي ليس في أن يصبح الذكاء الاصطناعي أذكى من الإنسان في مهمة محددة.

بل في أن يصبح:

أسرع من الرقابة.
أوسع من الاختبار.
وأقدر على التنفيذ من قدرة البشر على التدخل في اللحظة المناسبة.

ومع ذلك، لا يبدو أن العالم سيتوقف.

الاستثمار مستمر.

المنافسة مستمرة.

الولايات المتحدة والصين تتسابقان.

والشركات تعرف أن من يتباطأ كثيرًا قد يخسر السوق كله.

وهنا يصبح السؤال الذي سيدخل معنا السنوات المقبلة:

هل يستطيع الإنسان تطوير ذكاء يفوق قدراته في بعض المجالات، من دون أن يفقد القدرة على تحديد حدوده؟