مِمَّ يخاف العقل؟

للمرة الأولى، يتمنى مؤسس مايكروسوفت أن تتقدم تقنية جديدة ببطء؛ فالذكاء الاصطناعي يهدد الوظائف والعقول والأمن.. وقصة نوبل تعيد السؤال: لماذا نصنع القوة قبل أن نضع لها ضميرًا؟

إعداد وتحليل | إدارة الإعلام الاستراتيجي – وكالة BETH
إشراف: عبدالله العميره

لم يكن ألفريد نوبل يريد أن يقتل العالم.

كان يبحث عن وسيلة أكثر أمانًا لاستخدام مادة شديدة الانفجار في شق الطرق، وحفر الأنفاق، وبناء الجسور والمناجم. فاخترع الديناميت، ومنحه للبشر أداة قادرة على تحريك الجبال.

لكن الأداة التي فتحت الجبال فتحت أجساد البشر أيضًا.

انتقلت من مواقع البناء إلى ساحات الحرب، ومن يد المهندس إلى يد الجندي، وصار اسم مخترعها مرتبطًا بقوة لم يعد يملك تحديد الجهة التي تستخدمها أو الغرض الذي تُستخدم من أجله.

وبعد أكثر من قرن، يعود السؤال في صورة مختلفة.

بيل غيتس، أحد أكثر المؤمنين بقدرة التقنية على حل مشكلات البشر، يقول اليوم إنه يشعر للمرة الأولى بالخوف من سرعة تطور تكنولوجيا جديدة، ويتمنى لو أنها تتقدم ببطء أكبر.

التكنولوجيا هذه المرة لا تحمل أصابع من الديناميت.

إنها تحمل عقلًا.

لا توجد خطة

نشر غيتس مقالًا مطولًا يحذر فيه من أن الذكاء الاصطناعي قد يصبح أعظم أداة للمساواة عرفها البشر، أو يتحول إلى واحد من أخطر مصادر الظلم، مؤكدًا أن العالم لا يملك حتى الآن خطة توازي حجم التحول المقبل.

ويرى أن الخطر لا يقتصر على احتمال ظهور آلة خارقة تتمرد على صانعها، بل يبدأ من آثار نراها بالفعل:

وظائف تختفي، وشباب يدخلون سوقًا تتراجع فيه وظائف البدايات، ومجرمون يملكون أدوات أكثر قدرة على الاحتيال والاختراق، وأطفال قد تتراجع لديهم مهارات التفكير بسبب الاعتماد المفرط على الآلة.

ويضيف إلى ذلك أخطار المراقبة الجماعية، والأسلحة المستقلة، والهجمات السيبرانية، والتضليل، والتزييف العميق، وإمكان استخدام الذكاء الاصطناعي للمساعدة في تصميم أمراض أو أسلحة بيولوجية.

ولا ينكر غيتس، في المقابل، قدرة التقنية نفسها على اكتشاف الأدوية، وتطوير اللقاحات، وتحسين التعليم، وزيادة الإنتاج الزراعي، وإيصال الخدمات الصحية إلى الفقراء.

إنه لا يقول إن الذكاء الاصطناعي شر.

بل يقول إن قوته أصبحت أكبر من استعداد البشر لإدارته. مقال بيل غيتس

وظائف للبشر

يقترح غيتس إنشاء ما يشبه «المحميات البشرية» داخل سوق العمل؛ وظائف يُمنع تسليمها كاملة إلى الآلة، لأنها تحتاج إلى التعاطف والمسؤولية والحضور الإنساني.

فإبلاغ مريض بتشخيص خطير ليس نقلًا للمعلومة فقط، ورعاية طفل ليست مجموعة أوامر، والفصل في مصير متهم لا ينبغي أن يتحول إلى نتيجة تصدرها خوارزمية لا تتحمل مسؤولية ما قررته.

كما يدعو إلى فرض ضرائب على الروبوتات أو وحدات الحوسبة التي تستخدمها أنظمة الذكاء الاصطناعي، حتى لا يبقى النظام الضريبي مشجعًا للشركات على التخلص من الإنسان واستبداله بالآلة.

وقد تبدو الفكرة غريبة: أن نفرض ضريبة على الكفاءة.

لكن السؤال المقابل أكثر أهمية: إذا أنتجت الآلات الثروة، وفقد ملايين البشر وظائفهم ودخولهم، فمن سيشتري ما تنتجه تلك الآلات؟ ومن سيمول التعليم والصحة والتقاعد؟ ومن يتحمل كلفة مجتمع أصبح أكثر إنتاجًا وأقل قدرة على توزيع إنتاجه؟

لماذا يندمون؟

لا يبدأ المخترعون عادة بنية الإضرار بالبشر.

العالِم يرى المشكلة التي يستطيع حلها، والمهندس يرى الحدود التي يستطيع تجاوزها، والمستثمر يرى السوق التي يمكنه فتحها. لكن كل واحد منهم ينظر إلى جزء من الصورة.

وحين تتكامل الأجزاء، يكون المنتج قد خرج من المختبر، ودخل السوق، وتحول إلى صناعة، وأصبح إيقافه أصعب من تطويره.

وهنا لا يكون ما يحدث في نهاية العمر ندمًا دائمًا، بل اكتمالًا متأخرًا للرؤية.

في البداية يرى المخترع ما تستطيع أداته أن تفعله للبشر.

وبعد سنوات يرى ما يستطيع البشر أن يفعلوه بأداته.

وهذا هو الفارق بين لحظة الاختراع ولحظة الخوف منه.

فالمشكلة ليست أن العقل يكتشف متأخرًا أن اختراعه شرير، بل أنه يكتشف أن الاختراع لا يحتفظ بأخلاق صاحبه بعد مغادرته المختبر.

السوق أسرع

يندفع تطوير الذكاء الاصطناعي اليوم لأن التوقف مكلف.

إذا أبطأت شركة، سبقتها أخرى. وإذا فرضت دولة قيودًا، خافت أن تتقدم عليها دولة منافسة. وإذا قرر العلماء الانتظار حتى تتضح الأخطار، وجدوا المستثمرين يضخون الأموال في مختبر آخر.

وهكذا ينشأ سباق لا يثق فيه أحد بالآخر بما يكفي ليضغط على المكابح.

كل شركة تقول: إذا لم أفعلها، سيفعلها منافسي.

وكل دولة تقول: إذا لم نطورها، طورها خصومنا.

وفي النهاية يفعلها الجميع، مع أن كثيرين منهم يدركون الخطر.

وهذه هي الحلقة التي يقلق منها غيتس: ليس لأن البشر يريدون تدمير أنفسهم، بل لأن كل طرف يتخذ قرارًا يبدو عقلانيًا لمصلحته، فتنتج عن القرارات مجتمعة نتيجة غير عقلانية للجميع.

بين نوبل وغيتس

هناك فارق أساسي بين الرجلين.

نوبل اخترع أداة مادية محددة؛ أما غيتس فلم يخترع الذكاء الاصطناعي، لكنه أسهم في بناء العصر الرقمي الذي مهد له، ودافع طويلًا عن قدرته على تحسين حياة البشر.

والديناميت لا يقرر أين ينفجر، بينما الذكاء الاصطناعي يمكن أن يحلل ويختار ويوصي وينفذ، ويتعلم من كميات هائلة من البيانات، ويتطور بسرعة لا تستطيع القوانين مجاراتها.

لكن التشابه بين القصتين يكمن في شيء واحد:

يكتشف الإنسان الأداة قبل أن يكتشف نظام حمايته منها.

نبني السفينة، ثم نكتب قواعد الملاحة بعد غرقها.

نصنع السيارة، ثم نفرض حزام الأمان بعد امتلاء الطرق بالضحايا.

نطلق الشبكات الاجتماعية، ثم نسأل بعد سنوات عما فعلته بالأطفال والعقول والمجتمعات.

واليوم نطلق الذكاء الاصطناعي في المدارس والمستشفيات والمصانع والجيوش، بينما لا نزال نناقش الجهة التي تتحمل المسؤولية إذا أخطأ.

ليس المطلوب إيقاف العقل

إبطاء الذكاء الاصطناعي لا يعني إغلاق المختبرات، كما أن الخوف من حوادث السيارات لم يدفع البشر إلى العودة للخيول.

المطلوب هو الفصل بين ما يستطيع العلم فعله، وما ينبغي السماح له بفعله.

يمكن للذكاء الاصطناعي أن يساعد الطبيب، لكن القرار الأخير المتعلق بحياة المريض يجب أن يبقى بيد إنسان مسؤول.

ويمكنه أن يدعم القاضي بالمعلومات، لكن لا ينبغي أن يحكم على المتهم.

ويمكنه حماية الحدود، لكن لا يُمنح وحده حق قتل من يعبرها.

ويمكنه تعليم الطفل، لكن يجب ألا يتحول إلى بديل عن المعلم والأسرة والتفكير المستقل.

ويمكنه رفع إنتاج الشركة، لكن لا يجوز أن تتحول مكاسب الإنتاج كلها إلى مالكي الآلة، بينما يُترك العامل وحده يدفع كلفة الاستغناء عنه.

كيف نستفيد؟

لا يحتاج البشر إلى الاختيار بين التقدم والهلاك.

يمكنهم الاستفادة من الذكاء الاصطناعي إذا وضعوا له قواعد تسبق استخدامه في المجالات الأعلى خطرًا:

• إبقاء القرار البشري إلزاميًا في الطب والقضاء والحرب وكل ما يتعلق بالحياة والحرية.
• حظر استخدام الذكاء الاصطناعي في تصميم الأسلحة البيولوجية، والقتل المستقل، والمراقبة الجماعية غير المقيدة.
• إخضاع الأنظمة القوية لاختبارات مستقلة قبل إطلاقها، كما تُختبر الأدوية والطائرات.
• تحديد المسؤول قانونيًا عن أضرارها؛ فلا تختبئ الشركات خلف عبارة «الخوارزمية قررت».
• حماية الأطفال من الاعتماد الذي يضعف التفكير والتواصل والنمو النفسي.
• إعادة توزيع جزء من مكاسب الأتمتة لتمويل التعليم والتأهيل وحماية من يفقدون وظائفهم.
• بناء اتفاق دولي بين القوى الكبرى؛ لأن القيود المحلية وحدها لا تكفي أمام تقنية تعبر الحدود في لحظة.

لكن التنظيم يجب ألا يتحول إلى وسيلة تحتكر بها الشركات الكبرى التقنية وتمنع المنافسين الأصغر. فالحماية الحقيقية لا تحرس مصالح الصناعة من المجتمع، بل تحرس المجتمع من أخطار الصناعة، وتضمن في الوقت نفسه أن تصل فوائدها إلى الجميع.

الخلاصة

لم يخطئ نوبل حين حاول أن يجعل التفجير أكثر أمانًا، ولم يخطئ غيتس حين رأى في التقنية قدرة على علاج المرض وتقليل الفقر وتوسيع المعرفة.

الخطأ يبدأ عندما نتصرف كأن كل ما يمكن اختراعه يمكن إطلاقه بلا حدود، وأن المجتمع سيتدبر أمر النتائج لاحقًا.

ليس السؤال: هل نوقف الذكاء الاصطناعي؟

السؤال: هل نستطيع أن نمنحه ما يكفي من القوة ليخدم الإنسان، من دون أن نمنحه ما يكفي من السلطة ليستغني عنه؟

لقد أمضى العقل البشري قرونًا في تعلم كيف يصنع القوة.

وربما حان الوقت ليتعلم، بالسرعة نفسها، كيف يضع لها ضميرًا.