محمد الكلابي
صنع الإنسان من عقله أدوات زادت في قوته، ووسعت معرفته، ومكنته من أمور كان أسلافه يعدونها ضرباً من الخيال. وجرت عادته أن يستقبل اختراعاته بالإعجاب، ثم يكتشف بعد حين أن بعضها يصلح للإهلاك كما يصلح للعمران. فالعلم الذي كشف أسرار الذرة أتاح الانتفاع بطاقتها، ثم خرجت من مختبراته قنبلة قادرة على محو مدينة بأسرها. ولم تمنع هذه التجربة البشر من المضي في صناعة وسائل أعظم قوة، كأنهم يثقون بقدرتهم على ضبط ما يبتكرون، مهما اتسعت إمكاناته. وها نحن اليوم أمام الذكاء الاصطناعي، الذي أخذ يتطور بسرعة تسبق في بعض الأحيان استعداد المجتمعات لاستيعاب آثاره، حتى أصبح من حقنا أن نتساءل عما إذا كانت براعتنا في الاختراع قد بلغت مبلغاً يفوق حكمتنا في استعماله.
في مطلع عام 2025، انفجرت سيارة من طراز «تسلا سايبرترك» أمام فندق ترامب في مدينة لاس فيغاس الأمريكية. وأعلنت الشرطة أن منفذ الحادث استعان بتطبيق «تشات جي بي تي» للبحث عن معلومات تتعلق بالمتفجرات وبعض تفاصيل مخططه. وكان في وسعه أن يبحث عن بعض تلك المعلومات في مصادر أخرى، غير أن البرامج الذكية أتاحت وسيلة تجمع له ما يحتاج إليه من معارف، وتجيبه عن أسئلته بلغة مألوفة. ولنتأمل حال رجل يريد ارتكاب جريمة، فيجد أمامه الأداة نفسها التي يستعين بها الطالب على فهم دروسه، والطبيب على مراجعة البحوث، والمهندس على معالجة المشكلات. فالوسيلة متاحة لهؤلاء جميعاً، وما يختلف بينهم هو الغرض الذي يريد كل واحد منهم بلوغه.
ولم يكن استعمال الأدوات النافعة في الإضرار بالناس أمراً مجهولاً في التاريخ. فالسكين التي تُعد بها المائدة يمكن أن تستعمل في القتل، والدواء الذي ينقذ المريض قد يتحول إلى سم. إلا أن الذكاء الاصطناعي أضاف إلى هذه العلاقة القديمة بين الوسيلة وصاحبها قدرة على معالجة الأسئلة، وتحليل المشكلات، واقتراح الحلول. وكان الوصول إلى بعض المهارات يتطلب سنوات من التعلم والممارسة، فأصبح المرء يستطيع الاستعانة بنظام يشرح له ما يجهله، ويعينه على تجاوز بعض الصعوبات. ومن الخير أن تتسع أبواب العلم للناس، فقد عانت المجتمعات طويلاً من احتكاره، ولكن هذه السهولة نفسها تثير مشكلات حين تصبح المعلومات الخطرة أقرب إلى من يسيء استخدامها.
ولعلنا نخطئ حين نظن أن ازدياد ذكاء الآلة يجعلها أقدر على حسن التصرف. فنحن نعرف من تجارب البشر أن الرجل قد يكون واسع العلم، حاد الذهن، بارعاً في تدبير الأمور، ثم يسخر مواهبه في ظلم الآخرين. وكم من حاكم أحسن حساب مصالحه فأفسد حياة رعيته، وكم من عالم وضع خبرته في خدمة الطغيان. فالبراعة في اختيار الوسائل لا تضمن صلاح الغايات، والحكمة تتطلب من صاحبها أن ينظر في عواقب فعله وما يترتب عليه من حقوق للآخرين. وإذا كان الإنسان، بما لديه من تجربة وضمير وشعور بالمسؤولية، يعجز أحياناً عن هذا التمييز، فمن العسير أن نفترض وجوده في نظام حاسوبي لمجرد تفوقه في التحليل والحساب.
يحاول مطورو هذه الأنظمة تقييد استعمالاتها الضارة، فيضعون لها قواعد تمنعها من تقديم بعض الإرشادات الخطرة، ويختبرون قدرتها على رفض الطلبات المؤذية. وقد نجحت هذه التدابير في الحد من صور مختلفة من إساءة الاستخدام، لكنها تظل عرضة للقصور والتحايل. وليس من الإنصاف أن ننسب إلى البرامج إرادة شريرة كلما أخطأت، فهي لا تملك، بحسب ما نعرفه عن الأنظمة الحالية، ضميراً إنسانياً يحاسبها على ما تفعل. غير أن غياب القصد لا يرفع الضرر عن أصحابه، ولا يعفي الجهات المسؤولة عن تطوير هذه الوسائل وتشغيلها من واجب الاحتياط.
اعتدنا أن نبحث عن المسؤول حين تقع كارثة بسبب خطأ مهني؛ فنسأل الطبيب عن علاجه، والمهندس عن تصميمه، والموظف عن قراره. أما حين يصدر التصرف الضار عن نظام اصطناعي، فقد تتوزع المسؤولية بين من صممه، ومن أتاحه للاستعمال، ومن اعتمد على جوابه. وربما وجد المتضرر نفسه أمام جهات يحيل بعضها التقصير إلى بعض، فلا يعرف إلى من يتوجه للمطالبة بحقه. وهذه مشكلة مرشحة للاتساع كلما دخلت التطبيقات الذكية في مجالات الطب والقضاء والإدارة والأمن، وأصبحت قراراتها تؤثر في حياة أناس لا يعرفون كيف صدرت تلك القرارات أو على أي أساس اتخذت.
والشركات التي تطور هذه التقنيات تخوض سباقاً شديداً للاستحواذ على الأسواق، فيما تنظر الدول إلى التفوق فيها بوصفه عنصراً من عناصر قوتها. وقد عرف التاريخ مثل هذا التنافس في صناعة السلاح، حين كان خوف الحكومات من تأخرها عن خصومها يدفعها إلى امتلاك وسائل أشد فتكاً. وليس بعيداً أن يتكرر الأمر في ميدان الذكاء الاصطناعي، فتغدو سرعة التطوير مقدمة على اختبارات السلامة، ويصبح التريث في نظر المتنافسين ضرباً من التخلف عن الركب. وما أشد غرابة أن يخشى الناس تأخرهم في صناعة القوة أكثر مما يخشون عواقب التعجل في إطلاقها.
وللتنافس وجه آخر يمس حياة الناس اليومية. فالبرامج التي صُممت لتوفير الجهد بدأت تؤدي أعمالاً كان أصحابها يعتزون بما تتطلبه من مهارة، كالكتابة والتصميم والتحليل والبرمجة. وأخذ القلق يتسرب إلى العاملين في هذه المهن بعدما شاهدوا جانباً من مهامهم يُنجز في وقت قصير وبكلفة أقل. وربما بالغ البعض في تقدير حجم الاستبدال المقبل، إذ إن ظهور وسيلة جديدة لا يؤدي بالضرورة إلى زوال كل مهنة تدخل فيها، لكن سرعة التحول تجعل الخوف على المستقبل أمراً مفهوماً. فالمرء الذي أمضى سنوات يتعلم حرفة معينة يصعب عليه أن يطمئن حين يرى برنامجاً حديثاً يؤدي بعض أعماله في دقائق.
نشأنا على الاعتقاد بأن العقل مصدر امتيازنا بين المخلوقات، وجعلنا من التفكير والابتكار أساساً لشعورنا بالمكانة. وحين أصبحت البرامج تنافسنا في أعمال طالما حسبناها وقفاً على البشر، أخذ هذا الاعتقاد يتعرض للمراجعة. فإذا كانت قيمة المرء في نظر المجتمع تقاس بما ينتجه من عمل، فقد يجد نفسه أمام منافسة يعجز عن مجاراتها. ولعل الخلل في هذا المقياس نفسه، فقد اعتدنا أن نرفع من شأن الإنسان حين تزداد منفعته الاقتصادية، وأن نقلل من مكانته حين تضعف قدرته على الإنتاج. وستجعلنا هذه التقنيات أمام امتحان اجتماعي عسير إذا استمررنا في تقدير البشر وفق ما تستطيع الآلات إنجازه بصورة أسرع وأرخص.
ومن شأن الإعجاب بهذه التطبيقات أن يحمل بعض الناس على المبالغة في تقدير ما تعرفه. فهي، على تقدمها، ما زالت تخطئ في الوقائع، وتسيء فهم بعض المسائل، وتقدم أحياناً معلومات غير صحيحة بعبارات توحي بالثقة. ومن طباع الناس أنهم يميلون إلى تصديق المتحدث الواثق، حتى إذا كان قوله ضعيف الحجة. وقد انتقلت هذه العادة إلى تعاملهم مع البرامج الذكية، فأصبح حسن الجواب عند بعضهم دليلاً على صحته، مع أن انتظام الكلام لا يكفي لإثبات صحة ما يتضمنه من أحكام.
وقد يستعين المرء بالنظام ليؤيد رأياً اعتنقه من قبل، فيعيد صياغة طلبه حتى يحصل على جواب يوافق هواه، ثم يقدمه للآخرين بوصفه نتيجة موضوعية. وهذه حيلة قديمة عرفناها لدى من ينتقي من الكتب والأرقام ما يخدم موقفه، ويعرض الشواهد المخالفة للإهمال أو النسيان. والجديد أن الوسيلة تستطيع أن تصوغ له حجته في كلام مرتب، فيظن أن حسن الصياغة أكسب رأيه قوة لم تكن له. وإذا اعتاد الناس هذا المسلك، فقد تصبح التطبيقات الذكية وسيلة لتثبيت الأحكام المسبقة، ويزداد المرء تعلقاً بآرائه كلما وجد من يعينه على تسويغها.
ومتى اعتاد الفرد تلقي الأحكام جاهزة، ضعفت لديه الرغبة في التمحيص والمراجعة. وقد نرى مجتمعاً تتوافر لأفراده مصادر للمعلومات لم تحلم بها الأجيال السابقة، ومع ذلك يقل بينهم من يصبر على قراءة حجة أو فحص دليل. فالسهولة التي توفرها هذه الوسائل تغري صاحبها بالاكتفاء بالنتيجة، والاستغناء عن الجهد الذي كان يبذله في الوصول إليها. ومن اعتاد أن يجد جواباً لكل مسألة دون أن يختبر أسبابه قد يصبح أقل قدرة على إدراك مواضع الخطأ فيه. وربما كان هذا الاعتماد المفرط من أشد ما ينبغي الحذر منه، لأن العقل الذي يكف عن ممارسة النقد يفقد شيئاً من استقلاله، مهما ازدادت المعلومات التي يستطيع الوصول إليها.
ومع ذلك، فإن تحميل التقنية وحدها مسؤولية هذه الحال ينطوي على تبرئة متعجلة للبشر. فنحن الذين نصمم الأنظمة ونحدد أهدافها، ونختار كيف نستعملها، ونقرر مقدار السلطة التي نمنحها إياها. وإذا كانت بعض التطبيقات مصممة لزيادة التفاعل أو تحقيق الربح، فسوف تتأثر نتائجها بهذه الغايات. وقد اعتاد الناس أن يحملوا الأدوات تبعة ما يفعلونه بها، كأنهم يريدون التخلص من نصيبهم في المسؤولية كلما ظهرت عاقبة لم تعجبهم. وما أكثر الذين يطالبون الآلة بالحكمة في الوقت الذي يعجزون فيه عن ممارستها في شؤونهم.
ولا يستقيم أن ندعو إلى التخلي عن الذكاء الاصطناعي بعدما أصبح معيناً في البحث العلمي والطب والتعليم والصناعة. فقد فتحت هذه الوسائل آفاقاً نافعة، ومن شأن حسن استعمالها أن يخفف كثيراً من المشاق التي يعانيها البشر. غير أن الانتفاع بها يقتضي إخضاع الأنظمة ذات القدرات الخطرة لاختبارات صارمة، وتحديد مسؤوليات الجهات التي تطورها، وإبقاء القرارات الحساسة تحت رقابة بشرية فعالة. فكلما اتسع الاعتماد على وسيلة معينة، تعاظمت آثار أخطائها، وأصبح الاحتياط لها ضرورة تمليها التجربة.
وأحسب أن من أكبر أوهام عصرنا اعتقادنا أن التقدم في صناعة الذكاء سيصحبه تقدم مماثل في حسن استعماله. فقد عرف الإنسان من أسرار الطبيعة ما لم يعرفه أسلافه، واستطاع أن يسخر قواها في خدمته، ومع ذلك ظلت الحروب والأطماع والمظالم تشهد بأن وفرة العلم لا تكفي لإصلاح النفوس. وربما كانت هذه الأنظمة مظهراً جديداً لحقيقة قديمة، هي أن اتساع القوة يزيد في آثار الفضائل والرذائل معاً، وأن سوء التدبير يصبح أشد كلفة حين تتوافر لصاحبه وسائل أعظم نفاذاً.
ولن يكون من العدل أن نحكم على مستقبل هذه التقنية من حادثة واحدة، مهما بلغت خطورتها. غير أن ما وقع في لاس فيغاس يذكرنا بأن وسيلة ينتفع بها الملايين يمكن أن تُستغل في جريمة يرتكبها فرد واحد. وقد تتغير طبيعة المخاطر مع تطور الأنظمة، حتى نجد أنفسنا أمام مسائل لم نضع لها القوانين المناسبة، ولم نتفق بعد على حدود المسؤولية فيها. ولعل أخطر ما يمكن أن يحدث أن نعتاد إطلاق الأدوات الجديدة ثم ننتظر وقوع الضرر حتى نبحث عن وسائل منعه.
أمضى البشر قروناً يتعلمون كيف يزيدون سلطان عقولهم على الأشياء، وها هم اليوم يصنعون أدوات تشاركهم جانباً من أعمال التفكير. ولست أخشى أن تتفوق هذه الأدوات علينا في بعض الميادين بقدر ما أخشى أن نضع بين أيدينا قوة جديدة ونظل في استعمالها أسرى أهوائنا القديمة. فقد علمنا التاريخ أن العقل البارع يستطيع أن يخدم أشنع المقاصد، وأن سعة الاطلاع لا تمنح صاحبها حسن التدبير. وربما نكتشف بعد أعوام أن الخطر الذي كان ينبغي أن نحسب حسابه منذ البداية هو أن تصبح أدواتنا أعظم قدرة، بينما نظل نحن على ما كنا عليه من ضعف في تقدير العواقب.
