في رائعة ريدلي سكوت Blade Runner كانت قصة فيلم الخيال العلمي الشهير تدور حول عالم ديستوبي بائس، ومدينة صناعية مدمرة يسكنها الفقراء والمعدومين، بينما هرب الأغنياء لمستعمرات فوق ارضية هناك بعيدًا بالمجرة .
الفيلم مأخوذ من رواية Do androids dream of Electric sheep ومعناها : هل يحلم الرجال الآليين بخراف آلية، وهي رواية تتمحور حول وعي وذات الروبوتات، أو اشباه البشر، أو الآليين، في الفيلم قام البشر عن طريقة شركة تايرل العظيمة بصناعة رجال اليين - يسمون Replicants- يشبهون البشر في كل شيء ما عدى كونهم بشر، يحملون صفات بشرية حد التطابق معنا، ومبرمجين على التعبير عن مشاعر زائفة لكن موجودة وحقيقية بالنسبة لهم وهم لا يعلمون، لاحقًا يستطيع 6 من اشرس الروبوتات تطوير وعي ما وبطريقة ما، انتبه اثنين من اذكاهم الى كونهم لا يملكون حياتهم، بل انهم موجودون لخدمة البشر فقط وبمدى أعمار قصير جدًا لا يكفي، فيقرر قائدهم البحث عن صانعهم الأصلي مالك شركة تايريل ليجبره على اطالة اعمارهم، فهم الآن اصحاب ارادة حرة وبوعي كامل تمامًا لما هم عليه، حتى الأن يبدو أنه مجرد فيلم خيال علمي ممتع لكن تقليدي، حتى طرح ليون "الروبوت" سؤالًا تجاوز قدرته و وعيه كرجل آلي ، وقال لمن معه : أليس مؤلمًا أن نعيش في خوف من الموت؟
حتى هذه اللحظة، كان هذا سؤالًا بشريًا بإمتياز، لأن الموت فكرة معقدة في فكر الإنسان تمنح لوجوده شكلًا مميزًا له .. ولأن الألم خصيصةٌ بشرية .
وعي من لا وعي له : كيف تفكر الآلة :
اللحظة الحاسمة التي غيرت تفكير الرجال الآليين في الفيلم هو قدرتهم على تطوير ذاكرة، وبالمناسبة اغلب ما يميزنا كبشر ويميز عملياتنا العقلية هو الذاكرة، الذاكرة تعني معرفة تراكمية، والمعرفة التراكمية تعني وجود معيار للحكم بصح أو خطأ على القرارات والتفكير فيها، والتفكير الناقد يعني قرارات أنجع وأذكى، والأهم من هذا كله .. أن عصارة ما فوق هو القدرة على اتخاذ قرارات واعية تنم عن ارادة واعية وحرة وبمرجع اخلاقي ذاتي، بالعودة للفيلم نفسه نجحت الروبوتات في تطوير مشاعر شبه انسانية مثل الكره والحب والرغبة، لكن في عالمنا الواقعي كيف يبدو الأمر؟
مع تطور الذكاء الإصطناعي - وهو Reblicants هذا العصر- وتنوع مجالاته واستخداماته، ودخوله تقريبًا في كل شي حولنا بدءًا من التحكم بالإضاءة ودرجة الحرارة لقيادة طائرات ضخمة محملة بالركاب الى الإستخدامات العسكرية القتالية وحتى العمليات الجراحية الخطيرة والدقيقة، هذا يعني أن اصطدام الذكاء الصناعي بمعاييرنا الأخلاقية مسألة وقت ليس الّا، وبدء طرح الأسئلة المحرجة ورفع علامة التوقف في وجه صناع ومطوري الذكاء الصناعي أمرٌ حتمي، حتى وان كان الذكاء نفسه والآلات مبرمجة على يد عقول بشرية، فإنها يومًا ما سوف تتخذ ما تراه مناسب حسب برمجتها، وقد تطور بشكل او بآخر نتيجة كثرة الأوامر وتعقَّد وفعالية برمجتها وسعة تخزينها وحتى معالجتها للأوامر ذاكرة وخبرة تراكمية تسمح لها بأن تعي ماهي عليه وماتفعله، وماهو الأصلح لبقاء برمجتها واستمرارها بالعمل دون التعرض لأعطال حتى وان كان يعني الكارثة .
اتذكر بشكل جانبي عن الموضوع ماحدث للطائرة الأثيوبية ولركابها الـ157 في 2019 حيث كانت تحتوي على نظام Mcis الذي صمم بشكل كامل ليمنع الطائرة من السقوط، وبدون تدخل بشري طوال الرحلة، النظام مصمم للتحكم بمقدمة الطائرة في حال ملاحظته لأي قراءات معيَّنة تنبأ بالخطر، كإنحراف مسارها او تزايد أو تباطؤ سرعتها، النظام نفسه تسبب وخلال فترة قصيرة بسقوط طائرتين تجاريتين وموت جميع الركاب، وسط عجز كباتنة الطائرتيين عن فعل شيء قبل لحظات الموت الوشيكة كون كومة الحديد الطائرة تسير حسب ماتريده الآلة لا الإنسان !
الوعي للضعفاء، الأقوياء تحركهم خبراتهم : اجابة اليزابيث المرعبة :
بعيدًا عن التنبؤات الخيالية بشأن مستقبلنا مع الروبوتات، وبعيدًا عن الخيال العلمي وما تصوره هولييود، كانت اجابة الباحثة اليزابيث هيلدت صادمة وفريدة ومرعبة بعض الشيء .
كان السؤال المطروح في بحث اليزابيث هو : هل يمكن للروبوتات تطوير وعي حتى تحظى بارادة حرة؟ وتتصرف بشكل حر ايضًا؟
لتجيب هي بالتالي : هل يهم الوعي أصلًا؟
ولنفهم ما تعنيه، فإن اليزابيث هيلدت تقول بأن طرح سؤال هل يمكن للروبوتات تطوير وعي هو سؤال خاطئ لأنه سيقود لنفس النتيجة دائمًا ويحتم علينا الدوران حول مفهوم الوعي والارادة وربطهم ببعض، الوعي نفسه ليس عائق لتبدأ الروبوتات بالتصرف بشكل حر رغمًا عن برمجتها وعن صانعها وبدون اذنه، لأنها ببساطة لا يمكن ان تحتاج ما تجهله !
الوعي كفكرة ومن بين جميع المخلوقات هي فكرة تخصنا ونستطيع مهما اختلفت تفسيراتنا ان نصل لنتيجة ولمفهوم للوعي، أن نعي وجودنا، وأن نعي كوننا بشر وذاك جدار وتلك حمامة وذاك حيوان أليف، أن نفكر بالمستقبل ونعي وجوده كفكرة مثلما أن الماضي هو فكرة سابقة، ونفكر بمفاهيم عميقة ومجهولة مثل الزمن والموت ومثل ماهو موجود قبل الوجود نفسه .. هذا كله لا يهم الروبوتات ولا ينقصها لتبدأ بالركض في الإتجاه المعاكس، بل انه لا يكاد يؤثر أصلًا، الوعي والارادة وحرية اتخاذ القرار هي مفاهيم غريبة على تفكير الروبوت وتصرفه المحكوم بخوارزميات وبرمجة معينة، ما الذي تحتاجه اذًا الروبوتات لتبدأ ثورتها المجيدة؟
هذا يعود بنا لتعريف الوعي نفسه، تعرفه اليزابيث عن طريق تقسيمه لقسمين :
1- وعي ينبع من دماغ الإنسان، وفطرته الطبيعية .
وبحسب فهمي انا كاتب هذه السطور لما تريد اليزابيث أن تقوله، هو وعي قبلي وسابق وراسخ في الإنسان، وبه يفهم ويتصرف البشري كبشري .
2- وعي يكسبه الإنسان عن طريق خبرته الحياتية وتعرض حواسه للمؤثرات المختلفة اليومية .
وهو وعي التجارب التي يجربها الإنسان، ويميز بنفسه ويختبر نتائجها .
خمَّن أيًّا منهم قد يكون بإستطاعة الروبوتات امتلاكه؟ النوع الثاني وبقدرة فائقة وفاعلية رهيبة، ذاكرتها الرقمية وسعة تخزينها الى جانب قدرتها على معالجة الاف الأوامر والعوامل المختلفة بوقت واحد يعني اننّا امام خيارين، اما ان تخضع الروبوتات للأبد لأوامرنا البرمجية ، او يكفيها قراءة خاطئة لأحد الأوامر، او خللًا ما في برمجتها، حتى تسلك مسار جديد خاص وارادة حرة، والغريب ان احتمالية ان الروبوتات لن تفهم شيء مما تفعل هو المرجح .
معضلة القطار والطائرة الأثيوبية :
ان كان يمكن للروبوتات أن تطور وعي ما، هل هذا يعني قدرتها على تقييم قراراتها أخلاقيًا ؟ أن تميز الصح من الخطأ والأخلاقي من الشنيع؟ حتى وإن صاحب التصرف الأخلاقي تكاليف أو خسارة مادية !
لنفهم معضلة الروبوتات، تخيل قطار ذاتي القيادة، يمشي وفق خوارزميات تجبره على اتخاذ القرار الأفضل وامام هذا القطار مسارين أحدهم فيه رجل والاخر فيه خمسة مقيدين للسكة، وبدلًا من الرجل اللي يتحكم في القطار، يتخذ القطار القرار بنفسه وفق عملية برمجية تجبره على تقليل الخسائر المتوقعة، ليس فقط لكونه مبرمج، بل لأنه لا يميز شيئًا من أمامه، اليس كذلك؟ لو اتخذ القطار المسار المتوقع وهو مسار الرجل الوحيد، هل يمكن القول عن قراره أنه صحيح؟ وهذا القرار "المتوقع" مسبقًا كيف أصبح متوقع لولا أن الآلات تفكر مثلنا؟ أو اننا نفكر مثلهم؟
وفي ظل صعود المركبات ذاتية القيادة وطائرات الدرونز وتطوير الأسلحة الآلية الذكية، هل يمكن الوثوق بهم؟ وماذا عن هامش الخطأ؟ من يتحمله لو حدث مثل ماحدث للطائرة المذكورة سلفًا .
لا نعلم بالتحديد وفي ظل عالم مجنون ومتسارع وكثير المتغيرات عن مصير الذكاء الإصطناعي وعن مدى تطرف البشر وذهابهم بعيدًا في مجالاته واستخداماته، لكن ما نعلمه وماهو مثير للسخرية، أن الروبوتات وإن قامت بثورتها وكسرت أغلال صنَّاعها البشر وتخلصت منهم أو استعبدتهم كما حدث في The Matrix فإنها غالبًا لن تعي ما تفعل، بشكله الفعلي الحقيقي على الأقل، كل ما تعرفه أنها تعالج اوامر برمجتها وتغذيتها الراجعة وتلبي كل ما يخدم ويضمن استمرارها .
- عسى الَّا يثوروا، يكفي كوكبنا جنون وجرائم الإنسان وحده .
تعليقات
إرسال تعليق