حوكمة الذكاء الاصطناعي

أنا محمد قاسم، وأهلاً وسهلاً بكم في سايوير بودكاست. أهلاً وسهلاً بكم في حلقة جديدة من سايوير بودكاست. اليوم لدينا حلقة شيقة جداً، ولدينا أيضاً ضيف شيق جداً. حلقتنا اليوم عن أمر مهم حدث في المملكة العربية السعودية، وقبلها بالطبع في دولة الإمارات، ولكن الآن حدث في المملكة العربية السعودية.

صدر أمر ملكي بإنشاء المركز الوطني للذكاء الاصطناعي، وكذلك مكتب إدارة البيانات الوطنية. هذان المكتبان يرتبطان تنظيمياً بالهيئة السعودية للبيانات والذكاء الاصطناعي. هذا الموضوع أصبح مهماً في العالم العربي كله الآن. بالطبع هو مهم في العالم كله، ولكن أصبح الآن مهماً حتى في العالم العربي، وبشكل خاص في الوقت الراهن.

يتصدر العالم العربي كله في هذا الموضوع الإمارات أولاً، والسعودية ثانياً. لأهميته، أصبح الذكاء الاصطناعي مهماً لأن هناك أموراً ترتبط فيه من مزايا ومخاطر. ولنفهم هذا الموضوع، سنتحدث مع الدكتور إبراهيم المسلم. لقد تحدثنا معه سابقاً عن الحاسوب الكمّي، وسنتحدث معه اليوم عن الذكاء الاصطناعي، وسنتحدث عن

موضوع حوكمة الذكاء الاصطناعي. لكن دعوني أعرفكم به على وجه السرعة: هو دكتور في الذكاء الاصطناعي من جامعة أوكسفورد، وعمل كباحث زائر في مختبر الذكاء الاصطناعي بجامعة ستانفورد. هو مهتم بحوكمة الذكاء الاصطناعي، ونشر تقريراً بهذا الموضوع، وقد اطّلعتُ عليه، ووجدتُ فيه جزءاً لا بأس به. ويعمل حالياً كمستشار في الذكاء الاصطناعي في الشركة السعودية لتقنية المعلومات. أهلاً وسهلاً بك دكتور.

أهلاً وسهلاً دكتور، شكراً على الاستضافة. أهلاً بك. بالطبع أنت تعلم أن هذا الموضوع يعمل لديكم بقوة الآن ومتحرك. فإذا تحدثنا عن هذا الموضوع فيما يخص الذكاء الاصطناعي، نريد أن نعرف ما أهمية الذكاء الاصطناعي في الحكومة بشكل عام. ما هي المشاكل التي قد تنتج عن الذكاء الاصطناعي، والمزايا الموجودة في الذكاء الاصطناعي التي تجعل

أي دولة تنشئ لها مكاتب خاصة؟ دعونا نبدأ في البداية بالحديث عن الذكاء الاصطناعي بشكل عام. ما وضعه اليوم في عالمنا؟ دعونا نبدأ بتعريف بسيط للذكاء الاصطناعي، حتى نكون على نفس الصفحة، كما نقول. الجميع ملمّ بالبرامج التقليدية. هذه البرامج التقليدية عادةً تكون بحيث تعلم الحاسوب خطوة بخطوة ماذا يفعل.

فالفرق الجوهري بين البرامج التقليدية التي الناس ملمّون بها، وبرامج الذكاء الاصطناعي، مبسّط بشدة: في الذكاء الاصطناعي، أنت لا تعلّمه الخطوات كيف ينفذ المهمة، بل أنت تعلّمه كيف يتعلم. فهو يتعلم من البيانات، ويتعلم من التجربة. فصعب جداً أن تتبع مثلاً الأخطاء إذا حدثت في برامج الذكاء الاصطناعي، على عكس البرامج التقليدية. في البرامج التقليدية، إذا حدث خطأ، تتتبع السبب حتى

تصل إلى أي سطر في البرنامج وقع فيه الخطأ. لكن في برامج الذكاء الاصطناعي لا، أنت تعطيها بيانات تتعلم منها، وتجعلها مثلاً تتفاعل مع المحيط وتتعلم من التجربة. فإذا حدث خطأ، أحياناً يصعب تتبع الخطأ في البرنامج نفسه؛ فقد يعود إلى تجربة معينة، أو إلى جزء من البيانات علّمها خطأً، أو أحياناً يكون هناك تحيز.

هذا موضوع كنا نتحدث عنه يا دكتور في محاضرة كاملة عن التحيّز، وأحياناً قد ينعكس هذا التحيّز. فالذكاء الاصطناعي تقنية جديدة، ودور الحكومات مع أي تقنية... حتى أنا لا أعرف من اخترع النار، لكن التقنيات لها أضرار ومنافع. مثلاً، لنأخذ النار مثالاً.

الفوائد كثيرة، لذا يجب على الحكومة التدخل في هذا المجال. بالطبع هناك حلول تقنية مثل العوازل، وكيفية تفادي الحريق، لكن يجب أيضاً وجود تشريعات تنص على وضع طفايات حريق في أماكن معينة، وإذا كان المكان يتسع لعدد معين من الأشخاص، فيجب وضع مخارج طوارئ. كذلك يجب على الإدارات الالتزام بذلك. المثال الآخر هو الكهرباء، فهي تقنية...

أصبحت الآن أساسية، لكن تخيلها بدون تشريعات أو تنظيمات، ستكون كارثة. بالطبع، حتى على مستوى الاتفاق على الترددات، أو في تصميم المباني، يجب على الحكومة التدخل في تصميم المباني وكيفية التعامل مع هذه الأمور. المثال الآخر هو المرور، تخيل تقنية مثل السيارات بدون مرور، بدون تنظيم، بدون رخص، بدون تصاريح...

فدور الحكومة باختصار مع كل تقنية هو تحقيق الاستفادة القصوى منها، وتفادي مخاطرها قدر الإمكان. دكتور، فقط لكي نفهم، دخلنا مباشرة في موضوع استفادة الحكومة منها، وأود أن أعرف: ما هي المشاكل التي قد تنشأ من وجود الذكاء الاصطناعي في حياتنا؟ هناك تقرير جميل جداً من جامعة...

كينغز كوليدج في كامبريدج، وأوكسفورد، وشركة OpenAI، تطرقوا فيه لمشاكل الذكاء الاصطناعي وقسموها إلى ثلاثة أنواع: مشاكل جديدة، ومشاكل قديمة تتضخم، ومشاكل لا نعلم عنها بعد. المشاكل الجديدة، لأننا كما ذكرنا في البداية، الذكاء الاصطناعي برنامج يتعلم من التجربة والبيانات، وقد يخلق مثلاً مشكلة جديدة تتعلق بمسألة المسؤولية. إذا وقع خطأ مثلاً من سيارة ذاتية القيادة، فمن المسؤول؟

أو يمكن أن يتبعوا البرنامج ويقولون: الخطأ من الشخص الذي كتب البرنامج. مثلاً في التشخيص الطبي، نسمع كثيراً الآن عن استخدام الذكاء الاصطناعي في التشخيص الطبي وقراءة الفحوصات، فمن المسؤول إذا وقع خطأ طبي بسبب الذكاء الاصطناعي؟ هذه مثلاً مشكلة المسؤولية. أو التحيزات التي ذكرتها أيضاً في محاضرتك، فقد ينحاز الكمبيوتر لشخصيات معينة دون أخرى.

فلا تُعطى الفرص لبعض الناس وتُعطى لآخرين، أليس كذلك؟ هذه مشكلة ثانية. والمشكلة الثالثة هي ما يُسمى بـ«الصندوق الأسود» والتفصيل، لأننا قلنا إن برنامج الذكاء الاصطناعي يتعلم من نفسه، بينما في البرامج التقليدية يعلمه الإنسان. فالبرنامج التقليدي بطبيعة الحال لا يمكن أن يكون أذكى من الإنسان، لأن الإنسان هو من يعلمه بالضبط ماذا يفعل، أليس كذلك؟

لكن برنامج الذكاء الاصطناعي يتعلم، فقد يصل إلى مرحلة يكون فيها أذكى من الإنسان، وقد يقوم بأشياء يصعب على الإنسان وصفها. وهل حدث هذا يا دكتور؟ هل هذا الكلام واقعي؟ صحيح، أبسط مثال هو التعرف على الكلام، فالكثيرون ينصدمون عندما أقول لهم إن أحياناً حتى مبرمج الذكاء الاصطناعي نفسه لا يدري كيف يعمل البرنامج، لأنك يصعب أن تصفه.

هناك طريقة للتعامل مع الصور، وأخرى للكلام، وثالثة للنصوص، يتم فيها تحويلها إلى أكواد. هذه مشكلة، حسنًا، هذه ميزة تجعل الحاسوب يبدأ في الوصول إلى مرحلة خارقة من الذكاء، أو ذكاء يتفوق على ذكاء البشر. لكن أين تكمن المشكلة؟ المشكلة أن الإنسان لا يستطيع فهم الأسباب، أي كيف وصل إلى هذه النتيجة. فالصندوق مغلق، ولا تستطيع فهم ما بداخله، وكيف يتوصل إلى هذه القرارات؟ تمامًا.

فإنها تخلق مشاكل قانونية، على سبيل المثال، في كثير من الدول. أي شخص له حق الاعتراض على قرار محكمة، وله حق الاستئناف. فإذا استأنف، يجب على القاضي أن يعطي أسبابه، فيقول مثلًا: أنا فعلت كذا وكذا وكذا. الآن، إذا استخدمت برنامج ذكاء اصطناعي، فجأة أجرى حساباته وأعطاك قرارًا، فكيف يمكنك تفسير هذه القرارات؟

وأحيانًا، بعد التدقيق في بعض البرامج، اكتشفوا أنها اتخذت القرار الصحيح لأسباب خاطئة. مثال؟ مثال مما ذكرته في محاضرتك، حيث كان البرنامج يتعرف على صور الكلاب والذئاب. واكتشفوا أنه يتمتع بدقة عالية جدًا في التعرف على ما إذا كانت الصورة تحتوي على كلب أو ذئب. لكن عندما تدققوا فيه، اكتشفوا أن ما جعل الحاسوب يعرف ما إذا كان كلبًا أو ذئبًا...

كانت الخلفية الثلجية الموجودة في الخلفية. دعني أفهم، يعني أعطيت صورًا للذكاء الاصطناعي ليتعلم عليها، وبعد التعلم أعطيت الذكاء الاصطناعي صورًا جديدة لم يرها من قبل، وكانت الفكرة أنه ميّز ما إذا كان هذا ذئبًا أو كلبًا، صحيح؟ مضبوط. فماذا حدث في هذه الحالة؟ ما حدث هو أن الحاسوب أصبح يتعرف على الصورة من الخلفية، وليس من الحيوان نفسه.

ماذا تقصد بالخلفية؟ هل الحيوان موجود في مزرعة أو في بيت؟ فهو بمجرد ما يرى أن هناك ثلجًا في الخلفية، يعرف على الفور أن هذا ذئب، لأنه يعتمد على الخلفية وليس على صفات... ليس على صورة وجه الذئب أو الكلب، مثلًا. لا، ليس من ملامح أو صفات الحيوان الذي في الصورة. فمثلًا...

إذا طبقنا هذا في التعرف على الأشعة، فقد يكون الحاسوب أو برنامج الذكاء الاصطناعي قد توصل بالصدفة إلى أن أغلب الناس الذين شُخصت إصابتهم بالسرطان كانت بياناتهم متاحة بعد الساعة 4 مساءً، لأن الطبيب المتخصص يأتي في الوردية المسائية. فربما يشاهد الأشعة الساعة 4 ويقول بعدها: هذا مريض بالسرطان، مثلًا. لأنك فهمت...

فالمشكلة إذا كانت هذه السببية مدفونة وسط معادلات رياضية معقدة، وأنت لا تعرف، فهو صندوق أسود، وهذه مشكلة جديدة. فالآن في أوروبا، نظام حماية البيانات العام (GDPR)، لديهم قانون الآن ينص على أنه يجب، أو عفوًا، للمستخدم حق التفسير.

إذا مثلًا رُفض لك طلب قرض، أو رُفض لك مثلًا قبول في جامعة، أو رُفض لك مثلًا تأمين طبي، بعض الحقوق الأساسية: الحقوق المدنية، الحقوق الطبية، الحقوق المالية. يحق للمواطن الحصول على تفسير. نترك جانبًا مثلًا توصيات نتفليكس وتوصيات أمازون، فهذه ليست حقوقًا جوهرية للمواطنة والمقيم في أوروبا. فهم حددوا أربع حقوق جوهرية للصحة.

في المجالين المدني والتعليمي، يحق للمواطن طلب تفسير. فمثلاً، لا يحق لك استخدام برنامج التعلم العميق الذي تستخدمه جميع الأطراف، ثم تقول: «رفضتُ طلب القرض لأن البرنامج قال كذا»، وكأن الأمر مجرد مزاجية جديدة، مزاجية بالذكاء الاصطناعي. هذا المثال الذي أذكره لك دائماً. طيب، كلامك يا دكتور يعني...

عندما ندخل مثلاً إلى المطارات، يقول الناس إن التفتيش عشوائي، أي بالقرعة. فربما تكون العنصرية مُشرَّعة الآن باسم الذكاء الاصطناعي، وباسم التقنية، وباسم الحياة. إذا كان الذكاء الاصطناعي يقرر بناءً على أسباب خاطئة، فالمشكلة تكمن في تطبيق مفهوم «الصندوق الأسود» على أمور جوهرية كهذه.

هذه التقنية تحتاج إلى مراقبة وتشريعات تضبطها. والسؤال: كيف يتم الشرح والتفسير؟ بعض النماذج قابلة للتفسير، وهذا موضوع كبير في الأبحاث حتى الآن، إذ لا توجد حلول بعد. فغالباً ما تضطر للتضحية بالدقة مقابل التفسير، أو بالتفسير مقابل الدقة. هذا باب أبحاث مفتوح.

أن تخرج نموذجاً قابلاً للتفسير وفي الوقت نفسه دقيقاً جداً. لكن ربما يقبل بعض الناس بتفسير أقل دقة على الأقل. فعلى سبيل المثال، قد يقول لك النظام: «رفضتُ قرضك لأنك تشبه الملف الشخصي الفلاني»، وهذا الملف الشخصي الفلاني... فيعطي أحياناً على الأقل...

تفسيراً أقرب. مثال هذا، يمكن أن أقول يا دكتور: نحن حالياً، ككائنات طبيعية، عندما أرفض قرضاً وأنا أعمل في بنك، وأرفض قرض شخص تقدّم لي، وأعطيه تفسيراً شفهياً، فهو لا يدري بالضبط ما الذي يدور في ذهني. كيف أستطيع أن أميز بين قول...

...أو تفسير الكمبيوتر والذكاء الاصطناعي؟ إذا كان هذا الذكاء الاصطناعي يكذب أو لا يكذب، كيف أستطيع أن أفهمه وأفهم الحقيقة الكامنة وراءه؟ خاصة أنك ذكرت أنه «صندوق أسود». هذا باب أبحاث مفتوح حتى الآن، كما قلنا، منذ أن خرج الذكاء الاصطناعي من أروقة الجامعات وأصبح يُستخدم في كل مكان.

فهذا السؤال الذي تطرحه يا دكتور هو سؤال مفتوح في الأبحاث. العجيب أنه حتى الآن، صحيح أنني لست خبيراً في هذا الجانب، وأعرف أن بعض الدراسات الجارية حالياً في بعض الجامعات تعمل على جعل الذكاء الاصطناعي يشرح بنفسه الأساليب التي توصلته إلى هذه النتيجة. فعلى سبيل المثال، قاموا بتجربة بسيطة...

في لعبة قديمة مشهورة جداً، على الأقل في أيامي، كانت لعبة «الضفدع يعبر الشارع»، حيث توجد سيارات أمامه ويحاول المرور يميناً ويساراً حتى يعبر الشارع بالكامل. علّموا الذكاء الاصطناعي على الطريقة التي يلعب بها الإنسان العادي، وأثناء لعب الإنسان كان يفسر شفهياً...

كيف يعبر الشارع بهذه الطريقة؟ الذكاء الاصطناعي تعلّم، في الوقت الذي كان يتعلم فيه كيف يعبر أو كيف يحرك الضفدع ليعبر الشارع، طريقة تفسيره، أو لماذا اتخذ قراراً معيناً، سواء كان الذهاب يميناً أو يساراً أو إلى الأمام، ويشرحه. لكن هذا لا يزال، بالطبع، موضوعاً بسيطاً جداً لمثل هذه الأمور.

وهناك أمامنا طريق طويل حتى نفتح هذا الصندوق الأسود ونصل إلى طريقة يستطيع فيها الحاسوب أن يشرح لنا. بالمناسبة، دعني أذكر نقطة أخرى أيضاً؛ لقد تحدثت مع يان لكون، وتعرفون يان لكون، فهو أبو الشبكات العصبية التلافيفية (Convolutional Neural Networks). كان يقول في إحدى محاضراته التي حضرتها في أدنبرة:

ليس من الصعب معرفة ما بداخل هذا الصندوق الأسود، فنحن من صنعناه. لكن حتى الآن، لم تستطع جهة واحدة أن تفتح هذا الصندوق بطريقة رياضية بحتة أو منطقية بحيث نستطيع استخلاص المعلومات. كلام سليم جداً، دكتور، شكراً جزيلاً على هذا. وعلى ذكر الشبكات العصبية التلافيفية، فهي أحد الأمثلة التي تحاول فهم التفسير، خاصة في موضوع التعرف على الصور.

ففي الطرق الحالية، يعلّمك الذكاء الاصطناعي أين كان ينظر في الصورة عندما يقرر مكان الشيء، لكنها لا تزال محاولات متواضعة جداً في بداياتها. دكتور، ذكرت أيضاً في تقريرك القياسات المضللة، فما المقصود بهذا؟ هناك مقولة بالإنجليزية تقول: الإحصاءات لا تكذب، لكن الإحصائيين يفعلون.

أحياناً، يمكنني من نفس البيانات أن أستنتج لك استنتاجين متعارضين مع بعضهما. من الصعب وصفها صراحةً شفهياً، لكن أدعو المستمعين إلى النظر إلى قضية حدثت في جامعة بيركلي في السبعينيات، ومن خلالها اكتُشفت معضلة تُسمى مفارقة سيمبسون (The Simpson's Paradox). فما الذي اكتشفوه؟ اكتشفوا أن جامعة بيركلي

كانت لديها تحيز ضد النساء، إذ كانت تقبل الذكور بنسبة أعلى من الإناث. فرفعوا قضية بأن هذا تحيز جنسي، وأنهم متحيزون لصالح الذكور ضد الإناث. وفي المحكمة، أحضر الدفاع بالطبع الإحصائيين ووضحوا لهم أن الذكور كانوا يقدمون على الكليات الأسهل

قبولاً في جامعة بيركلي على مستوى الكليات وليس على مستوى الجامعة. فاكتشفوا أنه على مستوى كل كلية، نسبة القبول للإناث أعلى. لاحظت؟ يعني، إذا أخذت كل كلية على حدة، تجد أن هناك تحيزاً لصالح النساء. عجيب! إذا نظرت إلى الجامعة ككل، تجد تحيزاً ضد النساء، لأن هناك افتراضاً

بعيداً كل البعد عن البديهية، وهو الإحصاء. حتى الإحصاء، تاريخياً، من آخر فروع الرياضيات التي اكتُشفت، وهذا يعني لنا أنه غير بديهي. الافتراض الآن، بإذن الله، هو أن عدد المتقدمين لكل كلية هو نفس العدد، ونسبة الصعوبة في كل كلية هي نفس الصعوبة. لا يوجد تحيز في القبول أساساً؛ فالذكور كانوا ربما يذهبون إلى الكليات الأسهل، بينما الإناث كانوا يذهبون إلى الكليات الأصعب، مما تسبب في هذه النتيجة.

هذا ما يُعرف بمفارقة سيمبسون، أليس كذلك؟ أي أنه من الممكن أن أريك نتيجتين متعارضتين منطقيًا من نفس البيانات، هل فهمت؟ الأمر غريب، ففي بعض الأحيان نرى أمثلة توضح كيف يمكن تقديم قياسات مضللة في الإحصاء؛ فعندما يُعرض عليك بعض الرسوم البيانية، مثل الرسوم الشريطية، ويُغيَّر مقياس الرسم بحيث يوهمك بأن

الفرق كبير جدًا بينما هو في الحقيقة صغير. هذا ما يحدث في الإحصاء حاليًا؛ فالتحليل الإحصائي نفسه هو الذي يضلل البيانات. لا تقل إن المعلومة صحيحة، فقد تكون غير صحيحة، وليس بالضرورة أن يكون ذلك بسوء نية، بل قد يكون خطأً. لقد لاحظت ذلك كثيرًا. مثال أبسط من مثال بيركلي: قلت لك إن لديّ برنامج ذكاء اصطناعي، ونسبة تعرفه على السرطان هي 99%

والرقم هو 99%. هذا جيد. لكن إذا قلت لك إن نسبة المصابين بالسرطان أصلًا في المجتمع هي 1 من 100، فمعناه أنه لو افترضت أن جميع الناس ليسوا مصابين بالسرطان، فإن نسبة دقتي ستكون أصلًا 29%، لأنه لا يوجد سوى شخص واحد مصاب، وبالتأكيد ست

تجد أنه لا يوجد فرق بين البرنامج... هذه هي المشكلة. قد يقارنها بطبيب، لكن يمكن للطبيب أن يتعرف فعليًا على من يمتلكون السرطان، وقد يشخص بعض الناس الذين لا يمتلكون السرطان بالخطأ بأنهم مصابون، وما إلى ذلك. فقد تكون نسبة دقة الطبيب أقل، 85% أو 95%. فيقولون: لا، الذكاء الاصطناعي أفضل لأنه 99% و99%. لكنهم لم ينظروا إلى نسبة الناس المصابين بالسرطان أصلًا، أليس كذلك؟

هذه بعض مشاكل الذكاء الاصطناعي. حسنًا، دعنا نتحدث عن حوكمة الذكاء الاصطناعي. لماذا نريد أن نضع الذكاء الاصطناعي ضمن تنظيم الحكومة نفسها؟ ولماذا يجب على الحكومة تنظيم الذكاء الاصطناعي؟ لقد ذكرت في البداية الكهرباء ومؤسسات أخرى، أي تلك التي من المفترض أن تنظمها الحكومة حتى تكون حياة الناس أفضل.

الذكاء الاصطناعي شركات مبرمجة، مثلها مثل شركة أبل التي تصنع لك أجهزة وتطبيقات وما شابه، والناس تستخدمها من غير أي مشاكل. وإذا حدثت أي مشكلة، فإن نفس الشركة تعدلها لأن الناس مستاءة. فلماذا لا تكون الأمور بنفس الطريقة؟ ولماذا يجب على الحكومة أن تتدخل؟ الشركات تفيد على مستوى المطورين والبرمجيات، يعني، على سبيل المثال، إذا

كانت هناك أنظمة تشفير معينة تتبعها، وإذا حدثت سياسات أو اختراق، يجب أن تبلغ وتُشعر الضحايا بأنه حدث اختراق. فهناك تشريعات تلزمهم بذلك. كما ذكرت لك، هناك أشياء جوهرية، مثل مسح الحقوق الأساسية للمواطنين، ويجب أن تتدخل الحكومة في بعض الأمور. فخلاصة القول هي أن الحرية، مثل المثال الذي ضربناه في البداية، حيث يعطيك برنامج الذكاء الاصطناعي توصية بأي فيلم تشاهده،

أو برنامج ذكاء اصطناعي يعطيك توصية بأي دواء تتناوله، هنا يجب على الحكومة أن تتدخل. لأن التاريخ علمنا أنه إذا تركت الموضوع بدون رقابة، فإن الناس يحاولون أخذ طرق مختصرة. فإذا كنت نزيهًا، سيأتي شخص آخر غير نزيه ويأخذ طرقًا مختصرة، فتجد نفسك خارج المنافسة. فتأتي الحكومة لضبط القوانين.

حتى تضمن أن الجميع يمارس هذه الأمور براحة، دون أن يضطر إلى التنافس. حسنًا، دكتور، اذكر لي أكبر المخاوف التي يجب أن تتدخل الحكومة في الذكاء الاصطناعي بسببها، أي أكبر مخاطر يمكن أن يتسبب فيها الذكاء الاصطناعي على مستوى الدول، وليس على مستوى الأفراد في المجتمع نفسه، بل على مستوى الدول.

يوجد الخطر في جانبين؛ كما ذكرت، هناك خطر على الحكومات وخطر على الشعب. في بداية حديثنا، ركزنا على الخطر على المجتمع والشعب، لكن هناك أخطار على الحكومات، مثل الأسلحة الذاتية، والطائرات المسيّرة التي تُبرمج بذكاء، أو حتى الحروب السياسية الموجهة. لقد رأينا ما حدث في الانتخابات الأمريكية الأخيرة.

والأخبار المزيفة، ورأينا تقنية التزييف العميق (Deepfake)، وكيف أصبحت مقنعة الآن؛ إذ يمكن لشخص أن يزيّف مقطع فيديو لشخصية معروفة وينشر الإشاعات والأكاذيب. وقد تكون هناك الآن حملات سياسية موجهة برمجياً عبر الروبوتات (Bots)، وهذا يتطلب قوات مضادة من نوع آخر. فعلى سبيل المثال، في بريطانيا، يوجد تنظيم - نسيت اسمه - وظيفته محاربة الشائعات والأكاذيب ومحاربة

هذه الأمور، مثل تصحيح الإشاعات، ومحاربة ما يُسمى بالروبوتات (Bots)، وإجبار الشركات التقنية مثل تويتر وغوغل على أن تكون أكثر صرامة في اكتشاف هذه الروبوتات وإيقافها. هذا هو الجانب الثاني من الخطر القادم، وهو الخطر على الحكومة.

وهذا النوع الثاني من المخاطر؛ فقد قلت لك إن هناك مخاطر جديدة، وهناك مخاطر قديمة لكن الذكاء الاصطناعي يضخمها. فالحروب السياسية موجودة منذ أيام المنشورات والطباعة، لكن كل تقنية جديدة تضخمها. لقد رأينا أن الربيع العربي حدث حتى قبل قوة الذكاء الاصطناعي، بسبب التواصل الاجتماعي تحديداً.

فالآن، تخيل التواصل الاجتماعي، لكن هذه المرة مع روبوتات يمكن برمجتها ونشرها. دكتور، يلاحظ المرء أنه اليوم، مع وجود الذكاء الاصطناعي، يمكن إنشاء عدة حسابات، وكل حساب يتحدث بأسلوب بشري طبيعي لا يستطيع الآخرون استشعاره. فيمكن نشر إشاعات غير طبيعية، وذكية جداً، وموجهة

لأشخاص محددين بحيث يتغير رأيهم في جهة معينة، ويمكن إقامة ثورات من ورائها. نعم، هذا ما يُسمى بهجوم الهندسة الاجتماعية الآلي (Automated Social Engineering Attack)، أي البرمجة الهندسية الذاتية. وكما قلت، أحياناً يتحدث إليك، بل قد يتحدث بلهجتك المحلية. صحيح؟ نعم، يمكنه حتى أن يرى شبكتك الاجتماعية، ومن تعرف، ثم

يعود فيناديك باسمك، على سبيل المثال، يرسل لي رسالة يقول فيها: «مرحباً أبو أحمد»، وهذا يختلف عن رسالة نصية باللغة الإنجليزية ركيكة، واضحة أنها موجهة للجميع. فالآن أصبح من الأسهل توجيه رسائل مخصصة؛ فمثلما أوجه لك دعاية حسب ملفك الشخصي، يمكنني توجيه هجوم سياسي حسب ملفك الشخصي، أي توجيه رسالة

الذي من المحتمل أنك تتلقاه أكثر. طيب، كيف تستطيع الحكومة تغيير هذا الأمر؟ أنا لا أعتقد أنها تستطيع إيقاف هذه الروبوتات تماماً. فكيف؟ ماذا تفعل؟ هل تخلق توعية خاصة للناس؟ سبقتني يا دكتور، أنا أقصد بقولي: ليست كل الحلول تقنية، فهناك حلول تشريعية أحياناً.

وتنظيمية أيضاً. مثل أغلب التوصيات التي تقول: تعلّموا من مجال الأمن السيبراني. لاحظوا أن مجال الأمن السيبراني لا تقتصر حلوله على التشفير والبروتوكولات والخوارزميات، بل قد تكون بعض الحلول توعية وتذكيراً دائماً، مثل: لا تجعل كلمة السر تاريخ ميلادك، وحاول استخدام الأحرف بطريقة معينة، وتعلّموا على سبيل المثال عن رسائل

الاصطياد. يقولون: انتبهوا من الرسائل. لكن يا دكتور، في الأمن السيبراني، أمامك ذكاء اصطناعي الآن. كيف تتكيف معه؟ وكيف تستطيع أن تفهم إذا كان ذكاءً أم إنساناً؟ نعم، لقد وصلنا الآن إلى مرحلة الذكاء الذي يساوي الإنسان تقريباً. لكن هناك علامات، مثلاً: الروبوتات أحياناً أغلب أسمائها عشوائية تقريباً.

وتغرد ليلاً ونهاراً. إذا جاءتكم رسالة مشبوهة، ادخلوا على الحساب وشاهدوا إذا كان يكرر نفس الرسائل في أماكن كثيرة. فالتوعية تحل كثيراً من المشاكل، مثل الديب فيك. إذا وعينا الناس، سنحدّ من خطرها. أنا لا أقول إنها ستنهيها مئة بالمئة، لكن كما يقولون: الذي يدرك كله لا يترك جله.

يا دكتور، أنا ألاحظ المشكلة التي أراها شخصياً، وهي أننا الآن، آلاف السنين كبشر، عشنا معاً في حضارات، ومع هذه التوعيات والتوصيات التي نتناقلها دائماً على مدى الأجيال مع الذكاء الطبيعي، لم نستطع أن نكون مجتمعات واعية، مثقفة، منتبهة،

وشكوكية، قادرة على تمييز الشيء المشكوك فيه من الشيء الصحيح، والشيء الخطر من الشيء الجيد، وهكذا. فتخيل الآن أنك وضعت ذكاءً اصطناعياً أذكى من الإنسان، وقد يصل إلى مرحلة، إذا تكلمنا عن الذكاء الاصطناعي العام (AGI)، أذكى من الإنسان، ومتوقع منه، إذا وعّتنا الحكومات أن نعي،

أنا لا أرى أن هذا الأمر ممكن الحدوث، بصراحة. الذكاء الاصطناعي العام (AGI) أريد أن أقول إنه تحدي، حتى الآن لم نصل إليه، حتى على مستوى نظري. فهو ربما في المستقبل البعيد قليلاً. نحن الآن في مرحلة الذكاء الاصطناعي الضعيف. أحياناً بعض المشاكل وحلولها لا تظهر، وإذا جاءت المشكلة وفُهمت، يبدأ الناس يحسون بأهميتها.

ولما يُفتح النقاش العام، تصبح مشكلة عامة، وتبدأ تخرج لك الأفكار الابتكارية من أماكن لا تتوقعها. لكن ما أكده لي هو أنه بالتأكيد، من دون توعية، الأمر أسوأ. فالتوعية حل سهل جداً، وقد يحل لك نسبة كبيرة من المشاكل التي تتفادونها. فهمتها؟ هي في النهاية مجموعة حلول لازم تطبقها، وفي النهاية

كما نتعلم الأمن السيبراني، لا تزال هناك اختراقات حتى على مستوى وكالات مثل CIA وFBI، فهم أيضاً يتعرضون للاختراق، لكن يجب اتخاذ جميع الاحتياطات اللازمة. دعونا ننتقل إلى موضوع آخر تحدثت عنه في محاضرتك، وهو الوظائف. أود أن أناقشك في هذا الجانب.

لدي وجهة نظر، وكان لديك وجهة نظر في المحاضرة، وقد تتفق معي الآن أو تختلف معي، لكنني أود أن أرى توجهك فيما يتعلق بالوظائف. ذكرت في محاضرتك التي أرسلتها لي واطلعت عليها أنه لا يوجد خوف من أن يستولي الذكاء الاصطناعي على وظائف البشر، كما هو معتاد، وكما علمنا التاريخ أن الوظائف تنتقل دائماً من شكل إلى شكل جديد بحيث لا

نفقدها، بل قد تتشكل وظائف جديدة أيضاً. هل يمكنك شرح هذا الموضوع أكثر حتى أفهمه؟ جيد، بالطبع، عندما أتحدث عن استبدال الذكاء الاصطناعي للوظائف، فأنا أتحدث عن الذكاء الاصطناعي الضعيف الحالي الموجود. وللفرق بين الذكاء الاصطناعي الضعيف والذكاء الاصطناعي العام (AGI)، فإن الذكاء الاصطناعي الضعيف يحاكي إحدى وظائف الدماغ عند الإنسان، أي أنه يمكنه مثلاً

أن يحاكي الإبصار، أو يحاكي السمع، أو أن يلعب لعبة معينة. يعني حتى الآن، حتى الذكاء الاصطناعي الذي يمكنه قيادة سيارة، لا يمكن استخدام نفس البرنامج لقيادة دبابة مثلاً، أو مثلاً الذي يلعب [كلمة غير واضحة]، أو يمكنهم الآن من نفس البرنامج أن يلعبوا لعبة ثانية، لكن حتى الآن تقريباً، برامج الذكاء الاصطناعي مصممة لتحدي معين ومحدد، أي أنها لم تصبح عامة بعد. على العكس من ذلك،

الذكاء الاصطناعي العام لا يزال مجالاً للبحث. الذكاء الاصطناعي الضعيف أصبح الآن مجالاً للصناعة والتجارة والتطبيق. كان حديثي يدور حول الذكاء الاصطناعي الضعيف الذي نراه اليوم، والذي قد يحاكي بعض المهام خلال الخمس عشرة سنة القادمة. لكن دكتور، خمس عشرة سنة تعني فترة ليست قصيرة، خمس عشرة سنة هي نصف عمر ابني مثلاً، كيف

الله يسلمك، فتخيل بعد عشرين سنة، إذا افترضنا أن الذكاء الاصطناعي تحسن إلى مستويات تتيح له أخذ وظائف من الإنسان، فلماذا لا يمكن أن يحل الذكاء الاصطناعي محل البشر في الوظائف التي اعتادوا على أدائها عادةً؟ سنأتي بالإجابة بعد قليل. نحن الآن، مثلاً، الذكاء الاصطناعي ضعيف. سأعطيك وجهة نظري الكاملة، نحتاج للانتقال إلى الذكاء الاصطناعي العام أو أحد الأنواع القوية. أحياناً

الذكاء الاصطناعي، الوظيفة بالنسبة لي هي مجموعة من المهام. حتى عندما تتقدم على وظيفة، يقولون لك نحتاج منك المهارات التالية. الوظائف التي يقل عدد المهارات فيها، أرى أنها أكثر عرضة للاستبدال اليوم، صحيح؟ لأنني يمكنني الحصول على برنامج ذكاء اصطناعي، إذا لدي مهمة معينة ومحددة، يمكنني برمجته. وهذا مثبت في الدراسات، مثلاً عندما ألتقي في المستشفى

أكثر وظيفة مهددة هي مثلاً أخصائي الشعب، لأنه لديه مهمة محددة، صحيح أنها عميقة وصعبة، لكن لماذا هذه مشكلة للذكاء الاصطناعي اليوم؟ لماذا مشكلة الصعوبة؟ المشكلة هي في التشعب. أقل الوظائف تهديداً هي مثلاً ممرضة التأهيل، لأنها تتطلب عدة مهارات: مهارات لغوية، مهارات [كلمة غير واضحة]، حتى ذكاءً عاطفياً وحتى حركياً، أي تحتاج إلى التحرك والتفاعل. هؤلاء، على الرغم من كل مهارة

أعني، ليست بنفس العمق، لكنها متعددة ومتشعبة. حسنًا، لحماية نفسك حاليًا، إذا أردت أن تحمي نفسك من الذكاء الاصطناعي الضعيف، فحاول أن تكون في وظيفة، أو أن تُشعِّب مهاراتك، أي لا تكن صاحب مهارة واحدة فقط. ولهذا السبب نرى أن الوظائف الأكثر عرضة للتهديد هي تلك التي يقوم بها سائقو الشاحنات أو عمال المصانع الذين لديهم مهمة محددة يطبقونها. كانت المشكلة في البداية أنها

صعبة التحديد الآن. لا، الحقيقة هي أن الذكاء الاصطناعي العام هنا يتطلب منا أن نتدرج في التفكير في كيفية عيش الإنسان دون وظيفة. ولهذا السبب، من اليوم، أنت الآن وصلت إلى الجانب الذي كنت سأدافع عنه، لكن انتهى الأمر، فأنا الآن لا أحتاج إلى ذلك، وموقفي هو نفس موقفك في هذه الحالة. نعم، تفضل. عندما ذكرت في المحاضرة البرنامج الذي هو

الدخل الأساسي الشامل (Universal Basic Income)، الذي يدفع لك معاشًا وأنت جالس في البيت. نعم، بالضبط. هذا النوع يشبه نوعًا جديدًا من الضمان الاجتماعي، فلا يحتاج حتى إلى أن تبحث عن وظيفة أو ما شابه، بل بمجرد كونك مواطنًا يحق لك دخلًا أدنى تعيش به فوق خط الفقر. حاليًا، يبحثون في كندا وفنلندا، وقد بدأت تجربة، لكن أكبر مشكلة فيها هي مصادر الدخل.

ولهذا السبب، وجدتُ على سبيل المثال اقتراح شيء يُسمى ضريبة الروبوتات، لتكون هي مصدر الدخل لهذه البرامج. لقد لاحظنا أن عمل الإنسان كان في البداية أكثر حركةً، ثم أصبح ذهنيًا، والآن يبدو أن الذكاء الاصطناعي قد حدد حتى الجانب الذهني. فأنا فقط أحاول ترتيب التحديات أكثر من أن أستبعدها، وأقول إننا الآن أمام ذكاء اصطناعي ضعيف

في السنوات الخمس عشرة القادمة. خلّك تركز على هذا الجانب، وخلّنا نُشعِّب المهارات لدى الطلاب، لا أن نعوِّدهم على مهارة واحدة فقط أو مهارة ضيقة، بل خلّنا نحاول أن نُشعِّبها لنحميهم من المستقبل. لا تخالفني يا دكتور، دعني أتعلم عليك عرضًا في هذا الكلام.

لقد تحدثتَ، عفواً، أنت ذكرتَ جانبين: الجانب الأول هو أن الذكاء الاصطناعي في السنوات الخمس عشرة القادمة لا يزال يحتل مكانًا ضيقًا جدًا من مهارات البشرية، ثم قفزنا مرة واحدة إلى الذكاء الاصطناعي العام الذي سيكسر الدنيا ويستطيع أن يأخذ غالبية الوظائف. لا ننسى أن المكان الأخير للإنسان هو عقله، فنحن في السابق

استبدلنا الإنسان بالآلات لأن الآلات أقوى منه، ولأنها تستطيع أن تحسب أسرع منه، فوضعنا الآلات مكان الإنسان في بعض الأشياء لأنها استطاعت أن تقوم بشيء لم يستطع الإنسان القيام به. لكن الآلات لم تزل متأخرة في العقل، وهذا المكان الوحيد الذي يبرع فيه الإنسان. والآن أصبح الذكاء الاصطناعي يتدرج ويصعد شيئًا فشيئًا في ذكائه

بحيث إنه يتغلب على الإنسان في الألعاب، وأصبحت اللعبة اليوم بلا قيمة، أي لعبة فيها ذكاء أصبحت بلا قيمة نهائياً بالنسبة للبشر، لأنهم أصبحوا مغلوبين في هذا الجانب. لا توجد لعبة اليوم، وكذلك الحفظ؛ فالحفظ كان ميزةً، حتى في القرآن، الحافظ ابن حجر

هذا ما يميّز العالم، يا سلام عليك. بعد ذلك، لم تعد هذه ميزة، إذ أصبح بإمكان أي شخص أن يخزّن مجلّدات في ذاكرة فلاش. فأصبحت الميزة الحقيقية هي الذكاء. ثمّ، بالذكاء، سيستبدل هذا الأمر الآن. على العكس، كانت المقاطعة من أجمل ما يكون، وأفضل مثال عليها الآن، أنا لا أتحدث عن

الذكاء الاصطناعي الحالي، لأن الحالي بسيط ولا يزال يواجه عقبات، كما ذكرتَ. يتم التعرف عليه من خلال الثلج الذي حوله، وحتى في بعض الأحيان، هناك صورة لكلب، غيّر العلماء نقطة واحدة في هذه الصورة، فتحوّل تعرّف الكمبيوتر عليه من كلب إلى نعامة بنقطة واحدة. هذا ما ذكرته

شسمه ياشوا بنجيو في بريطانيا، وذكر هذا المثال. يعني فعلاً يبيّن لك مدى ضعف الذكاء أحياناً. بالضبط، فأنا لا أتحدث عن هذا لأننا نعرف أنه حتى الآن مجال بعيد عن أن يتفوق على البشر، فيما عدا الأشياء الخاصة جداً. الـ AGI، قارنتِ، لا أرى أي شخص اليوم على وجه الأرض من العلماء

يقول إن الذكاء الاصطناعي الـ AGI سيكون أقل من الإنسان، بل سيكون أفضل منه دائماً. والتعريف الذي لا يقوله أي أحد الآن، نحن نأتي إلى الوسط. دكتور، أنت ذكرتَ نقطة مهمة وهي أن الذكاء الاصطناعي يأخذ بعض الأشياء التي الإنسان ماهر فيها، أو يجب أن تبدّل مهاراتك، مثلاً

تحلّ محلّ ما لم يستطع الذكاء الاصطناعي حلّه. مثلاً، أخذت لي صورة إيموجي أو صورة إكس ري وما شابه، الذكاء الاصطناعي أخذ المكان، نشيل الإنسان من هذا المكان ونحطه في مكان آخر. طيب، الآن تخيّل معي نفس الشيء كل يوم، نشيل مهارة بعد الثانية. في المدى المتوسط، هذا لا يعني أن الإنسان لن يجد وظيفة، بل سيجد وظيفة

فقط في العبودية، في المكان الذي يستطيع أن يتحرك فيه أفضل من الذكاء الاصطناعي. خلينا نعطيك مثالاً، وهذا مثال موجود حالياً اليوم، وصدرت عنا أخبار كثيرة في أمازون. أمازون عندها المخازن الكبرى، هذه تطلب منها طلباً وأنت في أمريكا مثلاً، عايش هناك، خلال ساعة واحدة يأتيك الطلب. وهذا موجود أيضاً في بريطانيا، أنا لما أطلب الطلب خلال أربع ساعات تصلني البضاعة

مباشرة في نفس اليوم. ما الذي يحدث بالداخل؟ إن هناك بضاعة منتشرة في كل مكان، لا أحد يعرف مكانها من البشر. الذي يعرف مكانها هو الكمبيوتر فقط لا غير. طيب، من يعمل في هذا المكان؟ من الذي يأتي بالبضاعة؟ هو الإنسان. من الذي يأمر الإنسان بأنه يذهب إلى الموقع المحدد لأخذ البضاعة؟ الكمبيوتر.

وإذا وصل الإنسان إلى مكان البضاعة ووجد أن البضاعة غير موجودة وذكر ذلك للكمبيوتر، الكمبيوتر يصرّ عليه أنه مخطئ وعليه أن يجد هذه البضاعة. لماذا لا يستطيع إيجادها؟ لأنها متراكمة على بعضها، يعني أحياناً يبحث بسرعة وما يلحق، يا الله بالغصب، بعد ذلك يشوفها. فالذكاء الاصطناعي البسيط الموجود حالياً بدأ يتحكم في الإنسان، وأحياناً، وهذا حدث أيضاً في الأخبار قبل فترة بسيطة، أمازون

طردت الشركة موظفين لأن الحاسوب أخبرها بأن أداء أولئك الناس كان... عذرًا دكتور، انقطع الاتصال لديّ لمدة 10 ثانية تقريبًا. في الجزء الأخير الذي سمعته، ذكرتَ أنه حتى لو أمر الحاسوب بالبحث عن بضاعة لم يجدها، نقول له: ابحث يا هذا. حسنًا، فكان الحاسوب يأمر الإنسان بالبحث عن البضاعة، وإذا لم يجدها...

يؤكد له أنها موجودة حتى يجدها الإنسان، ثم يقيّم أداء هذا الإنسان، إلى درجة أنه إذا ذهب إلى الحمام يُحاسب على نقاط. وفي النهاية، حتى...

لو قلتَ لنا إن هذا سيناريو فيلم، لقلتُ لك إنه شيء مثير حقًا، إلى درجة أن الحاسوب طرد موظفين من أمازون، ونُشر الخبر عنهم، وحدثت فضيحة بالطبع. وقالوا إن الطرد لم يكن صحيحًا، لكن الإنسان أيضًا ينظر فيما بعد فيما إذا كان يستحق الطرد أم لا. ومع ذلك، يأمر الحاسوب الإنسان بالتحرك من مكان إلى آخر لجلب البضاعة بسرعة معينة.

ولا يذهب إلى الحمام، وتُخصم منه نقاط، وفي النهاية إما أن يُطرد أو يُبقي في الوظيفة. حسنًا؟ الآن، على المدى المتوسط، هناك كارثة: الذكاء الاصطناعي سيصل إلى المكان الذي كان فيه الإنسان مبدعًا، فيأخذ منه وظيفته، فلا يبقى للإنسان إلا هذه الوظائف التي يذهب فيها ويجلس ويهرول مثل العبد للحاسوب. فما رأيك؟

سيناريو متوقع ووارد، لكن هذا سيناريو ثانٍ. السيناريو الأول الذي ذكرناه هو أننا قد نستطيع حماية أنفسنا من هذا التطور، وأنت قلتَ إنه من الممكن أن نصل إلى مرحلة يصبح فيها الذكاء الاصطناعي طاغيةً فنصير مستعبدين. لكن في كتاب اسمه «الذكاء الخارق» (Superintelligence) لنيك بوستروم، وأتوقع أنك تعرفه بالتأكيد، ذُكر سيناريو مشابه. سمعتَ عن «الذكاء الخارق»؟

السيناريو الثاني هو أننا نتحدث دائمًا عن الذكاء الاصطناعي والإنسان وكأنهما شيآن مختلفان، بينما يرى المستقبل أن هناك سيناريو قد يندمجان فيه. فالتقنية أصبحت مهمة وفصلت عنّا، فمن منا لا يستطيع إكمال حياته بدون الهاتف الذكي مثلًا؟ كان الحاسوب في البداية كبيرًا بحجم الغرفة، ثم أصبح بحجم المكتب، ثم بحجم الجيب، والآن أصبح ساعة أبل. ترى إيلون ماسك أعلن عن شركة «نيورالينك».

حيث يدخل الحاسوب إلى داخل الجسم، فيصبح التطور العقلي البشري... حتى أنت تعرف أن تطور العقل البشري شمل: العقل الزاحف (Reptilian)، والعقل الثديي (Mammalian)، ثم القشرة المخية (Neocortex) التي تتميز بخصائص معينة. يرى بوستروم أن هناك طبقة جديدة ستصبح إلكترونية، أي أن الإنسان من لحظة ولادته، كما نعطيه التطعيمات، سيُزرع فيه أشياء تجعله أكثر ذكاءً. وهذا ليس خيالًا علميًا.

هذه القوقعة الاصطناعية التي تجعل الناس يسمعون الأصوات هي معجزة علمية. بصراحة، لا أستطيع أن أتأثر كلما شاهدت هذه المقاطع، لا أستطيع أن أصدق أن شخصًا يُزرع فيه سماعة وشريحة داخل الأذن، إنه تطور مذهل. دكتور، عذرًا، لديّ مقابلة قادمة مع شخص كويتي زرع القوقعة الصناعية لابنه.

القوقعة الصناعية، تم تركيبها في أذنه، وسمع لأول مرة في حياته صوتًا بشريًا. سأجري معه مقابلة قادمة، فقد خطّطت لذلك في الأيام المقبلة. أتمنى أن ينجح في إيصال تجربته، فهي تجربة رائعة للغاية، كما ذكرتُ في الأمثلة السابقة يا دكتور، نحن والتقنية...

...لن نتطور بشكل متوازي، بل قد نتقاطع ونندمج. نحن والتقنية، فحتى الآن، أذكر دائمًا هذا المثال: لو أخذتُ منك أجهزتك الإلكترونية وطلبتُ منك أن تعيش حياتك العملية، لانخفض أدائك لا شك. يصعب عليك إيجاد الجهات، أو تنظيم مواعيدك، أو الرد على الناس، أو إجراء المراسلات. لكن حياتك العملية الآن، دون تقنية، ستقلّ كفاءتها.

أقول: حسنًا، أرجع الأجهزة الإلكترونية، لكن خصم من ذكائك (IQ) عشر نقاط، هل سينهار أدائك؟ بالطبع لا. التقنية، مثل القوقعة الصناعية، هي امتداد لسمعك. وحتى الناس الذين يرتدون النظارات، هذه تقنية؛ فبعد ارتداء النظارة الأولى، أصبح بصرهم أقوى، أليس كذلك؟ التقنية، والأجهزة الإلكترونية، هي امتداد لعقلك وذكائك، لكنك خارجي.

قد يصبح داخليًا في المستقبل. هل فهمتَ؟ فمع الوقت، قد يُستبدل جزء من الدماغ عند الولادة، كما تعرف، فالطفل يمر بعدة مراحل عند ولادته، مثل التطعيمات وغير ذلك. وقد تكون جزءًا من هذه المرحلة تركيب جهاز نيورولينك (Neuralink) ليقدر على المنافسة مع الذكاء الاصطناعي.

لكن في هذه الحالة، عندما تُركَّب أجهزة إلكترونية سرعتها بالكهرباء بالميكروثانية والنانوثانية، بينما دماغ الإنسان سرعته 1 مللي ثانية، فأنت تخلق عنقًا زجاجةً (Bottleneck) للأجهزة الإلكترونية، لأن الدماغ بطيء جدًا مقارنةً بالأجهزة الإلكترونية. فلا أدري كيف سيُحل هذا الأمر.

أو ماذا تفعل؟ هل تُزيل الدماغ البشري نهائيًا وتستبدله بذكاء اصطناعي؟ هذا تحدٍّ لعلم الأعصاب في المستقبل، كما يقولون. لكنني أحاول إيصال فكرة إلى المستمعين، وهي أنه لا يوجد سيناريو واحد. السيناريو الأول: أن تتطور الأجهزة في خط موازي وتصبح أفضل منا. السيناريو الثاني: أن نتقاطع نحن معهم، ليس بشكل متوازي، بل نتقاطع ونندمج.

فيصبح الأمر مثل فيلم «باي سنتينيال مان» (Bicentennial Man) لروبن ويليامز، أنصحكم بمشاهدته. وصل فيه الروبوت إلى مرحلة حقوق الإنسان، لأنه لم يعد من الممكن الفصل بينه وبين الإنسان، إذ يحتوي على أجزاء بشرية وأجزاء إلكترونية. هذا هو السيناريو الثاني. أما السيناريو الثالث، فيسمى «الذكاء الجماعي» (Collective Intelligence)، أي ليس من الضروري أن يكون الذكاء فرديًا، فإما جهاز خارق...

...أو إنسان خارق. فنحن جميعًا متصلون، كما يقولون. كم شخصًا منا يشعر بأنه أقوى بعلاقاته، وأقوى بمعارفه، وأقوى بالمعلومات التي يستطيع الحصول عليها من معارفه؟ فأنت خيرٌ مني، وأنا خيرٌ منك يا دكتور، وكل العالم مرتبطون في شبكة واحدة. هل فهمتَ؟ إذا تابعتَ مسلسلات «ستار تريك» (Star Trek)، ستصبح مثل البورغ (Borg).

كلهم متشابكون في شبكة واحدة، وليسوا من جماعة «ستار ترك». أيها، لا، لا، ولا «ستار ترك» ولا «ستار وارز» ولا تلك الأفلام الخيالية. بقي أن الناس تخيّلوا أنني من المعجّمين، لكن لو كنتَ قائدًا ولم ترَني، لم تعجبني، لكن لم يحدث شيء حتى الآن. تابع. 5-3 الشهر. الدكتور، هذا ما يُسمى بالذكاء الجمعي (Collective Intelligence)، وهذا سيناريو آخر.

أي أن نصل إلى الذكاء الخارق عبر الذكاء الجمعي. فربما نحن كبشر، أنا وأنت، في حالتنا الفردية، لن نهزم الذكاء الاصطناعي، لكن إذا اخترعنا طريقة تجعلنا جميعًا شبكة واحدة، صحيح؟ نتغلب عليه. هذا هو السيناريو الثالث. والسيناريو الرابع الذي ذكره هو أن يحدث محاكاة للدماغ تُسمى «محاكي الدماغ» (Brain Emulator)، وليس شرطًا أن تتطور البرامج حتى تصبح ذكية جدًا.

ربما تتطور قدرتنا على نسخ الدماغ من شيء حيوي إلى شيء إلكتروني، فهمتَ؟ أي شيء يكون واعيًا في النهاية، أم يقصد شيئًا آخر؟ أم مجرد أجهزة إلكترونية؟ لا، لا، كأنه في هذه الأفلام، عندما أنسخ بالضبط كل دماغك، خلية بخلية، وأجعله في جهاز، كأنك خزّنتَ دماغك وحمّلته. حسنًا.

هذا ما يُسمى «محاكي الدماغ». هذا السيناريو الأخير، أي كيف تصل إلى الذكاء الاصطناعي العام أو الخارق كما يُسمى. فكلها بالطبع تكهّنات مبنية على وقائع وما شابه، لكن كما تعلم، كل واحد حاول التنبؤ بأشياء كثيرة بعيدة في المستقبل، كما حدث، فمستوى الخطأ فيها كبير. لكن هناك طرقًا يمكننا من خلالها الوصول إلى الذكاء الاصطناعي العام أو الخارق، وليس شرطًا، إن شاء الله، أن نكون عبورًا.

جيد، الدكتور، يعطيك العافية، ما قصّرتَ على وقتك، أشكرك. نحن ابتعدنا قليلًا عن الحكومة وذهبنا إلى الخيال العلمي، وهو بالنسبة لي أكثر متعة، لأن موضوع الذكاء الاصطناعي بحد ذاته عميق، وإذا دخلنا فيه من باب الحكومة يصبح جافًا بعض الشيء. فكان جميلًا أن ذهبنا وراء الخيال العلمي. حديث عن الذكاء الاصطناعي، كما يقولون، دوشجون وتشعبات.

ومثير للناس منذ عقود قبل اختراع التقنية. اقتراح فكرة أن تكون شيئًا ذكيًا، ذاك الإنسان، أي ألهمت الناس. فحتى في الروايات موجودة حديثًا دائمًا. تعال، الدكتور، سامحني، قاطعتك. ذكرنا على نفس هذا الكلام الذي تقوله أنت. ذكرتَ في المحاضرة عن روبوت يلعب الشطرنج، قل لنا هذه القصة.

هذه القصة التي كانت بداية المحاضرة، التي حاولتُ فيها أن أوصل كيف أن هذه المشكلة موجودة منذ مئات السنين، وليست وليدة اللحظة. هذا كان تقريبًا قبل حوالي 200 سنة أو أكثر، في عالم من المجر، اخترع جهازًا ميكانيكيًا يلعب الشطرنج. والجهاز هذا لبس زيًّا، يعني من الزي العثماني وما شابه، وسُمّي «ذا ترك» (The Turk)، يعني حتى لاحظتَ.

التسمية وطريقة التسويق لها. يعني لاحظ، قبل 2 سنة، كانت هذه الصورة النمطية للشخص الذكي، كان هو تقريبًا العربي. يعني شوف، صنكنة ونصننة، أنت ملاحظ، يعني لأن هذا جزء من الحرب النفسية: انظر إلى هذا العربي الذي يلعب الشطرنج. جلالك، أين ذهبنا؟ ذهبنا الآن، خلاص، أي صحيح، أنت ترحل، فـإن شاء الله نرجع. اشكُن الجهاز هذا.

فمن بين المشاهير الذين حاولوا خداع الجهاز نابليون، وشارلز بابج، وبنجامين فرانكلين في أمريكا. لاحظوا أن بابج هو عالم الرياضيات المعروف الذي أسس الحاسب الميكانيكي في بريطانيا. وكذلك نابليون في فرنسا، وبنجامين فرانكلين في أمريكا. فلاحظوا أن الجهاز جاب أوروبا وأمريكا لمدة 80 سنة، وأبهر الناس لدرجة أن نابليون حتى...

...حاول أن يختبر ذكاء الجهاز باللعب بلعبة غير قانونية، ليرى رد فعله. فقام الجهاز بنثر القطع في وجه نابليون، وكأنه يقول: كيف تجرؤ على الغش؟ فأثار ذلك ضحكة الحاضرين، لكن في النهاية اكتشفوا أن هناك قطعة داخل الصندوق، أي الصندوق الأسود، وفيه شخص إنسان.

يقال إن هذا الشخص كان قصير القامة، أو عسكرياً مفتور الرجلين، وهو من كان يتحكم بالقطع. قد يسأل بعض المستمعين: كيف لم ينتبهوا إلى وجود إنسان داخل الصندوق؟ السبب أن مصمم الجهاز لم يكن عالماً في الميكانيكا ولا مهندساً، بل كان ساحراً، أي شخصاً يعرف كيف يخدع الناس في المسرح وما شابه ذلك.

فبالاتفاق مع الشخص داخل الصندوق، كان يقول: إذا فتحت الباب من هذه الجهة، فستخرج من تلك الجهة، بحيث يبدو وكأن الصندوق فارغ. في فقرة العرض الأولى، كان يوهم الناس بأن الصندوق فارغ، بينما في الواقع كان الشخص بداخله هو من يتحكم باليد. الآن، حاولت أن أربط هذا بالذكاء الاصطناعي؛ فنحن اليوم نتعامل معه من الخارج، لكننا لا ندري ما بداخله. قد لا يكون شخصاً، بل قد يكون...

...انحيازاً بين السطور، أو طبقية بين السطور. فـ«الصندوق الأسود» هذا قد يسبب، بقصد أو بدون قصد، اتخاذ قرارات لأسباب خاطئة. لذا نتعلم من الماضي ونحاول ألا نكون ضحية هذه المرة، سواء كان الأمر تورباً ميكانيكياً أو إلكترونياً. ممتاز جداً، هذا خير ما ننهي به الحلقة. دكتور، يعطيك العافية.

شكراً لك على هذه الجلسة الجميلة. كان معنا الدكتور إبراهيم بن سلم، حاصل على دكتوراه في الذكاء الاصطناعي من جامعة أوكسفورد، وعمل كباحث زائر في مختبر الذكاء الاصطناعي بجامعة ستانفورد. وهو مهتم بحوكمة الذكاء الاصطناعي، وقد نشر تقريراً في هذا المجال، ويعمل حالياً كمستشار في الذكاء الاصطناعي في الشركة السعودية لتقنية المعلومات. ألف شكر لك يا دكتور.

العفو، والشكر لك يا دكتور على الدعوة. دائماً نستمتع بالحديث معك.