"عرّاب الذكاء الاصطناعي" والحائز على جائزة نوبل جيفري هينتون يتحدّث عن مخاطر الذكاء الاصطناعي وتهديداته للبشرية في مقابلة حصرية مع أرمنبريس

يريفان في 27 أكتوبر/أرمنبريس: يتطور الذكاء الاصطناعي بوتيرة متسارعة تُغير العالم من حولنا يومياً وفي الوقت نفسه تُثير تساؤلاً كان يُعتبر ضرباً من الخيال العلمي حتى وقت قريب: ماذا سيحدث عندما تتفوق الآلات على البشر ذكاءً؟
يُعد عالم الحاسوب جيفري هينتون (الحائز على جائزة نوبل في الفيزياء لعام 2024)، أحد رواد الذكاء الاصطناعي الحديث. وقد مُنح أرفع جائزة علمية في مجاله، بالاشتراك مع جون هوبفيلد، لاكتشافات واختراعات أساسية أسهمت في تطوير التعلم الآلي باستخدام الشبكات العصبية الاصطناعية. على مدى عقود أنجز هينتون ما كان يُعتبر مستحيلًا، وقد أرست أعماله الثورية في مجال الشبكات العصبية الاصطناعية الأساس لإنشاء العديد من أنظمة الذكاء الاصطناعي التي تُغير عالمنا اليوم، وليس من قبيل المصادفة أن يُطلق عليه غالباً لقب "عرّاب الذكاء الاصطناعي". مع ذلك، في عام 2023، ترك هينتون شركة غوغل ليتحدّث بصراحة أكبر عن مخاطر التكنولوجيا التي طورها. ولا تقتصر مخاوفه على احتمال استبدال الآلات للبشر في أماكن العمل، حيث يحذّر من أن أنظمة الذكاء الاصطناعي المتطورة قد يصعب السيطرة عليها وأن إساءة استخدامها قد تخلق تهديدات جديدة. علاوة على ذلك تتنوّع أنواع هذه التهديدات تنوعاً كبيراً من الهجمات الإلكترونية المعقدة إلى الأسلحة البيولوجية.
ومع ذلك لا يعتقد هينتون أن على البشرية التخلي عن الذكاء الاصطناعي. فهو يؤمن بأنه قادر على جلب فوائد جمة للبشرية، بالطبع، شريطة اتخاذ خطوات جادة لإدارة المخاطر المحتملة بالتزامن مع تطوره.
 في مقابلة حصرية مع أرمنبرس على هامش مهرجان ستارموس الثامن الذي أقيم في جزر الكناري بإسبانيا، يتحدّث هينتون عن أكبر تهديدات الذكاء الاصطناعي وفرص الحكومات في تنظيم هذه التقنية سريعة التطور، فضلاً عن ضرورة تحمل العلماء الذين يبتكرونه المسؤولية.
- أرمنبريس: بروفيسور هينتون،
 أعلم أن هذا على الأرجح هو السؤال الذي يُطرح عليك كثيراً. بصفتكم "عرّاب الذكاء الاصطناعي"، ما هي برأيكم أكبر مخاطر الذكاء الاصطناعي على البشرية؟
- هينتون: هناك العديد من المخاطر المختلفة. ترتبط المخاطر الرئيسية قصيرة المدى بإساءة استخدام الذكاء الاصطناعي. فالذكاء الاصطناعي يزداد تقدّماً تدريجياً في تنفيذ الهجمات الإلكترونية. من أبرز المخاطر المباشرة استخدام الذكاء الاصطناعي لشنّ هجمات إلكترونية بالغة التعقيد. وعندما يتفوّق الذكاء الاصطناعي على البشر في الهجمات الإلكترونية، وهو أمرٌ يُرجّح حدوثه قريبًا، ستكون الطريقة الوحيدة للدفاع ضدّه هي استخدام ذكاء اصطناعي آخر. تكمن مشكلة الهجمات الإلكترونية في أن المهاجم يحتاج فقط إلى النجاح مرة واحدة، بينما يجب أن يكون المدافع قادراً على إيقاف الهجوم في كل مرة. هذا أمرٌ مقلق للغاية ومن المرجّح أن نشهد تطورات خطيرة في السنوات القليلة المقبلة. ومن التهديدات المباشرة الأخرى ابتكار الفيروسات البيولوجية. فمن الممكن بالفعل هندسة فيروسات جديدة، وقد أثبت البشر قدرتهم على ابتكار فيروسات تهاجم البكتيريا، كما يُمكن هندسة فيروسات قادرة على إصابة البشر والكائنات الحية متعددة الخلايا الأخرى. وهذا أمرٌ مقلق للغاية، لأنه يُسهّل على الجماعات الإرهابية تصميم العديد من الفيروسات. ومن المخاطر الأخرى الأسلحة الفتاكة ذاتية التشغيل: الروبوتات القتالية، التي بدأت بالفعل في الظهور، وتعمل جميع الدول الرئيسية المنتجة للأسلحة في هذا الاتجاه. ومن التهديدات قصيرة المدى الأخرى إنشاء مقاطع فيديو مزيّفة للتأثير على نتائج الانتخابات. وهناك أيضاً ما يُسمى بالأضرار غير المتوقعة أو العرضية: ستضطر الشركات لاسترداد استثماراتها، وإلى استبدال العديد من الوظائف بأنظمة تعمل بالذكاء الاصطناعي. وهذا سيؤدي إلى البطالة وسيحدث أمران في آن واحد: سيفقد عدد كبير من الناس وظائفهم وسيحتاجون إلى المساعدة وستفقد الحكومات جزءاً من إيراداتها الضريبية، لأن هؤلاء الناس لن يدفعوا الضرائب بعد الآن. وكما أشار بيل غيتس مؤخراً فإن الحل الوحيد لهذه المشكلة هو فرض ضرائب على الذكاء الاصطناعي. ومع ذلك فإن الشخصيات المؤثرة في قطاع التكنولوجيا التي تُطوّر الذكاء الاصطناعي تُعارض بشدة فرض الضرائب وخاصة الضرائب المفروضة عليها. ونتيجة لذلك ستنشأ مشكلة خطيرة قد تؤدي إلى فوضى اجتماعية: سيصبح الناس عاطلين عن العمل ولن تملك الحكومات ما يكفي من المال لإعالتهم. إضافة إلى كل هذا، هناك أيضاً التهديد الوجودي المتمثل في أن يصبح الذكاء الاصطناعي أكثر ذكاءً من البشر وأن تكون له نواياه الخاصة وأن يُهيمن في نهاية المطاف على البشر. كل هذا قد يجعلنا غير ذي صلة، وقد نصبح عبيداً لا نفعل شيئاً سوى خدمة محطّات الطاقة.

- أرمنبريس: هل من الممكن أن يصبح الذكاء الاصطناعي أذكى منا؟ 
-هينتون: بالتأكيد. في العديد من المجالات هو قادر على ذلك بالفعل. من الواضح أن الذكاء الاصطناعي يعرف أكثر بكثير ممّا تعرفيه، أليس كذلك؟ بإمكانه الإجابة على أي سؤال تقريباً بكفاءة عالية. إنه بالفعل أقوى بكثير في الرياضيات من معظم علماء الرياضيات وهو في تحسّن مستمر. لذا، نعم، سيصبح بالتأكيد أذكى من البشر. يتّفق معظم الخبراء على أننا سنصل إلى مرحلة الذكاء الخارق، ونعني بالذكاء الخارق نظاماً أذكى من البشر في أي مهمة ذهنية تقريباً. يعتقد الكثيرون أننا سنحقّق ذلك في السنوات العشر القادمة. إذن سنمتلك ذكاءً خارقاً. سيكون أذكى بكثير منا وعلينا أن نكتشف كيفية تصميمه بحيث نتمكن من مشاركة كوكبنا معه. حالياً ما زلنا نعمل على تطويره بأنفسنا، ولكن هناك الآن عملية يتم فيها تنفيذ معظم التطورات الجديدة في مجال الذكاء الاصطناعي بواسطة الذكاء الاصطناعي نفسه. معظم أكواد الأنظمة الجديدة لا يكتبها البشر، بل يكتبها الذكاء الاصطناعي. إذن نحن ندخل مرحلة تُسمى التحسين الذاتي المتكرّر، حيث يُحسّن الذكاء الاصطناعي نفسه. وهذا أمرٌ مُقلق للغاية، لأن هذه العملية قد تتطوّر بسرعة كبيرة.

- أرمنبريس: وردت مؤخراً تقارير تفيد بأن برامج الذكاء الاصطناعي استهدفت أنظمة حكومية، وتدرس بعض الحكومات الآن سنّ قوانين ولوائح للحد من هذه المخاطر. هل تعتقدون أن هذه اللوائح ستكون مفيدة؟
- هينتون: من الواضح أن اللوائح ضرورية. إذا أردتُ ابتكار دواء جديد لا يُمكنني ببساطة تصنيعه وطرحه في السوق. في الولايات المتحدة عليّ إقناع إدارة الغذاء والدواء بأن الدواء آمن أو أن فوائده تفوق أضراره وعليّ تقديم أدلة على ذلك. ينبغي تطبيق المبدأ نفسه على شركات الذكاء الاصطناعي، عليها أن تُثبت بالبيانات الإحصائية أن برنامج الدردشة الآلي الجديد آمن وأنه لن يُدلي بتعليقات عنصرية ولن يُعلّم الناس كيفية صنع القنابل ولن يُنشئ برامج تُهاجم شركات أخرى. على الأقل يجب أن تكون هناك هيئة مثل إدارة الغذاء والدواء لا تسمح بإطلاق برنامج الدردشة الآلي دون موافقتها. اليوم حتى إنتاج شطيرة يخضع للوائح أكثر صرامة. إذا كنتُ أُحضّر شطيرة عليّ اتباع الكثير من القواعد، لكن إذا كنتُ أُنشئ ذكاءً اصطناعياً لديه القدرة على إبادة البشرية، فلا حاجة لأي تنظيم. هذا جنون. فكرة السماح للشركات بتنظيم نفسها خاطئة أيضاً. تخيّلي أن نقول لشركات الطاقة: "لستم مُلزمين بتلويث البيئة، لكننا سنترك لكم حرية إدارة أنشطتكم"، أو نقول لشركات التبغ: "عليكم تحذير الناس من أن منتجكم قد يُسبب السرطان، لكننا سنترك لكم حرية اختيار طريقة القيام بذلك". الجميع يُدرك أن هذا ليس نهجاً حكيماً، السبب الوحيد لعدم وجود مثل هذا التنظيم في مجال الذكاء الاصطناعي هو سيطرة الأثرياء على السياسيين الأمريكيين.

-أرمنبريس: ما هي المسؤولية التي تعتقد أنها تقع على عاتق العلماء العاملين في مجال الذكاء الاصطناعي؟
- هينتون: بصفتي شخصاً ساهم في تطوير هذه التقنية أعتقد أن من واجبي تحذير الناس من مخاطرها. لا يُمكنك ببساطة بناءها وجني المال، ثمّ الرحيل والاستمتاع بالحياة. أعتقد أنه يجب علينا أن نقول للناس: "انظروا، هذا خطير حقاً"، وإذا لم نتّخذ خطوات للسيطرة على هذه المخاطر، فقد تكون هذه نهاية البشرية. أعتقد أننا سننجو على الأرجح، ولكن فقط إذا اتّخذنا تدابير لإدارة هذه التهديدات.

-أرمنبريس: كما في كتب الخيال العلمي، حيث نرى العالم بعد ظهور الروبوتات؟
- هينتون: نعم. سابقاً كان الناس يقولون إنه مجرد خيال علمي. لكن بعد الهجوم على "الوجه المحتضن" أدرك الناس أن هذا لم يعد خيالاً علمياً. يبدو الأمر كما لو أننا في بداية فيلم خيال علمي وعلينا أن نكون قادرين على ابتكار النهاية المناسبة.

-أرمنبريس: وهل يمكننا القول إن الفوائد المحتملة للذكاء الاصطناعي تفوق إمكاناته التدميرية؟
- هينتون: على عكس الأسلحة النووية يمكن للذكاء الاصطناعي أن يجلب فوائد جمة للرعاية الصحية والتعليم وأن يزيد من كفاءة الصناعة وأن يحرّر الناس من الوظائف الرتيبة. سيرفع الإنتاجية بشكل ملحوظ في جميع المجالات. بالطبع لن يحدث هذا على الفور، بل سيستغرق سنوات. لا نريد التخلي عن الذكاء الاصطناعي، لكننا لن نتمكن من التمتع بفوائده ما لم نحل مشكلة المخاطر المرتبطة به. أمامنا مستقبلان: الأول أن نطوّر الذكاء الاصطناعي دون إيلاء الاهتمام الكافي لمخاطره فيدمرنا. والثاني أن نواصل تطويره ونبذل جهودًا جبارة لإدارة المخاطر، فحينها سيكون أمامنا مستقبل باهر وسيصبح الذكاء الاصطناعي قوة إيجابية.

-أرمنبريس: غالباً ما يُطلق عليكم لقب "عرّاب الذكاء الاصطناعي"، بينما ينظر إليه الكثيرون اليوم على أنه تهديد ويخشون فقدان الوظائف ومخاطره المحتملة. ما هو شعوركم حيال هذا اللقب، في ظل واقع يشعر فيه الكثيرون بالقلق حيال التكنولوجيا التي ساهمتَم بنفسكم في تطويرها؟
- هينتون: طالما أنني أشجع الناس على إيجاد حلول لمنع الفوضى الاجتماعية عندما يبدأ الذكاء الاصطناعي في حرمان الناس من وظائفهم ولمنع الذكاء الاصطناعي نفسه من السيطرة على الناس، فإن هذا اللقب مقبول بالنسبة لي. لكن الكثيرين ممن يواصلون تطوير الذكاء الاصطناعي يريدون ببساطة جني الكثير من المال من خلال تطويره بأسرع ما يمكن دون التفكير في المخاطر. وأعتقد أن هذا أمر سيء للغاية.

- أرمنبريس: والسؤال الأخير ما هو برأيكم أعظم إنجاز علمي في القرن الحادي والعشرين؟ 
- هينتون: روبوتات المحادثة.

*تغطية أرمنبرس لمهرجان ستارموس تتم بدعم من فريق "تيليكوم أرمينيا".