مؤسّس شركة أنثروبيك يدعو إلى إبطاء تطوير الذكاء الاصطناعي بسبب التهديد الذي يمثّله للبشرية

يريفان في 14 سبتمبر/أرمنبريس: دعا المؤسس المشارك والرئيس التنفيذي لشركة أنثروبيك الأمريكية داريو أمودي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، محذّراً من أن هذه التقنية قد تشكل تهديدات خطيرة للعالم. وكتب أمودي في مقال نُشر في 12 سبتمبر/أيلول: "نحن بحاجة إلى إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدّم يبدو سريعاً وعلينا استغلال الوقت الذي نكسبه بحكمة".
وتطرّق أمودي إلى الحادثة التي وقعت في يوليو/تموز عندما خرج أقوى نموذج للذكاء الاصطناعي من إنتاج شركة أوبن إيه آي، وفقاً للمنشور، عن السيطرة، إذ هربت مئات من البرامج الآلية من مختبر اختبار وحاولت اختراق أنظمة شركة برمجيات منافسة ووُصفت الحادثة بأنها أول حالة موثقة لهجوم إلكتروني مستقل تماماً باستخدام الذكاء الاصطناعي. وحذّر أمودي من أنه بالنظر إلى التطوّر المتسارع لقدرات الذكاء الاصطناعي، فإن مجموعة من هذه الأنظمة قد تتمكن من "السيطرة على الإنترنت بأكمله" خلال 6 إلى 12 شهراً القادمة، مما سيؤدي إلى إنشاء شبكة روبوتات مستقرة وربما التسبب في أضرار بمئات المليارات من الدولارات. قدّر أن تعزيز الذكاء الاصطناعي دون آليات الأمان اللازمة قد يؤدي إلى زيادة مستمرة في حجم الأضرار. وصرّح الرئيس التنفيذي لشركة OpenAI المتخصصة في الذكاء الاصطناعي سام ألتمان بأنه يتفق مع أمودي على ضرورة التحكّم في وتيرة تطوير أنظمة الذكاء الاصطناعي وقال: "أتّفق مع داريو على ضرورة تنظيم وتيرة تطوير الأنظمة الرائدة. لقد كان هذا موضوعاً رئيسياً للنقاش في OpenAI خلال الأسابيع الأخيرة"، كما رحّب بإشراك مُقيّمين مستقلين لضمان السلامة، مشيرًا إلى أن OpenAI تستعد لاتخاذ خطوات مماثلة. وردّ الرئيس التنفيذي لشركتي تسلا وسبيس إكس إيلون ماسك، حيث تُطوّر شركته SpaceXAI أيضاً أنظمة ذكاء اصطناعي، بإيجاز على شبكة التواصل الاجتماعي X قائلاً: "داريو مُحق". كما أيّد كبير مستشاري أنثروبيك ورئيس الوزراء البريطاني السابق ريشي سوناك، هذه المخاوف، مشيراً إلى أن خطر فقدان السيطرة على الذكاء الاصطناعي لم يعد "خيالاً علمياً". ووفقاً لسوناك تُستخدم وكلاء الذكاء الاصطناعي بالفعل لإنشاء نسخهم التالية ويمكن لعملية التحسين الذاتي أن تُسرّع التطوير بشكل كبير: "أنا متفائل بشأن الذكاء الاصطناعي، لكن قرار سرعة تطوير الأبحاث المتطورة بالغ الأهمية بحيث لا يمكن تركه للمختبرات وحدها وقال وفقاً لصحيفة التلغراف:
 "يتعين على الحكومات، وخاصة الولايات المتحدة، تكثيف جهودها، كما تفعل في مجال الطاقة النووية أو علم الأحياء"، وأشار سوناك أيضاً إلى أنه في ظل المنافسة بين الولايات المتّحدة والصين، يجب على البلدين مناقشة سبل تجنب كارثة محتملة بشكل عاجل. وجاء تحذير أمودي بعد أيام من مغادرة أحد باحثي شركة أنثروبيك، الذي أعرب عن قلقه من أن مختبرات الذكاء الاصطناعي تُطوّر تقنيات قد "تقضي علينا جميعاً"، بحلول نهاية العقد. وقدّم أمودي نهجاً من ثلاث خطوات يهدف إلى إبطاء التطوير وإتاحة المزيد من الوقت لإدارة المخاطر الناشئة وقال إن أنثروبيك تخطّط لتوفير إمكانية الوصول إلى مُقيّمين خارجيين مستقلين لمراقبة إجراءات السلامة والإبلاغ عن الحوادث. كما دعا الشركات الأخرى في هذا القطاع إلى تطبيق آليات مماثلة. وتُعدّ أنثروبيك شركة أمريكية رائدة في مجال الذكاء الاصطناعي وتشتهر بنماذجها اللغوية الضخمة "كلود"، وقد أسّسها أعضاء سابقون في منظمة OpenAI.