باحث سابق في أنثروبيك يحذر: تسارع الذكاء الاصطناعي قد يهدد مستقبل البشرية
يحذر باحثون وعاملون سابقون في قطاع الذكاء الاصطناعي من مخاطر محتملة مرتبطة بالتطور السريع للتكنولوجيا، ويدعون إلى تنظيم القطاع وإبطاء سباق التطوير. لكن آخرين يشككون في بعض هذه التقديرات ويرون أن تحديد حجم الخطر ما زال شديد الصعوبة.
حذر جاكوب كوكسون، الباحث السابق في شركتي أنثروبيك وأوبن أيه آي،
من أن التسارع الحالي في تطوير الذكاء الاصطناعي قد يحمل مخاطر خطيرة على البشرية.
ودعا، في حديث لبي بي سي، إلى إبطاء وتيرة التطوير والتنسيق مع الصين لتجنب تحول المنافسة إلى سباق على نطاق دولي.
كشف جاكوب كوكسون، الباحث السابق في شركة أنثروبيك، أن العاملين في مجال الذكاء الاصطناعي
يشعرون بقلق حقيقي من سرعة تطور هذه التكنولوجيا، ومن النتائج المحتملة لهذا التسارع على مستقبل البشرية.
وقال كوكسون، في حديث لبي بي سي، إنه يعتقد أن عدم إبطاء معدل التقدم الحالي قد يؤدي إلى نتائج شديدة الخطورة.
وأضاف: «أعتقد أنه إذا لم نبطّئ معدل التقدم الحالي، فهناك احتمال كبير أن نموت جميعًا في المستقبل القريب».
وجاءت تصريحاته بعد انتشار منشور استقالته على نطاق واسع، بعدما حذر فيه من مخاطر الذكاء الاصطناعي،
في وقت تتزايد فيه المخاوف بشأن سلامة هذه الصناعة.
هل الذكاء الاصطناعي الحالي ذكي فعلًا؟
دعوات لإبطاء سباق الذكاء الاصطناعي
تأتي تحذيرات كوكسون في وقت يدعو فيه عدد من أبرز العاملين في قطاع الذكاء الاصطناعي
إلى إعادة النظر في سرعة تطوير النماذج المتقدمة.
وفي هذا السياق، دعا رئيسه السابق في أنثروبيك، داريو أمودي، مؤخرًا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
ورغم ذلك، شكك بعض المنتقدين في الدوافع وراء موقف أمودي.
وفي المقابل، أعلن سام ألتمان، رئيس شركة أوبن أيه آي، وإيلون ماسك، رئيس شركة إكس أيه آي،
تأييدهما لمقترح أمودي بشأن إبطاء وتيرة التطوير على مستوى القطاع بأكمله.
ويتضمن المقترح أيضًا فرض تنظيمات على القطاع، إلى جانب اعتماد مراقبة مستقلة لتطوير نماذج الذكاء الاصطناعي.
وكتب أمودي، في مقال نُشر يوم السبت، أن تطوير الذكاء الاصطناعي ليس موضع شك، لكن المخاطر المرتبطة به «جسيمة».
ويرى أن الشركات والحكومات بحاجة إلى وقت كافٍ للتعامل مع هذه المخاطر.
لماذا تخوّفنا شركات الذكاء الاصطناعي من تقنياتها؟
كوكسون: يجب التنسيق مع الصين
رحب كوكسون بفكرة إبطاء وتيرة تطوير الذكاء الاصطناعي.
لكنه يرى أن ذلك لا ينبغي أن يتم بصورة منفردة.
وقال إن الخطوة يجب أن تتم بالتنسيق مع الصين، لتجنب تحول المنافسة بين الدول إلى «سباق على نطاق دولي».
وفي برنامج «الأحد مع لورا كوينزبرغ»، قال كوكسون إن العاملين في شركات الذكاء الاصطناعي جادون
في مطالبهم المتعلقة بالتنظيم.
وأوضح أن هؤلاء العاملين يجدون أنفسهم «عالقين في سباق»، وأنهم يشعرون بالخوف من نتائج هذا السباق.
كيف يمكن أن تبدو «نهاية العالم»؟
وبحسب كوكسون، فإن أحد أصعب الأسئلة التي يصعب الإجابة عنها يتعلق بالشكل الذي يمكن
أن تبدو عليه نهاية العالم إذا تسبب فيها الذكاء الاصطناعي.
ومن بين المخاطر التي أشار إليها أمودي احتمال ظهور سرب من الروبوتات البرمجية يعمل كحاسوب
فائق قادر على السيطرة على الإنترنت.
ويرى كوكسون أن هذا السيناريو قد يصبح واقعيًا خلال فترة تتراوح بين ستة أشهر وسنة.
لكن شركة أنثروبيك قدمت، في المقابل، رؤيتها الخاصة بشأن هذه المخاطر.
وقال متحدث باسم الشركة لبي بي سي نيوز إن أنثروبيك كانت دائمًا واضحة بشأن إمكانية
أن يجلب الذكاء الاصطناعي «فوائد هائلة ومخاطر غير مسبوقة في الوقت نفسه».
وأضاف أن الشركة تواصل تطوير نماذج مزودة ببعض أقوى إجراءات الحماية في القطاع للتعامل مع هذه المخاطر.
أنثروبيك تتحدث عن إجراءات الحماية
وأشار المتحدث إلى أن أنثروبيك كانت رائدة في دراسة كيفية عمل نماذج الذكاء الاصطناعي.
كما أوضح أنها كانت أول من نشر إطار عمل للتخفيف من المخاطر الناجمة عن تطوير هذه النماذج.
وأضاف أن الشركة تختبر نماذجها «بشكل مكثف»، وتنشر النتائج للمساعدة في
تعزيز التدقيق ومنع حالات «عدم مواءمة الذكاء الاصطناعي».
ولهذا السبب، قال المتحدث إن الشركة ترى أن العالم سيستفيد من اعتماد القطاع بأكمله
«آلية قانونية وقابلة للتحقق» للتعاون في تنظيم وتيرة طرح النماذج القوية.
مخاوف من السنوات المقبلة
مع ذلك، يرى كوكسون أن المخاطر قد تظهر خلال فترة أقرب مما يعتقد البعض.
وقال إن زملاءه يخشون ظهور هذا الخطر خلال العامين المقبلين.
وأضاف أن العاملين في شركات الذكاء الاصطناعي «يخططون لما سيفعلونه في حياتهم ويفكرون في آثار عملهم».
وأشار إلى أن بعضهم يفكر في شراء أرض في مكان ما، بسبب الخوف الشديد من حالة عدم
الاستقرار التي قد تنتج عن التقدم السريع في مجال الذكاء الاصطناعي.
وبحسب كوكسون، يحمل العاملون هذه المخاوف في أذهانهم يوميًا أثناء عملهم على التكنولوجيا.
رغم المخاوف.. كوكسون يرى جانبًا إيجابيًا
رغم تحذيراته، لم يقدم كوكسون صورة سلبية بالكامل عن مستقبل الذكاء الاصطناعي.
بل على العكس، أبدى قدرًا من التفاؤل بشأن إمكانات هذه التكنولوجيا.
وقال لبي بي سي إن الأشخاص الذين يجرون الأبحاث في مجال الذكاء الاصطناعي
«يريدون حقًا رؤية الجوانب الإيجابية» لهذه التقنية.
وأشار إلى آمال مرتبطة باستخدامها في مجالات مثل القضاء على الأمراض وتحسين حياة الجميع.
تحذيرات من داخل الصناعة
لم تقتصر المخاوف التي أثارها كوكسون على تصريحاته.
فقد أثار منشوره على وسائل التواصل الاجتماعي مخاوف عدد من العاملين والباحثين في القطاع،
ومن بينهم باحث أنثروبيك إيفان هوبينغر.
وقال هوبينغر إن العاملين في القطاع يؤمنون بصدق بإمكانية أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر،
وأضاف أنه يعتقد شخصيًا أن احتمال حدوث ذلك خلال العقد المقبل يتجاوز 10%.
وفي السياق نفسه، قال عالم الحاسوب جيفري هينتون، الحائز على جائزة نوبل والمعروف بلقب
«الأب الروحي للذكاء الاصطناعي»، لبي بي سي يوم الجمعة، إن احتمالًا بنسبة 10% لتسبب
الذكاء الاصطناعي في القضاء على البشرية «غير مستبعد».
لكن هذه التقديرات لا تحظى بإجماع داخل قطاع التكنولوجيا.
تحذيرات من المبالغة
قال مارك وارنر، الرئيس التنفيذي لشركة فاكلتي المتخصصة في سلامة الذكاء الاصطناعي
إن تحديد احتمال تسبب الذكاء الاصطناعي في قتل جميع البشر أمر بالغ الصعوبة.
ومع ذلك، شدد على أهمية إدراك أن أصحاب هذه التحذيرات صادقون للغاية في ما يقولونه،
مشيرًا إلى أن رؤساء عدد من شركات الذكاء الاصطناعي يثيرون المخاوف المرتبطة بالتكنولوجيا منذ سنوات.
وفي المقابل، يرى بعض العاملين في القطاع أن التصريحات المتعلقة بالمخاطر وقدرات
الذكاء الاصطناعي قد تكون مصممة جزئيًا لإثارة الضجة الإعلامية.
ومن بين هؤلاء كليمان ديلانغ، الرئيس التنفيذي لمنصة هاغينغ فايس، الذي شبّه سؤال كوكسون
عن مخاطر انقراض البشرية بسبب الذكاء الاصطناعي بسؤال فني أجهزة التكييف عن تغير المناخ.
وأكد ديلانغ أنه لا يقول إن التحذيرات غير مثيرة للاهتمام أو خاطئة بالضرورة، لكنه دعا إلى وضعها في سياقها الصحيح.
ومع ذلك، عرض ديلانغ لاحقًا، بعد نشر مقال أمودي، المساعدة والمشاركة في الحلول المحتملة
التي اقترحها رئيس أنثروبيك.
هوانغ يرفض تحذيرات كوكسون
وفي اتجاه أكثر تشككًا، ناقش رئيس شركة إنفيديا، جنسن هوانغ، تصريحات كوكسون
خلال مؤتمر استضافه بنك الاستثمار غولدمان ساكس الأسبوع الماضي.
وبحسب عدد من الحاضرين الذين تحدثوا إلى بي بي سي، رفض هوانغ هذه التصريحات ووصفها بأنها «غير صحيحة».
وكان هوانغ قد قال في وقت سابق إن فكرة أن الذكاء الاصطناعي «سيقضي على البشرية» هي «محض هراء».
ورغم أن شركة إنفيديا تمتلك مصلحة تجارية مباشرة في ازدهار قطاع الذكاء الاصطناعي،
باعتبارها منتجًا للشرائح الإلكترونية التي تشغل أنظمة الذكاء الاصطناعي، فإن موقف هوانغ يعكس،
وفق التقرير، اتجاهًا متشككًا في وادي السيليكون تجاه التحذيرات الوجودية التي يطلقها موظفون حاليون وسابقون في القطاع.
هل التنظيم مرتبط بالمنافسة؟
من ناحية أخرى، يرى منتقدون أن دعوات أنثروبيك إلى تشديد التنظيم قد تكون مرتبطة بالمنافسة داخل سوق الذكاء الاصطناعي.
ويقول هؤلاء إن الشركة تحاول الدفع نحو تشديد التنظيمات بهدف الحد من المنافسة،
بما قد يؤمن بقاءها إلى جانب أوبن أيه آي في وضع احتكاري ثنائي.
كما ذكرت تقارير أن أنثروبيك تستعد لطرح عام أولي قد يكون قياسيًا في السوق،
بما يتيح للمستثمرين شراء أسهم في الشركة.
أوبن أيه آي تؤجل الطرح العام
وفي السياق نفسه، كانت التوقعات تشير إلى أن أوبن أيه آي، التي قُدرت قيمتها مؤخرًا بنحو 852 مليار دولار،
قد تقدم على خطوة مماثلة.
لكن سام ألتمان قال يوم الجمعة إن ذلك لن يحدث هذا العام، مشيرًا إلى مخاوف تتعلق بالسلامة.
وهكذا، يضع الجدل الحالي قطاع الذكاء الاصطناعي أمام معادلة معقدة: تطوير سريع يحمل وعودًا كبيرة،
ومخاطر محتملة تدفع بعض العاملين إلى المطالبة بالتنظيم والإبطاء، في مقابل أصوات أخرى ترى أن بعض
التحذيرات مبالغ فيها أو مرتبطة بالمنافسة التجارية.
وفي النهاية، لا يقدم التقرير إجابة حاسمة بشأن احتمال انقراض البشرية بسبب الذكاء الاصطناعي،
وإنما يعرض الخلاف المتزايد داخل القطاع حول حجم المخاطر وكيفية التعامل معها.
شاركنا برأيك