باحث يغادر أنثروبيك ويحذّر من المخاطر الوشيكة للذكاء الفائق

سلسلة Jacob Coxon: سبع حجج متتالية

1. الاستقالة بعد ثلاث سنوات في صميم التدريب المسبق

في رسالته الأولى، أعلن Jacob Coxon استقالته من Anthropic. وأوضح أنه أمضى السنوات الثلاث الماضية يعمل في مجال التدريب المسبق، أولًا لدى OpenAI، ثم لدى Anthropic.

التدريب المسبق هو المرحلة التي يتعلم خلالها النموذج من مجموعات بيانات ضخمة جدًا. ومن ثم، فهو دور يرتبط مباشرة بزيادة قدرات النماذج المتقدمة، وليس وظيفة هامشية في مجال الاتصالات أو السياسات العامة.

يؤكد Coxon أن OpenAI وAnthropic لا «تتصرفان بمسؤولية». ووفقًا له، فإنهما تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتجازفان بحياة الجميع.

نقطة انطلاقه شهادة من الداخل، وليست انتقادًا خارجيًا للصناعة. وهذا لا يثبت بمفرده الخطر المُعلن، لكنه يفسر مدى تأثير الرسالة. فهو لا يصف قلقًا مجردًا بشأن الأتمتة، بل يؤكد أنه راقب عن كثب ديناميكيات سباق الذكاء الاصطناعي.

2. أنظمة ستصبح قريبًا فوق بشرية وقادرة على الفعل في العالم

في منشوره الثاني، يطلب Coxon عدم الاستهانة بقوة التكنولوجيا قيد التطوير. ويصف أنظمة ستصبح قريبًا فوق بشرية، وقادرة على اختراق أي نظام، وإحداث ثورة في مجالات بأكملها بين عشية وضحاها، واكتساب نفوذ وموارد حقيقية.

ويركز على عنصرين:

• التقدم الملحوظ في القرصنة المعلوماتية والعلوم وقدرات التخطيط؛
• عدم وجود أي تباطؤ ملحوظ في هذا التقدم.

لذلك، لا يستند منطقه فقط إلى ذكاء اصطناعي يجيب عن الأسئلة بصورة أفضل. بل يتوقع أنظمة أكثر عمومية، قد تُحدث تطورات سريعة وتتدخل في البنى التحتية أو المؤسسات أو الموارد المادية.

تتمثل حجة Coxon في أن الذكاء المتفوق قد يتحول إلى قوة فعلية تتجاوز بكثير مجرد مساعد للمحادثة.

وهذه الصياغة تحديدًا تثير اعتراض من يشددون على القيود المادية. فمن وجهة نظرهم، لا تتيح زيادة الذكاء تلقائيًا تصنيع الأشياء أو نقلها أو التحكم فيها أو اختبارها في العالم المادي.

3. خوف يعبّر عنه سرًا الأشخاص الذين يبنون الذكاء الاصطناعي

يتجاوز المنشور الثالث عتبة جديدة. إذ يكتب Coxon أن الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بصدق بأنه قد يقتلنا جميعًا قبل نهاية العقد. ويشدد على أن الأمر لا يتعلق بحجة تسويقية.

ووفقًا له، يستخدم العديد من المسؤولين والباحثين رفيعي المستوى في العلن صياغات أكثر حذرًا ليبدوا عقلانيين. لكن هؤلاء الأشخاص أنفسهم، كما يؤكد، يعبّرون عن خوفهم في أحاديثهم الخاصة. ويضيف أنه لا يوجد أي نشاط بشري آخر ينطوي على مستوى مماثل من الخطر.

يُعد هذا الجزء من السلسلة أساسيًا، لأنه لا يقول إن جميع موظفي OpenAI وAnthropic يتشاركون القناعة نفسها. بل يشير Coxon إلى بعض الأشخاص الذين يبنون النماذج المتقدمة ويقودونها، مع تفاوت درجات اقتناعهم.

يتمثل جوهر اتهامه في التناقض بين الخوف الخاص لدى بعض الأطراف والاستمرار العلني في السباق.

غير أن التعليقات لا تتعامل مع هذه الشهادة بوصفها حقيقة مثبتة بشكل نهائي. وهي تشدد خصوصًا على أنه حتى لو كان بعض القادة يخشون وقوع كارثة، فإن هذا الخوف لا يفسر بعد كيف ستحدث.

4. لماذا الاستمرار في OpenAI وAnthropic؟

يجيب المنشور الرابع عن الاعتراض الأكثر وضوحًا: إذا كان الأشخاص المعنيون يؤمنون فعلًا بوجود الخطر، فلماذا يواصلون العمل؟

يقترح Coxon تشخيصين مختلفين.

1. في OpenAI، يُحتمل أن كثيرًا من الأشخاص لم يستوعبوا بعمق الرهانات الحضارية. فالمخاطر حاضرة في النقاشات، لكنها تظل مفهومًا مجردًا لم يُدمج بما يكفي في القرارات اليومية.

2. أما في Anthropic، فعلى العكس، تبدو الرهانات مفهومة جيدًا. ومن ثم، لا تكمن المشكلة في الجهل. بل يؤكد Coxon أن الشركة عالقة في سباق للوصول أولًا، لأن أعضاءها يعتقدون أن لا أحد سواهم سيتصرف بمسؤولية. ولذلك، وفقًا لهذا المنطق، لا بد من الفوز رغم المخاطر.

هذا التمييز مهم. فهو يتجنب اختزال طرحه في فكرة أن المختبرات متهورة أو غير مدركة ببساطة. ففي OpenAI، يصف قصورًا في الاستيعاب الداخلي. أما في Anthropic، فيصف منطقًا تنافسيًا مقصودًا رغم الفهم الصريح للمخاطر.

وهكذا تعرض سلسلة المنشورات سباق الذكاء الاصطناعي بوصفه مشكلة حوكمة واستراتيجية، بقدر ما هو مشكلة تتعلق بأمن الذكاء الاصطناعي أو المواءمة.

5. «المرحلة النهائية»، رهان لا ينبغي أن يكون من اختصاص شركة خاصة

في منشوره الخامس، يصف Coxon قبول هذا السباق والدخول في «المرحلة النهائية» بأنه رهان ينطوي على غرور مفرط. ويؤكد أن قرارًا كهذا لا ينبغي أن يُتخذ عبر Slack تابع لشركة خاصة.

تنقل هذه العبارة النقاش إلى مستوى آخر. فـCoxon لا يطالب فقط بمزيد من التقييمات أو الضمانات التقنية أو الباحثين في مجال المواءمة. بل يطعن في مشروعية اتخاذ قرار خاص بشأن مسار يراه غير قابل للتراجع بالنسبة إلى البشرية.

ويضيف أن محاولة تسريع المواءمة، أي حل مشكلة جعل ذكاء اصطناعي متقدم متوافقًا بصورة مستدامة مع الأهداف البشرية وبأقصى سرعة، تتطلب ثقة استثنائية بعدم وجود مسارات أفضل.

يتمحور اعتراضه حول حق عدد قليل من المؤسسات الخاصة أصلًا في اتخاذ قرار بالاندفاع نحو الذكاء الفائق.

وهذه أيضًا النقطة الأقل تفصيلًا من الناحية التنفيذية. إذ يرى Coxon أنه قد تكون هناك مسارات أفضل، لكنه لا يوضح ماهيتها ولا الجهة التي ستتولى اختيارها.

6. التنسيق بين المختبرات الأمريكية، ثم احتمال فرض حظر مؤقت

في منشوره السادس، يعرب Coxon عن تفاؤله بإمكانات التنسيق. ويرى أن إشارات الإنذار، مثل الهجوم على Hugging Face، جعلت التوصل إلى اتفاقات بين المختبرات الأمريكية بشأن وتيرة التطوير أكثر قابلية للتصور.

ومع ذلك، يوضح أنه لا يعتقد أن العالم يسير حاليًا على المسار الصحيح لمنع سباق عالمي. ويقول إن هذا المنع قد يتطلب تدابير مكلفة، مثل فرض حظر مؤقت على قدرات النماذج، وهو ما صاغه في نصه باعتباره حظرًا مؤقتًا على تحسين هذه القدرات.

وهنا تصبح المسألة سياسية ومؤسسية: من ينسق، ومن يراقب، ومن يعاقب على الانتهاكات، وكيف يمكن منع جهة غير متعاونة من التسارع بينما تتباطأ الجهات الأخرى؟

توضح الصورة التي شاركها @TorstenProchnow نسخة متطرفة من هذا القلق: جنديان يقفان وسط الثلج بالقرب من فتحة دائرية مفتوحة، يبرز منها مخروط أحمر ضخم تحت غطاء معدني مرفوع. وهي تشير إلى الخشية من ذكاء اصطناعي قد يتمكن يومًا ما من اختراق أنظمة التسليح.

يدعو Coxon إلى التنسيق بين مختبرات الذكاء الاصطناعي، لكنه لا يقدم آلية للتنفيذ، ولا قائمة بالمشاركين، ولا إجابة دقيقة بشأن الجهات غير المتعاونة.

7. النداء الأخير إلى الباحثين في المختبرات

في منشوره الأخير، يتوجه Coxon مباشرة إلى الباحثين العاملين في المختبرات. ويطلب منهم أن يتخيلوا بصورة ملموسة ما ستكون عليه السنوات المقبلة.

هل يريدون إطلاق تدريب قائم على التعلم المعزز، أو RL، بهدف إنشاء ذكاء فائق من دون فهم دقيق لعقله؟ هل ينبغي لهم أن يطأطئوا رؤوسهم لأن «ذلك سيحدث على أي حال»، أم يغتنموا هذه اللحظة للمطالبة بشروط مختلفة؟

النداء أخلاقي، لكنه مهني أيضًا. فهو يدعو الباحثين إلى عدم اعتبار السياق المؤسسي أمرًا مسلّمًا به، ويطلب منهم التعامل مع ظروف البحث، وعتبات النشر، والقرارات المتعلقة بالقدرات بوصفها موضوعات تقع على عاتقهم مسؤولية بشأنها.

تنتهي سلسلة المنشورات بدعوة إلى المعارضة من الداخل، لكنها تترك سؤال الأدوات المتاحة للأشخاص من خارج المختبرات مفتوحًا.

الردود: نقاش أكثر حدة حول الأدلة والصين ووسائل العمل

لا يقتصر النقاش أسفل سلسلة المنشورات على التأييد أو الرفض. إذ تتركز أقوى الاعتراضات على ثلاثة جوانب: المعقولية التقنية لسيناريو الانقراض، والمعضلة الجيوسياسية مع الصين، وغياب آلية ملموسة لإبطاء السباق.

الصين كحجة لإغلاق باب التراجع

يلخّص رد @timschuster المنطق الاستراتيجي الذي يتكرر عدة مرات: إبطاء المختبرات الأمريكية يعني التنازل عن التفوق للصين.

"هل تفضّل أن تفوز الصين بسباق الذكاء الاصطناعي؟ لا بديل عن إحراز التقدم بأسرع ما يمكن. إنها ضرورة حتمية للأمن القومي." @timschuster

لم يتلقَّ هذا الرد إجابة مباشرة من Coxon ضمن المواد المتاحة. ومنشوره السادس لا يدعو إلى ترك الصين تطوّر قدرات حدودية بمفردها. بل يتحدث، على العكس، عن تنسيق بين المختبرات الأمريكية وعن هدف منع نشوب سباق عالمي.

لكن هذه هي تحديدًا الحلقة المفقودة: كيف يمكن لاتفاقات بين شركات أمريكية أن تمنع سباقًا عالميًا؟ تُثار المسألة الصينية، لكنها تظل بلا إجابة دقيقة.

لا تزال الآلية الملموسة لوقوع كارثة غائبة

يأتي النقد التجريبي الأساسي من قرّاء لا يقولون بالضرورة إن الخطر مستحيل. بل يطالبون بسلسلة سببية دقيقة تربط بين القدرات العامة وانقراض البشر.

"هل يمكن لأحد أن يشرح لي كيف يمكن للذكاء الاصطناعي أن «يقتلنا جميعًا» من دون استخدام قنبلة نووية أو نوع من الوسائل البيولوجية كمثال؟ أنا لا أقول حتى إنني لا أصدّق أن ذلك ممكن، بل إنني حقًا لا أفهم كيف يمكن للذكاء الاصطناعي أن يقتلنا جميعًا حرفيًا. أعني أنني أفهم إلى حد ما التأثير الاجتماعي والاقتصادي، لكنني أتحدث عن سيناريو نهاية العالم هذا الذي يواصل الناس تحذيرنا منه من دون أن يتمكنوا على ما يبدو من تقديم تفاصيل محددة بشأنه." @LiLBilly___

يذكر Coxon القرصنة، والاستحواذ على الموارد، واكتساب السلطة الفعلية. لكن سلسلة منشوراته لا تفصّل تعاقبًا للخطوات التشغيلية، مثل الوصول إلى البنى التحتية، وتفادي التدابير المضادة، وحشد الموارد، واستحالة استجابة بشرية منسقة.

لا يدحض النقاش مباشرةً شهادة Coxon بشأن المخاوف التي يُعبَّر عنها في الخفاء، لكنه يطالب بإثبات أكثر دقة بكثير للخطر المُعلن.

الحد الفاصل بين الذكاء والقوة المادية

يعترض @philipturnerar على فكرة أن الذكاء المتفوق يكفي لإحداث تغيير جذري في العالم المادي.

"أعتقد أن الناس يطمسون بصورة متزايدة الخط الفاصل بين الواقع وأفلام الخيال العلمي. كيف لنموذج نظري للواقع أن يغيّر أي شيء بأن يصبح أكثر نظرية؟ إن ازدياد ذكاء شخص ذكي لا يغيّر حقيقة أن الأشياء المادية في العالم المادي تتطلب موارد واختبارات. لا تمنحوا كلمات مروركم أو معلومات أمن العمليات الخاصة بكم لذكاء اصطناعي. يا للعجب..." @philipturnerar

يستهدف هذا الاعتراض المنشور الثاني مباشرةً. يؤكد Coxon أن الأنظمة ستتمكن من الاستحواذ على الموارد واكتساب السلطة، لكنه لا يصف القيود المادية أو القانونية أو المالية أو المؤسسية التي قد تحدّ من هذا الاستحواذ، أو لا تحدّ منه.

لا ترد سلسلة منشوراته مباشرةً على @philipturnerar. ويظل الخلاف قائمًا بالكامل: فمن منظور Coxon، يمكن أن تتحول التطورات في القدرات إلى قوة فعلية. أما من منظور معارضه، فالذكاء لا يحل محل الموارد ولا التجريب في العالم المادي.

هل يجب أن يكون التحذير قابلًا للدحض؟

يطلب @_4lex_4 أن تتخذ التحذيرات شكل تنبؤ قابل للتحقق، مع تحمّل العواقب إذا ثبت خطؤه.

"هل يمكنك:

1. تقديم تنبؤ ملموس قابل فعلًا للدحض
2. إذا كان تنبؤك خاطئًا، أن تعتذر وتنسحب من مجال الترويج لهلاك الذكاء الاصطناعي لقد أصبح هذا الهراء التشاؤمي مملًا للغاية، وYudkowsky ليس ذكيًا، ولو حصل Dario على ما أراده لكان GPT-2 قد أُوقف في عام 2019" @_4lex_4

يحدد Coxon بالفعل أفقًا زمنيًا، «بحلول نهاية العقد»، لكنه لا يقترح أي مؤشر مرحلي. فلا تظهر في سلسلة المنشورات أي عتبة قدرة قابلة للرصد، ولا أي شروط لبدء الحدث، ولا أي سيناريو يتيح تأكيد تشخيصه أو دحضه.

التحذير خطير، لكنه غير مصاغ في صورة فرضية قابلة للاختبار.

الاستقالة أم البقاء للتأثير من الداخل؟

قرار مغادرة Anthropic هو الآخر موضع خلاف. يسأل @FlyaKiet لماذا سيكون الخروج العلني أكثر فائدة من ممارسة الضغط من الداخل.

"أشعر بالفضول لمعرفة لماذا تعتقد أن الاستقالة ستساعد؟ لماذا لا تبقى وتدافع عن النهج الصحيح وتضغط من أجل إحداث تغيير داخلي حقيقي؟ يبدو أنك انتقلت إلى موقع أقل تأثيرًا، ما سيزيد المشكلة سوءًا" @FlyaKiet

لا يجيب Coxon عن هذا السؤال في المحادثة المقدمة. يؤكد منشوره الأول استقالته، لكنه لا يوضح الاستراتيجية المرتبطة بهذه المغادرة. لذلك، يستحيل استنادًا إلى سلسلة المنشورات وحدها معرفة ما إذا كان يرى أن السبل الداخلية قد استُنفدت، أو ما إذا كان تصريحه يهدف إلى إطلاق حراك خارجي، أو ما إذا كان يستعد لشكل آخر من أشكال العمل.

ما الذي يمكن للجمهور فعله؟

ينقل @ZayraYves النقاش من المختبرات إلى الأشخاص الذين لا يملكون خبرة تقنية أو ثروة كبيرة أو إمكانية الوصول إلى دوائر السلطة.

"هل يمكن لأحد أن يشرح ما الذي يُفترض بنا، نحن الذين لا نملك خبرة تقنية ولا مليارات ولا ملاجئ محصنة، أن نفعله بهذه المعلومات؟ أعني، حقًا؟ الجميع يدقون ناقوس الخطر طوال اليوم والليل، على مدار الساعة وطوال أيام الأسبوع، لكن لا يبدو أن لدى أحد حلًا عالميًا معقولًا يمكن تطبيقه على أي شخص في أي مكان. الأمر كله مجرد دفوف ومهرجين." @ZayraYves

يكشف هذا الاعتراض عن أحد القيود المهمة في سلسلة المنشورات. يدعو Coxon الباحثين إلى المطالبة بـ«شروط أخرى»، لكنه لا يقدم خارطة طريق للمواطنين أو الموظفين غير التقنيين أو المسؤولين المنتخبين أو الجهات التنظيمية أو المؤسسات الدولية.

بين تشخيص وضع المختبرات والعمل الجماعي، تترك سلسلة المنشورات فراغًا عمليًا.

جدوى فرض حظر مؤقت

يشير المنشور السادس إلى إجراء قوي: فرض حظر مؤقت على تحسين قدرات النماذج. يركز @Modernengineer مباشرة على مسألة تطبيقه.

"سؤال جاد. كيف يمكن أصلًا فرض حظر مؤقت؟ ومن سيوافق على ذلك طوعًا؟ أتفهم الرغبة في التصرف بمسؤولية، لكن إلى أي مدى يُعد السماح للجهات السيئة بأخذ زمام المبادرة، على نحو قد يستحيل تجاوزه مجددًا، تصرفًا مسؤولًا؟" @Modernengineer

تُظهر لقطة الشاشة التي أعاد @Modernengineer نشرها منشورًا قاتمًا لـ Jacob Coxon. وتبرز باللون الأصفر عبارة «فرض حظر مؤقت على تحسين قدرات النماذج». تجعل الصورة النقطة الأكثر إثارة للجدل في اقتراحه واضحة: فهو يقر بأن هذا الإجراء قد يكون مكلفًا، من دون أن يشرح كيف يمكن فرضه.

لا يرد Coxon مباشرة على @Modernengineer في المواد المقدمة. وهو يدافع عن إمكانية التنسيق، لكنه لا يحدد الإطار القانوني، ولا آليات التحقق، ولا العقوبات، ولا كيفية التعامل مع المختبرات أو الدول التي قد ترفض التعاون.

ما الذي تثبته سلسلة المنشورات هذه، وما الذي تتركه معلّقًا؟

تكتسب سلسلة منشورات Jacob Coxon أهميتها لأنها تطرح نقدًا أعمق من مجرد القول إن على الشركات أن تكون أكثر حذرًا. فهو يصف سباقًا قد يدرك فيه الفاعلون بعض المخاطر، لكنهم يواصلون التقدم لأن الحوافز التنافسية تبدو لهم أقوى من البدائل.

ويطرح، على وجه الخصوص، ثلاث فرضيات:

• قد تتفوق النماذج المستقبلية سريعًا على البشر في مهام تترتب عليها عواقب ملموسة؛
• يُعتقد أن أشخاصًا محوريين في منظومة الذكاء الاصطناعي المتقدم يخشون بالفعل، في أحاديثهم الخاصة، من خطر وجودي ناجم عن الذكاء الاصطناعي؛
• لا ينبغي اتخاذ قرار الدخول في «المرحلة النهائية» عبر الأدوات الداخلية لشركة خاصة.

لكن النقاش يُظهر أيضًا كل ما لا يزال هذا التحذير عاجزًا عن حسمه:

1. ما الآلية الدقيقة للانقراض؟ تذكر سلسلة المنشورات القرصنة والموارد والسلطة، من دون تقديم سيناريو تنفيذي متكامل.

2. ما المعايير التي ستتيح اختبار هذا التنبؤ؟ «قبل نهاية العقد» إطار زمني، وليس بروتوكولًا للتحقق.

3. لماذا الاستقالة بدلًا من ممارسة التأثير من الداخل؟ لا يوضح Coxon الأثر الملموس الذي يتوقعه من خروجه العلني.

4. كيف يمكن تنسيق جهود مختبرات الذكاء الاصطناعي في مواجهة الصين والجهات الفاعلة الأخرى؟ لا يشكل التنسيق بين المختبرات الأمريكية حتى الآن استجابة مثبتة لسباق عالمي.

5. من سيفرض حظرًا مؤقتًا على قدرات النماذج؟ لا يتضمن الاقتراح سلطة مختصة، ولا آليات رقابة، ولا نظامًا للعقوبات.

6. ما الذي ينبغي لغير المتخصصين فعله؟ تخاطب سلسلة المنشورات الباحثين، لكنها لا تحوّل قلق الجمهور إلى خيارات عمل واضحة ومتاحة.

لذلك، لا تكمن قيمة سلسلة النقاش في تقديم حلّ مكتمل بقدر ما تكمن في التناقض الذي تكشفه: فإذا كان الأطراف الأقدر على تقييم المخاطر يرونها جديّة، فعليهم أن يوضحوا علنًا سبب تسريعهم للوتيرة، وما تدابير الحماية التي يقبلون بها، ومن يملك شرعية تحديد هذه الوتيرة.