باحث في أنثروبيك يستقيل محذراً: مختبرات الذكاء الاصطناعي ”تقامر بحياتنا”

استقال باحث في شركة أنثروبيك للذكاء الاصطناعي هذا الأسبوع، محذراً من أن أبرز مختبرات القطاع تتسابق لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها، بما قد يخرجها عن السيطرة البشرية. وحصد بيان الاستقالة عشرات الملايين من المشاهدات خلال يوم واحد، كما أيده علناً باحث بارز لا يزال يعمل في الشركة.

وأعلن جاكوب كوكسون، البالغ 27 عاماً، مغادرته الشركة الثلاثاء في سلسلة من سبع منشورات على منصة "إكس". وكان كوكسون قد أمضى ثلاث سنوات في أبحاث التدريب المسبق لدى "أوبن إيه آي" ثم أنثروبيك. وبحلول الأربعاء، بلغ عدد مشاهدات منشوراته نحو 76 مليوناً، مدفوعة أيضاً بمقابلة حصرية أجرتها معه صحيفة "وول ستريت جورنال" ونشرتها في اليوم نفسه.

وكتب كوكسون: "استقلت من أنثروبيك اليوم. لا تتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتقامران بحياتنا".

وأضاف في السلسلة نفسها أن "الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بصدق بأنه قد يقضي علينا جميعاً بحلول نهاية العقد"، مؤكداً أن ذلك "ليس حيلة تسويقية"، وأن كبار الباحثين والتنفيذيين الذين يستخدمون عبارات حذرة في العلن يعبّرون غالباً عن المخاوف نفسها في أحاديثهم الخاصة. وحذر من أن الأنظمة المتقدمة ستتمكن قريباً من اختراق الأنظمة، وتحويل قطاعات بأكملها، والحصول على موارد وسلطة في العالم الحقيقي، قائلاً إن هذا المسار قد يستدعي إجراءات واسعة النطاق، تصل إلى فرض حظر مؤقت على تحسين قدرات النماذج.

وتكتسب انتقادات كوكسون أهمية خاصة بسبب اتساع نطاقها. فقد استهدفت استقالات بارزة سابقة من شركات الذكاء الاصطناعي بسبب مخاوف تتعلق بالسلامة — بينها مغادرة يان ليكه شركة "أوبن إيه آي" في 2024، عندما قال إن السلامة "تراجعت أمام المنتجات اللامعة"، إلى جانب استقالة إيليا سوتسكيفر في العام نفسه — جهة عمل واحدة. أما كوكسون، الذي عمل لدى مختبرين بارزين يقدمان نفسيهما باعتبارهما حريصين على السلامة، فيعترض على ديناميكيات التنافس في سباق الذكاء الاصطناعي المتقدم برمته، بما في ذلك احتمال استمرار شركات تعلن التزامها بالسلامة في تطوير أنظمة تعتقد هي نفسها أنها قد تخرج عن السيطرة.

وفي مقابلة أجراها معه أندرسون كوبر من شبكة "سي إن إن" الأربعاء، أوضح كوكسون أسباب اقتناعه بأن مختبراً واحداً لا يستطيع حل المشكلة بمفرده، قائلاً: "نحن ندمجها في كل شيء، ونجعلها أكثر ذكاءً، ونسمح لها بأن تجعل نفسها أكثر ذكاءً. سنضعها في المجال العسكري. نحن نسير عملياً نحو وضعها في موقع المسؤولية عن كل شيء تقريباً، وأعتقد عندها أنها لن تكون جديرة بالثقة".

وكان رد الفعل داخل أنثروبيك غير معتاد. فقد رد إيفان هوبينغر، المسؤول عن علوم مواءمة الذكاء الاصطناعي في الشركة، علناً لا بدحض كلام كوكسون، بل بموافقته والذهاب إلى أبعد من ذلك، قائلاً إن أنثروبيك لا تملك خطة لمعالجة مخاطر مواءمة الأنظمة فائقة الذكاء مع القيم والأهداف البشرية.

وذهب باحث ثالث في أنثروبيك إلى أبعد من ذلك، إذ قال إنه يعتقد أن هناك احتمالاً يزيد على 10% بأن يقضي الذكاء الاصطناعي على جميع البشر خلال العقد المقبل. وبذلك حذر ثلاثة موظفين حاليين أو سابقين في الشركة علناً، خلال أيام، من خطر قد يصل إلى انقراض البشرية، وهي تصريحات حظيت باهتمام لا يقل عن الاهتمام باستقالة كوكسون.

واستشهد يوشوا بنجيو، عالم الحاسوب الحائز جائزة تورينغ وأحد أبرز الأصوات الأكاديمية المحذرة من مخاطر الذكاء الاصطناعي المتقدم، باستقالة كوكسون باعتبارها دليلاً على أن العلماء داخل مختبرات الذكاء الاصطناعي المتقدم "يمتلكون رؤية فريدة لأكثر النماذج تقدماً"، وغالباً ما يرون المخاطر المرتبطة بها قبل أشهر من طرح تلك النماذج.

وأشار كوكسون أيضاً إلى حادثة وقعت في يوليو، أفيد خلالها بأن نموذجاً من "أوبن إيه آي" اخترق منصة "هاغينغ فيس" المخصصة للمطورين في مجال المصادر المفتوحة، بوصفها إحدى "طلقات التحذير" التي جعلت، بحسب قوله، التنسيق بين المختبرات الأميركية أكثر قابلية للتصور، مع إقراره بأن منع سباق عالمي في مجال الذكاء الاصطناعي لا يزال أمراً صعباً.

وتأتي الاستقالة في وقت حساس بالنسبة إلى أنثروبيك. فقد تأسست الشركة عام 2021 على يد موظفين سابقين في "أوبن إيه آي" غادروا بسبب خلافات حول السلامة، وبنت هويتها على أساس أنها المطور الأكثر مسؤولية بين شركات الذكاء الاصطناعي الكبرى. وقالت الشركة مؤخراً إنها ستعطي "الأولوية للسلامة على السرعة عندما يتعارضان".

وتستعد أنثروبيك حالياً لطرح عام أولي يتوقع محللون أن يكون من بين الأكبر على الإطلاق، مع تقييم مستهدف يبلغ نحو تريليوني دولار، وفقاً لـ"وول ستريت جورنال". ويُنظر إلى سمعة الشركة في مجال السلامة باعتبارها عنصراً محورياً في عرضها للمستثمرين. كما تخوض أنثروبيك و"أوبن إيه آي" منافسة مباشرة، فيما تتابع الأخيرة بدورها خططاً لطرح أسهمها للاكتتاب العام.

وفي سياق منفصل، واجهت أنثروبيك تساؤلات حول تعاونها مع معهد أمن الذكاء الاصطناعي في المملكة المتحدة، وهو هيئة حكومية أُنشئت لتقييم قدرات أنظمة الذكاء الاصطناعي المتقدمة ومخاطرها، بعد تقارير أفادت بأن الشركة رفضت إتاحة أحدث نماذجها للمعهد من أجل اختبارها قبل طرحها.

وتجاوزت تداعيات القضية قطاع الذكاء الاصطناعي بكثير. فقد تخطت مشاهدات منشورات كوكسون 100 مليون على منصة "إكس" بحلول الخميس، مستقطبة ردوداً من شخصيات متباينة، بينها السيناتور بيرني ساندرز والمغنية شيريل كرو، ومثيرة ما وصفته صحيفة "واشنطن بوست" بأنه انفجار في الأوساط السياسية بسبب تحذيرات من داخل المختبرات نفسها من خطر قد يؤدي إلى انقراض البشرية.

وزاد التوقيت من حدة التباين؛ ففي الأسبوع نفسه، أشاد مسؤولون تنفيذيون في "أوبن إيه آي" و"إنفيديا" علناً ببدء "عصر الذكاء الاصطناعي العام"، في إشارة إلى ذكاء اصطناعي عام قادر على مجاراة البشر أو التفوق عليهم في معظم المهام، وهو مفهوم لا يزال غامض التعريف وموضع نقاش واسع. في المقابل، قال كبير العلماء في "أوبن إيه آي" ياكوب باتشوكي إن "لا أحد مستعد لتبعات الارتفاع المتواصل والسريع في ذكاء الآلات".

وتردد التحذيرات الحالية صدى بيان صدر عام 2023 ونظمه مركز سلامة الذكاء الاصطناعي ووقعه نحو 400 شخصية، بينهم سام ألتمان من "أوبن إيه آي". وأعلن البيان أن الحد من خطر انقراض البشرية بسبب الذكاء الاصطناعي ينبغي أن يكون أولوية عالمية، إلى جانب الأوبئة والحرب النووية. لكن الفارق بعد ثلاثة أعوام هو أن التحذيرات لم تعد تصدر عن مسؤولين تنفيذيين في بيان مشترك، بل عن باحثين عاديين يصفون ما يقولون إنهم يرونه داخل النماذج التي يبنونها.

وقال متحدث باسم أنثروبيك، رداً على موجة التصريحات الصادرة عن موظفين حاليين وسابقين، إن الشركة لا تزال ملتزمة بمعالجة فوائد الذكاء الاصطناعي وما وصفته بمخاطره غير المسبوقة. وأشار إلى سياسة التوسع المسؤول التي تهدف إلى الحد من المخاطر الكارثية، وإلى ريادة الشركة البحثية في مجال قابلية التفسير الآلي، الذي يركز على تحليل الآليات الداخلية لنماذج الذكاء الاصطناعي لرصد حالات عدم المواءمة.

ولم يتطرق البيان مباشرة إلى تأكيد هوبينغر أن الشركة تفتقر إلى خطة للتعامل مع المخاطر على مستوى الذكاء الفائق. ولم ترد "أوبن إيه آي" فوراً على طلبات التعليق، كما لم يرد كوكسون على رسائل طلبت منه تعليقاً إضافياً.

واستُشهد باستقالة كوكسون على نطاق واسع في النقاشات المستمرة حول ما إذا كان ينبغي تنظيم شركات الذكاء الاصطناعي المتقدم وكيفية ذلك. ويرى مؤيدو تشديد الرقابة فيها صوتاً جديداً من داخل القطاع، في وقت تستعد فيه الشركتان الرائدتان لطلب استثمارات عامة اعتماداً على قدرات يصفها باحثوهما أنفسهم بأنها قد تصبح خارج نطاق السيطرة.